Makine grenmesi - 3 Machine Learning B l m 18

1. Makine �grenmesi - 3(Machine Learning) B�l�m 18

2. �znitelik uzayi (Feature space) �znitelikler �ok daha karmasik olabilirler.

3. �znitelik uzayi (Feature space) �znitelikler �ok daha karmasik olabilirler. B�y�k bir ayrik k�meden alinmis olabilirler.

4. �znitelik uzayi (Feature space) �znitelikler �ok daha karmasik olabilirler. B�y�k bir ayrik k�meden alinmis olabilirler. �iktilar eger sirali degilse, her bir �ikti ikili sistemde tek bir biti kapsayacak sekilde g�sterilebilir. (0001, 0010, 0100, 1000 gibi) Eger �iktilar sirali ise, reel sayilar kullanilabilir. (0.1, 0.3, 0.5, 0.7, 0.9 gibi)

5. �znitelik uzayi (Feature space) �znitelikler �ok daha karmasik olabilirler. B�y�k bir ayrik k�meden alinmis olabilirler. �iktilar eger sirali degilse, her bir �ikti ikili sistemde tek bir biti kapsayacak sekilde g�sterilebilir. (0001, 0010, 0100, 1000 gibi) Eger �iktilar sirali ise, reel sayilar kullanilabilir. (0.1, 0.3, 0.5, 0.7, 0.9 gibi) Reel degerler i�in �zniteliklerin birbirine yakin oldugu degerler i�in �iktidaki reel farklilik da az olmalidir.

6. Iflas etme (bankruptcy) tahmini

7. En yakin komsu kurali B�t�n verileri aklinda tut. Yeni bir veri geldiginde Eski verilerden bu veriye en yakin olanini tespit et. Bu en yakin veri hangi sinifa ait ise yeni veri de ayni sinifa aittir.

8. �En yakin� nasil hesaplanir ? Girdilerin birbirine uzakligi i�in bir fonksiyon kullanmak lazim. Genellikle Euclid mesafesi kullanilir.

9. �En yakin� nasil hesaplanir ? Girdilerin birbirine uzakligi i�in bir fonksiyon kullanmak lazim. Genellikle Euclid mesafesi kullanilir.

10. �l�ekleme Bir arabanin benzin t�ketimini tahmin etmeye �alisiyoruz. f1 = arabanin agirligi (kg) f2 = silindir sayisi

11. �l�ekleme Bir arabanin benzin t�ketimini tahmin etmeye �alisiyoruz. f1 = arabanin agirligi (kg) f2 = silindir sayisi f2�nin sonuca etkisi hemen hemen hi� g�r�lmeyecek.

12. �l�ekleme Bir arabanin benzin t�ketimini tahmin etmeye �alisiyoruz. f1 = arabanin agirligi (kg) f2 = silindir sayisi f2�nin sonuca etkisi hemen hemen hi� g�r�lmeyecek. Bu durumda girdileri 0 ortalama ve 1 varyans olacak sekilde �l�eklemek gerekir.

13. �l�ekleme Bir arabanin benzin t�ketimini tahmin etmeye �alisiyoruz. f1 = arabanin agirligi (kg) f2 = silindir sayisi f2�nin sonuca etkisi hemen hemen hi� g�r�lmeyecek. Bu durumda girdileri 0 ortalama ve 1 varyans olacak sekilde �l�eklemek gerekir. Baska bir �l�ege g�re de �l�eklemek m�mk�n (lineer, log)

14. �l�ekleme Bir arabanin benzin t�ketimini tahmin etmeye �alisiyoruz. f1 = arabanin agirligi (kg) f2 = silindir sayisi f2�nin sonuca etkisi hemen hemen hi� g�r�lmeyecek. Bu durumda girdileri 0 ortalama ve 1 varyans olacak sekilde �l�eklemek gerekir. Baska bir �l�ege g�re de �l�eklemek m�mk�n (lineer, log) Veya cross-validation kullanarak �l�ekler se�ilebilir.

15. Iflas etme (bankruptcy) tahmini

16. Iflas etme (bankruptcy) tahmini

17. Iflas etme (bankruptcy) tahmini

18. Iflas etme (bankruptcy) tahmini

19. Iflas etme (bankruptcy) tahmini

20. Iflas etme (bankruptcy) tahmini

21. Iflas etme (bankruptcy) tahmini

22. Voronoi ayirimi

23. Voronoi ayirimi

24. Zaman ve bellek gereksinimi �grenme �ok hizli

25. Zaman ve bellek gereksinimi �grenme �ok hizli n �znitelik, m adet veri varsa m*n bellek gerekmektedir.

26. Zaman ve bellek gereksinimi �grenme �ok hizli n �znitelik, m adet veri varsa m*n hesap gerekmektedir. Veriler uygun bir aga� yapisinda tutuldugunda (log m)*n hesap yapmak yeterli olabilir.

27. Zaman ve bellek gereksinimi �grenme �ok hizli n �znitelik, m adet veri varsa m*n hesap gerekmektedir. Veriler uygun bir aga� yapisinda tutuldugunda (log m)*n hesap yapmak yeterli olabilir. B�t�n veriler hafizada yer almali, veya Sinirdan uzaktaki verileri silebiliriz.

28. G�r�lt�

29. G�r�lt�

30. G�r�lt�

31. En yakin k komsu

32. En yakin k komsu

33. En yakin k komsu

34. En yakin k komsu

35. �okboyutlulugun laneti En yakin komsu d�s�k boyutlarda (6�ya kadar) �ok iyi �alismaktadir. n artmaya basladigi zaman isler degisir.

36. �okboyutlulugun laneti En yakin komsu d�s�k boyutlarda (6�ya kadar) �ok iyi �alismaktadir. n artmaya basladigi zaman isler degisir. Y�ksek boyutlarda hemen hemen her nokta birbirinden uzaktir. Hemen hepsi sinirlara yakin durmaktadir.

37. �okboyutlulugun laneti En yakin komsu d�s�k boyutlarda (6�ya kadar) �ok iyi �alismaktadir. n artmaya basladigi zaman isler degisir. Y�ksek boyutlarda hemen hemen her nokta birbirinden uzaktir. Hemen hepsi sinirlara yakin durmaktadir. n=1 i�in 0 ve 1 arasinda birbirinden 0.1 esit uzaklikta 10 adet veri yerlestirilebilir.

38. �okboyutlulugun laneti En yakin komsu d�s�k boyutlarda (6�ya kadar) �ok iyi �alismaktadir. n artmaya basladigi zaman isler degisir. Y�ksek boyutlarda hemen hemen her nokta birbirinden uzaktir. Hemen hepsi sinirlara yakin durmaktadir. n=1 i�in 0 ve 1 arasinda birbirinden 0.1 esit uzaklikta 10 adet veri yerlestirilebilir. n=2 i�in 102

39. �okboyutlulugun laneti En yakin komsu d�s�k boyutlarda (6�ya kadar) �ok iyi �alismaktadir. n artmaya basladigi zaman isler degisir. Y�ksek boyutlarda hemen hemen her nokta birbirinden uzaktir. Hemen hepsi sinirlara yakin durmaktadir. n=1 i�in 0 ve 1 arasinda birbirinden 0.1 esit uzaklikta 10 adet veri yerlestirilebilir. n=2 i�in 102 ... n=k i�in 10k veri lazim.

40. �okboyutlulugun laneti ��z�m: �znitelik se�imi veya baska modeller (lineer siniflandirici, YSA, vb.)

41. �rnekler Kalp hastaligi teshisi: Test sonu�larina bakarak hastada aort daralma sorunu olup olmadiginin tespiti 26 �znitelik 297 adet veri

42. �rnekler Kalp hastaligi teshisi: Test sonu�larina bakarak hastada aort daralma sorunu olup olmadiginin tespiti 26 �znitelik 297 adet veri Araba benzin t�ketimi: Arabanin �zelliklerine g�re 100 km�de 10.64 lt. benzinden daha az veya fazla t�keteceginin tespiti 12 �znitelik 385 adet veri

43. Kalp hastaligi teshisi k se�iminin fazla bir etkisi yok.

44. Kalp hastaligi teshisi k se�iminin fazla bir etkisi yok. Normalizasyonun (�l�ekleme) etkisi var.

45. Araba benzin t�ketimi k se�iminin fazla bir etkisi yok. Normalizasyonun (�l�ekleme) etkisi �ok az.

46. Araba benzin t�ketimi Bu durumda normalizasyonun etkisi var. �izgelerdeki �l�eklere dikkat edin !!

47. Karar aga�larini hatirlayin B�t�n verileri kullanarak olusturulan aga�ta sorular dallari, sonu�lar yapraklari olusturuyordu.

48. Sayisal degerler i�in ne yapmali? Bu durumda d�g�mlerdeki sorular xi > sabit? olarak yazilabilir.

49. Sayisal degerler i�in ne yapmali? Bu durumda d�g�mlerdeki sorular xi > sabit? olarak yazilabilir. Uzayi eksenleri kesen dikd�rtgenlere b�leriz.

50. Sayisal degerler i�in ne yapmali? Bu durumda d�g�mlerdeki sorular xi > sabit? olarak yazilabilir. Uzayi eksenleri kesen dikd�rtgenlere b�leriz.

51. Sayisal degerler i�in ne yapmali? Bu durumda d�g�mlerdeki sorular xi > sabit? olarak yazilabilir. Uzayi eksenleri kesen dikd�rtgenlere b�leriz.

52. Veri uzayinda ayrim nasil olacak? Her nokta i�in b�t�n boyutlarda ayrim olabilir.

53. Veri uzayinda ayrim nasil olacak? Her nokta i�in b�t�n boyutlarda ayrim olabilir.

54. Veri uzayinda ayrim nasil olacak? Her nokta i�in b�t�n boyutlarda ayrim olabilir.

55. Veri uzayinda ayrim nasil olacak? Her nokta i�in b�t�n boyutlarda ayrim olabilir.

56. Veri uzayinda ayrim nasil olacak? Olusan aga�taki �ocuk d�g�mlerin ortalama entropisini minimum yapacak bir ayrim yapilabilir.

57. Iflas etme (bankruptcy) tahmini

58. Iflas etme (bankruptcy) tahmini

59. Iflas etme (bankruptcy) tahmini

60. Iflas etme (bankruptcy) tahmini

61. Iflas etme (bankruptcy) tahmini

62. Iflas etme (bankruptcy) tahmini

63. Iflas etme (bankruptcy) tahmini

64. Iflas etme (bankruptcy) tahmini

65. Kalp hastaligi teshisi Karar aga�larindaki en iyi performans (0.77) en yakin komsu kuralindan az daha k�t� (0.81)

66. Kalp hastaligi teshisi

67. Kalp hastaligi teshisi

68. Kalp hastaligi teshisi

69. Kalp hastaligi teshisi

70. Kalp hastaligi teshisi

71. Kalp hastaligi teshisi

72. Kalp hastaligi teshisi

73. Kalp hastaligi teshisi

74. Araba benzin t�ketimi Karar aga�larindaki performansi en yakin komsu kuraliyla ayni (0.91)

75. 100 km�de 10.64lt.�den �ok mu?

76. Regresyon Bu durumda �ikti sayisal bir degerdir. Yerel-agirlikli ortalama (MA, vb.) Regresyon aga�lari

77. Yerel ortalama B�t�n veriyi bellekte tutmak gerekir.

78. Yerel ortalama B�t�n veriyi bellekte tutmak gerekir. Herhangi bir yeni nokta geldiginde Eski verilerden en yakin K komsu bulunur.

79. Yerel ortalama B�t�n veriyi bellekte tutmak gerekir. Herhangi bir yeni nokta geldiginde Eski verilerden en yakin K komsu bulunur. Bunlarin sonu�larinin ortalamasi alinir

80. Yerel ortalama B�t�n veriyi bellekte tutmak gerekir. Herhangi bir yeni nokta geldiginde Eski verilerden en yakin K komsu bulunur. Bunlarin sonu�larinin ortalamasi alinir ve yeni sonu� bu olur.

81. K=1 Veriyi �ok yakindan takip eder. Overfitting olma sansi fazla

82. K�nin daha b�y�k degerleri Verideki oynamalar ortadan kalkar. �ok fazla genel bir yapi olusabilir.

83. Yerel agirlikli ortalama Sonucunun bulunmasi istenen yeni noktadan en fazla ? uzaklikta noktalari bul. Bu noktalarin verdigi sonu�lari istenen noktaya yakinligina g�re agirliklarla �arp ve ortalamalarini al.

84. Yerel agirlikli ortalama Sonucunun bulunmasi istenen yeni noktadan en fazla ? uzaklikta noktalari bul. Bu noktalarin verdigi sonu�lari istenen noktaya yakinligina g�re agirliklarla �arp ve ortalamalarini al. Ayni model en yakin k komsu i�in de gelistirilebilir.

85. �rnek: Epanechnikov Kernel

86. Veri yumusatmasi ? nasil se�ilecek? Eger k���kse, �ok fazla nokta ortalamada yer almaz. G�r�lt�n�n ortalanmasi i�in yetersiz kalabilir. Verilerdeki keskin ge�isleri daha rahat modelleyebilir. Eger b�y�kse, �ok sayida nokta ortalamada yer alir. G�r�lt�n�n ortalanmasi i�in uygun olur. Verilerdeki keskin ge�isler ortadan kalkar. ? se�iminde cross-validation kullanilabilir. Yerel alanlardaki nokta sayisina g�re dinamik sekilde olusturulabilir.

87. Regresyon aga�lari Karar aga�larina benziyor, fakat yapraklarda sinif yerine reel degerler var.

88. Regresyon aga�lari Karar aga�larina benziyor, fakat yapraklarda sinif yerine reel degerler var.

89. Yaprak degerleri Her yaprakta o yapraga d�sen noktalarin �iktilarinin (y) ortalamasi yer aliyor.

90. Yaprak degerleri Her yaprakta o yapraga d�sen noktalarin �iktilarinin (y) ortalamasi yer aliyor. Bu sebeple ayni yaprakta yer alan noktalarin benzer y degerlerine sahip olmasi modelin dogrulugu i�in gereklidir. Neden?

91. Varyans (variance) Varyans bir sayi k�mesinin ne derecede birbirinden farklilik i�erdigini g�sterir.

92. Varyans (variance) Varyans bir sayi k�mesinin ne derecede birbirinden farklilik i�erdigini g�sterir. z1�den zm�e kadar olan sayilarin ortalamasi (mean)

93. Varyans (variance) Varyans bir sayi k�mesinin ne derecede birbirinden farklilik i�erdigini g�sterir. z1�den zm�e kadar olan sayilarin ortalamasi (mean)Varyans: K�mede yer alan her sayi ile k�me ortalamasi arasindaki farkin karelerinin ortalamasi

94. Aga�ta dal ayrimi Bir ayrim esnasinda ayrim i�in se�ilecek �znitelik sonucu olusacak �ocuklarin ortalama varyansi dikkate alinarak aga� olusturulabilir.

95. Aga�ta dal ayrimi

96. Aga�ta dal ayrimi

97. Aga�ta dal ayrimi

98. Aga�ta dal ayrimi

99. Durma kriteri Olusturulan yapraktaki varyans ortalamasi belli bir esik degerinin altina inerse dur.

100. Durma kriteri Olusturulan yapraktaki varyans ortalamasi belli bir esik degerinin altina inerse dur. Ya da yapraktaki veri sayisi belli bir degerin (min-leaf) altina inerse dur.

101. Durma kriteri Olusturulan yapraktaki varyans ortalamasi belli bir esik degerinin altina inerse dur. Ya da yapraktaki veri sayisi belli bir degerin (min-leaf) altina inerse dur. Durduktan sonra o yapraktaki y degerlerinin ortalamasini yapraga yaz.

102. Durma kriteri Olusturulan yapraktaki varyans ortalamasi belli bir esik degerinin altina inerse dur. Ya da yapraktaki veri sayisi belli bir degerin (min-leaf) altina inerse dur. Durduktan sonra o yapraktaki y degerlerinin ortalamasini yapraga yaz.