Ray 7 דוגמא

1. Ray7דוגמא ? אלגוריתם • קבל דוגמאות • פלט fa עבור הדוגמה a המינימלית החיובית

2. חסם של Markov חסם של Chebychev למה Sauer Shatter Coefficient ממד (VCdim) ε-net משפט ε-net משפט OCCAM

3. חסם של Markov חסם של Chebychev למה Sauer Shatter Coefficient ממד (VCdim) ε-net משפט ε-net משפט OCCAM

4. קצת רקע בהסתברות חסם של Markov Markov 1856-1922 יהי Xמשתנה מקרי חיובי. אזי עבור אינטואיציה: אם ממוצע ציונים הוא a אזי לא יכול להיות שיותר מחצי הציונים גדולים מ- 2a

5. איפה השתמשנו בזה ש-X חיובי ?

6. חסם של Markov חסם של Chebychev למה Sauer Shatter Coefficient ממד (VCdim) ε-net משפט ε-net משפט OCCAM

7. חסם של Chebychev יהי Xמשתנה מקרי. אזי Chebychev 1821-1894 הוכחה: לפי Markov

8. דוגמא: ניסוי ברנולי ניסוי עם הצלחה בהסתברות p וכשלון בהסתברות q=1-p Nicolaus Bernoulli 1623-1708

9. m נסיונות ברנולי בלתי-תלויים מספר ההצלחות

10. חסם של Chebychev בהסתברות לפחות Y/m -קרוב ל- p

11. חסם של Markov חסם של Chebychev למה Sauer Shatter Coefficient ממד (VCdim) ε-net משפט ε-net משפט OCCAM

12. ממד (VCdim) Vapnik-Chervonenkis תהי C קבוצה של פונקציות בוליניות Vapnik Chervonenkis נומר ש- מְנֻפֶּצֶת Shattered ע"י C אם g היא אפס על g היא אחד על

13. מְנֻפֶּצֶת אם g היא אפס על g היא אחד על דוגמא 1 -1 0 1 2 3 האם מְנֻפֶּצֶת ? האם קיימת קבוצה עם שני אברים מְנֻפֶּצֶת ?

14. דוגמא 2 -1 0 1 2 3 האם מנופֵּצת ? האם קיימת קבוצה מנופֵּצת עם שלשה אברים ?

15. VCdim(C) גודל הקבוצה הגדולה ביותר המנופצת

16. דוגמא 3 נראה קודם ש- הוכחה

17. לא קיימת קבוצה עם ארבעה אברים מנופֵּצת בהנתן ארבעה נקודות. תבחר שלשה נקודות ותבנה משולש מקרה א: הנקודה הרביעית בתוך המשולש אזי אם נקודות המשולש חיוביות אז כל נקודות המשולש הפנימיות חיוביות. מקרה ב: הנקודה הרביעית מחוץ למשולש הקו חייב לחתוך כל צלעות המרובע סתירה.

18. דוגמא 4

20. חסם של Markov חסם של Chebychev למה Sauer Shatter Coefficient ממד (VCdim) ε-net משפט ε-net משפט OCCAM

21. Shatter Coefficient מקדם הַנִּפּוּץ תהי C קבוצה של פונקציות בוליניות ל- נגדיר ל- נגדיר נגדיר

22. דוגמא 1 -1 0 1 2 3 הוא המספר אכי גדול כך ש- שים לב ש-

23. דוגמא 2

24. חסם של Markov חסם של Chebychev למה Sauer Shatter Coefficient ממד (VCdim) ε-net משפט ε-net משפט OCCAM

25. עבור מחלקה עם למה Sauer Norbert Sauer הוכחה

27. ההוכחה תהיה באינדוקציה על הבסיס טרויאלי לפי הנחת האינדוקציה

28. חסם של Markov חסם של Chebychev למה Sauer Shatter Coefficient ממד (VCdim) ε-net משפט ε-net משפט OCCAM

29. קבוצה של נקודות S נקראת ε-net ל- C אם לכל כך ש- קיימת נקודה כך ש- נשתמש בסמון משפט 1ה- ε-net אם S היא m נקודות רנדומליות מ-Xו- ו- אזי בהסתברות לפחות 1-δ , S היא ε-net ל- C

30. אם S היא m נקודות רנדומליות מ-Xו- משפט 1ה- ε-net. ו- אזי בהסתברות לפחות 1-δ , S היא ε-net ל- C הוכחה נסמן

31. נגדיר נבחר , m נקודות רנדומליות מ-Xונגדיר טענה הוכחה שמקיים נקח נוכיח שמחסם Chebychev

32. מחסם Chebychev O

33. טענה

36. משפט 2 ה- ε-net אם S היא m נקודות רנדומליות מ-Xו- אזי בהסתברות לפחות 1-δ , S היא ε-net ל- C הוכחה למה Sauer נשאר להוכיח

37. מספיק להוכיח

38. מספיק להוכיח

39. משפט 2ה- ε-net אם S היא m נקודות רנדומליות מ-Xו- אזי בהסתברות לפחות 1-δ , S היא ε-net ל- C

40. חסם של Markov חסם של Chebychev למה Sauer Shatter Coefficient ממד (VCdim) ε-net משפט ε-net משפט OCCAM

41. Algorithm Occam 1. Get examplesS 2. Run A(S)h0 משפטOCCAM אלגוריתם OCCAM לומד את C נגדיר תהי f פונקצית המטרה. הוכחה לכל כך ש- S היא ε-net ל- .Cf קיימת נקודה כך ש- ולכן לכל

42. Ray7דוגמא אלגוריתם • קבל דוגמאות • פלט fa עבור הדוגמא a המינימלית החיובית

43. דוגמא 8: חצי מישור HalfSpace

44. דוגמא 9: מצולע קמור עם kצלעות – Polygonk– מימד 2 לפי למה של Sauer

45. אם אזי לפי למה של Sauer אם הפלט הוא