1 / 36

Dr. Boaz Lerner

4th-Year Project Proposals 2004 – 2005 Machine Learning & Image Analysis מערכות לומדות וניתוח תמונה. Dr. Boaz Lerner. Machine Learning Techniques Evolution. Academy. Industry. ~ 1970 ~ 1980 ~ 1980 ~ 1990 ~ 1990 ~ 2000 ~ 2000. 1936 1950 1965 1966 ~ 1970 mid 80’s 1988 1990’s 1992.

sydney
Download Presentation

Dr. Boaz Lerner

An Image/Link below is provided (as is) to download presentation Download Policy: Content on the Website is provided to you AS IS for your information and personal use and may not be sold / licensed / shared on other websites without getting consent from its author. Content is provided to you AS IS for your information and personal use only. Download presentation by click this link. While downloading, if for some reason you are not able to download a presentation, the publisher may have deleted the file from their server. During download, if you can't get a presentation, the file might be deleted by the publisher.

E N D

Presentation Transcript


  1. 4th-Year Project Proposals2004 – 2005Machine Learning & Image Analysisמערכות לומדות וניתוח תמונה Dr. Boaz Lerner

  2. Machine Learning Techniques Evolution Academy Industry ~ 1970 ~ 1980 ~ 1980 ~ 1990 ~ 1990 ~ 2000 ~ 2000 1936 1950 1965 1966 ~ 1970 mid 80’s 1988 1990’s 1992 • Linear discriminator • K-nearest-neighbours • Naive Bayesain classifier • Hidden Markov models • Rule-based, decision trees • Neural networks • Probabilistic graphical models • Bayesian learning & inference • Support vector machines

  3. Machine Learning – Motivation • No need in a model • Utilizes the data to build the model • Utilizes the data to tune the model (learning) • Allows integration of acquired knowledge into a priori knowledge • Applicable also for on-line learning

  4. Machine Learning –Why Learning? • Flexibility • Adaptivity • Combination of prior knowledge with data • Generalisation

  5. Generalization (1) • Illustration - polynomial curve fitting M=1 M=3 M=10

  6. Generalization (2) • polynomial curve fitting (2)

  7. Image Analysis & Machine Learning System Pre- Processing Segmentation Feature Description Feature Selection signal (image) Post- Classification Classification Feature Extraction --- Machine Learning

  8. Feature Description

  9. Feature Selection (1) • using probability density functions (PDFs)

  10. Feature Selection (2) • using scatter plots

  11. Feature Selection (3)– the Result

  12. Feature Extraction – 2D Example

  13. Experimental Comparison of Feature Extractors projection maps

  14. Statistical Classification • Aim: minimizing the probability of misclassification

  15. Decision Boundaries (1)

  16. Decision Boundaries (2)

  17. Decision Boundaries (3)

  18. An Example FISH Image

  19. Image Analysis & Machine Learning Applied to Cytogenetics pre processing segmentation feature description feature selection 3D image reconstruction post classification classification feature extraction

  20. Classification-Oriented Feature Selection בחירת מאפיינים מכוונת סווג • בחירת המאפיינים ה"טובים" ביותר לשם ייצוג עצמים מאפשרת סווג קומפקטי ומדויק. אולם, לא תמיד לסווג המבוסס על סט מאפיינים אופטימלי זה יש את שגיאת הסיווג המינימלית היות וקריטריוני המסווג שונים מאלה של השיטה לבחירת מאפיינים. בפרויקט נחקור את הקשר בין קריטריוני בחירת מאפיינים וקריטריוני סווג אופטימלי. נרצה גם לבנות מודל מסווג המנצל יתרונות כל משפחת קריטריונים כזו לשם השגת ביצועים אופטימליים. המודל ייבדק על דטה מבעיה אמיתית ויושווה למודלי סווג ובחירת מאפיינים מתקדמים. • מלות קוד: pattern recognition, feature selection, machine learning, classification

  21. Support Vector Machine for Image Classification סווג תמונה בעזרת מסווג וקטורים תומכים • מסוג וקטורים תומכים הנו מערכת לומדת מתוחכמת ביותר עם יסודות תאורטיים מוצקים והצלחה רבה בהשוואה למערכות לומדות אחרות. אולם למסווג מיעוט שימושים עד היום. בפרט, המסווג לא נבחן עד היום בסווג תמונה. בפרויקט נממש את המסווג ונתאים אותו לסווג עצמים בתמונה. • מילות קוד: machine learning, image classification, support vector machine

  22. Which is the Best Decision Boundary?

  23. Projecting Non-Separable 1D Data onto a 2D Space

  24. Accuracy Comparison

  25. Probabilistic Classification by ARTMAP Neural Networkסיווג הסתברותי על ידי רשת ה – ARTMAP • רשת ה-ARTMAPהיא רשת נוירונלית מבוססת המוח האנושי שהיא בעלת יכולת למידה מהירה של דוגמאות "חדשות" ללא שיכחה של דוגמאות "ישנות". אולם, תוצאות סיווג עצמים ע"י הרשת לא ניתנות לפירוש הסתברותי באופן טבעי דבר המקשה על השוואת ביצועי הרשת לאלה של מערכות לומדות אחרות. מטרת הפרויקט הנה להרחיב את רשת ה-ARTMAPכך שתוכל להציג שייכות למחלקה בצורה הסתברותית. • מילות קוד: machine learning, neural networks, ARTMAP

  26. On-Line Training using ARTMAP

  27. Learning Bayesian Networksרשתות בייסיאניות לומדות • רשת בייסיאנית הנה מודל יעיל לייצוג פונקצית הסתברות משותפת של סט משתנים אקראיים. המודל מורכב משני מרכיבים עיקריים: מבנה הרשת וסט הסתברויות מותנות. מבנה הרשת מיוצג באמצעות גרף מכוון, כאשר קיום של קשר בין שני צמתים (משתנים) מייצג תלות של שני המשתנים בגרף. סט ההסתברויות המותנות מכמת את חוזק הקשרים. הפרויקט יעסוק לפיכך באלגוריתמים למציאת המבנה וסט ההסתברויות המתאימים ביותר לפתרון בעיה נתונה תוך שימוש בדוגמאות המייצגות בעיה זו. המודל ושיטות הלימוד ייושמו בסיווג עצמים בתמונה. • מילות קוד: Bayesian networks, classification, machine learning

  28. BN Structure Learning

  29. BN Parameter Learning

  30. Automatic Dot Counting in FISH Image Analysisספירת כתמים אוטומטית במערכת ניתוח תמונה ציטוגנטית • כתמים בתמונה ציטוגנטית מייצגים כרומוזומים שאת מספרם באוכלוסית תאים נרצה לשערך לשם אבחון תסמונות הנובעות מעודף או חוסר בכרומוזום. בפרויקט תבנה מערכת בתוכנה לניתוח תמונות כאלה וספירה אוטומטית של הכתמים. המערכת תתבסס על חתכים דו-מימדיים של גרעיני תא תלת-מימדיים ושיטות לימוד מכונה מתקדמות לשם שערוך מדויק של מספר הכתמים במדגם. • מילות קוד: machine learning, neural networks, FISH

  31. Another Example of FISH Image

  32. FISH Image Signals Cell Nucleus Green-Real Unfocused Focused Red-Real Green-Artifact Red-Artifact

  33. Machine Learning-based FISH Image Analysis for Disease Detectionגילוי מחלות בעזרת ניתוח תמונה ציטוגנטית מבוסס לימוד מכונה • בשנים האחרונות התפתחו במעבדה לניתוח תבניות ומכונות לומדות שיטות לזיהוי תסמונות גנטיות מתוך תמונות ציטוגנטיות. נרצה להרחיב שיטות אלה למחלות קשות יותר לאבחון אוטומטי כמו חסר מזערי בכרומוזום או סרטן. השיטות שתפותחנה תהיינה לפיכך מורכבות ומדויקות יותר מאלה שכבר פותחו והן יקיפו נושאים בהקטעת (segmentation) וסיווג (classification) תמונה. • מילות קוד: pattern recognition, neural networks, Bayesian networks, image classification cancer, machine learning

  34. What About Cancer?

  35. Further Reading http://www.ee.bgu.ac.il/~boaz http://www.ee.bgu.ac.il/~paml

More Related