Final Presentation

1. Final Presentation Network Software System Lab Department of Electrical Engineering, Technion R C N R M N Random Neural Networks for Cognitive Radio Modeling Oz Itzhaki Jonathan Nafta Supervisor: Boris Oklander

2. מבוא • רשתות נוירונים אקראיות (RNN) הן מודל מתמטי חישובי של רשתות נוירונים. • מודל רשתות הנוירונים האקראיות ניתן לתיאור באמצעות משוואות אנליטיות רגילות, הוא בעל סיבוכיות חישוב נמוכה, ניתן לשילוב בחומרה ובתוכנה בצורה פשוטה יחסית. • מודל רשתות הנוירונים האקראיות מעניין בשל השימושים הרבים שניתן לבצע באמצעותו בתחומי ההנדסה והפיסיקה.

3. מטרות הפרויקט • התאמה של מודל רשתות נוירונים אקראיות ומלאכותיות למידול מערכות רדיו קוגנטיבי. • מימוש סביבה המשלבת RNN ו- CRN ב- Matlab לצורך ביצוע שלבי הפרויקט השונים. • אופטימיזציה של רשתות רדיו קוגניטיביות. • חקר ביצועים.

4. Cognitive Radio Networks (CRN)

5. המודל המתמטי • N נוירונים ברשת. • ההסתברות שנוירון יהיה מעורה: • ההסתברות של שחרור פוטנציאל מנוירון i: • נוירון מעורה יורה סיגנלים בקצב: • קצב הירי הכולל מנוירון i:

6. התנהגות הרשת במצב יציב • הפילוג הסטציונרי של רשת הנוירונים במצב יציב: • הפילוג מתאר שרשרת מרקוב בזמן רציב ולכן מתקיימות משוואת צ'פמן-קולמוגורוב ובמצב יציב מתקיים תנאי האיזון: • מפיתוח המשוואות מתקיים:

7. מערכת לומדות – אלגוריתם הגרדיאנט • אלגוריתם הגרדיאנט מבצע אופטימיזציה מסדר ראשון לפונקציה רציפה למקוטעין. • מטרת האלגוריתם היא להביא למינימום את השגיאה שתוגדר באופן הבא: • משקולות הרשת מתעדכנים בכל איטרציה עד אשר גודל השגיאה קטן מערך הסף שהוגדר:

8. שלבי ביצוע אלגוריתם הגרדיאנט איתחול מטריצת המשקולות וקביעת פרמטר קצב הלימוד. עבור כל צמד כניסה-יציאה: א. איתחול את קצבי ההגעה בהתאם לכניסות המתאימות. ב. מציאת ערכי ג. על סמך הערכים שהתקבלו, נחשב את ד. נחשב את : ה. עדכון מטריצת המשקולות. 3. חישוב השגיאה והמשך באיטרציה נוספת במידה ולא עמדנו בערך הסף הנדרש.

9. מידול המערכת

10. תכונות הרשת Memory Correlation

11. הגדרת ביצועי הרשת - Reward

12. מבנה רשת הנוירונים Magic … 1 1 0 0 1 0 0 0 1 5 9 1 0 0 0 2 6 10 OUTPUT INPUT 3 7 11 4 8 12

13. תוצאות סימולציה - RNN *************************************************************************** * Test Results: 55 misses out of 49990. error rate 0.110022% * * Channel Selection: 3 misses out of 4999 error rate 0.060012% * ***************************************************************************

14. דוגמא: RNN עם 4 ערוצים • 24 נויורונים בשכבה הנסתרת • שגיאת הלימוד של המודל הינה 0.0032. • משך זמן הלימוד: 31:32 דק'. • מספר האיטרציות הינו 38.

15. שגיאת חיזוי כתלות בשונות הרעש באופן טבעי, ככל שהרעש במערכת גדל כך גדלה טעות חיזוי הערוץ הפנוי הבא

16. רשתות נוספות • תלות סטטיסטית חזקה בין הערוצים • הדמיית מצבי עומס כללי ברשת Error rate 16.2%-17.24% Error rate 1.3%-1.8%

17. רשתות נוירונים מלאכותיות • שימוש ב- Matlab Neural Network Toolbox • GUI בזמן אימון הרשת • שימוש באלגוריתם Levenberg-Marquardt ובהרחבתו עם מומנט אדפטיבי • זמן התכנסות קצר משמעותית מכל תרחיש שהרצנו ב- RNN • תוצאות זהות או טובות יותר במרבית המקרים

18. תוצאות הרצת ANN error rate: 10.9% error rate: 0.49%

19. סיכום • נבדקה התכנות השימוש ברשתות נוירונים, אקראיות ומלאכותיות, לחיזוי מערכות רדיו קוגנטיביות • נבדקו מספר רב של מודלים עם פרמטרים שונים ונבחנו ביצועיהן • מודל רשת הנוירונים המלאכותיות מהיר יותר, אך יתכן והדבר הוא תלוי מימוש של מערכת רשתות הנוירונים האקראיות • ניתן להגיע לתוצאת חיזוי טובה עם אחוזי שגיאה קטנים באמצעות המודלים הנבדקים

20. תודה על זמנכם!