230 likes | 437 Views
یادگیری بر پایه نمونه. Instance Based Learning-2. Instructor : Saeed Shiry & Mitchell Ch. 8. Radial Basis Functions. روشی برای تقریب توابع است . یادگیری با RBF ارتباط نزدیکی با شبکه های عصبی مصنوعی و Distance-weighted regression دارد . در این روش فرضیه یادگرفته شده بصورت زیر میباشد :
E N D
یادگیریبرپایهنمونه Instance Based Learning-2 Instructor : Saeed Shiry & Mitchell Ch. 8
Radial Basis Functions • روشیبرایتقریبتوابعاست. • یادگیریبا RBF ارتباطنزدیکیباشبکههایعصبیمصنوعیو Distance-weighted regression دارد. • دراینروشفرضیهیادگرفتهشدهبصورتزیرمیباشد: • دراینروشازتعداد k تابعکرنلبرایتقریبتابعاستفادهمیشود .تابعکرنلمعمولابصورتیکتابعگاوسیانتخابمیشود:
Radial Basis Functions • نشاندادهشدهاستکهدرصورتیکهتعدادکافیتابعکرنلگاوسیانتخابشوند،بااستفادهاز RBF میتوانهرتابعیراباخطاینسبتاکمیتقریبزد. • رابطهفوقرامیتوانبهیکشبکهعصبیدولایهتشبیهنمودکه • لایهاولمقادیرکرنلهاو • لایهدوممجموعآنهارامحاسبهمینماید. f(x) W0 wk w1 w2 … 1 K1 K2 Kk … x1 x2 x3 xn
آموزش RBF درصورتداشتنمجموعهایازمثالهایآموزشی،آموزش RBF دردومرحلهصورتمیگیرد: • تعدادتوابعکرنلانتخابمیشود.بعبارتدیگرباانتخابمقداریبرای ,Kمقادیر xu , s2uبرایهرتابعکرنلتعیینمیگردد. • وزنهایشبکهطوریانتخابمیشوندکهشبکهبادادههایآموزشیمنطبقگردد.اینکاربااستفادهازرابطهخطایکلیزیرانجاممیشود
نحوهانتخابتعدادواحدهایمخفی • بازاهرمثالآموزشی<xi,f(xi)> یککرنلگاوسیتخصیصدادهمیشود. • اینتابعبهمرکزیت xi بودهوبرایتمامیآنهامقداریکسانs2درنظرگرفتهمیشود. • شبکه RBF طوریآموزشدادهمیشودکهبتواندتقریبیکلیبرایتابعهدفپیداکند.توجهشودکههرمثالآموزشیفقطمیتوانددرهمسایگی xi تابعتقریبزدهشدهراتحتتاثیرقراردهد. • وزنهاطوریمحاسبهمیشوندکهبازاهرمثالآموزشی<xi,f(xi)> درخروجیشبکه رابطه f’(x)=f(x) برقرارباشد.بدینترتیبشبکه RBF بطورکاملبامثالهایآموزشیانطباقخواهدداشت.
K2 K1 نحوهانتخابتعدادواحدهایمخفی • دراینروشتعدادتابعکرنلانتخابشدهکمترازتعدادمثالهاست. • اینروشبازدهیبیشتریازروشقبلیدارد. • مرکزکرنلهارامیتوانبصورتیکنواختانتخابنمود. • درحالتیکهتوزیعنمونههاغیریکنواختباشندمیتوانتوزیعکرنلهاراهمبصورتمشابهیانتخابنمود. • یکراهدیگرکلاسترینگنمونههاوتخصیصیککرنلبههرکلاستراست.
ویژگیهایشبکه RBF • آموزشاینشبکههاآسانترازشبکههایعصبیمعمولیاستکهازروش Back Propagation استفادهمیکنند. • اینشبکهیکتقریبکلیازتابعرابااستفادهازمجموعتقریباتمحلیمحاسبهمیکند.
Case Based Reasoning سهخاصیتاصلیسیستمهاییادگیریبرپایهنمونه: • روشهاییادگیریتنبلیهستندکهعملتعمیمتامشاهدهنمونهجدیدبهتعویقمیافتد • برایدستهبندینمونهجدیدازمثالهایمشابهاستفادهمیشود • نمونههاتوسطنقاطیبامقادیرحقیقیدرفضای n بعدینشاندادهمیشوند روشیادگیریCBR ازدوویژگیاولتبعیتمیکنددرحالیکهبراینمایشنمونههاازروشسمبلیکاستفادهمینماید. بههمیندلیلبدستآوردننمونههایمشابهمشکلتراست
مسائلیراکهبهشیوه CBR حلمیکنیم CBR مشابهروشیاستکهآدمیبرایحلبرخیازمسائلبکارمیبرد .نظیر: • پزشکی: اغلبپزشکاننمونههایقبلیبیمارانرابخاطرسپردهودرمواجههبابیمارانجدیدازتجربهگذشتهسودمیبرند. • حقوق: قضاوتدرکشورهائیمثلامریکاوانگلستانبراساساختلافاتگذشتهورایهائیکهبرایآنهاصادرشدهاستانجاممیشود. • بنگاهمسکن: معمولاقیمتخانههابراساسخانههایمشابهیکهاخیرافروشرفتهاندتعیینمیگردند.
اجزاسیستم CBR • Case-base • یکدیتابیسازمثالهایقبلی • Retrieval of relevant cases • استفادهازایندکسبرایمثالهایموجوددردیتابیس • قابلیتتطبیقباشبیهترینمثالها • بدستآوردنراهحلبااستفادهازمثالهایمشابه • Adaptation of solution • تغییردادنراهحلبنحویکهاختلافبینمثالموردبررسیونمونههایپیداشدهدردیتابیسرادرنظربگیرد.
Solution CBR Solving Problems Review Retain Database Adapt Retrieve Similar New Problem
مثالیاز :CBR تعییننرخمسکن Test instance
چگونگیایجادقوانین • مثالهائیراپیدامیکنیمکهتاحدزیادیشبیههمباشند • case 1 and case 2 • قانون: R1 اگرتعدادrecep-roomsاز 2 به 1 تغییرکندقیمترا £5,000کاهشدهید. • case 3 and case 4 • قانون: R2 اگرTypeازsemiبهterracedتغییرکندقیمترا £7,000کاهشدهید.
انطباق • مثالموردبررسیرابامثالهایذخیرهشدهمقایسهکردهومواردانطباقرامشخصمیکنیم: • matches(5,1) = 3 • matches(5,2) = 3 • matches(5,3) = 2 • matches(5,4) = 1 • Estimate price of case 5 is £25,000
Adaptation • قانون 2 معکوسمیشود: • قانون: R2 اگرTypeازsemiبهterracedتغییرکندقیمترا £7,000افزایشدهید. • اعمالقانونمعکوس • پیشبینیجدیدازقیمتمسکنموردنظر £32,000 است
یادگیری • بدینترتیبیکcase جدیدویکقیمتجدیدتخمینزدهشدهاست. • دراینمرحلهچیزیبهدیتابیساضافهنمیشود. • اگردرآیندهاینخانهبهقیمت £35,000 فروشبروداینموردبهعنوانیکcase جدیداضاقهشدهویکقانونجدیدهماضافهمیشود • اگراز 8 به 7 تغییرکندقیمترابهمیزان £3,000 اضافهمیشود.
مثالیاز CADET : CBR • سیستم CADET از CBR برایطراحیمفهومیابزارهایمکانیکیسادهمثلشیرآباستفادهمیکند. • کتابخانهاینسیستمدارای 75 طرحمکانیکیقبلاطراحیشدهاست • مثالهابصورت <qualitative function, mechanical structure> ذخیرهمیشوند. • سوالارائهشدهبهسیستم: عملکردموردنیاز • هدف: یافتنساختارمکانیکیمناسب
مثالیاز CADET : CBR یک case ذخیرهشده: لولهبااتصال T Structure ُ Function عملکردمثالذخیرهشدهبصورترابطهکمیبینمقدارآبعبوریدرورودیهاوخروجیهایلولهودرجهحرارتبیانمیشود. Q1 Q2 + Q1, T1 Q3 T = temperature Q = waterflow + + Q3, T3 T1 T2 T3 + Q2, T2 علامت + بهاینمعناستکهباافزایشجریانآبدر Q1 مقدارآندر Q3 نیزافزایشمیابد.
مثالیاز CADET : CBR • یکمسئلهطراحیجدید: Structure ? آبسرد + + Ct Cf سیگنالکنترلحرارت Qc Qh آبمخلوط Qm + + + + + سیگنالکنترلجریانآب آبگرم + Tc Th Tm +
مثالیاز CADET : CBR • سیستم CADET برایحلمسئلهآنرابهگرافهایجزئیتقسیمکردهوبدنبالمثالهائیمیگرددکهباآنمشابهباشند. • سپسراهحلهایپیداشدهرابااستفادهازیکسیستم Knowledge based باهمترکیبمیکندتابهنتیجهمطلوببرسد. • همچنینبااستفادهازدانشقبلیدرصورتلزومدرموردروابطفیزیکیاستنتاجنیزمیکند: + + + َAB is rewriten as AxB
موارداستفاده • معمولا CBR درمواقعیاستفادهمیشودکهتئوریمناسبیوجودنداردویااینکهامکانمدلکردنمسئلهتوسطافرادخبرهمیسرنیست. • همچنیندرمواردیکهتعداداستثنائاتمثالهاازقوانینزیاداستاینروشمیتواندموثرباشد. • سیستمهای CBR بسرعتآمادهاستفادهمیشوندوباافزایشمثالهاقدرتآنهانیزبیشترمیشود.
مشکلات • وقتیکههیچمثالمشابهیدردیتابیسنباشدراهحل CBR نامناسبخواهدبود. • CBR قادرنیستتایکمثالجدیدراتشخیصدهد. • بازیابی و ترکیب case ها برای یافتن پاسخی به سوال فعلی ممکن است نیازمند روشهای Knowledge based reasoning و روشهای حل مسئله search-intensive باشد.