Chapter 6 Machine Learning

1. Chapter 6Machine Learning ดร.สุขชาตรี ประสมสุข สาขาเทคโนโลยีสารสนเทศ คณะเทคโนโลยีสารสนเทศและการสื่อสาร มหาวิทยาลัยพะเยา

2. Leaning คืออะไร (Whatis Learning?) “ Learning เป็นเครื่องหมายของการเปลี่ยนแปลงในระบบ ซึ่งทำให้ความเป็นไปได้ในการทำงานแบบเดียวกันให้มีประสิทธิภาพมากยิ่งขึ้นในการทำงานครั้งต่อไป “ Herbert Simon “ Learning คือ การสร้างหรือการปรับปรุงแก้ไข ตัวอย่างของหัวข้อที่ว่าเราจะนำประสบการณ์มาใช้ทำอะไร “ RyszardMichalski “ Learning กำลังทำประโยชน์จากการเปลี่ยนแปลงของความคิด “ Marvin Minsky

3. Machine Leaning คืออะไร(What is machine learing?) การเรียนรู้ของเครื่อง (Machine learning) คือ การทำให้เครื่องเรียนรู้ได้จากข้อมูลตัวอย่าง หรือจากสภาพแวดล้อม จุดมุ่งหมายคือการพัฒนาหรือปรับปรุงประสิทธิภาพการทำงานของระบบให้ดีขึ้น เมื่อเรียนรู้แล้วความรู้ที่เรียนได้จะเก็บไว้ในฐานความรู้ด้วยรูปแบบการแทนความรู้อย่างใดอย่างหนึ่ง เช่น กฎ ฟังก์ชัน ฯลฯ Learning ในพจนานุกรมได้ให้คำนิยามว่า การได้มาซึ่งความรู้ หรือ ความเข้าใจ หรือทักษะ โดยการศึกษาคำสั่ง หรือประสบการณ์ ในที่นี้จะเน้นไปที่การเรียนรู้ในเครื่องจักร

4. ทำไมต้อง Machine Leaning (Why do Machine Learning?) เข้าใจและปรับปรุง การเรียนรู้ของมนุษย์อย่างมีประสิทธิภาพ เช่น ใช้ปรับปรุงวิธีการต่างๆ ใน การสอน และการอบรม ค้นพบสิ่งใหม่ๆ หรือ โครงสร้างใหม่ๆ ซึ่งมนุษย์ไม่รู้มาก่อน เกณฑ์ที่ไม่สมบูรณ์เกี่ยวกับขอบเขตที่กว้าง, ระบบ A.I.ที่มีความซับซ้อนไม่สามารถถูกทำให้สมบูรณ์ได้ โดยใช้มือและต้องการการปรับปรุงอยู่ตลอดเวลา เพื่อรวบรวมข้อมูลใหม่ๆ เข้าด้วยกัน การเรียนรู้ถึงลักษณะเฉพาะใหม่ๆ ขยายขอบเขตหรือความชำนาญและบทเรียนที่กล่าวถึง “การไม่สามารถปรับตัวได้ของระบบ”

5. ส่วนประกอบของระบบการเรียนรู้(Components of a Learning System) Learning elementทำให้เปลี่ยนสู่ระบบพื้นฐานอย่างที่มันกำลังทำอยู่ Performance Elementเป็น agent ที่ทำงานโดยตัวมันเอง Criticจะแจ้งให้ Learning Elementทราบถึงสิ่งที่ควรจะทำ โดยเปรียบเทียบกับมาตรฐานการทำงานที่ถูกกำหนดตายตัว ProblemGeneratorจะช่วยระบุให้เห็นตัวปัญหา หรือ การกระทำซึ่งจะทำให้เกิดตัวอย่าง หรือประสบการณ์ใหม่ๆ ที่จะช่วยในเรื่องการอบรมหาระบบต่อไป

6. Why should machine have to learn? 1. มันอาจจะเป็นไปได้ที่ข้อมูลที่ซ่อนท่ามกลางกลุ่มของข้อมูลใหญ่ ที่มีความสัมพันธ์และความเกี่ยวข้องที่สำคัญ วิธี machine learning สามารถที่จะใช้ในการถอดความสัมพันธ์เหล่านี้ออกมา ( data mining ) 2. บ่อยครั้งที่มนุษย์นักออกแบบผลิตเครื่องจักรที่ไม่สามารถทำงานดีเท่ากับอยู่ในสิ่งแวดล้อมที่ออกแบบ อันที่จริงแล้วคุณลักษณะของสิ่งแวดล้อมที่ออกแบบให้ทำงานอาจจะออกแบบไม่สมบูรณ์ วิธี machine learning สามารถใช้สำหรับพัฒนาในการออกแบบเครื่องจักรที่เป็นอยู่ให้ดีขึ้นเมื่ออยู่ในสภาพแวดล้อมที่เป็นจริง 3.จำนวนของความรู้ที่มีอยู่เกี่ยวกับงานที่แน่นอน อาจจะมีมากมายสำหรับที่จะแสดงออกมาโดยมนุษย์ เครื่องจักรที่เรียนรู้ความรู้นี้ทีละเล็กทีละน้อย อาจจะสามารถจับตรงประเด็นที่ต้องการออกมา ได้มากกว่ามนุษย์ทำการเขียนลงไป 4. สิ่งแวดล้อมที่เปลี่ยน เครื่องที่สามารถเปลี่ยนไปอยู่ในสิ่งแวดล้อมที่เปลี่ยนไป จะช่วยลดความจำเป็นในการออกแบบใหม่

7. Evaluating Performance • ความหลากหลายของบรรทัดฐานสำหรับ การวัดถึงขั้นตอนในการเรียนรู้ • การพยากรณ์การแบ่งหมวดหมู่อย่างถูกต้อง • ความเร็วของผู้เรียน • ความเร็วของการแบ่งหมวดหมู่ • Spacerequirements • บรรทัดฐานที่สำคัญที่สุด คือ Predictiveaccuracy

8. การแบ่งการเรียนรู้ของเครื่อง (Machine Learning) • การเรียนรู้แบบมีผู้สอน (Supervised learning) --- อัลกอริธึมสร้างฟังก์ชันที่เชื่อมระหว่างข้อมูลเข้ากับผลที่ต้องการ • การเรียนรู้แบบไม่มีผู้สอน (Unsupervised learning) --- อัลกอริธึมสร้างโมเดลจากชุดข้อมูลเข้า • การเรียนรู้แบบเสริมกำลัง (Reinforcement learning) --- อัลกอริธึมเรียนแผนซึ่งกำหนดการกระทำของระบบจากสิ่งที่สังเกตได้ • การเรียนวิธีการเรียน (Learning to learn, Meta-learning) --- อัลกอริธึมที่เรียนวิธีการเรียนรู้ของตนเอง

9. การเรียนรู้แบบมีผู้สอน (Supervised learning) • การเรียนรู้แบบมีผู้สอน • เป็นเทคนิคหนึ่งของการเรียนรู้ของเครื่องซึ่งสร้างฟังก์ชันจากข้อมูลสอน (training data) ข้อมูลสอนประกอบด้วยวัตถุเข้า และผลที่ต้องการ • ผลจากการเรียนรู้จะเป็นฟังก์ชันที่อาจจะให้ค่าต่อเนื่อง (จะเรียกวิธีการว่า การถดถอย -- regression) • หรือ ใช้ทำนายประเภทของวัตถุ (เรียกว่า การแบ่งประเภท -- classification) • ภารกิจของเครื่องเรียนรู้แบบมีผู้สอนคือการทำนายค่าของฟังก์ชันจากวัตถุเข้าที่ถูกต้องโดยใช้ตัวอย่างสอนจำนวนน้อย (training examples -- คู่ของข้อมูลเข้าและผลที่เป็นเป้าหมาย) โดยเครื่องเรียนรู้จะต้องวางนัยทั่วไปจากข้อมูลที่มีอยู่ไปยังกรณีที่ไม่เคยพบอย่างมีเหตุผล • ตัวอย่าง (การเรียนรู้เพื่อรู้จำลายมือ)

10. การเรียนรู้แบบไม่มีผู้สอน (Unsupervised learning) • เป็นเทคนิคหนึ่งของการเรียนรู้ของเครื่อง โดยการสร้างโมเดลที่เหมาะสมกับข้อมูล การเรียนรู้แบบนี้แตกต่างจากการเรียนรู้แบบมีผู้สอน คือ จะไม่มีการระบุผลที่ต้องการหรือประเภทไว้ก่อน การเรียนรู้แบบนี้จะพิจารณาวัตถุเป็นเซตของตัวแปรสุ่ม แล้วจึงสร้างโมเดลความหนาแน่นร่วมของชุดข้อมูล

11. การเรียนรู้แบบไม่มีผู้สอน (ต่อ) • การเรียนรู้แบบไม่มีผู้สอนสามารถนำไปใช้ร่วมกับการอนุมาณแบบเบย์ เพื่อหาความน่าจะเป็นแบบมีเงื่อนไขของตัวแปรสุ่มโดยกำหนดตัวแปรที่เกี่ยวข้องให้ นอกจากนี้ยังสามารถนำไปใช้ในการบีบอัดข้อมูล ซึ่งโดยพื้นฐานแล้ว ขั้นตอนวิธีการบีบอัดข้อมูลจะขึ้นอยู่กับ การแจกแจงความน่าจะเป็นของข้อมูลไม่อย่างชัดแจ้งก็โดยปริยาย

12. การเรียนรู้แบบเสริมกำลัง (Reinforcement learning) • แนวความคิด คือ จะเรียนรู้จากสิ่งแวดล้อมรอบตัว เรียนรู้จากธรรมชาติรอบตัวที่มีอยู่ในชีวิตจริง นำมาดัดแปลงให้กับคอมพิวเตอร์ ตัวอย่างเช่น การเล่นหมากรุก จะต้องมีการทำนายล่วงหน้าว่าจะสามารถเกิดอะไรขึ้นได้ ซึ่งการเดินแต่ละครั้งอาจจะไม่เป็นผลดีต่อครั้งนั้นแต่อาจมีผลดีในครั้งต่อๆ ไปก็ได้ หรือ เกมส์ OX

13. ExampleOX-Game วิธีการง่ายก็คือ คือ การขัดขวางไม่ให้ฝ่ายตรงข้ามสามารถเขียนเรียงติดต่อกันได้ แต่ไม่ทำให้เป็นผู้ชนะได้

14. Machine Learing with AI • Machine Learning ปกติจะกล่างถึงการเปลี่ยนแปลงในระบบที่แสดงการทำงานสัมพันธ์กับ Artificial Intelligent (AI) เช่นงานที่เกี่ยวข้องกับ • Recognition การรับรู้และรู้จัก • Diagnose การวินิจฉัยโรค • Planning การวางแผน • Robot control การควบคุมหุ่นยนต์ • Prediction การทำนาย • Etc.

15. Learning in Problem Solving • เป็นวิธีการเรียนรู้จากประสบการณ์ โดยไม่จำเป็นต้องมีคำแนะนำจากผู้สอน • Learning by Parameter Adjustment • Learning with Macro-Operators • The Utility Problem

16. การเรียนโดย Parametere Adjustment • ใช้ข้อมูลจากหลายๆ แหล่ง ในการหาผลสรุป ทางสถิติ • แบ่งแยก pattern โดยรวมเอาหลายๆ คุณลักษณะมาใช้ • ในการตัดสินใจ • ยากในการให้น้ำหนัก กับแต่ละคุณลักษณะ • ตัวอย่าง โปรแกรม samuel ’s checkers ใช้ pattern • c1t1 + c2t2 + … + c16t16

17. การเรียนรู้ด้วยการทำงานของมาโครการเรียนรู้ด้วยการทำงานของมาโคร • มาโคร คือ ลำดับของการกระทำซึ่งใช้ในการแก้ใช้ปัญหาในสภาพแวดล้อมที่กำหนด • ตัวอย่างของการทำงานตามสภาพแวดล้อมที่กำหนด เช่น การเดินทางไปยังไปรษณีย์

18. การเรียนรู้ด้วยการทำงานของมาโครการเรียนรู้ด้วยการทำงานของมาโคร • ตัวอย่างวิธีการแก้ปัญหาการเดินทางไปยังไปรษณีย์ • ตัวอย่างของรายละเอียดปลีกย่อยในการทำงาน เช่น ขั้นตอนในการสตาร์ทรถ ที่จะต้องมีการทำงานย่อย ๆ ซึ่งได้แก่ การนั่งลง, ปรับกระจก, เสียบกุญแจ และบิดลูกกุญแจโดยการทำงานเหล่านี้เป็นลำดับของการกระทำซึ่งสามารถทำให้สตาร์ทรถยนต์ได้ เราจะถือว่าจะเป็น “ตัวกระทำทางมาโคร” เข้าไปในรถ สตาร์ทรถ ขับรถไปยังไปรษณีย์ (ตามเส้นทาง)

19. การเรียนรู้ด้วยการทำงานของมาโครการเรียนรู้ด้วยการทำงานของมาโคร • ได้มีการเริ่มการใช้งานตัวกระทำทางมาโครครั้งแรกในระบบแก้ไขปัญหา STRIPS • โดยในโปรแกรม STRIPS จะมีการแก้ไขปัญหาในแต่ละส่วนแล้วก็จะมีการคำนวณแผนและเก็บวิธีการแก้ปัญหาเอาไว้เป็นตัวกระทำทางมาโคร (หรือที่เรียกว่า MACROP) • โดย MACROP นั้นเป็นเหมือนกับตัวกระทำการทั่ว ๆ ไป แต่จะต่างกันตรงที่ MACROP นั้นจะมีลำดับของการกระทำเป็นขั้นตอน

20. ปัญหาทางด้านประโยชน์การใช้งานปัญหาทางด้านประโยชน์การใช้งาน • ปัญหานี้มีผลลัพธ์มาจากระบบการเรียนรู้โดยอาศัยพื้นฐานทางด้านการอธิบายความ โดยใช้ในวิธีการเพื่อที่จะตัดสินใจความมีประโยชน์ของกฎการเรียนรู้ซึ่งไม่สามารถเกิดขึ้นจริงได้ • โดยในกรณีนี้ ระบบที่มีอยู่ในปัจจุบันไม่สามารถที่จะพัฒนากฎในการเรียนรู้ได้เหมือนกับที่ EBL สามารถที่จะประยุกต์ใช้ได้ • เนื่องจากกฎดังกล่าวจำต้องทำให้เรียนรู้บ่อย แต่การเรียนรู้ดังกล่าวอาจจะส่งผลให้การทำงานของระบบช้าลงได้

21. ปัญหาทางด้านประโยชน์การใช้งานปัญหาทางด้านประโยชน์การใช้งาน • ซึ่ง Carbonell, et al.(1991) ได้ระบุถึงปัจจัยสามอย่างที่เกี่ยวของกับปัญหาด้านประโยชน์การใช้งานดังต่อไปนี้ • ความถี่ในการใช้งานโปรแกรม - ซึ่งกฎดังกล่าวนั้นอาจจะเกิดจากที่ระบุเอาไว้ซึ่งทำให้เกิดการใช้งานได้ไม่บ่อยจนสามารถที่จะทำให้เกิดประโยชน์ได้ • ต้นทุนในการหาวิธีการที่ตรงกันอย่างแม่นยำ – ซึ่งความต้องการเหล่านี้ โดยเฉพาะส่วนที่เสนอลำดับการทำงานที่มีขั้นตอนมาก ๆ อาจจะทำให้เกิดค่าใช้จ่ายในการเข้าถึงการกระทำดังกล่าวได้ที่แพงจนเกินไป • มีประโยชน์ต่ำ - เนื่องจากกฎเหล่านี้อาจจะไม่ก่อให้เกิดประโยชน์ส่วนเพิ่มในส่วนของการทำงานในการแก้ไขปัญหาได้

22. การเรียนรู้โดยการวิเคราะห์ความแตกต่างการเรียนรู้โดยการวิเคราะห์ความแตกต่าง • การเรียนรู้โดยการวิเคราะห์ความแตกต่าง ถูกพัฒนาโดย Winston ในปีคศ.1975 • ตัวอย่างสอน (training example) • ตัวอย่างบวก (positive example) • ตัวอย่าลบ (negative example)

23. Winston’s learning Program

24. Winston’s learning Program • คำอธิบายเริ่มต้น • คำอธิบายของตัวอย่างตัวที่สอง

25. Winston’s learning Program • โมเดลระหว่างวิวัฒนาการ • คำอธิบายของตัวอย่างที่สาม

26. Winston’s learning Program • โมเดลหลังรับตัวอย่างที่สาม

27. Winston’s learning Program • คำอธิบายของตัวอย่างบวกที่สี่

28. Winston’s learning Program(Algorithm)

29. Question/Answer