ΟΙΚΟΝΟΜΙΚΟ ΠΑΝΕΠΙΣΤΗΜΙΟ ΑΘΗΝΩΝ ΠΡΟΓΡΑΜΜΑ ΜΕΤΑΠΤΥΧΙΑΚΩΝ ΣΠΟΥΔΩΝ ΣΤΗΝ ΕΠΙΣΤΗΜΗ ΤΩΝ ΥΠΟΛΟΓΙΣΤΩΝ

ΟΙΚΟΝΟΜΙΚΟ ΠΑΝΕΠΙΣΤΗΜΙΟ ΑΘΗΝΩΝ ΠΡΟΓΡΑΜΜΑ ΜΕΤΑΠΤΥΧΙΑΚΩΝ ΣΠΟΥΔΩΝ ΣΤΗΝ ΕΠΙΣΤΗΜΗ ΤΩΝ ΥΠΟΛΟΓΙΣΤΩΝ Διπλωματική Εργασία Μεταπτυχιακού Διπλώματος Ειδίκευσης«Σχεδίαση και υλοποίηση έξυπνου συστήματος γιαανάλυση και αξιολόγηση δεδομένων από αισθητήρες χώρου»ΠΑΠΑΜΑΤΘΑΙΑΚΗΣ Ι. ΓΕΩΡΓΙΟΣΕπιβλέπων: ΠΟΛΥΖΟΣ ΓΕΩΡΓΙΟΣ2ος Αξιολογητής: ΞΥΛΩΜΕΝΟΣ ΓΕΩΡΓΙΟΣ

Εισαγωγή • Ένα «έξυπνο περιβάλλον» οφείλει να παρέχει τη δυνατότητα ενίσχυσης ατόμων με ψυχικά και σωματικά προβλήματα, με την παροχή υπηρεσιών που κάνουν τη ζωή τους πιο άνετη και παραγωγική. • Σκοπός μας είναι ο σχεδιασμός ενός έξυπνου περιβάλλοντος, που θα προσαρμόζεται στους κατοίκους του: • Θα κατανοεί τις δραστηριότητές τους και θα βοηθά στην ολοκληρωμένη πρόληψη πιθανών παραλήψεων (π.χ. παράληψη της φαρμακευτικής αγωγής). • Θα προβλέπει την επόμενη κίνηση εκτός σπιτιού, ώστε να ενεργεί προληπτικά για την αποφυγή επικίνδυνων καταστάσεων

Μέρος 1οΑναγνώριση Δραστηριοτήτων εντός Σπιτιού

Διαθέσιμα Δεδομένα Γεγονότα Δραστηριότητες

Διαθέσιμα Δεδομένα Παράδειγμα

Τάξη Δραστ/τητα Κ1 Κ2 Κ3 Α1 Α2 Α3 Α Β ΑναγνώρισηΔραστηριοτήτωνΚατηγοριοποίηση Δεδομένων (Classification)  Αρχική Ιδέα:Συνδυασμός των αισθητήρων (που εμφανίζονται στις δραστηριότητες) μαζί με το πλήθος των εμφανίσεών τους σε κάθε δραστηριότητα (π.χ. ο αισθητήρας της τηλεόρασης ενεργοποιείται 4 φορές σε μια δραστηριότητα «Παρακολούθηση Τηλεόρασης»). Μέθοδοι Κατηγοριοποίησης • Μέθοδοι Bayes, Δέντρα Απόφασης,Νευρωνικά Δίκτυα και άλλα... Naïve Bayesian • O κατηγοριοποιητής Naive Bayesian θα εξετάσει κάθε ένα από αυτά ταχαρακτηριστικά κάθεκατηγορίας χωριστά και όχι την ταυτόχρονη συνύπαρξη των χαρακτηριστικών

ΑναγνώρισηΔραστηριοτήτωνΚατηγοριοποίηση Δεδομένων (Classification) Δέντρο Απόφασης J48 • Ο αλγόριθμος δημιουργεί δέντρα απόφασης από ένα σύνολο δεδομένων εκπαίδευσης, χρησιμοποιώντας την έννοια της εντροπίας πληροφοριών. • Το κέρδος πληροφορίας για τον τεμαχισμό ενός κόμβου, υπολογίζεται σαν η διαφορά μεταξύ της αναμενόμενης πληροφορίας στον κόμβο t πριν τον τεμαχισμό I, και μετά τον τεμαχισμό E: Gain = I – E

ΑναγνώρισηΔραστηριοτήτωνΚατηγοριοποίηση Δεδομένων (Classification) Προσομοίωση Κατηγοριοποίησης (με J48) • Χρήση του εργαλείου Weka • Αναπαράσταση εισόδου : • Αναπαράσταση εξόδου :

ΑναγνώρισηΔραστηριοτήτωνΚατηγοριοποίηση Δεδομένων (Classification) Πειραματικά Αποτελέσματα

Χρονικές Σχέσειςγεγονότων Πίνακας Χρονικών Σχέσεων του Allen • Οι χρονικοί κανόνες του Allen (Allen’s temporal rules) καθορίζουν τη σχέση μεταξύ δύο γεγονότων Χ και Υ (στην περίπτωσή μας μεταξύ δύο αισθητήρων). • Οι χρονικές σχέσεις με κόκκινο χρώμα, αποτελούν τις πιο σημαντικές σχέσεις και αυτές θα χρησιμοποιήσουμε ...

Κανόνες ΣυσχέτισηςΟρισμοί • Κανόνας Συσχέτισης (Association Rule) Είναι μια έκφραση της μορφής : X →Y όπου X και Y είναι στοιχειοσύνολα : Χ Ι, Υ Ι, Χ ∩ Υ =  • Υποστήριξη Κανόνα (Support (s)) Το ποσοστό των δοσοληψιών που περιέχουν και το X και το Y (Χ Υ) • Εμπιστοσύνη (Confidence (c)) Πόσες από τις δοσοληψίες (ποσοστό) που περιέχουν το Χ περιέχουν και το Υ (Η Εμπιστοσύνη μετράει την αξιοπιστία του Κανόνα Συσχέτισης)

ΑναγνώρισηΔραστηριοτήτωνΧρήση Κανόνων Συσχέτισης Τα Βήματα της Μεθόδου • Εύρεση Χρονικών Σχέσεων μεταξύ γεγονότων • Εξόρυξη Κανόνων Συσχέτισης • Κανόνες Συσχέτισης • Εμπιστοσύνηκάθε κανόνα • Αναγνώριση Δραστηριοτήτων • Εμφάνιση σημαντικότερων Χρονικών Σχέσεων (προκύπτουν από τους κανόνες συσχέτισης) • Χρήση Εμπιστοσύνης  βαθμός Σπουδαιότητας δραστηριότητας (RankingScore)

ΑναγνώρισηΔραστηριοτήτωνΧρήση Κανόνων Συσχέτισης Αλγόριθμος εύρεσης χρονικών σχέσεων γεγονότων Έναρξη Λήξη # Αισθητήρα 13624 19148137 15939 18176 109  “109 DURING 137” • Τελικά, μορφοποιούμε όλα τα γεγονότα των δεδομένων, με τη χρήση χρονικών σχέσεων... • Επόμενο βήμα, οι Κανόνες Συσχέτισης ...

ΑναγνώρισηΔραστηριοτήτωνΧρήση Κανόνων Συσχέτισης Εξόρυξη Κανόνων Συσχέτισης • Αλγόριθμος Brute Force(δημιούργησε όλους τους πιθανούς συνδυασμούς) με support≥minsupκαι confidence≥minconf • Αλγόριθμος Apriori(δημιούργησε όλα τα συχνά στοιχειοσύνολα μήκους k) με support≥minsupκαι confidence≥minconf • Χρήση του εργαλείου Weka  Δεδομένα Εισόδου: • S_141-S_98,DURING • S_137-S_141,AFTER • S_141-S_137,DURING  Δεδομένα Εξόδου: • S_141-S_98 3 => DURING 3 conf:(1) 3 / 3 • S_137-S_141 3 => AFTER 3 conf:(1) 3 / 3 • S_141-S_137 5 => DURING 4 conf:(0.8) 4 / 5

ΑναγνώρισηΔραστηριοτήτωνΧρήση Κανόνων Συσχέτισης Παράδειγμα S_141- S_141(29)Relation=AFTER (20) conf (0.68): 20/29 Αισθητήρες : 141 , 141 Χρονική Σχέση : AFTER Εμπιστοσύνη : 0.68 • Αν για μια δραστηριότητα : ο κανόνας εμφανίζεται 5 φορές5*conf (0.68) = 3.4Βαθμός Σπουδαιότητας • Έστω ότι εμφανίζονται οι κανόνες: • S_141-S_141 29  Relation=AFTER 29 conf:(1)[ 3 εμφανίσεις ] • S_137-S_137 5  Relation=AFTER 4 conf:(0.8)[ 2 εμφανίσεις ]  Συνολικός Βαθμός Σπουδαιότητας : 3*1 + 2*0.8 = 4.6 (για τη δραστηριότητα) «Η δραστηριότητα με τον μεγαλύτερο Βαθμό Σπουδαιότητας, είναι η επικρατέστερη!»

Πειραματικά ΑποτελέσματαΑναγνώρισης Δραστηριοτήτων

ΑναγνώρισηΔραστηριοτήτωνΧρήση Κανόνων Συσχέτισης1ο Σύνολο Δεδομένων (Σπίτι Νο 1) • Η δραστηριότητα Toiletingδεν έδωσε εξίσου καλή ακρίβεια και το γεγονός αυτό οφείλεται στην αστάθεια των δειγμάτων. • Λύση • Να λάβουμε υπόψη μας και τους λιγότερο σημαντικούς κανόνες συσχέτισης... Γεγονός αντίθετο από την υπόθεση της μεθόδου μας (με τους σημαντικότερους κανόνες να αναγνωρίσουμε τις δραστηριότητες). • Παρόλα αυτά, τα αποτελέσματα ακρίβειας αναγνώρισης, για μια εβδομάδα εκπαίδευσης, ήταν πολύ παραπάνω από τα αναμενόμενα!

ΑναγνώρισηΔραστηριοτήτωνΧρήση Κανόνων Συσχέτισης2ο Σύνολο Δεδομένων (Σπίτι Νο 2) • Οι δραστηριότητες Preparing Lunch και Listening Music μόλις που ξεπερνούν το ποσοστό ακρίβειας 50%. • Εξήγηση • Οι δύο δραστηριότητες περιέχουν γεγονότα που υπάρχουν και σε άλλες δραστηριότητες !!! • Παράδειγμα • Μαζί με τη δραστηριότητα Listening Music, μπορεί κάποιος να ετοιμάζει ταυτόχρονα κάτι στην κουζίνα ή να επισκεφτεί το μπάνιο. • Η Preparing Lunch σημειώνει πολύ άσχημα ποσοστά λόγω της Preparing Breakfast...

ΑναγνώρισηΔραστηριοτήτωνΣυγκριτικά Αποτελέσματατων δύο Μεθόδων

Αναγνώριση ΔραστηριοτήτωνΣυμπεράσματα • Η μέθοδος των Κανόνων Συσχέτισης αποτελεί καλύτερη επιλογή από την Κατηγοριοποίηση (μπορεί να φτάσει σε πολλές περιπτώσεις στο ποσοστό ακρίβειας 100%) • Το χαμηλό ποσοστό επιτυχίας για κάποιες δραστηριότητες, μπορεί να βελτιωθεί με κατάλληλη διαχείριση των δεδομένων. • Η πρώτη μέθοδος μπορεί να δώσει καλά αποτελέσματα αλλά με μεγαλύτερη δυσκολία από τους κανόνες συσχέτισης. • Καλή ιδέα αποτελεί το πάντρεμα των δύο αυτών τεχνικών και η χρήση των σημαντικότερων πλεονεκτημάτων της κάθε μιας. • Η μέθοδος των Κανόνων Συσχέτισης είναι πιο ευέλικτη και προσαρμόσιμη σε ένα δυναμικό περιβάλλον, όπως αυτό του «έξυπνου σπιτιού».

Μέρος 2οΠρόβλεψη Κίνησης εκτός Σπιτιού

Εισαγωγή • Ανάπτυξη ενός location predictorμε χρήση Νευρωνικών Δικτύων, ο οποίος θα συμβάλλει με τον καλύτερο δυνατό τρόπο στην παρακολούθηση και πρόβλεψη των ενεργειών του ατόμου εκτός σπιτιού. • Γιατί είναι χρήσιμος; • Οι κινητές συσκευές με ενσωματωμένο GPS έχουν μπαταρίες με χαμηλή διάρκεια ζωής • Αποφυγή προβλημάτων και δυσάρεστων καταστάσεων για άτομα με ειδικές ανάγκες, όπως είναι η απώλεια μνήμης.

Μοντέλο του Νευρωνικού Δικτύου • Το νευρωνικό δίκτυο είναι ένα δίκτυο από υπολογιστικούς κόμβους (νευρώνες), συνδεδεμένους μεταξύ τους. • Στο μαθηματικό μοντέλο των νευρωνικών δικτύων υπάρχουν κομβικά σημεία (nodes) στα οποία καταλήγουν συνδέσεις από άλλους κόμβους του δικτύου, όπου αποδίδεται κάποιο βάρος. • Πρακτικά, ένα νευρωνικό δίκτυο βελτιστοποιεί μία συνάρτηση, σύμφωνα με κάποιους περιορισμούς.

Προηγούμενη Εργασία(Petri Mahönen) • θεωρούμε ότι η κίνηση του χρήστηυπακούει σε κάποιο μοντέλο κινητικότητας (straightforward, zigzag, random) μέσα σε ένα δίκτυο κυψελών • Με βάση λοιπόν, το αντίστοιχο μοντέλο κινητικότητας προβλέπουμε κάθε φορά την πιθανή επόμενη κίνηση του χρήστη σε κάποιο κύτταρο του δικτύου.

Προηγούμενη Εργασία(Petri Mahönen) • Mε τη χρήση ενός νευρωνικού δικτύου(backpropagation neural network), επεξεργαζόμαστε τα δεδομένα της κίνησης του χρήστη και δημιουργούμε μηχανισμό πρόβλεψης για την κίνηση του χρήστη. • Το πλήθος των νευρώνων της εισόδου μπορεί να ποικίλει ανάλογα τον τύπο της κίνησης του χρήστη. • όσο πιο πολύπλοκο μοντέλο τόσο πιο πολλές εισόδους νευρώνων για καλύτερη εκμάθηση και αποτελέσματα.

Προηγούμενη Εργασία(Petri Mahönen) • Υπομοντέλο κίνησης Pn = {p1, p2, …, pn}, • pi: κατεύθυνση που έχει ακολουθήσει ο χρήστης στο βήμα iτης κίνησής του • Τα δεδομένα για το νευρωνικό αποτελούν γεωγραφικές κατευθύνσεις, με το πρότυπο: • {North, NorthEast, East, SouthEast, South, SouthWest, West, NorthWest, N/A} • Αντιστοιχεί στο σύνολο D={1, 2, 3, 4, 5, 6, 7, 8, 9}

Υλοποίηση – Βασικές Υποθέσεις • Ζητούμενο είναι να ακολουθήσουμε την ίδια διαδικασία που περιγράψαμε πιο πάνω (για ασύρματο δίκτυο με κυψέλες), αλλά αυτή τη φορά σε δίκτυο ασύρματο με access points. • Τα σημεία πρόσβασης για το ασύρματο δίκτυο έχουν θεωρητικά την ίδια πιθανότητα επισκεψιμότητας από τον χρήστη σε κάθε βήμα. • Στην προηγούμενη εργασία, προβλεπόταν μόνο η κατεύθυνση κίνησης, ενώ τώρα προβλέπουμε ακριβές σημείο επίσκεψης του ατόμου (δηλ. ακριβές AP). • Υλοποιήσαμε ένα διπλό νευρωνικό δίκτυο, που προβλέπει την κατεύθυνση κίνησης και κατόπιν επιλέγει το ακριβές σημείο με βάση την κατεύθυνση και το ιστορικό κίνησης.

Πειραματικά ΑποτελέσματαΣύγκριση Διαφορετικών order Σύγκριση διαφορετικών order για μέτριο χρήστη

Πειραματικά ΑποτελέσματαΑκριβής Πρόβλεψη Σημείου Το μοτίβο κίνησης ενός ατόμου με προβλήματα, θα ακολουθεί πιθανότατα μια από τις πιο πάνω μορφές κίνησης

Συμπεράσματα • Η τελική ακρίβεια πρόβλεψης του συστήματος (κόκκινο χρώμα) συμπίπτει σχεδόν με την ακρίβεια πρόβλεψης της κατεύθυνσης (μπλε χρώμα). • Το σύστημα ξεκινά να αποδίδει αμέσως και ανεβάζει σταδιακά την απόδοσή του, γεγονός που οφείλεται στη συνεχή εκπαίδευση του συστήματος (για όλα τα δεδομένα). • Για περίπου 50 δείγματα το σύστημα αρχίζει και σταθεροποιεί την απόδοσή του. • Πετυχαίνει πολύ καλά αποτελέσματα πρόβλεψης, με ελάχιστα μόνο δείγματα κίνησης. • Η τυχαία κίνηση δεν έχει το ίδιο καλά ποσοστά (περίπου 40%), κάτι που όμως ήταν αναμενόμενο.

Μελλοντική Έρευνα • Αναγνώριση των δραστηριοτήτων : • Πρέπει να λύσουμε τα προβλήματα που δημιουργεί η φύση των δεδομένων μας (φαινόμενα λανθασμένης αναγνώρισης δραστηριοτήτων) • Μελέτη άλλων μεθόδων, ώστε να έχουμε μια πιο ολοκληρωμένη άποψη για την βέλτιστη επιλογή. • Μελέτη μεθόδων για την εύρεση μοτίβων καθημερινών ενεργειών του ατόμου, π.χ. χρήση αλγόριθμων Voting (Voting algorithms for discovering long motifs). • Πρόβλεψη της κίνησης: • Χρήση Πραγματικών δεδομένων από GPS. • Μελέτη άλλων μεθόδων για πρόβλεψη, π.χ. χρήση των SVM (Support Vector Machines).

Βιβλιογραφία [1]The Use of Time. Daily Activities of Urban and Suburban Populations in Twelve Countries. Mouton, The Hague, 1973. Edited by Alexander Szalai. [2]Activity Recognition in the Home Using Simple and Ubiquitous SensorsEmmanuel Munguia Tapia Stephen S. Intille Kent Larson, Massachusetts Institute of Technology [3]Mining Sensor Data in Smart Environment for Temporal Activity Prediction Vikramaditya Jakkula, Diane J. Cook, Washington State University [4]http://courses.media.mit.edu/2004fall/mas622j/04.projects/home/ [5]Actions and Events in Interval Temporal Logic. James F. Allen, and George Ferguson, Technical Report 521, July 1994. [6]Event detection from time series data.Guralnik V. and Srivastava J. Proceedings of fifth ACM SIGKDD international conference on knowledge discovery and data mining, California, US, pp 33-42, 1999.

Βιβλιογραφία [7] Knowledge Discovery in Databases: An overview, W. Frawley, G. Paitesky-Shapiro, C. Matheus, AI Magazine, Vol 13n. 3 (57-70). 1992. [8] Learning temporal relations in smart home data, Vikramaditya Jakkula, and Diane J. Cook, Proceedings of the second International Conference on Technology and Aging,Canada, June 2007. [9] Sandia National Laboratories, Jess Rule Engine, Available at: http://herzberg.ca.sandia.gov/jess/ [10] Towards a Rule-Based Approach for Context-Aware Applications.Laura Daniele, Patrícia Dockhorn Costa, and Luís Ferreira Pires, Centre for Telematics and Information Technology, University of Twente, Enschede, The Netherlands [11] Empowering the User to Build Smart HomeApplications.Tao ZHANG, Bernd BRÜGGE Technische Universität München [12] Predictability of WLAN mobility and its effects on bandwidth provisioning, Libo Song, Udayan Deshpande, Ulas¸ C. Kozat, David Kotz, and Ravi Jain, in Proceedings of the 25th Annual Joint Conference of the IEEE Computer and Communications Societies (INFOCOM), Barcelona, Spain, April 2006, IEEE Computer Society Press.

Βιβλιογραφία [13] Evaluating Next-Cell Predictors with Extensive Wi-Fi Mobility Data. Libo Song, David Kotz, Ravi Jain, and Xiaoning He [14] A Next-Move Prediction Algorithm for Implementation of Selective Reservation Concept in Wireless Networks, M. Stoyanova, P. Mähönen, in Proceedings of the 18th IEEE Annual International Symposium on Personal Indoor and Mobile Radio Communications (PIMRC 2007), Athens, Greece September 2007 [15] CRAWDAD trace set dartmouth/campus/movement (v.2005-03-08), David Kotz, Tristan Henderson, and Ilya Abyzov, Downloaded from : http://crawdad.cs.dartmouth.edu/dartmouth/campus/movement [16] Sleeping patterns and mortality among elderly patients in geriatric hospitals. K.Manabe, T. Matsui, M. Yamaya, T. Sato-Nakagawa, N. Okamura, H. Ari, andH.Sasaki, Gerontology, 46:318–322, 2000. [17] Recognition of emergent human behavior in a smart home: A data mining approach, Luhr S., Journal of Pervasive and Mobile Computing, vol. 3 (2007) [18] Multi-model emotive computing in a smart house environment. Journal of Pervasive and Mobile Computing, Moncrieff S., vol. 3 (2007) Inhabitant Guidance of Smart Environments 919

ΟΙΚΟΝΟΜΙΚΟ ΠΑΝΕΠΙΣΤΗΜΙΟ ΑΘΗΝΩΝ ΠΡΟΓΡΑΜΜΑ ΜΕΤΑΠΤΥΧΙΑΚΩΝ ΣΠΟΥΔΩΝ ΣΤΗΝ ΕΠΙΣΤΗΜΗ ΤΩΝ ΥΠΟΛΟΓΙΣΤΩΝ