Μέθοδοι Μελέτης της Υπολογιστικής Νοημοσύνης

1. Μέθοδοι Μελέτης τηςΥπολογιστικής Νοημοσύνης • Τεχνητά νευρωνικά δίκτυα (Artificial neural networks) • Εμπειρογνώμονα συστήματα (Expertsystems) (Rule-based, Case-based) • Τεχνητή ζωή (Artificial life) • Γενετικοί αλγόριθμοι (Genetic algorithms) • Ασαφής λογική (Fuzzy logic)

2. ΜΕΘΟΔΟΙ ΥΠΟΛΟΓΙΣΤΙΚΗΣ ΝΟΗΜΟΣΥΝΗΣ Εμπειρογνώμονα συστήματα (ΕμΣ) (expertsystems, rule-based reasoning) Συλλογιστική των περιπτώσεων (ΣΠ) (case-based reasoning) Ασαφή Συστήματα(ΑΣ) (fuzzy systems) Τεχνητά νευρωνικά δίκτυα (ΤΝΔ) (artificial neural networks) Τεχνητή ζωή (ΤΖ) (artificial life) Εξελικτικά συστήματα (ΕΣ) (evolutionary systems, genetic algorithms, co-evolutionary robotics, evolvable hardware, …)

3. ΤΕΧΝΗΤΑ ΝΕΥΡΩΝΙΚΑ ΔΙΚΤΥΑ (ΤΝΔ)

4. Άλλα ονόματα που προτάθηκαν και χρησιμοποιούνται: • Artificial Neural Systems • Parallel Distribution Processing Systems • Connectionist Systems • Neurocomputing Systems • Adaptive Networks • Associative Networks • Collective Computation Systems • Neuromorphic Systems

5. ΓΕΝΙΚΗ ΕΠΙΣΚΟΠΗΣΗ ΤΩΝ ΤΝΔ • Είναι ευέλικτα, μη-γραμμικάσυστήματα πολλών συνεργαζόμενων επεξεργαστών που εκδηλώνουν στοιχεία έξυπνης συμπεριφοράς και, μεταξύ άλλων, βοηθούν στη: • Μελέτη βιολογικών ιδιοτήτωνκαι συμπεριφορών. • Μελέτη δυναμικών συστημάτων και συστημάτων ελέγχου. • Επεξεργασία δεδομένων, σημάτων, εικόνων, … • Ανάπτυξη προσαρμοζόμενων συστημάτων επεξεργασίας σήματος. • Αντιστοίχηση(mapping)και διακρίβωση σχέσεων μεταξύ μεταβλητών. • Πρόγνωση φαινομένων και συμπεριφορών. • Διάγνωσηασθενειών, ανωμαλιών, …

6. Αποτελούνται από πολλούς τεχνητούς νευρώνες που είναι συνδεδεμένοι μεταξύ τους σε ένα οργανωμένο σύνολο στο οποίο υπάρχει αλληλοεπικοινωνία και αλληλοεπίδραση (συλλειτουργία). Συνήθως υπάρχει πρόνοια για πληροφορίες εισόδου. Στην έξοδο, οι επεξεργασμένες πληροφορίες πρέπει να είναι όσο γίνεται οι επιθυμητές. Ομάδες νευρώνων μπορεί να οργανωθούν σε επίπεδα(layers) ή στρώματα (ή στοιβάδες) (slabs). Για να μπορέσει ένα δίκτυο να εκδηλώσει την ενδιαφέρουσα συμπεριφορά που επιδιώκουμε να δούμε, χρειάζεται να περάσει από κατάλληλη φάση μάθησης.

7. Κρυμμένο επίπεδο 1, με n1 νευρώνες Κρυμμένο επίπεδο 2, με n2 νευρώνες Κρυμμένο επίπεδο 3, με no νευρώνες Σ Σ Σ f(.)[2]1 a[1]1 Επίπεδο Εξόδου Επίπεδο Εισόδου f(.)[3]1 u[2]1 a[2]1 Σ x1 x2 . . . xN a[1]2 u[3]1 u[1]1 u[2]2 a[2]2 y1 y2 . . . yNo Σ Σ u[3]2 u[1]2 … … Σ u[3]n0 … u[2]n2 a[2]n2 f(.)[3]n0 Σ Σ a[1]n1 u[1]n1 ΤΥΠΙΚΗ ΓΡΑΦΙΚΗ ΔΟΜΗ ΤΝΔ

8. ΜΕΡΙΚΕΣ ΧΡΗΣΙΜΕΣ ΙΔΙΟΤΗΤΕΣ ΤΩΝ ΤΝΔ • Γενίκευση:(Generalization) • Μπορούν να εκδηλώσουν/εισηγηθούν γενικευμένα συμπεράσματα για σχέσεις (ή κατανομές) που δεν έχουν διδαχτεί προηγουμένως. • Ευρωστία:(Robustness) • Παρουσιάζουν ανθεκτικότητα, σταθερότητα. • Δηλαδή συνεχίζουν να συμπεριφέρονται ικανοποιητικά, έστω και αν αφαιρεθούν νευρώνες από το δίκτυο. • Ανεκτικότητα σε λάθη:(Fault tolerance) • Παρόλο που τα δείγματα εισόδου μπορεί να είναι ασαφή, το σύστημα εξακολουθεί να τα επεξεργάζεται ικανοποιητικά. • Δυνατότητα εκδήλωσης αναδυόμενων ιδιοτήτων: • Μέσα από τη χρήση απλών τοπικών κανόνων(localrules) παρουσιάζεται μια γενική(global)αναδυόμενη συμπεριφορά.

9. ΒΙΟΛΟΓΙΚΟΙ ΝΕΥΡΩΝΕΣ ΛΕΠΤΟΜΕΡΕΣΤΕΡΗ ΕΠΙΣΚΟΠΗΣΗ • Είναι τα κύρια δομικά στοιχεία (κύτταρα) του εγκεφάλου • Είναι πολύ πιο αργοί από τις συνηθισμένες λογικές πύλες πυριτίου. • Οι πληροφορίες μέσα σε νευρώνα κωδικοποιούνται με ηλεκτροχημικές διαδικασίες.

10. ΣΥΝΑΨΗ (Synapse) Δενδρίτης (Dendrite of receiving neuron) ΝΕΥΡΙΤΗΣ (Αxon of sending neuron) ΠΥΡΗΝΑΣ (Nucleus) ΕΚΦΥΤΙΚΟΣ ΚΩΝΟΣ (AXON HILLOCK) INITIAL SEGMENT (TRIGGER ZONE) ΠΕΡΙΣΦΙΞΕΙΣ ΤΟΥ RANVIER Node of ranvier ΠΕΡΙΒΛΗΜΑ (Μyelin sheath) ΝΕΥΡΙΤΗΣ ή ΝΕΥΡΟΑΞΩΝΑΣ (Αxon or nerve fiber) Diameter: 0.5 - 22 μm in vertebrate 500 - 1000 μm in the squid giant axon DENDRITE OF RECEIVING NEURON Βιολογικός νευρώνας - λεπτομέρειες ΣΩΜΑ ή ΠΕΡΙΚΑΡΥΟ Cell body (soma) Internal voltage  - 60 to - 80 mV ΜΕΜΒΡΑΝΗ (Membrane) Thickness  5 to 10 nm = 0.000005 to 0.00001 mm Capacitance  0.944 μF/cm2 Field intensity  12000000 V/m = 120 kV/cm

11. Διάφοροι βιολογικοί νευρώνες Βιολογικός νευρώνας με μεγάλο νευροάξονα Νευρώνας Purkunjeτου cerebellum

12. Μετάδοση πληροφορίας Βιολογικό νευρωνικό δίκτυο (Brain) Υποδοχέας (Receptor) Εκτελεστής (Effector) Ερέθισμα (Stimulus) Αποτέλεσμα (Response) π.χ. Φώς στον οφθαλμό, Πίεση στο δάκτυλο π.χ. Κλείσιμο του ματιού, Πόνος

13. ΕΓΚΕΦΑΛΟΣ - ΝΕΥΡΙΚΟ ΣΥΣΤΗΜΑ Τα βιολογικά νευρωνικά δίκτυα είναι μη-γραμμικά υπολογιστικά συστήματα που χαρακτηρίζονται από υψηλόβαθμό παραλληλίας, ευρωστία και ανοχή σε σφάλματα. Έχουν τη δυνατότητα να μαθαίνουν, να γενικεύουν και να χειρίζονται ασαφείς, ανακριβείς ή θορυβώδεις πληροφορίες. Υπολογίζεται ότι το συνολικό μήκος των συνδέσεων στον εγκέφαλο είναι περίπου 109 μέτρα, που είναι περίπου 25 φορές η περίμετρος της γης!

14. ΣΤΟΙΒΑΔΑ LAYER ΣΤΟΙΒΑΔΑ LAYER ΣΤΟΙΒΑΔΑ LAYER Οργάνωση βιολογικού νευρικού συστήματος

15. Τεχνητοί Νευρώνες • Ονομάζονται επίσης: • τεχνητά νευρώνια(artificial neurons) • ή μονάδες(units) • ή στοιχείαεπεξεργασίας(processing elements) • Τα κύρια χαρακτηριστικά τους είναι: • Έχουν πολλέςεισόδους – μία έξοδο(MISO) • Είναι μη-γραμμικά(non-linear) • Έχουν προσαρμοστικότητα(adaptivity)

16. Τεχνητοί Νευρώνες Υπάρχουν υπολογιστικοί(software) και υλισμικοί(hardware) Οι υλισμικοί θα μπορούσαν να είναι: Ηλεκτρονικοί, χημικοί, οπτικοί, μηχανικοί, ... Έχουν ομοιότητα με τα κυτταρικά αυτόματα (cellularautomata).

17. w1 Αθροιστής x1 w2 x2 Δεδομένα Εισόδου  wN xN Συναπτικά Βάρη Απλό μοντέλο τεχνητού νευρώνα Σώμα Δεδομένα Εξόδου y Συνάρτηση Δραστηριοποίησης (ή μεταφοράς, ή ενεργοποίησης), f(.)

18. Έξοδος στο περιβάλλον, ή σε άλλους νευρώνες Σύστημα μάθησης που προσαρμόζει τις διάφορες παραμέτρους ΔΙΑΝΟΜΕΑΣ Υποσύστημα δράσεων-αναδράσεων h(.) ΓΕΝΙΚΗ ΔΟΜΗ ΕΝΟΣ ΤΕΧΝΗΤΟΥ ΝΕΥΡΩΝΑ(General form of a single-neuron model) Πληροφορίες εισόδου, από το περιβάλλον, ή από άλλους νευρώνες PRE-ACCUMULATOR PROCESSING (Subsystem of functional and dynamical processors) (including cross-correlations), p1(.) POST-ACCUMULATOR PROCESSING (Subsystem of functional and dynamical processors), p2(.) Κύριος Συσσωρευτής

19. Γενικά Αλγόριθμοι για βελτιστοποίηση και για αναζήτηση. Optimization and search algorithms. Μελετήθηκαν αρχικά κυρίως από τον John Holland του Πανεπιστημίου Μίσιγκαν τη δεκαετία ’70. Originally studied by John Holland of the University of Michigan at Ann Arbor back in the 1970’s. Προσομοιάζουν σε μεγάλο βαθμό τις διαδικασίες της φυσικής βιολογικής εξέλιξης. Simulating the biological evolutionary processes ΓΕΝΕΤΙΚΟΙ ΑΛΓΟΡΙΘΜΟΙ(Genetic Algorithms)

20. Μεταξύ πολλών άλλων χρησιμοποιούνται κυρίως σε: Mainly used in: Βελτιστοποίηση συναρτήσεων Functionoptimization Επιχειρησιακή έρευνα Operations research Μάθηση τεχνητών νευρωνικών δικτύων Learning in artificial neural networks Εξέλιξη νέων τοπολογιών τεχνητών νευρωνικών δικτύων Evolution of new artificial neural network architectures Εξέλιξη ασαφών κανόνων Evolution of fuzzy rules ΓΕΝΕΤΙΚΟΙ ΑΛΓΟΡΙΘΜΟΙ(Genetic Algorithms)

21. ΓΕΝΕΤΙΚΟΙ ΑΛΓΟΡΙΘΜΟΙ(Genetic Algorithms) Έχουν πάρει μεγάλη ανάπτυξη λόγω κυρίως της απλότητας τους, της εφαρμογής τους σε μεγάλα προβλήματα βελτιστοποίησης, της ικανότητας τους να βρίσκουν καθολικές (global) λύσεις και της πληθώρας εφαρμογών. They have developed extensively due to their simplicity, their capability to handle large optimization problems, their capacity to search for global solutions and their diverse areas of applications. Σταδιακά εισήχθησαν και άλλες παρόμοιες τεχνικές από πολλούς άλλους επιστήμονες. Gradually many more similar techniques have been proposed.

22. ΓΕΝΕΤΙΚΟΙ ΑΛΓΟΡΙΘΜΟΙ(Genetic Algorithms) Γενικότεροι όροι είναι οι εξελισσόμενη υπολογιστική (Evolutionary Computation - EC), ή εξελισσόμενοι αλγόριθμοι (EvolutionaryAlgorithms - EA). Περιλαμβάνουν τους: Γενετικούς Αλγορίθμους (Genetic Algorithms - GA) Γενετικό Προγραμματισμό(Genetic Programming - GP) Εξελισσόμενο Προγραμματισμό(Evolutionary Programming - EP) Εξελισσόμενο Υλισμικό(Evolutionary hardware - EHW) Εξελισσόμενες Στρατηγικές(Evolutionary Strategies - ES) Συστήματα Μάθησης Προτύπων(Learning Classifier Systems - LCS)

23. Βασικές αρχές • Γενική διαδικασία: •  Δημιουργία πληθυσμού • Υπολογισμός της ποιότητας του κάθε ατόμου • Δημιουργία απογόνων χρησιμοποιώντας τους καλύτερους γονείς • Χρήση γενετικών τελεστών για βελτίωση του νέου πληθυσμού • Πίσω στο στάδιο • General Procedure • 1. Initialize a population • 2. Calculate the fitness for each individual in the population • 3. Reproduce selected individuals to form a new population • 4. Perform evolutionary operations, such as crossover and mutation • 5. Loop to step 2 until some condition is met ΒΑΣΙΚΗ ΔΟΜΗΓΑ(Basic Procedure of GAs)

24. ΒΑΣΙΚΗ ΔΟΜΗ ΓΑ(Basic Procedure of GAs) • Κάθε παράμετρος του προβλήματος κωδικοποιείται με κατάλληλο τρόπο. Συνήθως χρησιμοποιείται κωδικοποίηση ανάλογη με τη βιολογική που παρουσιάζεται στα γονίδια των χρωμοσωμάτων. Χρησιμοποιείται σειρά συμβόλων από ένα μικρό σύνολο, π.χ. ακολουθία 1001010010100... The variables are coded in a manner similar to genes on a chromosome. A set of appropriate symbols may be used. e.g. 1001010010100... • Το μήκος της ακολουθίας καθορίζεται ανάλογα με πόση λεπτομέρεια θέλουμε να κωδικοποιήσουμε τις λύσεις. The size of the strings is so selected that it represents the features in the desired degree of precision.

25. ΒΑΣΙΚΗ ΔΟΜΗ ΓΑ(Basic Procedure of GAs) • Οι κωδικοποιημένες παράμετροι συνδυάζονται (ενώνονται) για να δημιουργήσουν μέρος μιας πιθανής ακολουθίας-λύσης (άτομο), που παρουσιάζεται ως μια ακολουθία συμβόλων. The coded variables are joined to produce a candidate solution-string, which is part of a solution. • Κάθε συνδυασμός αντιπροσωπεύει ένα πιθανό αποτέλεσμα-λύση. Every combination represents the input to the problem that can result in a candidate solution. • Κάθε συνδυασμός πρέπει να έχει κάποια χαρακτηριστικά που να είναι αντιπροσωπευτικά των παραμέτρων του προβλήματος. Every combination must capture some of the essential properties of the system.

26. ΒΑΣΙΚΗ ΔΟΜΗ ΓΑ(Basic Procedure of GAs) • Δημιουργείται ένα σύνολο (πληθυσμός) από πιθανές ακολουθίες-λύσεις. Αυτές συνήθως επιλέγονται τυχαία ή με μικροαλλαγές (perturbations) ενός αρχικού πληθυσμού . A set of randomly chosen - candidate solutions is generated. Perturbations of an initial population may also be used. • Κάθε λύση σε κωδικοποιημένη μορφή λέγεται γονότυπος, ενώ υπό την πραγματική της μορφή φαινότυπος. Every coded solution-string is known as a genotype, while the real solution a phenotype. • Κάθε πιθανός συνδυασμός καθορίζει τη τιμή κάποιας κατάλληλης συνάρτησης ποιότητας. Η επιλογή της συνάρτησης είναι πολύ σημαντική. Every coded candidate solution-string corresponds to a specific value in a suitable quality or fitness function.

27. ΒΑΣΙΚΗ ΔΟΜΗ ΓΑ(Basic Procedure of GAs) Typical Performance Measures: Field Performance Measure Genetics Fitness Economic Planning Utility Control Error functions Physiological Psychology Performance Rate Game Theory Payoff Multi-modal fitness functions …

28. Όταν κάθε συνδυασμός (άτομο) αξιολογηθεί, αρχίζει η διαδικασία της επιλεκτικής αναπαραγωγής. Every coded candidate solution-string corresponds to a specific value in a suitable quality or fitness function. • Τα άτομα που συνέβαλαν περισσότερο στην βελτίωση της συνάρτησης ποιότητας επιλέγονται για να χρησιμοποιηθούν περισσότερο ως γονείς για νέες γενιές ατόμων. Για αυτό το σκοπό χρησιμοποιούνται διάφοροι μηχανισμοί επιλογής: String populations that were more successful in improving the fitness function are used to reproduce new string populations. Different selection procedures are used: Αναλογική επιλογήProportionate selection – (roulette) Επιλογή με βαθμολόγησηRank selection Επιλογή τουρνουάTournament selection ΒΑΣΙΚΗ ΔΟΜΗ ΓΑ(Basic Procedure of GAs)

29. Σημεία crossover Γονέας # 1 Γονέας # 2 Απόγονος # 1 Απόγονος # 2 • Για τη σύνθεση νέων ατόμων χρησιμοποιούνται διάφοροι μηχανισμοί που λέγονται γενετικοί τελεστές: For the composition of new string-populations (offsprings) suitable genetic operators are used: Γενετικοί τελεστές: Genetic operators Ανασυνδυασμός Crossover ΓΕΝΕΤΙΚΟΙ ΤΕΛΕΣΤΕΣ(GA OPERATORS)

30. Απόγονος Απόγονος μετά τη μετάλλαξη Μετάλλαξη Mutation ΓΕΝΕΤΙΚΟΙ ΤΕΛΕΣΤΕΣ(GA OPERATORS) Με τη μετάλλαξη κάνουμε τυχαίο ψάξιμο για να βρούμε νέες καλύτερες λύσεις. Mutation provides a small amount of random search to seek new and better solutions. Οι γενετικοί τελεστές εφαρμόζονται σε ένα υποσύνολο απογόνων. The genetic operators are applied to a subset of the offsprings. Πολλοί άλλοι γενετικοί τελεστές έχουν προταθεί: Many other genetic operators have been proposed: Inversion Partially matched crossover Hill-climbing…

31. ΕΦΑΡΜΟΓΕΣ ΓΑ(Applications of GAs) Σχεδιασμός μηχανικών συστημάτων Design of engineering systems Βελτιστοποίηση περίπλοκων διαδικασιών Optimization of complex processes Διάγνωση σφαλμάτων Fault diagnosis Δρομολόγηση Scheduling, Traveling salesman problem Μάθηση τεχνητών νευρωνικών δικτύων Learning in artificial neural networks Ανίχνευση νέων αρχιτεκτονικών νευρωνικών δικτύων Finding new architectures of artificial neural networks Σύνθεση μουσικής Music composition

32. ΥΠΟΛΟΓΙΣΤΙΚΗ ΝΟΗΜΟΣΥΝΗ COMPUTATIONAL INTELLIGENCE ΤΕΧΝΗΤH ΖΩΗ ARTIFICIAL LIFE

33. ΤΕΧΝΗΤΗ ΖΩΗ(Artificial Life) Υπεραπλουστευμένη προσομοίωση απλών ζωντανών οργανισμών. Very simple simulation of living organisms. Κυτταρικά αυτόματα. Cellular automata. Απλοί κανόνες για αυτοοργάνωση.π.χ. “Παιγνίδι της ζωής” του Conway. Simple rules for self-organization. e.g. Conway’s “The game of life”. Προβλήματα πολυπλοκότητας, χάους. Complexity, chaos problems.

34. ΤΕΧΝΗΤΗ ΖΩΗ(Artificial Life) Προβλήματα πολυπλοκότητας, χάους. Complexity, chaos problems. Αναδυόμενη συμπεριφορά. Emerging behaviour. ΧΡΗΣΙΜΟΠΟΙΟΥΝΤΑΙ ΣΕ: Προβλήματα βελτιστοποίησης Μάθηση νευρωνικών δικτύων ...

35. Μερικά πεδία έρευνας σε ΤΝΔ ΒΑΣΙΚΗ ΕΡΕΥΝΑ Μελέτη νέων μοντέλων νευρώνων Νέες μέθοδοι μάθησης σε τεχνητά νευρωνικά δίκτυα Νέες αρχιτεκτονικές σε τεχνητά νευρωνικά δίκτυα Μάθηση με χρήση γενετικών αλγορίθμων Νέες αρχιτεκτονικές τεχνητών νευρωνικών δικτύων με χρήση γενετικών αλγορίθμων

36. ΕΦΑΡΜΟΣΜΕΝΗ ΕΡΕΥΝΑ ΜΗΧΑΝΙΚΗ Έλεγχος συστημάτων. Ρομποτικά συστήματα. Ρευστομηχανική (υπολογισμός αντίστασης πλοίων). Βελτίωση της πρόγνωσης ηλεκτρικού φορτίου ισχύος. Μετεωρολογικές εφαρμογές Πρόγνωση περιοχών μεταλλείων

37. ΙΑΤΡΙΚΗ ΜΗΧΑΝΙΚΗ Διάγνωση. Πρόγνωση. Ταξινόμηση ασθενειών. Εκτίμηση κινδύνων. Ξεκινήσαμε ένα μεγάλο ερευνητικό πρόγραμμα για την εκτίμηση των κινδύνων εμφάνισης του συνδρόμου Brown σε συνεργασία με τον Κύπριο Καθηγητή Κύπρο Νικολαίδη του Παν. Kings College του Λονδίνου. Τηλεκίνηση (Brain Controlled Motion).

38. ΔΥΝΑΜΙΚΗ-ΓΝΩΣΤΙΚΗ Αποφυγή, λύση συγκρούσεων. Με χρήση των Fuzzy Cognitive Maps. ΔΙΑΦΟΡΑ Πρόγνωση σεισμών. Επέκταση αισθήσεων. Πρόγνωση αθλητικών ικανοτήτων. Μελέτη DNA promoters με τεχνητά νευρωνικά δίκτυα. Υπολογιστική εφευρετικότητα. Εξόρυξη δεδομένων.

39. ΜΕΡΙΚΑ ΠΡΟΓΡΑΜΜΑΤΑ ΤΝΔ • MATLAB Neural Network Toolbox • Ward Systems Group (NeuroShell, etc.) • SNNS • SAS Enterprise Miner Software • BrainMaker • NeuralWorks • NeuroForecaster • Products of NESTOR, Inc. • Neuralyst • NeuFuz4 και πολλά άλλα

40. Πολλά από τα μοντέλα των τεχνητών νευρωνικών δικτύων, ειδικότερα τα μη-δυναμικά, έχουν ομοιότητες με γνωστές στατιστικές μεθόδους όπως: • Generalized linear models • Polynomial regression • Non-parametric regression • Discriminant analysis • Principal components • Cluster analysis Τεχνητά Νευρωνικά Δίκτυα και Στατιστικές Μέθοδοι - Σύγκριση ορολογίας • Υπάρχει μια διάχυτη αντιπαράθεση μεταξύ στατιστικολόγων και νευροεπιστημόνων. • Προς το παρόν φαίνεται ότι η καλύτερη προσέγγιση είναι να χρησιμοποιούνται στατιστικές μέθοδοι εκεί που έχουν μεγαλύτερο πλεονέκτημα, όπως στη προ-επεξεργασία και μετ-επεξεργασία των δεδομένων εισόδου και εξόδου, ενώ τα τεχνητά νευρωνικά δίκτυα στην κυρίως επεξεργασία, ειδικότερα όταν το πρόβλημα είναι σύνθετο.

41. Εξελισσόμενα συστήματα (ΕΣ)(Evolutionary systems – ES) Είναι μια σειρά από ειδικές τεχνικές που τελευταίως έχουν πάρει μεγάλη ανάπτυξη. Η πιο γνωστοί είναι οι Γενετικοί Αλγόριθμοι (ΓΑ). Είναι κυρίως αλγόριθμοι για βελτιστοποίηση και για αναζήτηση. (optimization and search) Οι ΓΑ, αρχικά μελετήθηκαν κυρίως από τον John Holland του Πανεπιστημίου Μίσιγκαν στη δεκαετία του ’70. Προσομοιάζουν σε μεγάλο βαθμό τις διαδικασίες της φυσικής βιολογικής εξέλιξης.

42. Οι ΓΑ έχουν πάρει μεγάλη ανάπτυξη λόγω κυρίως της απλότητας τους, της εφαρμογής τους σε μεγάλα προβλήματα βελτιστοποίησης, της ικανότητας τους να βρίσκουν καθολικές (global) λύσεις και της πληθώρας εφαρμογών. Γενικότεροι όροι είναι οι: Εξελισσόμενη υπολογιστική (Evolutionary Computation - EC)ή Εξελισσόμενοι αλγόριθμοι (EvolutionaryAlgorithms - EA) Περιλαμβάνουν τους: Γενετικό Προγραμματισμό(Genetic Programming - GP) Εξελισσόμενο Προγραμματισμό (Evolutionary Programming - EP) Εξελισσόμενο Υλισμικό(Evolutionary hardware - EHW) Εξελισσόμενες Στρατηγικές(Evolutionary Strategies - ES) Συστήματα Μάθησης Προτύπων (Learning Classifier Systems - LCS)

43. Μεταξύ πολλών άλλων, χρησιμοποιούνται κυρίως σε: • Βελτιστοποίηση συναρτήσεων Functionoptimization • Επιχειρησιακή έρευνα Operations research • Μάθηση τεχνητών νευρωνικών δικτύων Learning in artificial neural networks • Εξέλιξη νέων τοπολογιών τεχνητών νευρωνικών δικτύων Evolution of new artificial neural network architectures • Εξέλιξη ασαφών κανόνων Evolution of fuzzy rules

44. Συστήματα Τεχνητής Ζωής (ΤΖ)(Artificial Life Systems – ALS) Είναι υπεραπλουστευμένη προσομοίωση απλών «ζωντανών» οργανισμών. Έχουν πολλά κοινά με τα κυτταρικά αυτόματα (cellular automata). Χρησιμοποιούν απλούς κανόνες για αυτοοργάνωση. π.χ. “Παιγνίδι της ζωής” του Conway Συχνά παρουσιάζονται προβλήματα πολυπλοκότητας και χάους. Μπορεί να παρουσιάσουν αναδυόμενη συμπεριφορά. ΧΡΗΣΙΜΟΠΟΙΟΥΝΤΑΙ ΣΕ: Προβλήματα βελτιστοποίησης Μάθηση νευρωνικών δικτύων

45. Ασαφή Συστήματα (ΑΣ)(Fuzzy Systems - FS) Η ασαφής λογική(fuzzy logic)είναι ένα υπερσύνολο της λογικής Bool. Επινοήθηκε κυρίως για να “λογικοποιήσει” τις μισο-αλήθειες, τα παράδοξα, και γενικά τη δυνατότητα να έχουμε τιμές αληθείας (truth values) που να επεκτείνουν το κλασσικό δυαδικό σύστημα (ορθό – λάθος) σε μερικώς ορθό ή λίγο λάθος. Μερικά παράδοξα: “Είμαι ψεύτης”! ή “Λέω ψέματα”!(Επιμενίδης) Σας λέω την αλήθεια? “Είναι ο κουρέας που ξυρίζει όσους δεν ξυρίζονται μόνοι τους”(Bertrand Russel) Ποιος ξυρίζει τον κουρέα?

46. Διαφορά μεταξύ ασαφούς και σαφούς λογικής: Στη σαφή (ή δυαδική) λογική, το αποτέλεσμα μπορεί να είναι μόνο ορθό ή λάθος: π.χ. 1+1=2 Όμως, ο κόσμος και οι μεταβλητές που τον περιγράφουν είναι κατά το πλείστον ασαφή: π.χ. Κάνει/είναι κρύο, Η Μαρία είναι ψηλή, Είναι πράσινο, ... Υπάρχουν ασάφειες λόγω “πιθανότητας” και λόγω αδυναμίας προσδιορισμού διαχωριστικής γραμμής μεταξύ πραγμάτων και ιδεών.

47. Η ασαφής λογική επεκτείνει τη δυαδική λογικήτου: Ναι/Όχι, Σωστό/Λάθος, Μαύρο/Άσπρο, Πάνω/Κάτω, ... ώστε να επιτρέπονται και άλλες τιμές. • Δίνεται υπερβάλλουσα σημασία στη λέξη fuzzyγιατί βοηθά στις πωλήσεις. • Από τους κύριους επινοητές ήταν ο πέρσης Lotfi Zadeh του Πανεπιστημίου της Καλιφόρνιας στο Berkley με σημαντική εργασία που έκανε το 1960.

48. Παράδειγμα: Πότε είναι κάποιος/α ψηλός/ή; Εάν Pείναι το σύνολο ανθρώπων καιhτο ύψος τους, το ασαφές υποσύνολο μ(h) που μπορεί να απαντήσει στη πιο πάνω ερώτηση είναι: Όπου μ(h) είναι γνωστή ως συνάρτηση συμμετοχής ή μέλους (membership function)