Ryad ZEMOURI

Soutenance de thèse de : Ryad ZEMOURI Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance. Sous la direction de : Pr. N. ZERHOUNI et Dr. D.RACOCEANU Laboratoire d’Automatique de Besançon - UMR CNRS 6596 Institut de Productique, ENSMM/Université de Franche Comté 24, rue Alain Savary, 25000 Besançon

Plan de la présentation • Définition de la problématique de recherche • Proposition d’une architecture neuronale dynamique pour la surveillance en temps réel • Evaluation des performances de l’architecture proposée • Exploitation industrielle (e-maintenance) • Conclusion et perspectives

Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance. Surveillance industrielle Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance • Définition de la problématique de recherche • Surveillance • Critères d’évaluation • Contexte de e-maintenance • Proposition d’un RNA dynamique pour la surveillance en temps réel • Evaluation des performances du RNA proposé • Exploitation industrielle • Conclusion et perspectives Augmenter : • Temps de Bon Fonctionnement (Disponibilité de l’équipement) Réduire : • Les coûts directs de la maintenance (main d’œuvre, pièces de rechange), • Les coûts indirects (manque à gagner) Équipement de production

Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance. Surveillance industrielle : But Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance • Définition de la problématique de recherche • Surveillance • Critères d’évaluation • Contexte de e-maintenance • Proposition d’un RNA dynamique pour la surveillance en temps réel • Evaluation des performances du RNA proposé • Exploitation industrielle • Conclusion et perspectives Situation où l’on subit les pannes Situation où l’on maîtrise les pannes Équipement de production

Amplitude Défaillance Détection d’une défaillance Seuil d’alarme Dégradation Panne Temps Génération d’alarme Détection d’une dégradation Localisation Mesure des vibrations Tige A qui vibre Diagnostic Génération de pré alarme Identification de la cause Diagnostic prédictif Desserrement d’un boulon Desserrement d’un boulon Action préventive Aide à la décision préventive Equipement industriel Aide à la décision Action corrective Expert humain Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance. Boucle de supervision (surveillance + action) • Définition de la problématique de recherche • Surveillance • Critères d’évaluation • Contexte de e-maintenance • Proposition d’un RNA dynamique pour la surveillance en temps réel • Evaluation des performances du RNA proposé • Exploitation industrielle • Conclusion et perspectives

Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance. Critères d’évaluation en surveillance dynamique • Définition de la problématique de recherche • Surveillance • Critères d’évaluation • Contexte de e-maintenance • Proposition d’un RNA dynamique pour la surveillance en temps réel • Evaluation des performances du RNA proposé • Exploitation industrielle • Conclusion et perspectives 1. Reconnaissance de séquences temporelles 2. Prédiction de séquences temporelles • Surveillance des Systèmes à Evénements Discrets • Prédiction d’une variable sur un horizon temporel pour le pronostic (maintenance prédictive) • Surveillance de variables réelles • reproduire une évolution d’une variable de surveillance (signature) pendant son régime transitoire. 3. Reproduction de séquences temporelles

20 18 Amplitude Défaillance 16 14 Seuil d’alarme 12 10 bruits Dégradation 8 6 4 Dégradation Panne 2 Temps 0 0 500 1000 1500 2000 2500 élimination de fausses alarmes Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance. Critères d’évaluation en surveillance dynamique • Définition de la problématique de recherche • Surveillance • Critères d’évaluation • Contexte de e-maintenance • Proposition d’un RNA dynamique pour la surveillance en temps réel • Evaluation des performances du RNA proposé • Exploitation industrielle • Conclusion et perspectives 1. Reconnaissance de séquences temporelles • Surveillance des Systèmes à Evénements Discrets Reconnaissance de séquences de bon fonctionnement • Surveillance de variables réelles détection de dégradation

Valeur prédite x(t+n) x(t) présent passé t t1 t1+n Expert humain Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance. Critères d’évaluation en surveillance dynamique 2. Prédiction de séquences temporelles • Définition de la problématique de recherche • Surveillance • Critères d’évaluation • Contexte de e-maintenance • Proposition d’un RNA dynamique pour la surveillance en temps réel • Evaluation des performances du RNA proposé • Exploitation industrielle • Conclusion et perspectives • Prédiction d’une variable sur un horizon temporel pour le pronostic (maintenance prédictive) Acquisition Prédiction Action préventive

x(t) Signal reproduit t Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance. Critères d’évaluation en surveillance dynamique 3. Reproduction de séquences temporelles • Définition de la problématique de recherche • Surveillance • Critères d’évaluation • Contexte de e-maintenance • Proposition d’un RNA dynamique pour la surveillance en temps réel • Evaluation des performances du RNA proposé • Exploitation industrielle • Conclusion et perspectives • reproduire une évolution d’une variable de surveillance (signature) pendant son régime transitoire Détection de toute dérive Signal réel + - Signature d’un régime transitoire

Site de production B Expert en maintenance des sites A et B 90 80 70 60 50 PUMP102 Réseau Internet (TCP/IP) Base de Données et historique de pannes 40 PUMP103 30 PUMP105 20 10 0 1st Qtr 2nd 3rd 4th Qtr Qtr Qtr Site de production A Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance. e-maintenance Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance • Définition de la problématique de recherche • Surveillance • Critères d’évaluation • Contexte de e-maintenance • Proposition d’un RNA dynamique pour la surveillance en temps réel • Evaluation des performances du RNA proposé • Exploitation industrielle • Conclusion et perspectives

Site de production B Expert en maintenance des sites A et B 90 80 70 60 50 PUMP102 Base de Données et historique de panne 40 PUMP103 30 PUMP105 20 Réseau Internet 10 0 1st Qtr 2nd 3rd 4th Qtr Qtr Qtr Site de production A Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance. e-maintenance Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance • Définition de la problématique de recherche • Surveillance • Critères d’évaluation • Contexte de e-maintenance • Proposition d’un RNA dynamique pour la surveillance en temps réel • Evaluation des performances du RNA proposé • Exploitation industrielle • Conclusion et perspectives • Profiter des expériences passées (équipements identiques), • Gagner en temps de réactivité, • Optimiser les coûts de déplacements des opérateurs

Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance. e-maintenance Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance • Définition de la problématique de recherche • Surveillance • Critères d’évaluation • Contexte de e-maintenance • Proposition d’un RNA dynamique pour la surveillance en temps réel • Evaluation des performances du RNA proposé • Exploitation industrielle • Conclusion et perspectives Se recentrer sur son véritable métier Mieux maîtriser le budget de la maintenance Forte tendance à l’externalisation de la maintenance Téléphonie mobile, Internet haut débit e-maintenance Sciences et Technique de l’Information et de la Communication (STIC) Industrialisation du protocole TCP/IP La maintenance est devenue un marché à part entière De plus en plus d’entreprises spécialisées dans ce domaine Les besoins en terme d’optimisation des coûts de maintenance

Evaluation des performances du RRFR Reconnaissance de séquences temporelles Prédiction de séquences temporelles Reproduction de séquences temporelles w 11 Entrée w 22 w 33 Couche de décision Mémoire dynamique Mémoire statique Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance. Outil de surveillance dynamique entièrement paramétrable via le Web Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance • Définition de la problématique de recherche • Proposition d’un RNA dynamique pour la surveillance en temps réel • Evaluation des performances du RNA proposé • Exploitation industrielle • Conclusion et perspectives Apprentissage à distance (Web) Couche TCP/IP Expert distant Outil de surveillance neuronal dynamique temps réel Réseau Récurrent à Fonctions de base Radiales (RRFR) Procédé industriel

Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance. Pourquoi le choix des réseaux de neurones ? • Définition de la problématique de recherche • Proposition d’un RNA dynamique pour la surveillance en temps réel • Pourquoi Réseaux de • neurones? • Pourquoi Réseaux à • Fonctions de base Radiales? • Paramétrage du réseau • RRFR • Evaluation des performances du RNA proposé • Exploitation industrielle • Conclusion et perspectives Méthodologies de surveillance industrielle oui Existence ou pas d’une modélisation formelle de l’équipement Techniques de l’Automatique Modèle formel de l’équipement + entrée Résidu -

Modèle formel de l’équipement + entrée Résidu - Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance. Pourquoi le choix des réseaux de neurones ? • Définition de la problématique de recherche • Proposition d’un RNA dynamique pour la surveillance en temps réel • Pourquoi Réseaux de • neurones? • Pourquoi Réseaux à • Fonctions de base Radiales? • Paramétrage du réseau • RRFR • Evaluation des performances du RNA proposé • Exploitation industrielle • Conclusion et perspectives Méthodologies de surveillance industrielle oui Existence ou pas d’une modélisation formelle de l’équipement Techniques de l’Automatique • Existence d’incertitudes de modélisation dues au manque de connaissances exhaustives sur les paramètres de l’équipement, • Modélisation impossible pour les équipements de forte complexité technologique. • Faiblesse devant les systèmes re-configurables (plusieurs modes de fonctionnement)

Expert Humain Expertise des modes de défaillance (diagnostic) Données mesurables Procédé industriel Base de données Base de Apprentissage Réseau de neurones Forme d’entrée Classes Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance. Pourquoi le choix des réseaux de neurones ? • Définition de la problématique de recherche • Proposition d’un RNA dynamique pour la surveillance en temps réel • Pourquoi Réseaux de • neurones? • Pourquoi Réseaux à • Fonctions de base Radiales? • Paramétrage du réseau • RRFR • Evaluation des performances du RNA proposé • Exploitation industrielle • Conclusion et perspectives Méthodologies de surveillance industrielle non Existence ou pas d’une modélisation formelle de l’équipement

Evaluation des performances du RRFR Reconnaissance de séquences temporelles Prédiction de séquences temporelles Reproduction de séquences temporelles w 11 Entrée w 22 w 33 Couche de décision Mémoire dynamique Mémoire statique Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance. Pourquoi le choix des Réseaux à Fonctions de base Radiales (RFR) ? Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance • Définition de la problématique de recherche • Proposition d’un RNA dynamique pour la surveillance en temps réel • Pourquoi Réseaux de • neurones? • Pourquoi Réseaux à • Fonctions de base Radiales? • Paramétrage du réseau • RRFR • Evaluation des performances du RNA proposé • Exploitation industrielle • Conclusion et perspectives Apprentissage à distance (Web) Couche TCP/IP Expert distant Outil de surveillance neuronal dynamique temps réel Réseau Récurrent à Fonctions de base Radiales (RRFR) Procédé industriel

Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance. Pourquoi le choix des Réseaux à Fonctions de base Radiales (RFR) ? Aider l’expert dans sa prise de décision • Définition de la problématique de recherche • Proposition d’un RNA dynamique pour la surveillance en temps réel • Pourquoi Réseaux de • neurones? • Pourquoi Réseaux à • Fonctions de base Radiales? • Paramétrage du réseau • RRFR • Evaluation des performances du RNA proposé • Exploitation industrielle • Conclusion et perspectives • rejet d’ambiguïté • rejet en distance Variable x1 Mode nominal Mode dégradé Mode de défaillance Variable x2

Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance. Pourquoi le choix des Réseaux à Fonctions de base Radiales (RFR) ? Aider l’expert dans sa prise de décision • Définition de la problématique de recherche • Proposition d’un RNA dynamique pour la surveillance en temps réel • Pourquoi Réseaux de • neurones? • Pourquoi Réseaux à • Fonctions de base Radiales? • Paramétrage du réseau • RRFR • Evaluation des performances du RNA proposé • Exploitation industrielle • Conclusion et perspectives • rejet d’ambiguïté • rejet en distance Variable x1 Mode nominal Mode dégradé Mode de défaillance Variable x2 Situations formellement identifiées

Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance. Pourquoi le choix des Réseaux à Fonctions de base Radiales (RFR) ? Aider l’expert dans sa prise de décision • Définition de la problématique de recherche • Proposition d’un RNA dynamique pour la surveillance en temps réel • Pourquoi Réseaux de • neurones? • Pourquoi Réseaux à • Fonctions de base Radiales? • Paramétrage du réseau • RRFR • Evaluation des performances du RNA proposé • Exploitation industrielle • Conclusion et perspectives • rejet d’ambiguïté • rejet en distance Variable x1 Situations ambiguës Mode nominal Mode dégradé Mode de défaillance Variable x2 rejet d’ambiguïté : décision prise par l’expert.

Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance. Pourquoi le choix des Réseaux à Fonctions de base Radiales (RFR) ? Aider l’expert dans sa prise de décision • Définition de la problématique de recherche • Proposition d’un RNA dynamique pour la surveillance en temps réel • Pourquoi Réseaux de • neurones? • Pourquoi Réseaux à • Fonctions de base Radiales? • Paramétrage du réseau • RRFR • Evaluation des performances du RNA proposé • Exploitation industrielle • Conclusion et perspectives • rejet d’ambiguïté • rejet en distance Variable x1 Situations inconnues Mode nominal Mode dégradé Mode de défaillance Variable x2 rejet en distance : analyse, décision et réapprentissage du réseau de neurones effectué par l’expert (apprentissage incrémental)

f(x) 1 0.8 b=0.5 0.6 0.4 b=0.05 0.2 0 -0.2 -0.4 -0.6 -0.8 -1 -100 -80 -60 -40 -20 0 20 40 60 80 100 x Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance. Pourquoi le choix des Réseaux à Fonctions de base Radiales (RFR) ? • Définition de la problématique de recherche • Proposition d’un RNA dynamique pour la surveillance en temps réel • Pourquoi Réseaux de • neurones? • Pourquoi Réseaux à • Fonctions de base Radiales? • Paramétrage du réseau • RRFR • Evaluation des performances du RNA proposé • Exploitation industrielle • Conclusion et perspectives • Principales architectures utilisées en surveillance Perceptron Multi Couches (MLP) Réseaux à Fonctions de base Radiales.

Vecteur associé à Vecteur associé à la Classe A aucune classe X X 2 2 Classe A Classe A Vecteur associé Vecteur associé à la Classe B Classe B à aucune classe Classe B X X 1 1 PMC RFR Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance. Pourquoi le choix des Réseaux à Fonctions de base Radiales (RFR) ? • Définition de la problématique de recherche • Proposition d’un RNA dynamique pour la surveillance en temps réel • Pourquoi Réseaux de • neurones? • Pourquoi Réseaux à • Fonctions de base Radiales? • Paramétrage du réseau • RRFR • Evaluation des performances du RNA proposé • Exploitation industrielle • Conclusion et perspectives , vecteurs ne faisant pas partie de la , vecteurs d’apprentissage base d’apprentissage Généralisation globale Généralisation locale • rejet d’ambiguïté : décision prise par l’expert, • rejet en distance : analyse, décision et réapprentissage du réseau de neurones effectué par l’expert (apprentissage incrémental)

base d’apprentissage Vecteur associé à Vecteur associé à la Classe A aucune classe X X 2 2 Classe A Classe A Vecteur associé Vecteur associé à la Classe B Classe B à aucune classe Classe B X X 1 1 PMC RFR Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance. Pourquoi le choix des Réseaux à Fonctions de base Radiales (RFR) ? • Définition de la problématique de recherche • Proposition d’un RNA dynamique pour la surveillance en temps réel • Pourquoi Réseaux de • neurones? • Pourquoi Réseaux à • Fonctions de base Radiales? • Paramétrage du réseau • RRFR • Evaluation des performances du RNA proposé • Exploitation industrielle • Conclusion et perspectives , vecteurs ne faisant pas partie de la , vecteurs d’apprentissage • rejet d’ambiguïté : décision prise par l’expert, • rejet en distance : analyse, décision et réapprentissage du réseau de neurones effectué par l’expert (apprentissage incrémental)

Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance. Réseau à Fonctions de base Radiales (RFR) • Définition de la problématique de recherche • Proposition d’un RNA dynamique pour la surveillance en temps réel • Pourquoi Réseaux de • neurones? • Pourquoi Réseaux à • Fonctions de base Radiales? • Paramétrage du réseau • RRFR • Evaluation des performances du RNA proposé • Exploitation industrielle • Conclusion et perspectives Entrée I 1 Neurones de sortie linéaires I 2 I Couche de décision 3 Mémoire statique Neurones gaussiens : • Les centres des fonctions radiales (prototypes) • La variance

Evaluation des performances du RRFR w Entrée 11 I 1 Neurones de sortie linéaires Reconnaissance de séquences temporelles w 22 I 2 Prédiction de séquences temporelles w 33 I Couche de décision 3 Reproduction de séquences temporelles Mémoire dynamique Mémoire statique f(x) 1 0.8 b=0.5 0.6 0.4 b=0.05 0.2 0 -0.2 -0.4 -0.6 -0.8 -1 -100 -80 -60 -40 -20 0 20 40 60 80 100 x Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance. Réseau Récurrent à Fonctions de base Radiales (RRFR) • Définition de la problématique de recherche • Proposition d’un RNA dynamique pour la surveillance en temps réel • Pourquoi Réseaux de • neurones? • Pourquoi Réseaux à • Fonctions de base Radiales? • Paramétrage du réseau • RRFR • Evaluation des performances du RNA proposé • Exploitation industrielle • Conclusion et perspectives Neurones Localement Récurrents

Evaluation des performances du RRFR w Entrée 11 I 1 Neurones de sortie linéaires Reconnaissance de séquences temporelles w 22 I 2 Prédiction de séquences temporelles w 33 I Couche de décision 3 Reproduction de séquences temporelles Mémoire dynamique Mémoire statique Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance. Réseau Récurrent à Fonctions de base Radiales (RRFR) • Définition de la problématique de recherche • Proposition d’un RNA dynamique pour la surveillance en temps réel • Pourquoi Réseaux de • neurones? • Pourquoi Réseaux à • Fonctions de base Radiales? • Paramétrage du réseau • RRFR • mémoire dynamique • mémoire statique • Evaluation des performances du RNA proposé • Exploitation industrielle • Conclusion et perspectives Mémoire dynamique la plus longue possible

Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance. Points d’équilibre du neurone bouclé en fonction du produit • Définition de la problématique de recherche • Proposition d’un RNA dynamique pour la surveillance en temps réel • Pourquoi Réseaux de • neurones? • Pourquoi Réseaux à • Fonctions de base Radiales? • Paramétrage du réseau • RRFR • mémoire dynamique • mémoire statique • Evaluation des performances du RNA proposé • Exploitation industrielle • Conclusion et perspectives Points d’équilibre :

Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance. Comportement d’oubli • Définition de la problématique de recherche • Proposition d’un RNA dynamique pour la surveillance en temps réel • Pourquoi Réseaux de • neurones? • Pourquoi Réseaux à • Fonctions de base Radiales? • Paramétrage du réseau • RRFR • mémoire dynamique • mémoire statique • Evaluation des performances du RNA proposé • Exploitation industrielle • Conclusion et perspectives Conditions initiales :

Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance. Comportement de mémorisation • Définition de la problématique de recherche • Proposition d’un RNA dynamique pour la surveillance en temps réel • Pourquoi Réseaux de • neurones? • Pourquoi Réseaux à • Fonctions de base Radiales? • Paramétrage du réseau • RRFR • mémoire dynamique • mémoire statique • Evaluation des performances du RNA proposé • Exploitation industrielle • Conclusion et perspectives Conditions initiales :

Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance. Longueur de la mémoire dynamique du neurone bouclé • Définition de la problématique de recherche • Proposition d’un RNA dynamique pour la surveillance en temps réel • Pourquoi Réseaux de • neurones? • Pourquoi Réseaux à • Fonctions de base Radiales? • Paramétrage du réseau • RRFR • mémoire dynamique • mémoire statique • Evaluation des performances du RNA proposé • Exploitation industrielle • Conclusion et perspectives

Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance. Longueur de la mémoire dynamique du neurone bouclé • Définition de la problématique de recherche • Proposition d’un RNA dynamique pour la surveillance en temps réel • Pourquoi Réseaux de • neurones? • Pourquoi Réseaux à • Fonctions de base Radiales? • Paramétrage du réseau • RRFR • mémoire dynamique • mémoire statique • Evaluation des performances du RNA proposé • Exploitation industrielle • Conclusion et perspectives Longueur de la mémoire dynamique du neurone bouclé

w Entrée 11 I 1 w 22 I 2 w 33 I Couche de décision 3 Mémoire dynamique Mémoire statique Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance. Réseau Récurrent à Fonctions de base Radiales (RRFR) • Définition de la problématique de recherche • Proposition d’un RNA dynamique pour la surveillance en temps réel • Pourquoi Réseaux de • neurones? • Pourquoi Réseaux à • Fonctions de base Radiales? • Paramétrage du réseau • RRFR • mémoire dynamique • mémoire statique • Evaluation des performances du RNA proposé • Exploitation industrielle • Conclusion et perspectives Neurones Localement Récurrents Neurones gaussiens : • Les centres des fonctions radiales (prototypes) • La variance Paramètres fixés a priori : Paramètres fixés par apprentissage

Sous Bonne Sur apprentissage Généralisation apprentissage Base test Erreur moyenne Base apprentissage Complexité du réseau de neurones k optimal Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance. Optimiser l’apprentissage de la mémoire statique • Définition de la problématique de recherche • Proposition d’un RNA dynamique pour la surveillance en temps réel • Pourquoi Réseaux de • neurones? • Pourquoi Réseaux à • Fonctions de base Radiales? • Paramétrage du réseau • RRFR • mémoire dynamique • mémoire statique • Evaluation des performances du RNA proposé • Exploitation industrielle • Conclusion et perspectives Complexité d’un réseau de neurones Définition La complexité d’un réseau de neurones représente la proportion de paramètres ajustables par rapport à la dimension de la population d’apprentissage. Populations de l’apprentissage Il n’existe pas, à l’heure actuelle, de résultat théorique permettant de prévoir le nombre de neurones cachés nécessaires pour obtenir une performance spécifiée du modèle, compte tenu des données disponibles.

Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance. Calcul des paramètres de la mémoire statique par la technique des k-moyennes Étapes de l’algorithme : • Définition de la problématique de recherche • Proposition d’un RNA dynamique pour la surveillance en temps réel • Pourquoi Réseaux de • neurones? • Pourquoi Réseaux à • Fonctions de base Radiales? • Paramétrage du réseau • RRFR • mémoire dynamique • mémoire statique • Evaluation des performances du RNA proposé • Exploitation industrielle • Conclusion et perspectives x1 k2 k1 x2

Sous Bonne Sur apprentissage Généralisation apprentissage Base test Erreur moyenne Base apprentissage Complexité du réseau de neurones Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance. Calcul des paramètres de la mémoire statique par la technique des k-moyennes Étapes de l’algorithme : • Définition de la problématique de recherche • Proposition d’un RNA dynamique pour la surveillance en temps réel • Pourquoi Réseaux de • neurones? • Pourquoi Réseaux à • Fonctions de base Radiales? • Paramétrage du réseau • RRFR • mémoire dynamique • mémoire statique • Evaluation des performances du RNA proposé • Exploitation industrielle • Conclusion et perspectives x1 k2 k1 Pourquoi 2 centres et pas 3 ? x2

0.031 0.0305 0.03 0.0295 0.029 0.0285 0.028 0.0275 0 10 20 30 40 50 60 70 80 90 100 Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance. Calcul des paramètres de la mémoire statique par la technique des k-moyennes Étapes de l’algorithme : • Définition de la problématique de recherche • Proposition d’un RNA dynamique pour la surveillance en temps réel • Pourquoi Réseaux de • neurones? • Pourquoi Réseaux à • Fonctions de base Radiales? • Paramétrage du réseau • RRFR • mémoire dynamique • mémoire statique • Evaluation des performances du RNA proposé • Exploitation industrielle • Conclusion et perspectives Instabilité de la technique par rapport à l’initialisation aléatoire des centres.

Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance. Calcul des paramètres de la mémoire statique par la technique des k-moyennes Étapes de l’algorithme : • Définition de la problématique de recherche • Proposition d’un RNA dynamique pour la surveillance en temps réel • Pourquoi Réseaux de • neurones? • Pourquoi Réseaux à • Fonctions de base Radiales? • Paramétrage du réseau • RRFR • mémoire dynamique • mémoire statique • Evaluation des performances du RNA proposé • Exploitation industrielle • Conclusion et perspectives x1 Initialisation par la technique Fuzzy Min-Max x2

Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance. Calcul des paramètres de la mémoire statique par la technique des k-moyennes Étapes de l’algorithme : • Définition de la problématique de recherche • Proposition d’un RNA dynamique pour la surveillance en temps réel • Pourquoi Réseaux de • neurones? • Pourquoi Réseaux à • Fonctions de base Radiales? • Paramétrage du réseau • RRFR • mémoire dynamique • mémoire statique • Evaluation des performances du RNA proposé • Exploitation industrielle • Conclusion et perspectives x1 Initialisation par la technique Fuzzy Min-Max k1 k2 x2

k-moyennes classique 6 5 4 3 2 Algorithme proposé 6 1 5 0 4 -1 -1 0 1 2 3 4 5 6 7 3 k-moyennes classique 6 2 5 1 4 0 3 -1 -1 0 1 2 3 4 5 6 7 2 1 0 -1 -1 0 1 2 3 4 5 6 7 Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance. Calcul des paramètres de la mémoire statique par la technique des k-moyennes • Définition de la problématique de recherche • Proposition d’un RNA dynamique pour la surveillance en temps réel • Pourquoi Réseaux de • neurones? • Pourquoi Réseaux à • Fonctions de base Radiales? • Paramétrage du réseau • RRFR • mémoire dynamique • mémoire statique • Evaluation des performances du RNA proposé • Exploitation industrielle • Conclusion et perspectives Exemple de calcul de centres

Erreur moyenne de prédiction 0.15 Erreur population apprentissage Erreur population test 0.1 0.05 0 0 50 100 150 200 250 300 350 400 450 500 Nombre k des centres Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance. Calcul des paramètres de la mémoire statique par la technique des k-moyennes • Définition de la problématique de recherche • Proposition d’un RNA dynamique pour la surveillance en temps réel • Pourquoi Réseaux de • neurones? • Pourquoi Réseaux à • Fonctions de base Radiales? • Paramétrage du réseau • RRFR • mémoire dynamique • mémoire statique • Evaluation des performances du RNA proposé • Exploitation industrielle • Conclusion et perspectives Exemple de calcul de centres Nombre de centres obtenus par la l’algorithme des k-moyennes amélioré par la technique Fuzzy Min-Max

Evaluation des performances du RRFR Reconnaissance de séquences temporelles Prédiction de séquences temporelles Reproduction de séquences temporelles w 11 Entrée w 22 w 33 Couche de décision Mémoire dynamique Mémoire statique Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance. Evaluation des performances du réseau RRFR Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance • Définition de la problématique de recherche • Proposition d’un RNA dynamique pour la surveillance en temps réel • Evaluation des performances du RNA proposé • Exploitation industrielle • Conclusion et perspectives Apprentissage à distance (Web) Couche TCP/IP Expert distant Outil de surveillance neuronal dynamique temps réel Réseau Récurrent à Fonctions de base Radiales (RRFR) Procédé industriel

Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance. Evaluation des performances du réseau RRFR • Définition de la problématique de recherche • Proposition d’un RNA dynamique pour la surveillance en temps réel • Evaluation des performances du RNA proposé • Reconnaissance de • séquences temporelles • Séquences booléennes • Séquences réelles • Prédiction de séquences • temporelles • Reproduction de séquences • temporelles • Exploitation industrielle • Conclusion et perspectives Reconnaissance de séquences temporelles • Surveillance des Systèmes à Evénements Discrets Reconnaissance de séquences de bon fonctionnement Exemple d’un système d’événements discrets

Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance. Evaluation des performances du réseau RRFR • Définition de la problématique de recherche • Proposition d’un RNA dynamique pour la surveillance en temps réel • Evaluation des performances du RNA proposé • Reconnaissance de • séquences temporelles • Séquences booléennes • Séquences réelles • Prédiction de séquences • temporelles • Reproduction de séquences • temporelles • Exploitation industrielle • Conclusion et perspectives Reconnaissance de séquences temporelles Exemple d’un système d’événements discrets Réseau RRFR pour l’apprentissage des séquences du système

x = C 11 x = C 22 x = C 33 x = C 44 x = C 55 x = C 66 Contribution à la surveillance des systèmes de production à l’aide des réseaux de neurones dynamiques : Application à la e-maintenance. Evaluation des performances du réseau RRFR • Définition de la problématique de recherche • Proposition d’un RNA dynamique pour la surveillance en temps réel • Evaluation des performances du RNA proposé • Reconnaissance de • séquences temporelles • Séquences booléennes • Séquences réelles • Prédiction de séquences • temporelles • Reproduction de séquences • temporelles • Exploitation industrielle • Conclusion et perspectives Événements de la séquence Début séquence Fin séquence 1 0.9 0.8 0.7 0.6 Prototype mémorisé par la mémoire statique 0.5 0.4 0.3 0.2 0.1 0 0 5 10 15 20 25 30 35

Ryad ZEMOURI

Ryad ZEMOURI

Presentation Transcript

Phase 2a Kaveesha Rajapaksa Ryad Chebbout

Ryad Ben-El-Kezadri, Giovanni Pau Network Research Lab, UCLA

Phase 2 Kaveesha Rajapaksa Ryad Chebbout