Les réseaux de neurones séquentiels

Abstract

Notre premier souci à été de clarifier quelques notions du vocabulaire relatif aux réseaux de neurones artificiels et de restreindre notre intérêt aux modèles utilisés pour le traitement des tâches de nature séquentielle. La formulation de ce type de tâches est basée sur le modèle de la mémoire à court-terme qui est souvent difficile à implanter dans un réseau de neurones. Les différents travaux exposés dans ce mémoire montrent que les mémoires à court-terme à retard et exponentielle avec u=0 sont en général plus ou moins faciles à construire. La relation exposée dans le chapitre III sur le processus de Markov à temps continu et le réseau MADALINE est un résultat important pour les applications de fiabilité et ceci grâce à la simplicité de l'architecture et de l'apprentissage de ce réseau. Ce résultat peut éventuellement être généralisé pour l'estimation des taux instantanés de transition d'un modèle de Markov à temps continu homogène, à condition d'avoir des exemples d'apprentissage constitués des valeurs des probabilités P(1) à des instants donnés. Le réseau proposé dans le chapitre VI sous le titre modélisation connixioniste de la méthode de simulation est une approche raisonnable, et cela grâce à la simplicité de la méthode de l'apprentissage par la règle du perceptron et aux liens qui existent entre les poids des connexions des sous-bloc 1 et 3 respectivement et les probabilités respectivement de transitions (Ao A) et d'émissions (B) Pour généraliser cette étude, il faut montrer que les classifications (avec les mêmes codages) effectuées par les sous- bloc 2 et 4 sont linéairement séparables pour N et M quelconques et considérer aussi les cas où certains probabilités (a, ou an, et b,(k) pour 1<isj?N; 1SkSM) sont nulles.