Réseaux neuronaux


Vidéos:

1) Reconnaissance de caractères 2008

       Les entrées (en vert)et les sorties (en rouge) du réseau sont identiques (matrice de chiffres). Au cours de l'apprentissage la reconnaissance s'affine (exemple du chiffre 4). On voit la courbe d'erreur qui tend assymptotiquement vers 0. vidéo 1 (< 1Mo)        Après apprentissage le réseau est capable de reconnaitre toutes les entrées. vidéo 2 (< 1Mo)
       Si les données sont bruitées en entrée la reconnaissance se fait quand même. vidéo 3 (< 1Mo)

2) Reconnaissance de schémas. vidéo 4 (< 1Mo)

3) Reconnaissance des chiffres en chinois (bruités). vidéo 5 (< 1Mo)

4) Danse neuronale 2008

       Acquisition de 3 positions du corps (sorties) assoiées à 3 positions de la souris (entrées). vidéo 6 (< 1Mo)
       Le réseau en action. On peut voir en bleu à gauche les neurones d'entrée associés à la souris, en jaune les neurones cachés et en rouge les neurones moteurs (sortie) agissant sur le modèle musculaire du corps. vidéo 7 (< 1Mo)

apprentissage supervisé 2006

       Réseu entraîné sur de la musique. vidéo 8 (< 1Mo)

apprentissage non supervisé 2008

       Réseau entraîné sur de la musique par la méthode de la cohérence de flux. vidéo 9 (< 1Mo)
vidéo 10: improvisation (< 1Mo)

Réseau de Kohonen

       Réseau en action: une première configuration est reconnue, toutes les autres configurations générées lui ressemblent.

vidéo.


Apprentissage supervisé

Voir le cours: algorithme de la rétropropagation de l'erreur).
L'ensemble d'apprentissage se réduit à seulement deux couples:
     Entrée = valeurs hautes du signal, Sortie = Position debout.
     Entrée = valeurs basses du signal, Sortie = Position accroupie.


Après apprentissage, la danseuse virtuelle est capable d'interpréter correctement n'importe quel signal:

On peut voir sur la première vidéo le signal (issu du deuxième capteur du fichier continu_rigide_2.tab) connecté à la couche d'entrée du réseau (en vert), transitant par la couche cachée (en jaune) et donnant lieu, sur la couche de sortie (neurones moteurs en rouge) à une activité musculaire en phase avec le signal (valeurs hautes: position debout et valeurs basses: position accroupie).

Apprentissage non supervisé

Voir l'article: méthode de la cohérence de flux:
On peut voir sur la deuxième vidéo une fenêtre d'analyse du signal (mémoire de travail d'une seconde en vert) connecté à la couche d'entrée du réseau (en vert), et donnant lieu, sur la couche de sortie (neurones moteurs en rouge) à l'activité musculaire, visualisée sur la fenêtre de sortie (en rouge), ces deux flux sont maintenus en phase en minimisant l'erreur (courbe en jaune à droite).

Réseau multicouche:


couche d'entrée de 6 neurones, 3 couches cachées, couche de sortie (3 neurones)
matrice des poids synaptiques de 19*19 = 361 valeurs



Exemple d'apprentissage des couleurs:


couche d'entrée de 3 neurones, 1 couche cachée, couche de sortie (3 neurones)
matrice des poids synaptiques de 9*9 = 81 valeurs
Ensemble des couples d'apprentissage: ((1,0,0,rouge), ((0,0,1),vert), ((0,1,0),bleu), après apprentissage reconnaissance parfaite du rouge

et imparfaite du jaune et du violet (non appris)


Ensemble d'apprentissage plus grand (rouge,vert,bleu,jaune,violet,cyan,noir,blanc)
2 couches cachées
Diminution de l'erreur, après apprentissage bonne reconnaissance de l'orange (non appris)



Exemple d'apprentissage de positions:


Saisie d'une entrèe et d'une sortie, puis d'un autre couple

Saisie d'une position de départ, apprentissage et reconnaissance

Autre exemple


Exemple de reconnaissance de caractères:


Présentation en entrée du caractère 0, non reconnu, apprentissag et reconnaissance, puis reconnaissance de 3


Autre exemple: reconnaissance de caractères chinois




Reseau de Kohonen:

Apprentissage compétitif permettant une classification, puis une reconnaissance, de configurations de l'environnement: ici une distribution aléatoire de points est classifiée en sous ensembles de couleurs différentes, toute autre configuration sera reconnue de façon analogue.

Autre exemple