Solution des réseaux à convolution

1. De nombreux domaines d’application

1. Exploitation de « features »

a. Notion de « features »

La puissance des réseaux à convolution réside dans leur capacité à simplifier la classification, avec l’identification automatique de motifs discriminants dans les images. Afin de bien comprendre le rôle de ces éléments, communément appelés « features », commençons par détailler un exemple didactique très simple.

Imaginons une tâche de classification visant à séparer les images qui contiennent une croix de celles avec un rond :

Différentes images avec des croix et des ronds

L’utilisation de features permet de se focaliser sur certains éléments spécifiques des images au lieu de les analyser dans leur globalité. Pour notre exemple, la recherche de 4 motifs de 9 pixels suffit pour faire la distinction entre une croix et un rond :

Features à utiliser pour distinguer une croix d’un rond

L’identification de ces éléments dans les images à classer donne les résultats suivants :

Présence des motifs dans les images avec des croix

Présence des motifs dans les images avec des ronds

Ces tableaux permettent d’établir les règles ci-dessous pour classer une image, avec uniquement l’analyse de la présence des motifs :

Cette logique fonctionne également sur d’autres variantes de représentations de croix et de ronds :

Autres images pour lesquelles les règles fonctionnent également

Dans cet exemple, pour faciliter la compréhension, les features sont des motifs directement visibles dans les images. Ce n’est généralement pas le cas dans les réseaux à convolution où elles sont le résultat de multiples transformations mathématiques appliquées aux pixels.

b. Extraction automatique

Pour la classification d’images, les réseaux à convolution synthétisent les avantages des deux approches détaillées dans la section Nécessité d’un prétraitement :

Réseau à convolution avec des images de grande taille

À l’instar des perceptrons...

1. Les débuts avec LeNet-1

Pour introduire les réseaux à convolution, nous avons fait référence à la victoire d’AlexNet dans la compétition ImageNet en 2012. Pourtant les travaux sur ces modèles sont beaucoup plus anciens puisqu’ils ont débuté à la fin des années 1980. À cette période Yann Le Cun travaillait aux États-Unis pour les laboratoires de recherche AT&T Bell sur une solution de reconnaissance de chiffres manuscrits, pour le traitement automatique des chèques [12].

En 1989, son équipe a mis au point un premier modèle baptisé LeNet-1 pour lequel une vidéo de démonstration, tournée à l’époque, est disponible sur YouTube :

Démonstration du réseau LeNet-1 par Yann Le Cun en 1989

Vidéo avec la démonstration du réseau LeNet-1 par Yann Le Cun : https://www.youtube.com/watch?v=H0oEr40YhrQ

Comme les puissances de calcul étaient limitées, ce réseau fonctionnait avec une architecture très simple. Il traitait des images de 16×16 pixels, avec deux couches de convolution utilisant des noyaux 5×5, et possédait une seule couche de 10 neurones totalement connectés en sortie. Au fil des années, les modèles se sont enrichis avec plusieurs générations d’architectures (LeNet-2, LeNet-3…), pour aboutir en 1998 à la publication du modèle LeNet-5.

2. Réseau LeNet-5

LeNet-5 est certainement le modèle à convolution le plus repris sur Internet. C’est important de le connaître car il représente un jalon historique majeur dans le développement des réseaux de neurones convolutifs. Sa mise au point a bénéficié de la création de la base de chiffres manuscrits MNIST détaillée dans le chapitre Programmation d’un perceptron multicouche.

a. Publication historique

L’architecture du réseau LeNet-5, publiée en 1998 [18], est la suivante :

Architecture du réseau LeNet-5 publiée en 1998

La désignation subsampling (sous-échantillonnage), qui fait référence aux couches de réduction de dimensions, est maintenant...

1. Une caméra pour identifier le textile

La société Philips commercialise une centrale vapeur baptisée PerfectCare Série 9000. Il s’agit d’un produit haut de gamme, destiné au grand public, avec un prix proche des 700 €. Ce positionnement se justifie par une solution extrêmement innovante, avec l’utilisation d’une caméra couplée à de l’intelligence artificielle pour reconnaître les textiles et adapter automatiquement la température de la semelle et la quantité de vapeur.

Centrale vapeur avec caméra intégrée (source Philips.fr)

L’objectif est d’améliorer l’expérience utilisateur, en simplifiant l’usage du produit. Aucun réglage manuel n’est nécessaire : les boutons pour sélectionner le type de tissus (laine, lin, coton…) ou le caractère délicat du textile ont disparu ! Ils sont remplacés par une caméra, couplée à un microcontrôleur, qui automatise ces réglages en temps réel.

Vidéos qui détaillent l’utilisation de la centrale vapeur :

Comme pour le lave-linge présenté dans le chapitre Découverte des réseaux de neurones, l’utilisation d’intelligence artificielle dans le produit constitue un argument commercial fort pour démontrer une avance technologique. C’est une manière de se démarquer de la concurrence, et de valoriser un produit.

2. Découverte du fonctionnement dans les brevets

La société Philips communique sur l’utilisation de l’intelligence artificielle, mais ne donne aucune précision...