La Data Science

Objectif du chapitre

Que ce soit dans la nature ou dans les entreprises, les issues de certains processus sont incertaines et s’apprêtent à des phénomènes aléatoires. Ce caractère aléatoire peut-être une réalité ou une simple apparence. Dans ce dernier cas, il est tout à fait légitime d’essayer de modéliser et de comprendre ces événements. Étudier de tels phénomènes n’est évidemment pas une tâche aisée. Le Machine Learning propose un cadre théorique et algorithmique pour justement modéliser ces phénomènes. L’objectif de ce premier chapitre est d’introduire les concepts généraux du Machine Learning et de la Data Science.

Après la lecture de ce chapitre, même si certains concepts ne sont pas clairs, sachez que des éclaircissements seront apportés par les chapitres suivants. Le lecteur est d’ailleurs invité à y revenir pour faire le lien entre ces concepts et les cas concrets abordés dans les autres chapitres. En effet, les deux premiers chapitres de ce livre serviront de base aux suivants, de sorte qu’après leur lecture, le lecteur pourra directement aborder n’importe quel autre chapitre du livre.

À la fin de ce chapitre, le lecteur aura abordé :

L’objectif recherché en Machine Learning

Les phénomènes étudiés en Machine Learning peuvent être considérés comme des systèmes qui, en fonction de leur environnement, présentent un comportement particulier face à certains événements.

La figure 1-1 ci-dessous montre le schéma général d’un système qui prend en entrée un ensemble de valeurs , puis il réalise un traitement spécifique en utilisant un ensemble de paramètres , et enfin, ce système donne un résultat en sortie. De tels systèmes, avec des entrées, un traitement et des sorties, sont rencontrés partout dans la vie de tous les jours.

Figure 1-1 : un système avec entrées, traitement et sorties.

Généralement, les problèmes concernés par le Machine Learning, sont justement ces systèmes pour lesquels un ensemble d’entrées et de sorties est connu, mais où le traitement effectué pour transformer une entrée en une sortie n’est pas connu. Le but du Machine Learning est idéalement de comprendre ce traitement, ou du moins, trouver le traitement le plus proche possible de celui vraiment effectué au sein du système. Bien sûr, l’hypothèse du Machine Learning est que ce traitement existe et que le fait d’obtenir le résultat à partir de l’entrée n’est pas le fruit du pur hasard.

Une expérimentation Machine Learning

Comme toute expérimentation scientifique, réussir une expérimentation en Machine Learning nécessite d’appliquer une méthodologie avec beaucoup de rigueur. Comme évoqué à la section précédente, l’objectif du Machine Learning est de répondre à un besoin métier en partant des données à la recherche du modèle prédictif le plus robuste possible. Pour y parvenir, il faut se poser plusieurs questions, définir un ensemble d’étapes à suivre, fixer l’objectif de chaque étape, réaliser plusieurs tests avec plusieurs hypothèses différentes et surtout ne pas hésiter à se reposer des questions, quitte à tout remettre en cause à n’importe quel moment de l’expérimentation. La figure 1-3 suivante propose une succession d’étapes à suivre pour réaliser une expérimentation en Machine Learning.

Figure 1-3 : les étapes d’une expérimentation Machine Learning

Ces étapes peuvent être définies comme suit :

Cycle de vie d’un projet Data Science

Les sections précédentes ont montré qu’une expérience en Machine Learning consiste à construire un modèle prédictif en se basant sur un ensemble de données d’apprentissage. Une fois qu’un modèle est construit, il doit être déployé en production pour que d’autres applications puissent l’interroger. Ce déploiement en production est souvent l’objectif final d’une équipe de Data Scientists intervenant sur un projet.

Cependant, il existe des projets de Data Science pour lesquels le déploiement du modèle en production n’est pas une fin en soi. Ce déploiement des modèles en production ne représente qu’une partie d’un projet plus grand que le projet de réalisation d’une expérimentation Machine Learning.

En effet, de plus en plus les entreprises souhaitent s’équiper de solutions End-to-End. C’est-à-dire, des solutions qui prennent en compte toutes les composantes d’un projet où les données sont capturées et suivies en temps pseudo-réel jusqu’à leur transformation en action dite intelligente.

La figure 1-4 ci-après, montre à quoi peut ressembler une solution End-to-End. La première chose à remarquer sur cette figure est que le modèle...

Algorithmes du Machine Learning

Au début de ce chapitre, les algorithmes de Machine Learning ont été introduits comme étant des algorithmes qui cherchent à comprendre le fonctionnement des systèmes qui donnent des résultats après avoir effectué un traitement sur leurs entrées. Ces algorithmes produisent donc des modèles prédictifs. Bien que ce type d’algorithmes caractérise, de façon générale, le domaine du Machine Learning, il en existe d’autres types qui font partie de ces algorithmes dits algorithmes d’apprentissage automatique.

Les algorithmes du Machine Learning peuvent être catégorisés en se basant sur deux critères principaux : le mode d’apprentissage et le type du problème traité.

Le mode d’apprentissage concerne le caractère supervisé ou non supervisé. Sans perdre en généralité, on peut distinguer ces deux types d’apprentissages comme suit :

Validation croisée

Jusqu’à présent, les sections précédentes ont montré que la construction d’un modèle prédictif est basée sur la séparation en deux groupes de l’ensemble des observations d’apprentissage. Un groupe pour l’entraînement du modèle et un deuxième groupe pour le test des performances de ce modèle. Une fois qu’un modèle est construit, l’objectif est de le publier en production pour qu’il puisse être interrogé sur des observations futures. Le problème posé par une telle démarche de construction de modèle est que nous n’avons pas une idée sur les erreurs de prédiction attendues en production. De plus, comme l’a montré la section précédente, ce modèle publié en production peut être affecté par le problème de surapprentissage.

En effet, une fois qu’un modèle est construit, même s’il présente des performances intéressantes, il est très important de se poser les deux questions suivantes :

La validation croisée tente justement de répondre à ces deux questions. Elle permet d’un côté d’estimer le taux d’erreur du modèle en production sur les futures observations, et de l’autre côté, de mettre en évidence si le modèle a sur-appris sur les données d’entraînement.

Plusieurs méthodes permettent de mettre en place une validation croisée sur un modèle. Sans être exhaustive, la liste ci-dessous présente les méthodes de validation...

Métriques de performance

Pour conserver un cadre formel cohérent tout au long de ce livre, les notations suivantes seront adoptées :

Par exemple est le résultat de l’observation .

Pour rappel, l’objectif des algorithmes du Machine Learning est de construire des modèles prédictifs en utilisant la base d’apprentissage, capables de prédire lorsque sera observé, puis de prédire lorsque sera observé et ainsi de suite.

En résumé, la base d’apprentissage peut être représentée comme suit :

Lorsque le nombre de variables explicatives est égale à 1, pour simplifier la notation, l’indice des variables sera omis et la base d’apprentissage sera représentée par :

Les mesures de performances d’un modèle en Machine Learning sont essentiellement basées sur la comparaison des vrais résultats avec les prédictions sur les observations de la base d’apprentissage.

Cette comparaison entre les vrais résultats et les prédictions dépend du type du modèle choisi pour décrire la relation entre et . Généralement :