Opinions et classification de textes

Ce que nous allons découvrir et les prérequis

Dans le chapitre précédent, nous avons vu l’utilité de la classification appliquée à des chiffres en nous permettant de déterminer si l’objet détecté par un sonar était une mine ou un rocher. Nous allons à présent découvrir l’utilité de la classification pour le texte, qui est peut-être moins évidente, sauf si nous évoquons le fait que ce type de classification permet de vous proposer des publicités ou des articles ayant un contenu en relation avec les différentes recherches que vous avez effectuées sur Internet ou les différentes conversations que vous avez réalisées sur les réseaux sociaux  !

Nous verrons également que la classification de texte peut être appliquée à la détermination de l’opinion des internautes sur les réseaux sociaux sur un sujet donné. Ce qui peut, nous en convenons, être un peu dérangeant, et susciter les craintes que nous avons évoquées au début de cet ouvrage.

Naive Bayes appliqué au TALN

Lorsque que nous évoquons la classification de texte, l’algorithme incontournable permettant de réaliser cette tâche est Naive Bayes se basant sur la fréquence d’apparition des mots. Pour les différents exemples qui vont suivre, nous vous invitons à laisser quelques instants de côté votre ordinateur pour vous munir d’une feuille de papier, d’un crayon et d’une calculatrice.

1. Le théorème

Comme nous l’avons déjà évoqué et illustré dans le chapitre Principaux algorithmes du Machine Learning, l’algorithme de Naive Bayes se base sur le Théorème de Bayes fondé sur les probabilités conditionnelles c’est-à-dire la détermination de la probabilité qu’un évènement se produise en fonction d’un évènement qui s’est déjà produit. Les évènements devant être indépendants l’un de l’autre.

Le théorème de Bayes s’exprime sous la formule suivante :

Naive Bayes pour l’analyse d’opinion

Comme nous allons à présent le constater, le théorème de Naive Bayes va nous permettre de réaliser l’analyse d’option des internautes en fonction de leurs posts sur les réseaux sociaux.

En analysant les différents messages des utilisateurs laissés sur les réseaux sociaux ou sites internet à propos d’un produit, ou bien d’un sujet en particulier (sport, politique…), nous pouvons déterminer s’ils sont plutôt contents, mécontents, heureux, tristes, en accord, en désaccord et agir en conséquence.

Comment ? En analysant les mots des différents messages et en classant ces messages dans différentes catégories : en accord, en désaccord, content, mécontent. Cette classification permet par exemple d’alerter en direct les responsables de la communication d’un produit en cas de mécontentement. Cette alerte permet de répondre à l’utilisateur très rapidement et évite ainsi la propagation d’une mauvaise image de la marque.

Prenons l’exemple d’une étude de conversations à propos des chats récupérée sur les réseaux sociaux. À partir de l’occurrence des mots dans une phrase, on peut identifier l’opinion de la personne ayant posté le message à savoir : elle aime ou non les chats.

Imaginons à présent un nouveau commentaire : "I love awful cats". La personne ayant posté ce commentaire aime-t-elle ou non les chats  ? C’est la difficile question à laquelle devra répondre notre algorithme de classement de texte.

Cas pratique : croyez-vous au réchauffement climatique ?

Nous allons à présent procéder à la détermination d’opinions à partir d’un jeu d’observations réel issu du réseau social Twitter. Nous ne nous attarderons pas sur les différentes phases de calcul, mais utiliserons le langage Python pour mener à bien la mission de classification.

Phases d’apprentissage et de prédiction

Les données étant préparées, nous pouvons à présent passer aux phases d’apprentissage et de prédiction.

from sklearn.model_selection import train_test_split 
 X_train, X_test, y_train, y_test = 
train_test_split(messagesTwitter['TWEET'].values,  
messagesTwitter['CROYANCE'].values,test_size=0.2) 

L’algorithme SVM (Machine à vecteurs de supports) pour le classement de texte

Nous allons à présent utiliser l’algorithme SVM pour tenter de classifier notre texte. Cet algorithme commence à nous être familier, car les chapitres précédents nous ont permis de découvrir son fonctionnement et son optimisation.

Tout comme pour l’algorithme de Naive Bayes, nous allons utiliser un pipeline pour réaliser les différentes tâches d’analyse des messages avant leur apprentissage :

from sklearn.pipeline import Pipeline 
from sklearn.feature_extraction.text import CountVectorizer 
from sklearn.feature_extraction.text import TfidfTransformer 
from sklearn.svm import SVC 
etapes_apprentissage = Pipeline([('frequence',  
CountVectorizer()), 
                                 ('tfidf', TfidfTransformer()), 
                                 ('algorithme', 
SVC(kernel='linear', C=2))]) 

Réalisons à présent l’apprentissage :

modele = etapes_apprentissage.fit(X_train,y_train) 
from sklearn.metrics import classification_report 
print(classification_report(y_test, modele.predict(X_test),  
digits=4)) 

L’algorithme SVM plus performant que Naive Bayes ?

Nous pouvons constater que l’algorithme SVM est bien plus performant que Naïves Bayes. Le même constat est également réalisé par les experts du Machine Learning (ouf !).Cela est dû au fait que Naive Bayes considère chaque feature comme étant indépendante alors que SVM cherche à trouver des éléments de corrélation entre elles. Cependant, Naive Bayes offre de bons résultats pour un coût de performance plus faible de l’algorithme SVM. Naive Bayes est donc à privilégier. C’est d’ailleurs pour cela que les filtres antispam l’utilisent, pour sa simplicité de mise en œuvre et pour ses bonnes performances.

Dans ce chapitre quelque peu ardu, nous en conviendrons lors de certains paragraphes, nous avons découvert comment le Machine Learning pouvait intervenir dans la classification de texte et les multiples applications que cela pouvait générer, jusqu’à la détermination de l’opinion exprimée par les utilisateurs des réseaux sociaux. Cela peut vous interloquer et nous en sommes conscients surtout dans la période que nous traversons actuellement. Nous profitons donc de ce chapitre pour vous sensibiliser sur les informations laissées sur les réseaux sociaux et les usages pouvant en être...