Exemple d'analyse des correspondances sur des données textuelles

Dans cette vidéo, le présentateur montre comment appliquer l'analyse des correspondances (AFC) à un corpus textuel constitué de descriptions Wikipédia de quatre méthodes d'analyse de données (ACP, AFC, ACM, classification). Il décrit la construction d'un tableau lexical où les lignes sont les mots et les colonnes les méthodes, ainsi que les prétraitements appliqués (élimination des stop‑words, lemmatisation, seuil de fréquence). Il explique la propriété d'équivalence distributionnelle qui justifie le regroupement de mots synonymes ou de formes plurielles. Le présentateur calcule les statistiques d’ajustement (chi², phi²) et les valeurs propres, montrant que les deux premiers axes expliquent 78 % de l’inertie. Il interprète le graphe simultané : le premier axe sépare la classification des méthodes factorielles, le second oppose ACP et ACM, tandis que l’AFC occupe une position intermédiaire. Il discute également de la stabilité des résultats face à différents seuils de fréquence des mots, montrant que les positions restent similaires. Enfin, il donne un bref aperçu historique de l’AFC et de ses premières applications textuelles par Jean‑Paul Benzécri.
Chapters
Nous allons voir dans cette vidéo une application de l'analyse des correspondances dans un domaine particulier: l'analyse de données textuelles. L'objectif de cet exposé est d'une part d'illustrer le cours d'AFC par un exemple et d'autre part de montrer comment l'analyse des correspondances permet d'analyser un corpus de textes. Plus précisément, les données sur lesquelles nous travaillons sont des descriptions de 4 méthodes d'analyse de données: l'analyse en composantes principales, l'analyse des correspondances, l'analyse des correspondances multiples et la classification. On a récupéré la description de ces méthodes dans Wikipédia et construit ce que l'on appelle un tableau lexical. En colonne, on trouve les méthodes d'analyse de données et en ligne les mots tels qu'ils ont été utilisés. Ce tableau lexical comporte, à l'intersection de la ligne i et de la colonne j, le nombre de fois que le mot numéro i a été utilisé pour décrire la méthode numéro j. On a au total plus de 4700 mots différents qui ont été utilisés. Des prétraitements spécifiques à l'analyse de données textuelles peuvent être utilisés ou non avant de faire une analyse des correspondances. Il est plutôt conseillé de faire ces prétraitements lorsque le corpus de textes n'est pas trop important. Les mots-outils comme par exemple alors, donc, et, etc. ont été éliminés de l'analyse pour éviter de surcharger les graphes, mais les laisser dans l'analyse ne modifierait pas vraiment les résultats. De même, les mots de même racine comme réduit, réduction, réduite sont concaténés ainsi que les mots utilisés au singulier ou au pluriel. Nous avons de plus conservé les mots cités au moins 3 fois et supprimé donc les mots de très faible fréquence. Rappelons la propriété tout à fait remarquable de l'analyse des correspondances qu'est l'équivalence distributionnelle. C'est une propriété particulièrement précieuse dans l'analyse de tableaux lexicaux. En effet, si plusieurs mots ont le même profil, on peut les regrouper en un seul groupe de mots avant de faire l'analyse. En additionnant simplement les effectifs. L'analyse des correspondances de ce tableau simplifié donne exactement les mêmes résultats que l'AFC sur le tableau d'origine. Cela dépassionne tout à fait le débat: faut-il ou non regrouper certains mots synonymes, faut-il regrouper les singuliers et les pluriels, etc. Grâce à l'équivalence distributionnelle, on sait que si ces mots ont le même profil, il revient au même de les regrouper ou non. Notre tableau lexical contient finalement 116 mots. Et donc notre objectif est l'analyse d'un tableau d'effectifs. La première idée très simple consiste à rechercher dans ce tableau les grands effectifs. Par exemple, le mot variable a été utilisé 33 fois pour décrire l'ACM. On se dit que l'ACM est une méthode particulière parce qu'elle utilise des variables. Seulement, avant de dire ça, il faut quand même se rendre compte que le mot variable est en fait le mot le plus utilisé, 59 fois. Ça correspond à la somme des éléments de la ligne. Donc c'est finalement un mot assez banal et donc utilisé 33 fois, ce n'est pas si extraordinaire que ça. On comprend donc que pour analyser un effectif, il faut examiner les marges du tableau. Ça, c'est une des idées importantes de l'analyse des correspondances. Donc quel est notre objectif? Notre objectif, c'est la visualisation du tableau lexical par l'analyse des correspondances. Donnons avant de démarrer quelques éléments historiques. Les premières applications de l'analyse des correspondances, au début des années 60, étaient justement des applications sur des données textuelles. Elles sont dues à Jean-Paul Benzécri qui a fondé l'analyse des correspondances et par la suite toute l'école d'analyse des données. Jean-Paul Benzécri avait comme première étudiante Brigitte Escoffier qui a soutenu sa thèse en 1965. Dans sa thèse, il y a beaucoup de résultats théoriques qui sont très importants pour l'analyse des correspondances. Il s'agit des formules de transition, des formules de reconstitution. Les applications étaient sur des données textuelles. Une première étude consistait dans la pièce de théâtre Phèdre de Racine dans laquelle on avait les personnages de Phèdre d'une part les mots et pour chaque personnage on avait le nombre de fois qu'il avait utilisé tel mot ou tel mot. Ça c'est un des premiers tableaux analysés par analyse des correspondances. On avait aussi des tableaux d'association entre verbe et nom, nombre de fois que tel verbe est utilisé avec tel nom. Les rimes, nombre de fois que tel mot rime avec tel autre mot, etc. Donc il s'agissait bien de données textuelles. Avant d'interpréter les représentations graphiques, regardons les inerties et pourcentages d'inertie. La statistique du chi² et la probabilité critique extrêmement faible associée à ce test nous indiquent que la liaison entre les mots et les méthodes est importante. Nous pouvons aussi calculer l'indicateur de liaison entre les 2 variables qu'est le phi². Le phi² vaut ici 1.315 alors qu'il peut au plus être égal à 3 puisque 3 correspond au nombre maximum de valeurs propres non nulles. 3 est égal au minimum entre le nombre de lignes- 1 et le nombre de colonnes- 1. Par conséquent, la valeur de 1.315 est relativement élevée, ce qui montre qu'il y a des associations fortes entre les méthodes et les mots. Cela signifie que certains mots sont employés spécifiquement pour décrire une méthode tandis que d'autres mots sont spécifiques pour d'autres méthodes. Les 2 premières valeurs propres sont élevées, 0.59 et 0.44, ce qui signifie que les interprétations des 2 axes que nous pourrons faire seront fondées sur beaucoup d'informations. Rappelons qu'au maximum une valeur propre peut être égale à 1. Donc si on regarde les pourcentages d'inertie, on peut dire que les 2 premiers axes représentent 78% de l'écart à l'indépendance. On pourra considérer ce pourcentage comme grand et se limiter à ces 2 axes dans l'interprétation. Voilà dans notre exemple le graphique simultané fourni par l'analyse des correspondances. Nous avons donc une représentation des lignes, c'est-à-dire des méthodes en bleu, et des colonnes, donc ici les mots en rouge. On voit tout de suite que le premier axe sépare sur la droite la classification des méthodes d'analyse factorielle à gauche. Cette séparation est nette et montre que la classification est décrite par un vocabulaire spécifique. Quels sont les mots suremployés pour décrire la classification? Sans surprise, on retrouve les mots classification, hiérarchique, mais on trouve aussi des mots qui décrivent la méthode: classe, distance, agrégation, indice, dissimilation. Minorité. À l'opposé, à gauche, on retrouve des mots qui décrivent les méthodes d'analyse factorielle. Mais ces mots sont dispersés le long du 2ème axe qui oppose l'ACP en haut à l'ACM en bas. L'AFC quant à elle a une coordonnée proche de 0 sur le 2nd axe et est donc une méthode qui est décrite par des termes utilisés aussi bien pour décrire l'ACP que pour décrire l'ACM. C'est pour cette raison que sa coordonnée est moyenne. Les termes en haut à gauche sont suremployés pour décrire l'ACP et on retrouve beaucoup de termes de statistiques classiques: bruit, série, aléatoire, échantillon, car la fiche Wikipédia positionne l'ACP par rapport aux autres méthodes classiques de statistiques. En bas à gauche, on a des termes plus spécifiques d'analyse de données pour décrire l'ACM comme TDC pour tableau disjonctif complet, disjonctif, relation, transition, etc. Ce transparent résume les principales interprétations que nous venons de donner à partir du graphe simultané. Cela signifie que le premier axe oppose assez clairement la classification aux autres méthodes et les mots employés par la classification d'une part, à droite, et les mots employés par les autres méthodes à gauche. Donc les mots employés par la classification sont assez distincts des mots employés par les autres méthodes d'analyse factorielle. Si la première valeur propre valait 1, alors les mots utilisés pour décrire la classification seraient exclusivement utilisés pour la classification et aucun autre mot ne serait utilisé pour décrire la classification. La valeur propre n'est pas aussi extrême que 1, certains mots sont communs, mais la valeur propre élevée indique que le vocabulaire utilisé pour décrire la classification est assez spécifique. De même, la 2ème valeur propre est relativement élevée, ce qui indique que le vocabulaire utilisé pour l'ACP ou pour l'ACM est sensiblement différent. Une autre question se pose de façon systématique à la personne qui analyse des textes: C'est le seuil à partir duquel on conserve les mots. Dans l'analyse qui vient d'être présentée, on a conservé les mots qui étaient utilisés au moins 3 fois. Mais que se passerait-il avec un seuil de 4, avec un seuil de 5 ou de 6? Nous avons refait l'analyse avec un seuil de 6 et on voit que les résultats sont ici très stables. La position des mots et des méthodes est très similaire sur ce graphe par rapport au graphe de l'analyse précédente. On peut également représenter les mots cités de 3 à 5 fois comme éléments supplémentaires dans l'analyse. C'est-à-dire que ces mots n'ont pas participé à la construction des axes de l'AFC mais qu'ils sont projetés en supplémentaire et peuvent aider à l'interprétation des axes. Comme les axes sont les mêmes dans cette analyse et dans l'analyse utilisant tous les mots en actifs, la projection des mots peu cités, ici en marron, est proche de leur position dans le graphe initial. Sur cet exemple, le choix du seuil pour conserver les mots à utiliser ne modifie pas les interprétations. Donc voici un exemple d'illustration de l'AFC avec une application particulière à l'analyse de données textuelles.
More from Yamossoun

Algorithme de calcule de la racine carrée par dichotomie #dichotomy #squareroot #algorithm









