Cours d'ACP (part. 3/3-version 2019) : aides à l'interprétation, variables qualitatives, % d'inertie

Nous avons vu dans la vidéo précédente comment construire un graphe des individus et un graphe des variables. Voyons différentes aides à l'interprétation très utiles pour compléter l'analyse des résultats d'une ACP. Ces aides à l'interprétation sont très utiles et sont communes aux différentes méthodes d'analyse factorielle. Une première aide à l'interprétation importante est la qualité de projection. Cette qualité de la projection, on peut la mesurer avec le pourcentage d'inertie expliqué par chaque axe ou expliqué par un plan. Le pourcentage d'inertie, c'est aussi le pourcentage d'information expliqué par un axe ou un plan. On peut construire un diagramme en barres des pourcentages d'inertie expliqués par chaque dimension. On voit ici le pourcentage d'inertie expliqué par la 1ère dimension qui est de l'ordre de 80% et par la 2ème dimension qui est de l'ordre de 18%. Les axes étant orthogonaux, on peut additionner les pourcentages d'inertie de plusieurs axes. Ainsi la 1ère et la 2ème dimension vont expliquer 98% de l'information qui est contenue dans le jeu de données. Cela signifie que si on résume les 12 variables initiales du jeu de données par 2 dimensions, alors on récupère 98% de l'information contenue dans tout le tableau. Autrement dit, nous avons un excellent résumé qui synthétise presque parfaitement les 12 variables. Et donc bien entendu sur les dernières dimensions il y a très peu d'information, il n'est pas nécessaire d'aller visualiser les dimensions suivantes. Dans d'autres exemples, il y aura beaucoup plus d'information sur les axes 3 et 4 et il sera intéressant d'aller regarder ces axes et ces dimensions. Et chercher aussi à interpréter ces dimensions. Alors ces pourcentages d'inertie, on les voit sur les graphes. C'est ce qui est écrit ici: 80% d'information sur le 1er axe et 19% sur le 2ème axe. Maintenant comment savoir si le pourcentage d'information est important ou pas? On peut lire dans ce tableau le quantile à 95% du pourcentage d'inertie du 1er plan de l'ACP quand toutes les variables sont indépendantes. Par exemple, avec 15 individus et 12 variables, cette valeur de 47.8 me dit que, après avoir fait 10 000 ACP avec 15 individus et 12 variables indépendantes, avoir calculé le pourcentage d'inertie du premier plan de chacune de ces 1000 ACP, 95% des valeurs sont inférieures à 47.8. Donc si le pourcentage d'inertie sur le premier plan d'une ACP à 15 individus et 12 variables est inférieur à 47.8, Alors cela signifie que le plan d'ACP n'explique pas plus que ce qu'on aurait eu avec des variables indépendantes. Cela signifie que le résumé n'est pas très synthétique. Dans notre exemple, on avait une valeur de 98% qui est bien supérieure à ce 47,8 et donc cela signifie que le plan de l'ACP de notre exemple résume bien l'information. Il n'y a pas que des variables indépendantes dans le jeu de données mais il y a des liaisons fortes. Ici on trouve le tableau quand le nombre de variables est plus important. Présentons une autre aide à l'interprétation très utile, ce sont les variables supplémentaires ou illustratives. Les variables supplémentaires sont des variables qui ne servent pas à construire les axes, c'est-à-dire que ces variables ne servent pas à calculer les distances entre individus. En revanche, ces variables peuvent être utilisées en complément, en supplémentaire, pour aider à interpréter les axes. On peut avoir des variables quantitatives ou des variables qualitatives en supplémentaire. Pour les variables quantitatives, c'est très simple, on va projeter ces variables quantitatives sur le plan de l'ACP exactement comme on avait projeté les variables pour nous aider à interpréter le graphe des individus. Par exemple, pour la variable latitude, on calcule le coefficient de corrélation entre la latitude et la 1ère dimension et le coefficient de corrélation entre la latitude et la 2ème dimension et on dessine la variable. Et donc avec cette projection, on a la latitude, la longitude puis 2 variables qu'on avait envie de regarder une fois qu'on avait commencé à interpréter nos données. On avait vu que le premier axe semblait opposer des villes où il faisait plutôt froid tout le temps et des villes où il faisait plutôt chaud tout le temps et donc on a calculé la variable température moyenne annuelle. On voit que cette variable moyenne annuelle est très corrélée à la première dimension. Le coefficient de corrélation avec la première dimension est égal à 1 en arrondissant à 2 décimales. Cela signifie que la 1ère dimension c'est la moyenne annuelle. La 2ème dimension est quant à elle très liée à l'amplitude thermique annuelle avec une corrélation qui est proche de -1, c'est-à-dire que les villes qui ont une faible coordonnée sur la 2ème dimension, comme Lyon par exemple, ont une forte amplitude annuelle et les villes qui sont en haut, par exemple Brest, sont des villes avec une faible amplitude thermique annuelle. Donc ça c'est pour les variables quantitatives supplémentaires. Pour les variables qualitatives supplémentaires, on va considérer les modalités des variables qualitatives et donc on va projeter chaque modalité au barycentre des individus qui prennent la modalité. La variable région prend 4 modalités: nord-est, nord-ouest, sud-est, sud-ouest. On va calculer le barycentre des 3 villes du nord-ouest: Brest, Rennes, Nantes et positionner la modalité nord-ouest au barycentre de ces 3 villes. De même, la modalité nord-est est au barycentre des villes Lille, Paris, Strasbourg qui sont les 3 villes du nord-est. De cette façon, on va projeter toutes les modalités de la variable qualitative. Notez bien que la variable qualitative est représentée non pas sur le graphe des variables mais sur le graphe des individus. On visualise les barycentres des modalités. Alors maintenant 2 aides à l'interprétation: la qualité de représentation et la contribution. On va s'intéresser à la qualité de représentation d'une variable ou d'un individu. La qualité de représentation est mesurée par le cosinus au carré de l'angle entre une variable et son projeté sur le plan ou sur un axe. Et de même pour un individu, on va calculer le cosinus carré de l'angle entre le vecteur qui part du centre du nuage et va jusqu'au point i et le vecteur qui part du centre du nuage et va sur le projeté Hi. Ce cos² est calculé axe par axe. Donc on voit par exemple que pour la variable janvier, le cos² avec la 1ère dimension vaut 0.58 et avec la 2ème dimension vaut 0.42. La qualité de projection sur le plan s'obtient en sommant ces 2 valeurs: 0.58+ 0.42= 1, ce qui signifie que le cos² vaut 1, donc cela signifie que l'angle est très proche de 0 et et donc la variable est extrêmement bien projetée. De même pour les individus, le cos² pour Bordeaux vaut 0.95 pour la 1ère dimension, 0 pour la 2ème dimension et donc la somme est égale à 0.95 pour le plan. Donc Bordeaux est une ville qui est extrêmement bien projetée sur le plan. Alors pourquoi s'intéresser à la qualité de représentation? Parce que la proximité entre les individus bien projetés ou les liaisons entre variables bien projetées vont pouvoir être interprétées. Par contre, si 2 individus sont mal projetés, cela signifiera qu'ils sont loin du plan de projection et donc même s'ils sont proches sur le plan, peut-être qu'ils sont éloignés dans l'espace par rapport à une 3ème ou une 4ème dimension. Donc il ne sera pas possible d'interpréter leur proximité. Au niveau des contributions, qui est un autre critère, on peut calculer la contribution d'une variable ou la contribution d'un individu à la construction d'un axe. La contribution d'une variable correspond juste au carré de la corrélation entre la variable et l'axe divisé par la somme des carrés des corrélations entre les variables et l'axe. Alors quand les variables ne sont pas réduites, il faut multiplier les carrés des coefficients de corrélation par la variance de chaque variable. Les contributions permettront de savoir si l'axe a été construit surtout à cause d'une ou quelques variables très particulières. De même, la contribution d'un individu est la coordonnée au carré de l'individu sur l'axe divisé par la somme des carrés des coordonnées de l'ensemble des individus. Ces contributions sont exprimées en pourcentage. Là encore, si un individu contribue très fortement à la construction d'un axe, cela signifie que peut-être qu'à lui seul il contribue à la formation de l'axe et donc que sans cet individu on aurait un axe différent. Dans ce cas-là, on va dire que l'individu est très particulier. On va expliquer en quoi l'individu est très particulier. Et après il peut être intéressant de refaire l'analyse sans cet individu pour voir si les axes changent, si la première dimension de variabilité est toujours la même ou bien si elle est un peu différente sans cet individu très particulier. Si on colorie les individus en fonction de leur qualité de représentation sur le plan, on voit que les individus sur l'extérieur du graphe semblent mieux projetés. C'est souvent le cas mais ici tous les individus sont très bien représentés car l'échelle varie entre 0.9 et 1. Si on colorie maintenant les individus en fonction de leur contribution à la construction du plan, c'est-à-dire des 2 premières dimensions, on voit que les individus qui sont les plus éloignés du centre de gravité sont ceux qui contribuent le plus à la construction de ce plan. La contribution est simplement fonction de la distance au centre de gravité du nuage. Voici maintenant des aides à l'interprétation très importantes quand on a beaucoup de variables. C'est une description automatique des axes par les variables, avec des variables quantitatives et puis on verra ensuite avec des variables qualitatives. Alors comment faire? On va calculer les corrélations entre chaque variable et la dimension et on va trier les coefficients de corrélation. Ensuite on conserve uniquement les coefficients de corrélation significativement différents de 0. Pour la description de la première dimension, on voit que la variable la plus corrélée est la variable moyenne qui a une corrélation extrêmement proche de 1 et qui permet de décrire au mieux le premier axe. Mais il y a d'autres variables, la variable octobre ou septembre, qui sont extrêmement liées et sont corrélées positivement à la 1ère dimension. On voit aussi que la variable latitude est corrélée négativement à la 1ère dimension. Donc il y a beaucoup de variables qui permettent de caractériser la 1ère dimension tandis que la 2ème dimension est décrite avec moins de variables. Ceci est attendu puisque la 2ème dimension est moins liée aux variables que la 1ère, par construction, la 1ère est la principale dimension de variabilité. Les variables janvier et décembre sont corrélées positivement à cette 2ème dimension puis les variables juillet, longitude et amplitude sont corrélées négativement. On voit que la description des dimensions est possible à la fois avec des variables actives, les mois de l'année, et des variables supplémentaires, la longitude, l'amplitude, la moyenne par exemple. Donc voilà pour les descriptions par les variables quantitatives. Pour les variables qualitatives, on va utiliser la méthode d'analyse de variance. Plus précisément, on va considérer le modèle qui explique la variable FS qui correspond aux coordonnées des individus sur l'axe s en fonction de la variable qualitative qui nous intéresse. Donc si on a plusieurs variables qualitatives, on va construire une analyse de variance par variable qualitative. On va construire tout d'abord un test de Fisher pour voir si la liaison est significative entre la variable et les coordonnées des individus sur l'axe. Et on peut ensuite construire des tests de Student pour tester l'effet de chaque modalité et voir si chaque modalité est différente de la moyenne des modalités. Pour la variable région, le rapport de corrélation eta carré de l'analyse de variance vaut 0.6, ce qui s'interprète comme 60% de la variabilité des coordonnées des individus sur la 2ème dimension est expliquée par la variable région. Et ça c'est significatif. Et puis plus dans le détail, on voit que les villes du nord-ouest de la France ont une coordonnée significativement positive sur le 2ème axe. Au contraire, les villes du sud-est de la France ont une coordonnée significativement négative sur le 2ème axe. Pour résumer quelle est la pratique de l'ACP, la première chose à faire est de choisir quelles sont les variables qui seront actives, c'est-à-dire qui vont servir à calculer les distances entre individus, qui vont servir à construire les axes. Les autres variables ne serviront pas à construire les axes mais pourront servir à interpréter les axes, à interpréter les dimensions. Ensuite il faut déterminer si on réduit ou non les variables. On a vu que si les variables sont exprimées dans des unités différentes, il est nécessaire de réduire. C'est indispensable. Par contre, si les variables sont toutes de même unité, on peut réduire et accorder la même importance à chaque variable ou ne pas réduire et accorder plus d'importance aux variables qui ont une plus grande variance. Ensuite on construit l'ACP et on choisit le nombre de dimensions à interpréter. Est-ce qu'on interprète uniquement 2 dimensions ou est-ce qu'on interprète aussi la 3ème, la 4ème dimension? Auquel cas on construira des graphiques avec les dimensions 1-2 mais aussi un graphique avec les dimensions 3-4. Ensuite on interprète les résultats en regardant simultanément le graphe des individus et le graphe des variables. On va faire des allers-retours entre ces 2 graphes pour décrire et comprendre les différences et ressemblances entre individus et pour comprendre les liaisons entre variables. Les différents indicateurs que nous avons présentés permettent d'enrichir l'interprétation. On peut calculer des contributions, utiliser les cosinus carrés pour être sûr que les proximités que l'on visualise sur le plan entre individus sont bien des proximités aussi dans l'espace global. Et finalement quand on dit que 2 individus se ressemblent, il est intéressant de revenir aux données brutes pour être sûr de ne pas faire une mauvaise interprétation. À chaque fois que l'analyse nous suggère une interprétation, il faut revenir aux données brutes pour valider ce que l'on est en train d'interpréter. Il est aussi possible de revenir aux données centrées-réduites plutôt qu'aux données brutes. Alors quelques compléments. Il y a un livre sur l'analyse de données, il y a beaucoup de livres sur l'analyse de données mais il y en a un qui reprend cette présentation du cours: L'analyse de données avec R aux Presses Universitaires de Rennes. Le package FactoMineR permet de faire des ACP avec des variables supplémentaires quantitatives, des variables supplémentaires qualitatives avec toutes les aides à l'interprétation qui ont été décrites dans ce cours. Un site internet est dédié au package FactoMineR et des vidéos montrent comment utiliser le package pour mettre en œuvre les ACP sous le logiciel. Vous avez vu toutes les vidéos de cours sur l'ACP, vous pouvez maintenant voir la vidéo sur comment mettre en œuvre l'ACP avec FactoMineR et, bien entendu, faire les exercices.