Stanislas Polu explains why large language models excel at interpolating from training data but fail at extrapolation, especially in math where problem types shift from algebra to geometry. Self-verification only works in formal mathematics with exhaustive search, and models struggle with truly novel tasks without direction toward the right problem space.
Chapters
Nous sommes la moyenne des personnes que nous fréquentons. Avec Génération Do It Yourself, je vous propose de rencontrer ensemble des entrepreneurs, sportifs ou artistes qui vont littéralement faire exploser notre moyenne.
Et donc j'ai fait 3 ans de recherches là-dessus et le ressenti final est le suivant, c'est que ces modèles restent très interpolatif. Alors, qu'est-ce que ça veut dire interpolatif? C'est-à-dire que s'ils ont vu des exemples qui sont du type de la question qu'on leur demande, ils sont capables d'interpoler ces exemples pour répondre à cette question-là. Cette question est nouvelle, elle est originale, mais elle ressemble à des choses qu'il a déjà vues. Il est capable d'innover sur la base des choses qu'il a déjà vues, qui sont très similaires, pour répondre à cette question en particulier.
Et après, tu es capable de vérifier la réponse?
Et après, on est capable de vérifier la réponse. Maintenant, si on prend des problèmes qui sont complètement nouveaux, d'un type très différent, avec une— on a tous peut-être cette intuition, on a un problème de maths qui paraît très surprenant, par exemple, si on n'a fait que du calcul, le jour où on nous donne un problème de géométrie, il a une tête complètement nouvelle et différente. Bon bah, dans le domaine des problèmes mathématiques, il y a des problèmes, on peut toujours trouver un problème qui a une saveur très différente. D'un autre ensemble de problèmes. Et donc, si on prend un problème qui a une saveur très différente de ce sur quoi le modèle a été entraîné, même si ce problème est de manière qualitative pour un humain beaucoup plus simple, en général, le modèle va se tromper 100 du cas parce qu'il n'a pas d'exemples qui ressemblent à ce problème-là. Il n'est pas capable d'extrapoler à ce problème-là. Et donc, aujourd'hui, on sait rendre les modèles assez bons sur tout ce sur quoi ils sont capables de s'entraîner, mais on a beaucoup de mal à les faire innover vers quelque de nouveau.
Tu vois, alors si j'ai bien compris ce que tu m'as dit, mon intuition, qui est peut-être fausse, donc puisque tu as bossé 3 ans là-dessus, etc., mais me dirait qu'en fait, si je suis capable de donner un problème à une machine qui, quand elle y répond, elle est elle-même capable de dire qu'elle l'a bien répondu ou pas. Ça, on est d'accord? Vous arrivez, vous pouviez arriver à faire ça?
C'était dans le cas très particulier des maths formelles.
OK. Si tu lui donnes un problème, donc qu'elle ne connaît pas ou elle a peu de données, un nouveau problème, elle a du mal à y répondre. C'est ce que tu dis, voire elle n'y arrive pas du tout. Mais si elle y arrive une fois, elle va être capable de dire qu'elle a réussi. Tu pourrais te dire, on va essayer des milliards de fois. Finalement, si tu arrives avec des puissances de calcul totalement incommensurables, on essaie des milliards de fois, il y a bien un jour.
Il y a une probabilité très fine qu'un jour elle y arrive. Voilà.
Et puis si tu l'augmentes augmente avec le quantum ou des choses comme ça, elle augmente de milliards de milliards. Et que tout ce que tu faisais en 10 ans ou 100 ans avant, tu peux le faire en une seconde. Mais à un moment, de toute façon, même sa probabilité infime, tu vois, on va la régler en 10 minutes, quoi. Et si elle est capable de vérifier ça une fois, elle va dire ah bah tiens, j'ai un exemple, tiens, j'en ai 2, tiens, j'en ai 3.
Et puis boum, ça y est, c'est fait.
Après, tu arrives dans un moment où en fait elle va s'auto-poser elle-même des problèmes qui sont très compliqués, que personne n'a répondu, que personne ne s'est posé. Et puis en fait, c'est là où on pense à un moment qu'il va y avoir peut-être un vrai point de bascule. Et ce que je lis à droite à gauche, c'est que ce point de bascule pourrait être— la question qu'on se pose, c'est est-ce qu'il va se faire en une fraction de seconde, dans quelques jours ou en 50 ans? C'est pas clair, c'est ça?
C'est-à-dire qu'aujourd'hui, aller chercher ce problème très différent, mais sur lequel la machine a une probabilité vraiment infinitésimale d'y arriver, donc on sait pas le faire avec une quantité de calcul infinie. En effet, mais avec une quantité infinie, tu peux tout faire. C'est ça le problème. Donc, il n'y a pas besoin d'intelligence artificielle, pas besoin de modèles de langage. Par exemple, dans les maths formelles, c'est un cas très particulier, un vérificateur. Si j'ai un calcul de puissance infinie, j'essaye toutes les strings possibles pour les preuves. Tu vois, une preuve, ça doit faire 10 000 caractères. J'essaye toutes les combinaisons possibles de ces 10 000 caractères. Il y en a une qui va sortir. Mais ça, ça demande un temps. Enfin, ça demande plus de calculs qu'il y a d'atomes dans l'univers. Donc problème. Mais je pense que ce qu'on ne sait vraiment très mal faire, c'est pointer un problème nouveau à la machine et lui dire essaye d'aller vers ce problème-là. On a réussi à le faire dans les jeux. Donc en effet, en go et en échecs, la machine est complètement surhumaine. Mais la raison pour laquelle, c'est qu'en fait, elle a toujours quelque chose qui la rattrape. C'est-à-dire que c'est parce que le jeu est symétrique. Tu fais jouer la machine contre elle-même, il y a toujours un gagnant. Donc il y a toujours un avantage.
On peut l'entraîner tout le temps.
Il y a toujours un signal. Alors que quand il y a un problème un peu lointain, la machine va essayer des trucs et en fait, elle va générer juste du bruit. Et il n'y a jamais de signal tant qu'on n'arrive pas à le craquer d'une certaine manière. Donc il y a cette capacité à même, et ça même quand on a une vérification parfaite. Donc ce qui est un autre problème, c'est qu'aujourd'hui, quand tu demandes à la machine de générer quelque chose et tu demandes ensuite est-ce que ce que tu as généré est vrai? La machine se trompe encore de dire oui, oui, c'est vrai. Et parfois elle va dire non, ce que j'ai généré est complètement faux. Et on le sent pas mal avec ChatGPT. Si tu demandes à ChatGPT quelque chose, GPT-4, tu demandes quelque chose, tu sais qu'il a faux, tu dis non mais là je crois que c'est pas bon. Il fait ah oui pardon, en effet j'ai dit une grosse connerie, laisse-moi redire une autre connerie. En général c'est parce que tu es dans un endroit où tu es un peu à la limite du système et il va continuer à dire n'importe quoi. Mais cela étant dit, même sur des choses, même si on arrive à avoir la machine qui commence à devenir vraiment très bonne sur toutes les tâches pour lesquelles elle a vu quelques exemples, ça risque de couvrir une grosse partie de ce qu'on fait au jour le jour. Donc rien que là, ce serait extrêmement transformatif. Et ça, il n'y a aucune raison de penser que ça— enfin, c'est déjà là quasiment et ça va ne faire que s'améliorer parce que les modèles suivants vont être plus gros, plus forts, le compute va coûter moins cher, ils vont coûter moins cher à utiliser. Donc ça, cette dynamique, elle est en marche.
