TCA 2023 Dust / Interview start-up

Stanislas Polu, co-founder of Dust and former OpenAI researcher, built a platform where companies create custom AI assistants connected to internal data like Slack and Notion. Early customers report 25-30% daily active usage, far higher than ChatGPT. Dust keeps humans in control, following a "R2-D2 not Skynet" safety approach.
Chapters
Ah voilà, bonjour. Vous êtes le cofondateur de Dust, vous êtes, allez, je vais dire, un expert de l'IA générative. Vous avez travaillé aussi chez OpenAI pendant 3 ans, c'est ça? 3 ans et demi, juste avant l'arrivée de ChatGPT.
Juste avant la pause.
Alors Dust, c'est une plateforme, comment je vais résumer ça, qui propose aux entreprises de créer des assistants personnalisés sur des tâches vraiment données, c'est ça?
Exactement, on veut être la plateforme qui va soutenir le pari en générative AI qu'une entreprise va faire. Et ce qu'on voit, c'est que la pénétration de cette technologie dans les entreprises, elle est aidée quand les personnes qui sont un peu expertes de cette technologie créent des assistants beaucoup plus faciles à utiliser pour les personnes qui sont un peu moins expertes. Donc notre plateforme, elle permet de Prendre la donnée d'entreprise, créer des assistants sur des tâches précises et qui sont ensuite plus faciles à utiliser.
Donc il y a un assistant Dust et il y a des assistants personnalisés. On peut regarder un peu, déjà peut-être nous donner quelques exemples et puis on regarde aussi comment ça marche.
En espérant que tout est connecté, c'est parfait. L'ordinateur arrive, donc l'ordinateur se connecte. Ah, alors je suis pas sur le bon écran, mais on va essayer d'improviser quelque chose pour y arriver. Hop là. Ça va être du coup très difficile.
Alors attendez, vous voyez là Stanislas, normalement vous avez dans les écrans de retour après, vous allez pouvoir voir.
Je vais mirror, hop tac, et espérons que ça marche cette fois-ci. C'est parfait, c'est parti! Les joies du live. Alors Dust est donc une plateforme sur laquelle vous avez une interface conversationnelle typique. Je peux parler ici? Une interface conversationnelle typique sur laquelle vous pouvez parler avec GPT-4 en demandant histoire du bâtiment Donc ça, c'est ce que tout le monde connaît, ça ressemble à ChatGPT et ça permet à une entreprise de déployer ChatGPT à l'intérieur de ses équipes. Maintenant, pour le travail, si on pense productivité, évidemment, ce qui est intéressant, c'est d'avoir accès à l'information de l'entreprise. Et donc on est aussi capable donc de se connecter aux différents SaaS que l'entreprise utilise pour aller chercher la donnée en temps réel et la mettre à disposition des modèles. Donc par exemple, nous avons un assistant comme vous l'avez mentionné qui s'appelle Dust et qui connaît tout de l'entreprise. Donc si je lui demande qui parle aujourd'hui au sommet NetExplo, c'est ça?
Oui, NetExplo.
Donc là, l'assistant va faire une recherche à l'intérieur de toute notre base de connaissances, en particulier va aller chercher sur Notion, Slack, Google Drive, et va me sortir du coup une réponse basée sur ce qui a été retrouvé. Alors le wifi est un petit peu lent, mais on va espérer que ça arrive. Voilà, et donc il a en effet découvert que sur Slack j'ai posté hier le fait que j'avais participé à cette conférence, et donc que c'est moi qui allais y parler, que j'étais prévu pour 11h37, pour une durée de 15 minutes.
Très bien, parfait.
Ça c'est vraiment un premier use case qui permet d'aller chercher l'information, de la mettre à disposition. Ça couvre pas tous les usages de la Généralité de l'IA, mais ça remplace un peu la recherche. Par exemple, nous chez Dust, en tant qu'ingénieur, moi je vous parlais en tant qu'ingénieur, on écrit encore de la documentation, mais on a arrêté de la lire. C'est-à-dire qu'on ne va plus jamais lire la documentation qu'on écrit. On a par exemple un assistant qui s'appelle @eng, et si je lui demande how to scale down Connectors, workers. Il va aller chercher dans toute l'information qui est spécifique engineering et me faire une réponse sur la base du prompt qu'on lui a mis, d'être en général plutôt concis, etc. Et donc là, il me donne la commande qui va me permettre d'aller tuer un service dans le cas d'incident. Bon, il s'avère que c'est très intéressant aussi de pouvoir chaîner ces assistants. Par exemple, là j'ai @Eng qui m'a donné une commande pour aller faire quelque chose sur notre système. Et j'ai aussi un assistant qu'on appelle Q, qui est notre assistant de programmation. Et on pourrait lui demander write Python function for x. Et donc là, au sein de la même conversation, on a vraiment la succession de plusieurs assistants qui ont été spécialisés pour certaines tâches. Donc on a un assistant qui connaît notre base de connaissances, un autre assistant qui est capable de nous inciter à coder.
Pas mal déjà, ça fait pas mal. Allez, on a le temps, on a le temps.
Et donc on pense vraiment que pour déployer cette technologie, il faut la rendre plus simple. Et la rendre plus simple, donc c'est la création de ces assistants. Et pour vous montrer un exemple, je vais essayer ici d'accrocher un— je soumets un PDF à la conversation, c'est un PDF qui parle de NetExplos, et j'ai par exemple 2 assistants qui m'aident à générer des tweets en français et en anglais. Et donc en fait ici je n'ai pas eu besoin de prompter le modèle, j'ai pas eu besoin de comprendre comment un modèle fonctionne, il y a quelqu'un qui a fait ce travail-là pour moi. Et juste en appelant mes assistants Tweetthread France et Tweetthread anglais, il va générer des threads Twitter sur NetExplos sur la base du PDF que je lui ai envoyé, et le faire dans la, avec la tonalité de la société. Et avec les instructions qu'on veut. Donc là, on lui a dit il faut faire 3 tweets, par exemple.
L'idée, Stanislas, c'est vraiment là, dans tout ce que vous nous avez montré, augmenter l'humain et pas le remplacer. C'est vraiment ça?
Exactement.
On va se rasseoir. Ouais, vous serez mieux. Est-ce que le micro— non, je le récupère. Hop là, voilà.
Merci beaucoup. C'est tout à fait ça. En fait, on se focalise entièrement sur des cas du type utilisations internes et jamais sur des cas d'utilisation externe. Un de nos mantras, c'est R2-D2 et pas Skynet Alors c'est des références un peu sci-fi, mais c'est vraiment l'idée de se focusser sur des usages internes qui vont augmenter l'humain, le rendre plus efficace, lui enlever des tâches peu intéressantes et pas du tout le remplacer. Donc on n'est jamais sur les usages externes, mais toujours internes.
En préparant cette interview, vous m'avez dit quelque chose d'assez intéressant, c'est qu'aujourd'hui tout le monde veut adopter l'IA générative mais qu'il y a un défi d'adoption classique. Et ça, c'est vraiment peut-être ce qu'il faut avoir en tête aujourd'hui.
Oui, exactement. Donc toutes les sociétés sont early adopteurs parce que les boards parlent d'IA, les managements parlent d'IA. Donc toutes les sociétés sont très curieuses en tant que personnes morales. Mais ce qui est très intéressant, c'est quand on est déployé à l'intérieur d'une société, même une société tech de 100 à 200 personnes où on pourrait s'attendre que tout le monde utilise ChatGPT, on voit une courbe d'adoption classique. Et donc c'est, je pense que c'est vraiment peut-être la métrique que nous on cherche à optimiser, c'est d'aider la pénétration de cette technologie au sein d'une société et d'aider à passer cette courbe d'adoption. En général, vous rentrez dans une boîte tech de 200 personnes, vous allez avoir 30% des gens qui utilisent déjà ChatGPT, comprennent la technologie, savent s'en servir et en ont de la valeur. Notre produit va leur permettre de faire plus et ils vont être encore plus heureux. Mais surtout, le fait qu'ils vont créer des use case pour les autres va permettre de déployer cette technologie auprès des 70% qui sont pas encore adopteurs de l'IA générative.
Alors, qui sont vos clients et quels sont les retours qu'ils vous font, les premiers retours?
Alors, on en est au tout début. Donc, on a levé de l'argent il y a 8 mois. On a commencé notre dernière mouture du produit, il y a peut-être, ça fait peut-être 5 mois qu'on travaille dessus. On a commencé la commercialisation il y a peut-être 3 semaines.
C'est tout tout récent pour les réseaux sociaux.
Et donc, on a travaillé avec des design partners français. Donc, c'est des sociétés avec qui on a une relation plutôt collaborative. Et donc, aujourd'hui, on est à un point où on, donc toutes ces sociétés-là, c'était entre 100 et 500 personnes, on avait 4 ou 5. On est à un point où on a réussi à les convertir en client payant, donc ça montre que ça fonctionne. Dans la plupart d'entre elles, le taux d'utilisation mensuel par exemple atteint presque virtuellement 100%. Taux d'utilisation journalier est en général autour de 25-30%, et c'est des chiffres qui n'étaient pas du tout les mêmes quand c'était juste ChatGPT qui était utilisé de manière anecdotique, mais directement par les employés. Donc les retours sont hyper positifs, on commence à faire de l'argent, donc c'est génial, mais on en est qu'au tout début.
Vous avez entendu depuis ce matin, vous étiez là Stanislas Polu, donc les différents dirigeants d'entreprises qui ont fait part de leur prudence, pragmatisme par rapport à l'IA générative, cette volonté peut-être de pas aller trop vite et de bien encadrer les choses. Vous, comment est-ce que vous regardez ce sujet?
Je pense que c'est dans notre mantra de chercher à augmenter les humains, c'est une forme de sécurité aussi, c'est-à-dire qu'on veut garder le processus de décision fondamentalement humain. Les agents, les assistants n'ont pas de moyens d'agir sur l'entreprise. Alors il y a évidemment encore des risques, parce que si l'humain a de plus en plus confiance dans la technologie, à un moment peut-être que la technologie va lui dire de faire quelque chose et l'humain va le faire sans réfléchir. Et donc il y a évidemment une énorme quantité d'éducation à faire, puisque c'est en effet très dur à comprendre qu'une machine puisse se tromper. Ça fait 20 ans qu'on nous dit le contraire. Et donc il y a une dimension éducation, et encore une fois, le fait d'essayer de créer des outils autour de cette technologie, plus que des assistants complètement généralistes qui peuvent tout faire, ça permet aussi de faire un déploiement plus sécurisé, puisqu'un outil a peut-être un scope beaucoup plus limité. Et à une manière d'être utilisée beaucoup plus simple. Donc les risques se réduisent. Il y a toujours évidemment des risques.
Est-ce que vous avez un message à adresser justement aux dirigeants des grandes entreprises sur ces sujets-là?
Alors moi, je pense qu'il faut évidemment essayer d'embrasser cette technologie. Nous, on est impressionnés dans les entreprises dans lesquelles on déploie notre plateforme, on est impressionnés par les retours de certaines classes d'utilisateurs, notamment les jeunes en général, les professions qui sont plutôt juniors, nous reportent qu'ils l'utilisent des dizaines de fois par jour et qu'ils estiment à des gains de temps de plusieurs dizaines de pour cent. Ce qui nous paraît, même pour nous, assez colossal. Donc je pense qu'on a une nouvelle génération de jeunes qui vont apprendre à travailler qu'avec cette technologie-là. Et donc il faut l'adopter aujourd'hui, même si on est un grand groupe. Puisqu'on peut supputer que d'ici à 5 ans, si vous allez toquer à la porte d'une société et qu'on vous dit «Non, chez nous on fait pas ça», vous irez voir l'autre société.
Merci beaucoup Stanislas Polu, merci d'être venu nous présenter Dust.
Merci.
More from Stanislas

AMA with Stanislas Polu, Co-Founder of Dust: Revolutionising Tech with AI Agents

Getting the Most From AI With Multiple Custom Agents ft Dust’s Gabriel Hubert and Stanislas Polu

Getting the Most From AI With Multiple Custom Agents ft Dust’s Gabriel Hubert and Stanislas Polu

dotAI 2024 - Stanislas Polu - LLMs reasoning and agentic capabilities over time

No GPU Before PMF // Stanislas Polu // AI in Production Conference Lightning Talk

[EXTRAIT] Décryptage du fonctionnement d’un LLM en 5min - par Stanislas Polu, CEO de Dust

Qdrant x Dust: How Vector Search helps make work work better - Stan Polu | Vector Space Talk #010



