How OpenAI's Head of Business Products Uses ChatGPT to Save Time at Work | Nate Gonzalez

Wie sieht es aus, ein Unternehmen auf der Basis von KI aufzubauen? Wir beliefern 92 Prozent der Fortune 500 Unternehmen. Nate Gonzalez, Leiter des Bereichs Business Products bei OpenAI. Welche Eigenschaften sollten Ihrer Meinung nach die von Ihnen eingestellten OpenIPPMs haben? Oder nach welchen Eigenschaften suchen Sie Unternehmertum? Haben Sie einfach sehr viel Biss und Zielstrebigkeit und sind Sie bereit, an wirklich schwierigen Problemen zu arbeiten? Und es gibt ein Zitat, das ich liebe und Unterschätze niemals die Macht dessen, was du erreichen kannst oder die Menge, die du in 10 Minuten schaffen kannst. Diese Frage geht mir nicht mehr aus dem Kopf, was ich mit dem Modell tun kann, um schneller zu werden, diese Dinge zu erledigen und einfach weiter voranzukommen. Sie gehören zu den Top Ein Prozent der KI Nutzer zur Arbeitsoptimierung oder Sie sind stolz auf Ihre Arbeit. Können Sie vielleicht drei Ihrer bevorzugten Key Workflows nennen, die Sie persönlich verwenden? Okay, willkommen alle zusammen. Ich freue mich sehr, Nate Gonzalez, Leiter der Abteilung für Geschäftsprodukte bei OpenAI, hier bei mir zu haben. Über 92 Prozent der Fortune 500 Unternehmen nutzen bereits Chat G Enterprise. Ich freue mich sehr mit Nate über Openis Produktentwicklung, seine Anforderungen an pms und seinen privaten Chat gibt Einsatz zur Zeitersparnis zu sprechen. Willkommen Nate. Hey, danke Peter. Ich freue mich sehr, dass du mich eingeladen hast. Ich freue mich sehr, in dieses Thema einzutauchen. Noch etwas, nur um es Kurz zu Ja, 92 Prozent der Fortune 500 Unternehmen nutzen unser Enterprise Produkt. Wir haben auch Millionen kleinerer Unternehmen und mittelständischer Unternehmen, die ebenfalls unser Team Produkt nutzen. Es gibt also beides eine interessante Bewegung, die wir haben, die eine Mischung aus Self Service und unserem goalie artigen Sales Management Bereitstellungsprozess ist, so dass unser Vertriebsteam bei größeren, komplexeren Kunden direkt mit Ihnen zusammenarbeitet, um einen Mehrwert aus dem Produkt zu ziehen. Wir decken also beide Enden des Spektrums ab. Das ist großartig. Und ich bin mir sicher, dass es auch Millionen von Angestellten gibt, die ChatGPT einfach bei der Arbeit wie ihre persönlichen Content verwenden. Sie wissen also, dass es auch davon eine Menge gibt. Ey, Punkt. Okay, Sie hatten diese Woche gerade eine große Markteinführung, richtig? Sie haben also Konnektoren und den Aufnahmemodus eingeführt. Vielleicht können Sie uns erklären, was diese Funktionen sind. Ja, genau. Ich meine den Kern Lassen Sie mich zunächst erläutern, worum es sich handelt. Wir können uns mit der Entstehungsgeschichte befassen, wenn das interessant ist. Ä, um nur eins zu nennen. Wir haben die Möglichkeit eingeführt, dass Unternehmen sich mit ihren internen Wissensquellen verbinden können. Was das konkret bedeutet, sehen Sie an Google Drive oder SharePoint. Auf Unternehmensebene, auf Dienstkonto oder individueller Ebene, beispielsweise OOTH, kann sich der Benutzer direkt mit der zugrundeliegenden Datenquelle verbinden. Wir respektieren die Berechtigungen, die innerhalb der Organisation gelten, und dann kann das Modell aus dieser Datenquelle abrufen und Sie lesen. Wenn ich also eine Frage stelle, bei der es wirklich von Vorteil wäre, wenn ChatPT über etwas Bescheid wüsste, das in meinem Unternehmen vor sich geht, kann ich diese Informationen erhalten. Das zusätzlich zu all den vortrainierten Daten, die ChatPT nutzt, und der Möglichkeit, das öffentliche Web zu durchsuchen. Sie erhalten also die große Faktenbasis der Menschheitsgeschichte mit Aktualität aus dem Web. Jetzt fügen Sie die private Wissensseite hinzu. Das ist also der große Teil der Konnektoren. Zwei davon sind Teil davon. Wir haben vier verschiedene Konnektoren zu den größten internen Wissensquellen, Wissensspeichern eingeführt. IRG, Laufwerk, SharePoint, Box, Dropbox sind also direkt im Chat PT verfügbar. Und dann denke ich an etwa zwölf Konnektoren in Deep Research, so dass Sie die Möglichkeit von Deep Research im Web zu suchen, mit dem von unseren Nutzern von Deep Research am häufigsten gewünschten Feature oder der Funktionserweiterung kombinieren können. Nä, das ist genial. Ich möchte jetzt auch in meinen internen Daten suchen können. Ich halte hier kurz an und dann können wir sehen, ob es Folgemaßnahmen gibt und dann können wir in den Aufnahmemodus wechseln. Ja, vielleicht können Sie darüber sprechen, 13 Konnektoren einzuführen. Das ist doch eine Menge. Oder erzählen Sie vielleicht, wie dieser Prozess von der Ideenfindung bis zur Einführung verlief. Ja, gerne. Wie Sie das aufgebaut haben. Ja, Punkt. Die Ideenfindung dafür begann vor einer Weile. Es ist so. Ich meine, es ist nicht abwegig, von vornherein zu denken, dass die Modelle mit mehr Kontext viel intelligenter werden. Richtig. Um dann für Ihr Unternehmen kontextbezogen relevant zu sein, ist es sehr wichtig, auf Datenquellen zugreifen zu können und über Kenntnisse dieser Daten in Ihrem Unternehmen zu verfügen. Und noch mehr ist es ein grundlegender Baustein für uns, um Agenten an einen Punkt zu bring, an dem Sie bei den Aktionen, die Sie ausführen können, eine sehr hohe Genauigkeit und Zuverlässigkeit aufweisen. Seien es Leseaktionen, bei denen Sie einen Agenten bitten, eine ganze Reihe von Dingen für Sie zu tun. Wissen Sie, der Chat ist ein gutes Beispiel für diese Fähigkeit von Agenten, tiefgreifende Recherchen durchzuführen, um internes Wissen für Sie abzurufen und dieses dann bereitzustellen oder die Fähigkeit, schließlich mit Agenten die richtigen Maßnahmen zu ergreifen, die Sie nun in Ihrem Namen ausführen können. Der Operator ist ein gutes Beispiel für diese Art von Fähigkeit. Beide profitieren von diesem Kontext, denn ich stelle eine Frage und weise das Modell an, etwas zu tun, und das Modell verfügt über den internen Kontext, um dies zu tun. Das war also die allgemeine Idee. Hinterfragding. Als dies aufkam, war dies vor der Einführung von Reasoning Modellen und ich glaube, es war im November letzten Jahres. Wir hatten also das Paradigma 40 das sehr stark auf der sehr schnellen Antwort auf Anrufe basiert, bei der viel vor und nachtrainiertes Wissen vorhanden ist, auf das das Modell zugreift. Auf diese Weise haben wir uns die Konnektoren ursprünglich überlegt und es war großartig. Okay, Wir müssen wirklich darüber nachdenken, wie Sie Repositories synchronisieren und indizieren. Dies wird zu einem wirklich wichtigen Aspekt, damit Sie diese Latenz bekämpfen und sicherstellen können, dass Sie eine wirklich niedrige Latenz und eine wirklich hochwertige Erfahrung haben. Das Interessante an der Verschiebung bei den Schlussfolgerungsmodellen ist, dass dass die Latenzbeschränkung bis zu einem gewissen Grad gelockert wird, da das Modell mehrere verschiedene Möglichkeiten hat, die richtige Antwort zu finden, bevor es diese Informationen zurückgibt. Die Schlussfolgerung funktioniert im Allgemeinen so, dass Sie eine Frage stellen, das Modell eine Hypothese aufstellt, mehrere verschiedene Varianten dieser Hypothese gleichzeitig betrachtet und sie alle wieder zusammenführt. Wow. Und so entwickeln wir uns weiter, um bei den Konnektoren schneller skalieren zu können und MCP einzuführen. Machen Sie eine kurze Pause. Das gibt Ihnen einen Über Überblick, wie wir hierher kamen. Ja, das ist sehr hilfreich. Ich denke, jedes Unternehmen hat eine große Bandbreite an internen Wissensdatenbanken, aber ich denke, die Qualität einiger dieser Daten ist ziemlich fragwürdig. Einiges davon ist veraltet oder so. Wahrscheinlich muss man sich da viele Gedanken machen, wenn ich eine Frage stelle, Welche Dateien werden abgerufen und welcher Teil der Dateien ist das? Ja, genau. Wir haben diesbezüglich viele Nachschulungen durchgeführt, indem wir unsere eigenen Daten und synthetische Daten genutzt haben. Dabei haben wir den Begriff der Aktualität und auch die Seniorität der Urheberschaft berücksichtigt. Auch der Begriff des sozialen Graphen ist hier von Bedeutung, um die relevantesten Inhalte zu finden. Denken Sie nur an jemanden, der neu ist und direkt in das Produkt einsteigt oder Entschuldigung, in OpenAI einsteigt. Er hat keinen tieferen Kontext zu dem, was vor sich geht. Es gibt vielleicht hunderte von Dokumenten, die zu einem bestimmten Thema geschrieben wurden. Wir haben also Unmengen an Zeit investiert, um sicher sicherzustellen, dass das Modell die relevantesten Dokumente heranzieht und dass Sie nicht einfach nur eine pauschale Rückmeldung von 30 verschiedenen Dokumenten zu diesem Thema erhalten, nach dem Motto Finde es mal heraus. Ich hab's verstanden. M Ja, ich glaube, ich habe nicht selbst damit herumgespielt, aber ich habe das Video gesehen und finde es großartig. Es eröffnet so viele Möglichkeiten. Sie sollten uns Ihre Meinung mitteilen. Feedback wäre toll. Doch intern haben wir viel damit experimentiert. Ich meine seit Monaten, da wir uns in der Beta Phase und mit Hundefutter befinden und einfach nur versuchen, die Erfahrung voranzutreiben. Wir nutzen es täglich nicht nur, um Hundefutter zu testen, sondern um unsere Arbeitsabläufe zu optimieren. Und das ist meiner Meinung nach das wirklich Wichtige für uns intern. Woher weißt du das? Ich glaube, es gibt dieses Buch mit dem Titel Schnelles Denken Langsames Denken von Daniel Kammen. Ich denke, es entspricht vielleicht dem Argumentationsmodell versus 40 Wie entscheidest du, was du mit diesem Produkt verwendest? Oder weißt du, wann du schnell und langsam denken möchtest? Ja, ja, diese Entscheidungsgrenze existiert richtig. Und für manche von euch ist das wie ein Posttraining, um die Absicht der Nutzerfrage zu verstehen, damit wir dann herausfinden kö OK, großartig. Wie tief müssen wir suchen, um die richtige Antwort auf diese Frage zu erhalten? Und so ist das verallgemeinerte paradigma richtig wie 40 schnelles Denken bedeutet, es enthält eine Menge Wissen. Wenn du mir eine Frage zu einem Thema stellst, mit dem ich mich auskenne, kann ich dir ganz schnell eine zusammenfassende Antwort geben. Wenn du mir eine tiefergehende Frage stellst, wie zum Beispiel Hey, mach doch mal eine richtig tiefgreifende Analyse dieser Branche. Ich denke kurz drüber nach strukturiers und melde mich wieder. Das ist also eine natürliche Entscheidungsgrenze, die es derzeit gibt, die wir in das Produkt und die Erfahrungen des Connectors einbringen. Verstanden? Und wissen Sie, einige der relevantesten und aktuellsten Informationen in Ihrem Unternehmen sind einfach die Besprechungen, die stattfinden, richtig. Und die Notizen, die Sie während der Besprechungen machen, damit Sie vielleicht ein wenig darüber sprechen, diese aufzeichnen können. Man könnte sich den Aufzeichnungsmodus also als zwei verschiedene Produkte vorstellen. Aber einer der Gründe, warum wir diese auf den Markt bringen und zusammen darüber sprechen, ist, dass Sie das Wissensbild abrunden. Kehren wir also zu meinem vorherigen Punkt zurück. Das Modell verfügt über vortrainiertes Wissen, das Sie für spezifische Anwendungsfälle nachtrainieren, um Fragen optimal zu beantworten. Das ist das Paradigma des schnellen Denkens. Sie haben das Argumentationsparadigma, mit dem Sie tiefer gehen können, was von der öffentlichen Suche profitiert, die auch von den Konnektoren zu Ihren internen Wissensspeichern profitiert. Und das sind alle Informationen, die niedergeschrieben werden. Und die andere große Informationsquelle, die das Bild des institutionellen Wissens abrundet, ist das, was wir gerade tun, also das, was tatsächlich in Meetings gesprochen wird, das nicht unbedingt aufgezeichnet wird und nicht unbedingt genau transkribiert wird. Sie haben also Kurznotizen, die Sie an Kollegen weitergeben und Sie versuchen, Aktionspunkte und Ähnliches zu definieren. Und was wir getan haben, ist, dass es viele Unternehmen gibt, die eine Key Version für die Aufzeichnung von Meetings entwickelt haben. Es gibt eine Menge interessanter Dinge, die man da einbauen kann und die wir weiter vorantreiben werden, um den Funktionsumfang zu erweitern und Meetings erstklassiger zu machen. Denken wir jetzt darüber nach. Wir wollten aber auch eine allgemeine Möglichkeit schaffen, die jeder nutzen kann, um Daten aufzuzeichnen. Denn der Zweck besteht darin, diese Informationen zu erfassen und wie internes Wissen zu modellieren, das man beispielsweise in Google Drive findet. So kann ich mich in Zukunft daran erinnern. Ich kann großartig Was haben Peter und ich vor zwei Wochen besprochen? Dann kann ich die Zusammenfassung abrufen und mit einem Zeitstempel versehen. So kann ich beispielsweise auf die einzelnen aufgelisteten Maßnahmen zugreifen und von dort aus auf das zugrundeliegende Transkript zugreifen, so erhalte ich einen umfassenderen Kontext, den ich zum Wechseln zwischen den Ebenen benötige. Ich denke, das ist von Vorteil, denn Besprechungsnotizen sind eine weitere Wissensquelle für ein Unternehmen. Wenn Sie also nur ein reines Key Meeting Produkt haben, ist es nicht so umfassend oder es ist eher ein weiterer Teil des Wissens, den Sie abrufen können. Ja, das stimmt. Und wie seid ihr vielleicht etwas tiefer gegangen? Ihr wisst ja, dass Bewertungen für diese KI Produkte wirklich wichtig sind. Wie entscheidet ihr also, ob das Produkt gut genug ist, um es auf den Markt zu bringen? Oder welche Dinge betrachtet ihr, um zu beurteilen, wie gut die Besprechungsnotizen sind? Ja, die Bewertungen sind also wirklich wichtig und wir müssen diese anfänglichen Faktoren festlegen. Es ist wie bei jeder anderen Messgröße, die man festlegt. Man muss sich zuerst darauf einigen, was die richtige Norm ist. Dann muss man sie messen können, eine Basislinie erhalten und anfangen, die Qualität anhand dieser Basislinie zu steigern. Und das ist der Prozess, der hier im Spiel ist, um zu beurteilen, wie diese Messlatte aussieht. Vieles davon funktioniert sowohl intern in unserem Beta Prozess, indem wir dieses Produkt jeden Tag testen. Wir verwenden dies intern. Es gibt also diese Vorstellung von großartig. Wie sieht die Bewertung aus? Funktioniert das in der Praxis tatsächlich? Während wir damit arbeiten, experimentieren wir damit und kombinieren diese beiden.