Demis Hassabis explains LLMs, public safety, and what comes next in AI

Die Menschen machen sich Sorgen um ihre Privatsphäre und könnten ihre Arbeitsplätze an KI verlieren. Wie gewinnt Ein Unternehmen wie DeepMind das Vertrauen der Öffentlichkeit? Ich möchte, dass wir an einen Punkt gelangen, an dem sich der Assistent so anfühlt, als würde er für dich arbeiten. Es ist deine KI.

KI ist beängstigend. Sie entwickelt sich wahnsinnig schnell und aus der Perspektive eines Außenstehenden scheint es nicht annähernd genug Leitplanken zu geben. Und einige dieser Bedenken sind tatsächlich berechtigt. Diejenigen, die mir immer wieder auffallen, betreffen den Zugriff, Wohlhabende mit Zugang zu passenden Tools und Datenschutz. Wie können wir diesen großen Unternehmen all unsere persönlichen Daten anvertrauen? Wie sieht die Welt aus, wenn jeder alles aufzeichnet und KI den Leuten die Arbeitsplätze wegnimmt?

Ein Experte spricht von einem Blutbad. Verschwinden könnten die Hälfte der Einstiegsjobs, 10 bis 20 Prozent Arbeitslosigkeit in 1 5 Jahren.

Einige dieser Bedenken sind weniger extrem als andere. Nehmen wir das klassische Beispiel Skynet. Das ist ein bisschen extrem, aber sie sind alle vernünftig, denn über einige Dinge haben sie mich schon sprechen hören. Erstens das Key Rennen. Diese riesigen Unternehmen mit riesigen Ressourcen versuchen die größten und besten in der Welt der KI zu werden. Stellen diese Unternehmen kurzfristige Gewinne über langfristige Sicherheit. Zweitens verstehen selbst einige der daran arbeitenden Wissenschaftler nicht wirklich, was im Hintergrund vor sich geht. Einige dieser Modelle weisen beispielsweise sogenannte emergente Verhaltensweisen auf. Das ist der Fall, wenn sie Ergebnisse liefern, von denen selbst die Ingenieure, die diese Modelle entwickelt haben, keine Ahnung hatten, was diese leisten können. In diesem Video prüfe ich, ob Kino Untergang bedeutet. Denn wenn man einigen Analysten, Nachrichtenagenturen, Meinungsmachern, zu denen auch ich mich von Zeit zu Zeit zähle, zuhört, ist das der Anfang vom Ende und es ist unmöglich, diesen Geist wieder in die Flasche zu bekommen. Aber ist das wirklich so? Bei der Beantwortung dieser Fragen hilft mir Dice Habibus, Nobelpreisträger, Ritter, CEO von Google. DeepMind und eine der einflussreichsten Persönlichkeiten der KI Unternehmen wie DeepMind sind die Eltern dieser KI Kinder. Die Verantwortung liegt weiterhin bei den Eltern. Bei Fehlern der Kinder. Welche Schritte unternehmen diese Unternehmen also, um sicherzustellen, dass sie verantwortungsbewusste, wohlerzogene junge Algorithmen großziehen Alles beginnt damit, dass man versucht zu verstehen, was in der Technologie vor sich geht.

Kannst du uns beschreiben, was bei einem LLM unter der Haube passiert? Es den Leuten ein wenig entmystifizieren? Gerne, ich kann es versuchen. Im Grunde genommen versuchen diese LLM Systeme etwas ganz Einfaches zu tun. Sie versuchen nur, das nächste Wort vorherzusagen. Und das tun sie, indem sie sich einen riesigen Trainingsdatensatz an Sprache ansehen. Der Clou ist nicht die Wiedergabe des Gesehenen, sondern die Verallgemeinerung auf neue Fragestellungen.

LLMs sagen, das nächste Wort geben sie einem großen Standardsprachmodell, beispielsweise der schnelle braune Fuchs vor. Es wird den Satz wohl mit Springt über den faulen Hund ergänzen. Die modernen Chatbots, die wir heute verwenden, sind jedoch eher Frage und Antwortmaschinen, die als Assistenten optimiert wurden. Sie tun immer noch dasselbe, aber anstatt zu versuchen, den Satz zu beenden, versuchen sie, ihre im Chat gestellte Frage zu beantworten. Der Trick dabei ist jedoch, dass der Chatbot nicht einfach nur einen Absatz aus dem ursprünglichen Quellmaterial finden und ihnen nachplappern soll. Er soll neue Informationen auf der Grundlage aller Informationen liefern, die er bereits aus seinen Trainingsdaten kennt. Und wenn er etwas noch nicht weiß, wird er entweder im Internet danach suchen oder sich einfach Dinge ausdenken, falls er keinen Internetzugang hat. Und das nennen wir Halluzinationen.

Auf der IO habt ihr das neue Deep Fink angekündigt, BL, das um einiges leistungsstärker ist und alle Benchmarks in Bereichen wie Programmierung, Mathematik und all sowas übertrifft. Was ist im Hintergrund passiert, das diesen Sprung ermöglicht hat? Es wurden neue Techniken in den Bereich der grundlegenden Modelle eingeführt, wo es das sogenannte Pre Training gibt, bei dem man das anfängliche Basismodell auf der Grundlage des gesamten Trainingskorpus trainiert. Dann versucht man es mit etwas Reinforcement Learning Feedback zu optimieren. Und jetzt gibt es diesen dritten Teil des Trainings, den wir manchmal als Inferenzzeittraining oder Thinking bezeichnen, bei dem man das Modell hat und ihm viele Zyklen gibt, um sich selbst und seine Antwort zu überprüfen, bevor es die Antwort an den Benutzer ausgibt. Bei Deep Thinking geht es darum, das Maximum herauszuholen, wesentlich mehr Denkzeit zu ermöglichen, parallel zu denken und die beste Option zu wählen. Wir haben in der Vergangenheit Pionierarbeit in dieser Hinsicht geleistet, und zwar vor fast einem Jahrzehnt mit alfgo und unseren Spieleprogrammen. Denn um gut in Spielen zu sein, muss man diese Art von Planung und Denkweise an den Tag legen. Und jetzt versuchen wir dies auf eine allgemeine, allgemeinere Weise zu tun.

Wirklich cool ist hier, wie Demi hervorhebt, wie viel Mühe sich Ingenieure und Wissenschaftler geben, um KI immer genauer zu machen und die Möglichkeit von Halluzinationen auszuschließen. KI startete mit der Vorhersage des nächsten Wortes schneller brauner Fuchs. Dann entwickelte sie sich weiter zum Testzeitrechner, bei dem das KI Modell tatsächlich Zeit damit verbrachte, seine Antworten zu durchdenken, und man konnte dies tatsächlich in Echtzeit verfolgen. Und die neueste Entwicklung ist, worüber Demi gerade gesprochen hat, nämlich parallele Gedanken. Jetzt denken die LLMs über viele verschiedene mögliche Antworten gleichzeitig nach, anstatt sich nur auf eine nach der anderen zu konzentrieren. Dann wählt es aus all diesen Antworten aus oder kombiniert sogar Antworten, um ihnen das bestmögliche Ergebnis zu liefern. Das ultimative Ziel ist es, ihnen die genauesten und hilfreichsten Antworten zu liefern.

Sie haben gesagt, dass das langfristige Ziel darin besteht, diesen Keys eine Art Weltmodell zur Verfügung zu stellen. Können Sie erläutern, was Sie mit einem Weltmodell meinen und welche Möglichkeiten uns das eröffnen? Ich denke, unter einem Modell verstehen wir ein Modell, das nicht nur Sprache, sondern auch Audio, Bilder, Videos und alle Arten von Eingaben verstehen kann, also alle Arten von Eingaben und möglicherweise auch Ausgaben. Das ist wichtig, denn wenn Sie möchten, dass ein System ein guter Assistent ist, muss es den physischen Kontext um Sie herum verstehen. Oder wenn Sie möchten, dass Robotik in der realen Welt arbeitet, muss der Roboter die physische Umgebung verstehen. Welche neuen Möglichkeiten stehen den Menschen Ihrer Meinung nach offen, wenn sie diese Fähigkeit besitzen? Ich denke, die Robotik ist einer der wichtigen. Ich denke, das ist es, was die Robotik derzeit zurückhält. Es ist nicht so sehr die Hardware, sondern die Softwareintelligenz. Die Roboter müssen die physische Umgebung verstehen. Ich denke, genau das wird auch die heutigen Technologien für neuronale Netze und Dinge wie das Projekt Astra, das wir zeigen, und Gemini Live dafür so robust machen. Man möchte ein möglichst genaues Weltmodell.

Das ist also unser Blick hinter die Kulissen. LLMs sind unvollkommene Modelle, die ständig verfeinert werden, um immer genauer zu werden. Das Ziel ist es, vollständige Weltmodelle zu werden, die AHI dabei helfen, zu verstehen, was in der realen physischen Welt vor sich geht. Noch unklar ist jedoch, wie sich dies in praktische Anwendungen umsetzen lässt, die die Gesellschaft erheblich verbessern, ohne die vielen Nachteile, vor denen alle Angst haben.

Sie haben erwähnt, dass KI in Zukunft höchstwahrscheinlich Probleme wie Supraleiter bei Raumtemperatur, mehr Energieeffizienz und die Heilung von Krankheiten lösen kann.

Was sind Ihrer Meinung nach die nächsten Ziele, die sie möglicherweise lösen könnte? Nun, wie Sie sagen, sind wir sehr daran interessiert und arbeiten tatsächlich an vielen dieser Themen richtig. Ob es nun um Mathematik oder Materialwissenschaften wie Supraleiter geht. Wir arbeiten an Fusion, erneuerbaren Energien und Klimamodellierung. Aber ich denke, wenn man darüber nachdenkt, was dem am nächsten kommt und was wahrscheinlich am kurzfristigsten ist, dann bauen wir auf unserer Arbeit mit alphafold auf. Wir haben ein Unternehmen namens Isomorphic Labs gegründet, um Arzneimittelforschung zu betreiben und den gesamten Prozess der Arzneimittelforschung mit Hilfe von KI von Grund auf neu zu durchdenken. Normalerweise dauert es laut Faustregel etwa ein Jahrzehnt, bis ein Medikament von der Identifizierung der Ursache einer Krankheit bis zur Entwicklung eines Heilmittels gelangt und schließlich Patienten zur Verfügung steht. Es ist ein sehr aufwändiger, sehr schwieriger, mühsamer und teurer Prozess. Ich würde das gerne auf Monate oder vielleicht sogar Wochen verkürzen und hunderte von Krankheiten auf diese Weise heilen können. Ich denke, das ist potenziell in Reichweite und klingt heute vielleicht ein bisschen nach Science Fiction, aber so sah die Vorhersage von Proteinstrukturen vor fünf, sechs Jahren aus. Bevor wir AlphaFold entwickelten, dauerte es Jahre, bis wir mithilfe experimenteller Techniken mühsam die Struktur eines Proteins ermittelt hatten. Heute schaffen wir das mit diesen rechnergestützten Methoden in Sekundenschnelle. Ich denke, dieses Potenzial ist vorhanden und es ist wirklich spannend, dies zu versuchen und umzusetzen.

Zehn Jahre bis Wochen ein gewaltiger Unterschied. Um diese Diskrepanz zu verstehen, müssen wir die bis zu jährige Markteinführung von Medikamenten betrachten. Alles beginnt mit der Forschungsphase. Zunächst muss ein Ziel wie ein Protein oder ein Gen identifiziert werden, das bei Veränderung bestimmte Krankheiten behandeln kann. Das erste Ziel besteht darin, einen Wirkstoff zu entwickeln, der diese Veränderung bewirkt. Sobald vielversprechende Wirkstoffe gefunden wurden, werden sie bis zu sieben Jahre lang im Labor und an Tieren getestet. Die meisten Wirkstoffe scheitern in dieser Phase aus verschiedenen Gründen, beispielsweise wegen mangelnder Wirksamkeit oder Toxizität. Wenn die Ergebnisse vielversprechend sind, müssen die Unternehmen die behördliche Genehmigung einholen, um klinische Studien an Menschen beginnen zu können. Dieser Prozess besteht aus drei Phasen, die jeweils mehrere Jahre dauern können. Meistens scheitern Medikamente in dieser phase. Tatsächlich kommen 90 Prozent nie über die Phase der Humanstudien hinaus. Nach Abschluss aller Phasen benötigt ein Medikament weitere behördliche Genehmigungen, bevor es öffentlich zugänglich ist. Aber hier kommt die KI ins Spiel. Die erste, sieben Jahre lange Entdeckungsphase wird ein voller Erfolg, weil KI die Ziele und Wirkstoffe schneller identifizieren kann. Toxizität und Nebenwirkungen lassen sich früher erkennen, was ungeeignete Kandidaten vor der Erprobung ausschließt. Die Studien selbst sind auch schneller, weil die KI Daten viel schneller sammelt. Und analysiert. Bessere Medikamente und Behandlungen kommen dadurch viel schneller. Aber hier wird es richtig wild. Am Anfang wurde KI eingesetzt, um menschliche Aufgaben schneller zu erledigen. Wir sehen jetzt, wie kiki trainiert. Wenn man es auf den Punkt bringt, ist das im Grunde KI, die KI Aufgaben schneller erledigt. Hier geht es richtig los. Ihr habt vor kurzem Alpha Evolve angekündigt. Das sieht doch fantastisch aus, oder? Es handelt sich um eine Key, die euch im Wesentlichen dabei helfen kann, neue Algorithmen zu entwickeln. Wie nah sind wir an Key, die neue Keys entwickelt, um die Keys zu verbessern?

Und dann treten wir in diesen Zyklus ein. Ja, ich finde, das wirkt wirklich cool. Eine wirklich coole, bahnbrechende Arbeit, bei der wir in diesem Fall evolutionäre Methoden mit LLMs kombinieren, um zu versuchen, sie dazu zu bringen, etwas Neues zu erfinden. Und ich denke, es wird eine Menge vielversprechender Arbeiten geben, die verschiedene Methoden der Informatik mit diesen grundlegenden Modellen wie Gemini, die wir heute haben, kombinieren. Ich denke also, dass dies ein vielversprechender Weg ist, den es zu erkunden gilt, nur um alle zu beruhigen. Es sind immer noch Menschen und Wissenschaftler beteiligt. Es verbessert Gemini nicht direkt. Es verwendet diese Techniken, um das KI Ökosystem um sich herum zu verbessern. Etwas bessere Algorithmen, bessere Chips, mit denen das System trainiert wird, im Vergleich zu dem Algorithmus, den es selbst verwendet.

Das ist wirklich wichtig, denn Demi deutet anscheinend an, dass Menschen irgendwann aus der Gleichung entfernt werden. KI wird besser darin, KI zu trainieren und benötigt keine menschlichen Helfer mehr für ihre Entwicklung. Wo passen wir also hinein? Die Antwort darauf liegt im Endziel all dieser persönlichen Assistenten und Agenten.

KI Agenten sind in letzter Zeit ein großes Thema in der KI Community. Und wie weit sind wir deiner Meinung nach davon entfernt, einem Agenten die Arbeit einer ganzen Woche zu geben, die er dann für uns erledigt? Ja, ich meine, ich denke, das ist der Traum, uns einen Teil unserer alltäglichen Verwaltungsarbeit abzunehmen und die Dinge für uns viel angenehmer zu gestalten. Weißt du, du hast vielleicht eine Reise nach Europa oder Italien geplant und möchtest, dass dir die tollste Reiseroute zusammengestellt und dann gebucht wird müssen. Ich liebe es, dass unsere Assistenten das können. Ich hoffe, wir sind vielleicht ein Jahr oder so davon entfernt. Ich denke, wir brauchen noch etwas mehr Zuverlässigkeit bei der Verwendung der Tools und auch bei der Planung und dem Denken dieser Systeme. Aber sie verbessern sich schnell, wie Sie beim letzten Projekt Marina gesehen haben. Was ist Ihrer Meinung nach derzeit der größte Engpass auf dem Weg zu einem langfristigen Agenten? Ich denke, es ist einfach die Zuverlässigkeit der Denkprozesse und der Verwendung der Tools richtig. Es ist wichtig, dass man darauf achtet, dass bei jedem einzelnen Schritt die geringste Fehlerwahrscheinlichkeit besteht. Wenn Sie beispielsweise 100 Schritte ausführen, klingt selbst ein Fehler von einem Prozent nicht nach viel, aber er kann sich über 50 oder 100 Schritte zu einem ziemlich erheblichen Problem summieren. Viele der wirklich interessanten Aufgaben, bei denen Sie diese Systeme möglicherweise als Unterstützung benötigen, erfordern wahrscheinlich eine mehrstufige Planung und Aktion. Es klingt wunderbar, wenn wir unseren Alltag von alltäglichen Dingen befreien könnten. Doch es wirft auch die unvermeidlichen Fragen auf, ob Arbeitsplätze durch KI ersetzt werden könnten. Große Technologieunternehmen sehen sich heute mit umfassenden öffentlichen Bedenken zu Datenschutz, Datensicherheit und Arbeitsplatzverlust konfrontiert. Die Verbindung von DeepMind zu Google bringt. Einige dieser Probleme mit sich. Das wirft die Frage auf, wie Ein Unternehmen wie DeepMind das Vertrauen der Öffentlichkeit gewinnen kann, dass man ihnen diese Art von Technologie anvertrauen kann. Nun, ich denke, wir haben versucht, verantwortungsbewusst mit diesen bahnbrechenden Technologien umzugehen. Und ich denke, wir tun das auch sehr verantwortungsbewusst. Es zeigt auch KIs gute Anwendung, beispielsweise in Medizin und Biologie. Ich meine, wo könnte KI besser eingesetzt werden als zur Heilung von schlimmen Krankheiten? Das war schon immer mein Hauptgedanke. Doch es gibt weitere Bereiche, die beim Klima der Energie etc. Helfen, die wir besprochen haben. Wir müssen Unternehmen tragen die Verantwortung, diese mächtige Technologie verantwortungsvoll einzusetzen. Wir nehmen den Datenschutz sehr ernst. Google hat das schon immer getan. Ich denke, die meisten Dinge, die wir mit den Assistenten besprochen haben, würden aktiviert werden. Sie würden den universellen Assistenten für sie viel nützlicher machen, aber sie würden sich ganz bewusst dafür entscheiden, und zwar ganz klar und transparent. Ich möchte, dass wir an einen Punkt gelangen, an dem sich der Assistent so anfühlt, als würde er für sie arbeiten. Es ist ihre Key richtig, ihre persönliche Key und sie arbeitet in ihrem Auftrag. Ich denke, das ist die Art und Weise, wie wir uns das vorstellen, die Vision, die wir haben und die wir umsetzen wollen. Und wir glauben, dass die Nutzer und Verbraucher das wollen. Eines der Dinge, die ihr auch auf der I.O. vorgeführt habt und die ich vorhin schon mal testen konnte, waren die Android XR Brillen. Die waren absolut umwerfend, als ich sie das erste Mal ausprobiert habe. Die Kehrseite der Medaille ist, wenn alle mit Brillen herumlaufen, die über Mikrofone und Kameras verfügen, wie können wir dann sicherstellen, dass die Privatsphäre der anderen Menschen um uns herum geschützt ist?

Ich denke, das ist eine gute Frage. Ich meine, das Erste ist, dass man deutlich macht, ob man sie ein oder ausschaltet und solche Dinge wie z. B. Benutzeroberflächen und Formfaktoren. Das ist meiner Meinung nach das Wichtigste. Ich denke aber auch, dass wir in diesem Bereich eine Art gesellschaftlichen Konsens und Normen darüber brauchen, wie wir vorgehen sollen. Wir alle wollen, dass diese Geräte beliebt und nützlich sind. Wie wollen wir das tun? Welche Leitplanken gibt es dafür?

Unsere derzeitige Rolle als Trusted Tester erklärt sich durch die noch in Entwicklung befindliche Technologie und die Notwendigkeit, gesellschaftliche Auswirkungen frühzeitig zu berücksichtigen. Im Grunde wissen Sie es noch nicht, was interessant und fair zugleich ist, denn wenn Demi die sozialen Vereinbarungen erwähnt, spricht er letztendlich von staatlichen Vorschriften und Gesetzen. KI entwickelt sich so schnell weiter und wir sind alle damit beschäftigt, all die anderen Dinge zu verstehen, die auf der Welt vor sich gehen. Als Gesellschaft haben wir nicht über die Auswirkungen nachgedacht. Und das sollten wir tun, denn angesichts der Geschwindigkeit, mit der sich das alles entwickelt, läuft uns die Zeit davon. Aber es ist verständlich, dass sich alles so schnell entwickelt. KI ist aufregend, sie ist cool und die Vorteile, die sie verspricht, werden das Leben aller Menschen zum Besseren verändern. Hören Sie einfach zu, wie Dice darüber spricht, worauf er sich in naher Zukunft freut und denken Sie, er steht bei dieser Technologie ganz vorn.

Ich habe hier noch eine letzte Frage. Das ist quasi eine zweiteilige Frage. Was begeistert Sie am meisten an den heutigen Möglichkeiten mit KI und was begeistert Sie am meisten an den Möglichkeiten, die wir in naher Zukunft bieten werden? Nun, ich denke, es ist die Key für die Wissenschaft, die schon immer meine Leidenschaft war. Und ich bin wirklich stolz auf das, was alphafold und ähnliche Dinge ermöglicht haben. Sie sind inzwischen Standardwerkzeug in Biologie und Medizinforschung. Über zwei Millionen Forscher auf der ganzen Welt verwenden Sie für Ihre unglaubliche Arbeit. Ich würde mir wünschen, dass es in Zukunft ein System gibt, das Ihr Leben bereichert und Ihnen ein wenig Arbeit abnimmt, um Ihren Geist und Ihre Denkwelt vor der digitalen Welt zu schützen, die Sie die ganze Zeit bombardiert. Ich denke, eine der Antworten darauf ist, dass wir alle das Gefühl haben, dass in der modernen Welt mit ihren sozialen Medien und all diesen Dingen ein digitaler Assistent nur dann für uns arbeitet, wenn wir ihn brauchen und uns nicht ständig unterbricht. Und das den ganzen Tag über.

Diese Technologie soll uns von der Flut der Technologien befreien. Wir sitzen an unseren Computern und Handys und werden jede Minute des Tages mit Negativität und Giftigkeit in den sozialen Medien überschwemmt. Es ist erfrischend, jemanden wie Demi zu hören, der sich in einer der besten Positionen der Welt befindet, um diese Zukunft zu gestalten. Und wie wichtig KI für unser geistiges und körperliches Wohlbefinden ist. Wir sollten das Alltägliche und Giftige ausblenden und uns auf das konzentrieren, was wir wirklich tun wollen. Die Welt bereisen, Gitarre spielen, ein Hobby anfangen, für das wir nie Zeit gefunden haben oder vor allem Zeit mit Freunden und Familie verbringen. Nach meinem Gespräch mit Demi hatte ich das Gefü Nicht alles ist Untergang und Finsternis. Super intelligente und talentierte Leute steuern das und zwar besser als viele denken. Ich möchte mich bei meinem Gast Demi Sipus und dem gesamten team von Google DeepMind für das unglaubliche Gespräch bedanken. Wie immer vergesst nicht mir ein Gefällt mir zu geben und meinen Kanal zu abonnieren. Und vielen Dank, dass ihr mit mir darüber geredet habt.

Hitze.