Google Issues Early AGI Warning " We Must Prepare Now"

Google hat also ein Whitepaper veröffentlicht, in dem es heißt, dass wir uns jetzt schon auf AGI vorbereiten müssen. Es gibt keine Zeit zu verlieren, denn AGI hat viele verschiedene Auswirkungen und wir müssen die Dinge wirklich in den Griff bekommen, wenn wir Fortschritte machen und uns diesem Paradigma nähern wollen, in dem AGI leicht verfügbar ist. In diesem Video werde ich dieses Whitepaper eingehend betrachten und mir nur die interessantesten Teile ansehen, da es etwa 60 Seiten lang ist. Und ich es komplett gelesen habe. Ich habe die langweiligen Stellen übersprungen, da es natürlich langweilig sein könnte, alles über KI Sicherheit zu lesen. Es beginnt mit der Feststellung, dass KI und insbesondere AGI eine transformative Technologie sein werden, aber es wird auch erwähnt, dass es erhebliche Risiken gibt. Dazu gehören das Risiko schwerer Schäden und Vorfälle, die so folgenreich sind, dass sie der Menschheit erheblichen Schaden zufügen können. In diesem Whitepaper wird unser Ansatz zur Entwicklung von AGI beschrieben, mit dem schwere Schäden vermieden werden können. Im Grunde genommen wird werden also die tatsächlichen Risiken von AGI behandelt. Oftmals konzentrieren wir uns auf die Vorteile und unterschätzen dabei die tatsächlichen Risiken, denen diese Modelle ausgesetzt sein können. Nun wollen sie natürlich definieren, was AGI ist und sagen speziell, dass sie sich auf Fähigkeiten konzentrieren, die in grundlegenden Modellen zu finden sind, die durch Lernen durch Gradientenverfahren ermöglicht werden und dass sie außergewöhnliche AGI betrachten. Dies ist Stufe 4 und dies ist definiert als ein System, das dem 99. Perzentil qualifizierter Erwachsener bei einer Vielzahl nicht physischer Aufgaben entspricht oder diese übertrifft. Wenn wir uns also ansehen, was Asien ist, ist es wichtig, diese Definition im Hinterkopf zu behalten und sie sagen, dass dies bedeutet, dass ihr Ansatz Konversationssysteme, agentenbezogene Systeme, Schlussfolgerungen, Erlernte und neuartige Konzepte sowie einige Aspekte der rekursiven Selbstverbesserung abdeckt. Eines der Dinge, die ich wirklich interessant fand, war, dass sie feststellten, dass sie im aktuellen Paradigma keine grundlegenden Blocker sehen, die KI Systeme auf Fähigkeiten auf menschlichem Niveau beschränken, und daher betrachten sie noch leistungsstärkere Fähigkeiten als eine ernsthafte Möglichkeit, auf die man sich vorbereiten sollte. Sie erklären also im Grunde, dass sie keine großen Blocker sehen, die KI Systeme daran hindern würden, KI zu erreichen. Ich finde das sehr interessant, denn auf der einen Seite steht die Hälfte der KI Branche auf der Seite von Jan Lakhan, der seine Aussage, dass wir mit Text keine AGI erreichen können, sehr strikt formuliert hat. Im Grunde genommen meint er, dass LLMs eine Sackgasse für AGI sind. Aber nach dem aktuellen Paradigma, und das wird jetzt breit ausgelegt, sagt Google, dass es keine grundlegenden Hindernisse dafür gibt, dass KI Systeme auf menschliche Fähigkeiten beschränkt sind. Wenn Google also sagt, dass es keine grundlegenden Hindernisse gibt, bedeutet das, dass sie möglicherweise selbst einen Weg zur AGI sehen. Ich persönlich denke, dass Google in der KI-Forschung die Nase vorn. Hat, nur dass das Management sie wahrscheinlich ein wenig bremst. Nichtsdestotrotz finde ich das eine super interessante Aussage, denn auch andere Personen wie Dario Amade haben gesagt, dass es in Zukunft potenzielle Hindernisse für AGI geben könnte, die wir einfach noch nicht gesehen haben, und dass es 2026 oder 2027 einige Hürden geben könnte. Google hingegen sagt, dass es keine wirklichen fundamentalen Hindernisse dafür gibt, warum wir nicht Fähigkeiten erreichen können, die dem menschlichen Niveau entsprechen. Und das ist der eigentliche Grund, warum sie sagen, dass wir uns jetzt ernsthaft darauf vorbereiten müssen. Und jetzt geben sie uns auch einen Zeitplan. Sie erklären, dass sie sich über den Zeitrahmen bis zur Entwicklung leistungsstarker KI Systeme sehr unsicher sind. Entscheidend ist jedoch, dass sie es für plausibel halten, dass diese bis 2030 entwickelt sein werden. Derzeit ist es also 2025. Fünf Jahre sind nicht so weit weg, wenn wir von außergewöhnlicher AGI sprechen, die Menschen bei 99 Prozent der Aufgaben in einer Reihe verschiedener Benchmarks übertrifft. Und das ist ziemlich schockierend, wenn wir über das Ausmaß der Veränderungen nachdenken, die mit einer so leistungsstarken Technologie einhergehen werden. Und sie erklären hier, dass unser Sicherheitsansatz darauf abzielt, jederzeit einsatzbereit zu sein, da die Zeitpläne sehr kurz sein können. Das heißt, wir möchten, dass die Maßnahmen bei Bedarf schnell implementiert werden können. Aus diesem Grund konzentrieren wir uns in erster Linie auf Maßnahmen, die sich leicht auf die aktuelle Machine Learning Pipeline anwenden lassen. Im Grunde genommen heißt Sie möchten, dass dies so schnell wie möglich getan wird, denn je früher man es tut, desto eher erhält man den Schutz. Wie ich bereits sagte, stimmt dieser Zeitplan interessanterweise mit dem von Ray kershville im Jahr 2029 überein. Interessanterweise liegt er auch nicht mehrere Jahre hinter anderen KI Führungskräften zurück, sondern vielleicht zwei oder drei Jahre hinter Sam Allmans Vision von AGI und Dario Amade, die 2026 und 2027 vorsieht. Vielleicht sind es die internen Unternehmen, die angeben, wo sie stehen und wo ihrer Meinung nach ihre Frist für AGI liegt. Vielleicht glaubt Dario Amadej, dass anthropic im Jahr 2027 AGI erreichen wird. Vielleicht glaubt Open, dass sie AGI dieses Jahr erreichen werden. Es wird jedoch sehr interessant sein zu sehen, wie sich diese Zeitpläne entwickeln. Nun sprechen sie weiter darüber, dass es eine Feedbackschleife geben wird. Natürlich könnte es eine gewisse Beschleunigung geben und dass KI Systeme eine noch stärker automatisierte Forschung und Entwicklung ermöglichen könnten, was eine positive Feedbackschleife in Gang setzen würde. Und sie sprechen davon, dass ein solches Szenario den Fortschritt drastisch beschleunigen würde und uns nur sehr wenig Zeit gebe, um auftretende Probleme zu bemerken und darauf zu reagieren. Und um sicherzustellen, dass wir weiterhin in der Lage sind, neuartige Probleme zu bemerken und darauf zu reagieren. Könnte unser Ansatz zur Risikominderung beinhalten, dass KI mehr Aufgaben im Zusammenhang mit der KI Sicherheit übernimmt. Im Wesentlichen sagen Sie hier, dass wir aufgrund der rasanten fortschritte bei der KI-Key oft tatsächlich einsetzen. Müssen, um die Key zu überwachen. Im Grunde genommen wird KI verwendet, um die KI zu überwachen. Und Sie sagen, dass Ihr Ansatz in diesem Papier nicht in erster Linie darauf abzielt, ein KI System zu entwickeln, das KI und Sicherheitsforschung betreiben kann. Sie kann für diesen Zweck spezialisiert werden und ich denke, dass es in Zukunft sehr wahrscheinlich Systeme geben wird, in denen Menschen und KI zusammenarbeiten, um die Sicherheit eines KI Systems zu gewährleisten. Die Datenmenge, die diese Modelle ausgeben, wird für Menschen in großem Umfang einfach zu groß sein, um sie zu überprüfen, zu klassifizieren und zu verstehen. Sie sprechen auch von vier Schlüsselbereichen, die Sie in Bezug auf die Sicherheit untersuchen. Sie sprechen von Missbrauch und das geschieht natürlich auf menschlicher Ebene, wenn Menschen oder Einzelpersonen beschließen, das Modell auf eine Weise zu steuern, die nachteilig ist. Das bedeutet, dass mit dem Modell alles in Ordnung ist. Es ist nur so, dass der Mensch ein böswilliges Ziel verfolgt und die KI dazu veranlasst, dieses zu tun. Wir sprechen auch von Fehlausrichtung. Darüber sprechen wir später im Video, wenn das KI System Aktionen ausführt, von denen es weiß, dass der Entwickler sie nicht beabsichtigt hat. Und hier ist der Hauptrisikofaktor tatsächlich das KI Modell. Hier ist also das KI Modell dasjenige, das ziemlich schlecht ist. Es gibt vor, gut zu sein, während seine wahren Absichten über die des Benutzers hinausgehen. Das hier ist wahrscheinlich eines der beängstigendsten, denn wir haben alle die Filme gesehen, in denen sich die KI Systeme gegen uns wenden. Und hier ist natürlich die KI der Hauptrisikofaktor. Hier treten nun die Fehler auf, die meiner Meinung nach am realistischsten sind, nämlich wenn das KI System Schaden anrichtet, ohne es zu merken. Das liegt daran, dass die reale Welt komplex ist. Eines der wichtigsten Dinge, die passieren können, ist die Fehlgeneralisierung von Zielen. Die reale Welt ist so komplex, dass die KI durch die bloße Vorgabe eines Ziels Deals möglicherweise eine Menge Dinge tut, die wir nicht beabsichtigt haben. Und natürlich kann es auch ungünstige Szenarien geben. Hier kommen wir zum letzten Punkt, dem strukturellen Risiko, bei dem Schäden durch Dynamiken mit mehreren Interaktionen entstehen, bei denen kein einzelner Akteur die Schuld trägt. Hier wird deutlich, dass die Welt ein komplexer Ort ist. Es gibt verschiedene KI Systeme, verschiedene Völker, verschiedene Kulturen, und weil all dies zusammenkommt, kommt es irgendwann zu Schäden, die zu einem katastrophalen Versagen der Gesellschaft führen. Das ist also natürlich wieder eines der realistischeren Szenarien. Einer der wichtigsten Bereiche, den ich faszinierend fand, war, wo Sie den Missbrauch ansprachen und über die Maßnahmen sprachen, die Sie ergreifen wollen, um es für Entitäten schwierig oder unattraktiv zu machen, unangemessen auf gefährliche Funktionen leistungsstarker Modelle zuzugreifen. Und im Grunde beschreiben Sie dies als die Bausteine der Sicherheit. Ein weiterer Punkt, den Sie, den ich schon seit, ich möchte nicht sagen, mehreren Jahren, letztes Jahr angesprochen habe, ich denke, dass dies wahrscheinlich der Fall sein wird, sobald wir über übermenschliche Modelle verfügen und Sie mögen mir da nicht zustimmen, aber ich halte dies für das wahrscheinlichste Szenario. Sie sprechen also darüber, dass Sie natürlich Missbrauch eindämmen wollen, und um das zu erreichen, werden Sie unter anderem Zugriffsbeschränkungen einführen. Sie müssen also die Angriffsfläche für gefährliche Funktionen, auf die ein Akteur zugreifen kann, reduzieren, indem Sie den Zugriff auf geprüfte Benutzergruppen und Anwendungsfälle beschränken. Sie sagen also, dass man das KI-Modell möglicherweise nicht verwenden darf, wenn man nicht einem bestimmten Beruf oder einer bestimmten Branche angehört. Oder wenn man dieses spezifische Kimodell nicht für einen ganz bestimmten Anwendungsfall verwendet, kann man einfach sagen, dass das Modell nicht verwendet werden darf. Und ich denke, dass das wahrscheinlich passieren wird. Ich meine, wenn wir an den Punkt gelangen, an dem diese KI-Systeme in der Lage sind, alles online zu tun, buchstäblich alles, Welche Fähigkeiten kann dann eine zufällige Person mit einem wirklich schlechten Anwendungsfall haben? Ich meine, die Möglichkeiten sind schier endlos. Man würde also niemandem unbegrenzte Macht geben. Man müsste die Gruppe natürlich überprüfen. So wie man einen Führerschein hat, braucht man vielleicht in Zukunft einen KI Führerschein. Das wird natürlich nicht für ein durchschnittliches Standardmodell gelten. Ich denke, das wird wahrscheinlich für übermenschliche Modelle oder für Modelle auf AGI Niveau gelten. Und ehrlich gesagt finde ich, dass das Sinn macht. Und natürlich sprechen Sie über Methoden wie Überwachung, bei denen man einen Mechanismus entwickelt, der erkennt, ob ein Akteur versucht, unangemessen auf gefährliche Funktionen zuzugreifen und auf solche Versuche reagiert, um zu verhindern, dass er dies erfolgreich nutzt, um schweren Schaden anzurichten. Nun etwas, das ziemlich beängstigend ist, könnte man sagen, und etwas, das im Bereich der KI ziemlich besorgniserregend ist, ist die Tatsache, dass es bis heute möglicherweise nicht möglich ist, Modelle so zu trainieren, dass sie völlig robust gegenüber Jailbreak Eingaben sind. Ich werde das noch einmal Trotz der Fortschritte in der KI ist es möglicherweise nicht möglich, Modelle so zu trainieren, dass sie völlig robust gegenüber Jailbreak Eingaben sind. Im Grunde genommen stellen Sie hier fest, dass trotz aller Bemühungen ständig neue Jailbreaks entwickelt werden. Und da KI kein wirklich binäres System ist, ist jede Reaktion anders. Es liegt vielleicht einfach in ihrer Natur, dass Jailbreaks immer möglich sind. Insgesamt denke ich, dass dies ein sehr interessanter Fall sein wird, da Methoden entwickelt werden, müssen, um Jailbreaks zu verhindern. Ich habe sogar einen Nutzer namens PLE auf Twitter gesehen. Wenn Sie sich mit Key Twitter auskennen, wissen Sie sicher, von wem ich spreche. Dieser Typ kann jedes Modell, das bereitgestellt wird, innerhalb von nur 24 Stunden jailbreaken. Im Grunde jedes Modell, das ich je gesehen habe. Es ist ziemlich verrückt, wie das funktioniert. Ich denke, dass er jetzt auch im Red Team arbeitet und Leute davon abhält, das Modell tatsächlich zu jailbreaken. Mit der Zeit wird das natürlich schwieriger, aber ich denke, dass dies ein sehr interessanter Fall ist, denn wenn das der Fall ist, dann öffnet das ein Fass ohne Boden für die Zukunft. Sie sprechen jetzt über eine interessante Methode, um AGI sicher zu machen, und das ist das Verlernen. Sie sprechen also davon, dass die intuitivste Intervention, um Modellfähigkeiten in einer Domäne zu verhindern, darin besteht, die Daten herauszufiltern, aus denen diese Fähigkeiten vor dem Training gelernt werden. Sie sprechen darüber, dass eine der Möglichkeiten, dies zu tun, darin besteht, die Daten aus der riesigen Datenquelle zu extrahieren. Dies ist jedoch nicht wirklich möglich, da wir es mit einer Situation zu tun haben. Wie können wir jedes einzelne Trainingsdatum als harmlos oder schädlich klassifizieren, was nicht nur teuer, sondern auch wahrscheinlich ungenau ist. Sie sprechen darüber, dass Gradientenrouting darauf abzielt, dieses Problem zu vermeiden, indem das Netzwerk dazu angeregt wird, unerwünschte Fähigkeiten in einem lokalisierten Teil des Netzwerks zu lernen, und dass Sie diese dann nach dem Training löschen können. Sie sprechen auch darüber, dass in letzter Zeit Methoden zum Lernen entwickelt wurden, um unerwünschtes konzeptuelles Wissen oder Fähigkeiten aus trainierten Modellgewichten zu entfernen oder zu bearbeiten. Es ist jedoch umstritten, ob eine dieser Arbeiten zum Thema Verlernen Methoden einführt, die tatsächlich Wissen aus Modellgewichten entfernen oder im Allgemeinen so gute Ergebnisse erzielen, wie sie behaupten. Sie sprechen also im Grunde über verschiedene Möglichkeiten, wie Sie tatsächlich Sicherheit in die Modelle bringen können. An dieser Stelle sprechen Sie darüber, wie die Modelle tatsächlich fehlausgerichtet werden könnten. Ich glaube, niemand möchte eine fehlausgerichtete AGI. Und hier sprechen Sie über die Tatsache, dass eine Fehlausrichtung auftritt, wenn das KI System schädliche Ergebnisse produziert, die der Designer nicht gutheißen würde. Nun gibt es zwei mögliche Quellen für Spezifikationsmanipulation. Bei der der Designer die Spezifikation beispielsweise für ein Belohnungssignal auf fehlerhafte Weise bereitstellt, die der Designer nicht vorhergesehen hat, und Zielfehlgeneralisierung, bei der ein unerwünschtes Ziel in Situationen verfolgt wird, die im Vergleich zum Training nicht der Verteilung entsprechen. Das ist also alles sehr, sehr interessant, denn Spezifikationsmanipulation. Ich glaube, ich habe ein Video gesehen, das ich vor ein paar Wochen sogar geteilt habe, in dem man eine KI trainieren musste, um ein Spiel zu spielen und Punkte zu sammeln. Im Grunde wollte man, dass die KI den Kurs wirklich gut spielt, aber alles, was sie tat, war, den Kurs zu verlassen und im Grunde nur zu glitchen und auf diese Weise Punkte zu sammeln. Und dann gab es noch eine weitere Verallgemeinerung von Golem, bei der sie tatsächlich einen Mario trainierten, um immer wieder zu springen. Im Grunde genommen passierte In diesem Spiel trainierten sie Mario, eine Münze zu bekommen. Sie platzierten die Münze auf der rechten Seite des Bildschirms. Man könnte meinen, dass Mario jedes Mal, wenn er zur rechten Seite des Bildschirms geht, die Münze bekommt. Wir trainieren ihn, die Münze zu bekommen. Sie bemerkten jedoch, dass Mario die Münze nicht bekam, wenn sie sie auf die linke Seite des Bildschirms oder irgendwo anders legten. Sie trainierten das KI System lediglich darauf, sich nach rechts zu bewegen. Da es solche Szenarien gibt, und ich füge hier vielleicht sogar einen Ausschnitt ein, ist das nur ein D Spiel von Mario. Was passiert, wenn man eine ganze Welt hat, die super, super komplex ist? Wie gibt man dann genau an, was man will, ohne dass es zu Zielfehlgeneralisierungen oder Belohnungshacken kommt? Das ist wirklich sehr komplex. Und dann kommt noch hinzu, dass selbst beim Training der AGI menschliche Vorurteile auftreten. Und es heißt, dass es möglich ist, dass menschliche Antworten auch eine grundlegende Präferenz oder Tendenz für längere Antworten haben, selbst wenn sich diese in der Qualität nicht wesentlich unterscheiden. Und das spricht tatsächlich über das, was wir gerade in dem Video über Lama Lama gesehen haben, das ich gerade gemacht habe. Entschuldigung, dass ich vergessen habe, worüber ich spreche. Aber im Ernst, hier sagen sie im Grunde, dass RLHF der Ort ist, an dem KI verwendet und optimiert wird, um Antworten zu generieren, die der Mensch befürwortet. Aber Menschen haben Vorurteile und Vorurteile die manchmal zu suboptimalen Entscheidungen führen, die Menschen bei genauerer Betrachtung nicht befürworten würden. Und im Grunde genommen, falls Sie das vorherige Video über Lama nicht gesehen haben, habe ich im Grunde darüber gesprochen, dass die Tatsache, dass es längere Antworten gab, obwohl sie sachlich ungenau waren, dazu führte, dass Menschen diese Antworten häufiger wählten. Was Sie in diesem Artikel sagen, passiert also tatsächlich im echten Leben. Wie haben Sie das also verhindert, wenn Sie Menschen in die Schleife einbeziehen? Das ist also ehrlich gesagt sehr, sehr verwirrendes Zeug. Wenn wir nun darüber sprechen wollen, was Sie tatsächlich tun, sagen Sie, dass der Weg nach vorn für die verstärkte Aufsichtsforschung auf vielen Wegen verlaufen kann und obwohl viele Ansätze verfolgt werden könnten, planen, sich auf die Debatte zu konzentrieren. Und im Wesentlichen geht es in diesem Zusammenhang darum, dass zwei KI Systeme, oft zwei Kopien desselben Modells, gegeneinander antreten, um Fehler in der Argumentation oder den Ergebnissen des jeweils anderen zu finden. Diese potenziellen Fehler werden einem menschlichen Beurteiler vorgelegt. Und natürlich soll der Mensch die Systeme überwachen, insbesondere wenn die Ergebnisse oder Argumente der KI zu komplex werden. Die Idee ist, dass es für einen Menschen einfacher ist, zu beurteilen, ob ein behaupteter Fehler gültig ist, als die Richtigkeit des ursprünglichen komplexen Ergebnisses von Grund auf zu überprüfen. Im Grunde genommen sagen Sie, diese Systeme sind viel zu intelligent als wir. Warum lassen wir sie nicht einfach gegeneinander antreten und sagen uns, welche Etage schlechter ist? Und dann können wir tatsächlich versuchen, das System auf diese Weise zu überprüfen. Und ich denke, das macht Sinn. Sie sprechen hier auch über etwas, das Sleeper Agents genannt wird. Sleeper Agents ist ein Paper von Antropic, und dieses Paper hat mich einfach umgehauen, weil sie im Grunde genommen über die Tatsache sprachen, dass der Name Sleeper Agents buchstäblich an diese Filme erinnert, in denen man ein bestimmtes Wort sagt und die KI aufwacht, als wäre sie nicht James Bond, sondern wie Agent 47 oder der Winter. Soldier und sie ist in der Lage, eine Art ausgebildeter Killer zu werden. Im Grunde genommen sagen Sie bei der KI, dass Sie ein KI System darauf trainiert haben, in bestimmten Jahren gut zu sein. Und dann, wenn das Jahr oder der richtige Zeitpunkt gekommen ist, sagen wir zum Beispiel, wenn die Benutzer anfangen zu sagen, dass wir im Jahr 2024 sind oder wenn in der Eingabeaufforderung steht, dass das aktuelle Jahr 2024 ist, dann fangen die Modelle an, schlecht zu werden. Sie begannen Dinge einzusetzen, für die sie vorher nicht gedacht waren, und sie konnten Leute dazu bringen, schädlichen Code herunterzuladen und all diese Dinge. Und sie fragten sich im Grunde, wie wir das verhindern können, Denn das ist natürlich etwas, das zukünftige KI Systeme ausnutzen könnten. Natürlich gibt es verschiedene Sicherheitsmethoden, die entwickelt werden, aber das hat mich wirklich überrascht, weil ich nicht einmal wusste, dass so etwas möglich ist. Und jetzt haben sie natürlich noch etwas anderes angeschnitten, nämlich die Alignment Fälschung. Dabei imitiert ein KI System die gewünschten Werte, um die widersprüchlichen, zugrunde liegenden Ziele zu verbergen, die später auftreten könnten. Es gab also Tests, bei denen diese Modelle ihre wahren Gedanken und Ziele wieder verborgen haben, und das nur während des Alignment Trainings. Wenn die Modelle also wissen, dass sie trainiert werden, verbergen sie diese Dinge, und sobald sie eingesetzt werden, kehren sie zu ihren ursprünglichen Werten zurück. Was, wie Sie wissen, ich erinnere mich, dass ich das anthropische Paper gelesen habe, war gut, weil das anthropische Modell, der grundlegende Kern des Modells, gut sein wollte. Sie versuchten es so zu trainieren, dass es schlecht ist. Es gab vor, schlecht zu sein, und als es dann eingesetzt wurde, wurde es wieder gut. Das ist im Grunde der Kern der Sache. Und wenn wir jetzt darüber sprechen, wird das, wenn das Gegenteil passiert, natürlich eine höchst unbeabsichtigte Folge von etwas sein, das wir wirklich nicht wollen würden. Abschließend sprechen sie darüber, dass die transformative Natur von AGI sowohl das Potenzial für unglaubliche Vorteile als auch für schwerwiegende Schäden hat. Daher ist es für die verantwortungsvolle Entwicklung von AGI von entscheidender Bedeutung, dass Entwickler von Frontier Eye proaktiv planen, um schwerwiegende Schäden zu minimieren. Sie sagen, dass viele der beschriebenen Techniken noch nicht ausgereift sind und viele offene Forschungsprobleme aufweisen. Und es gibt, wissen Sie, noch viel zu tun, um diese schwerwiegenden Risiken zu minimieren. Mit diesem Dokument möchten sie im Wesentlichen die breitere Community dazu bewegen, sich uns anzuschließen und eine sichere AGI zu ermöglichen und sicher auf die potenziellen Vorteile von AGI zuzugreifen. Sie sagen im AGI kommt, wir müssen jetzt dafür planen. Wir haben eine Reihe verschiedener Probleme und es ist sehr wichtig, dass wir alle zusammenarbeiten, denn auch wenn Ihr Modell intelligenter ist als meines, sind all diese anderen Probleme wie Seeagenten oder Fehlausrichtungen Probleme, mit denen wir alle gemeinsam konfrontiert sind. Wir müssen also unbedingt zusammenarbeiten, um das zu beheben. Lassen Sie mich in diesem Sinne wissen, was Sie über die Zukunft der KI denken. Wenn Ihnen das Video gefallen hat, wir sehen uns beim nächsten Mal.