Ex-Google CEO's 2026 Warning: AI Will Be Smarter & Uncontrollable

Denn denken Sie daran, dass sich Computer heutzutage selbst verbessern. Sie lernen, wie man plant und müssen uns nicht mehr zuhören. Deshalb wird das Thema nicht so hoch gelobt. Die Menschen verstehen nicht, was passiert, wenn Intelligenz auf diesem Niveau vorhanden ist, die weitgehend kostenlos zur Verfügung steht. Das war das Gespräch zwischen dem ehemaligen Google CEO Dr. Eric Schmidt und Jan Masserf im Rahmen des Special Competitive Studies Project über die Zukunft der KI und Biotechnologie. Und ehrlich gesagt, es war ein wirklich aufschlussreiches Gespräch. Lassen Sie uns genau darauf eingehen, was er gesagt hat, denn die Auswirkungen sind tiefgreifend. Denken Sie daran, dass sich Computer heutzutage selbst verbessern. Sie lernen, wie man plant und müssen uns nicht mehr zuhören. Wir nennen das Superintelligenz oder ASI, künstliche Superintelligenz. Und dies ist die Theorie, dass es Computer geben wird, die intelligenter sind als die Summe aller Menschen. Der Konsens auf der San Francisco Convention ist, dass Dies innerhalb von 6 Jahren allein aufgrund der Skalierung geschehen wird. Um dies zu bewerkstelligen, benötigt man jedoch eine enorme Menge an Leistung. Ich war gestern hier und habe darüber ausgesagt, wissen Sie, und wir brauchen. Ich kann ausführlich darüber sprechen, wie viele Gigawatt und wie viele Kernkraftwerke und all die Dinge, über die wir separat sprechen können. Diesen Weg versteht unsere Gesellschaft nicht. Es gibt keine Sprache dafür, was mit der Ankunft dieser Technologie geschehen wird. Ich habe darüber zusammen mit Henry Kissinger ein Buch mit dem Titel Genesis geschrieben, das ich Ihnen natürlich empfehle, da es von mir stammt und an Ihren üblichen Stellen verfügbar ist. Aber der wichtige Punkt ist, dass dies schneller geschieht, als unsere menschliche Gesellschaft, unsere Demokratie und unsere Gesetze es bewältigen können. Und es gibt viele Auswirkungen. Deshalb wird es unterschätzt. Die Menschen verstehen nicht, was passiert, wenn man Intelligenz auf diesem Niveau hat, die weitgehend kostenlos ist. Eines der Dinge, über die er hier spricht, ist die Tatsache, dass dass diese Technologie tatsächlich unterschätzt wird. Ich weiß, dass viele Menschen derzeit denken, dass KI überschätzt wird. Und auf der einen Seite gibt es Menschen, die derzeit glauben, dass KI unterschätzt wird. Ich denke, die Argumentation dahinter ist die Tatsache, dass wenn ASI auch nur ansatzweise wahr ist, oder wenn die Auswirkungen von AGI auch nur ansatzweise wahr sind, die Auswirkungen so tiefgreifend sind, dass man sie genauso gut ernst nehmen kann. Ich meine, Wenn es eine 50-prozentige Chance gäbe, dass es in den nächsten zehn Jahren superintelligente Aliens geben wird, die so ziemlich alles tun können, dann könnte es sich lohnen, dieses Risiko tatsächlich ernst zu nehmen. Und ich denke, darauf will er hinaus. Es wird nicht genug gepriesen. Man muss jedoch berücksichtigen, dass die gesellschaftlichen Auswirkungen, wenn diese Technologie plötzlich auftaucht, so tiefgreifend sein werden, dass die Welt buchstäblich nie wieder dieselbe sein wird. Und das ist hier der springende Punkt, über den sich die meisten Menschen nicht wirklich einig sind. Manche Leute okay, KI wird überbewertet. Und in einigen Aspekten stimme ich dem zu. Sicherlich ja, KI wird überbewertet, aber die Auswirkungen von Superintelligenz werden es ganz sicher nicht. Hier kommen wir möglicherweise zum Kern des Videos. An dieser Stelle äußerte Eric Smith eine Aussage, die meiner Meinung nach mit jedem Tag ein bisschen mehr Realität wird. Er sagt im Grunde, dass irgendwann der gesamte Code von KI geschrieben wird. Ich denke, dass wir uns beim Schreiben von KI-Code auf einer hohen Abstraktionsebene befinden, in dem Sinne, dass wir vielleicht die Implementierer sind, aber die KI derzeit definitiv den Großteil des Codes schreibt. Es ist sehr interessant, seine Meinung zu hören, denn er ist nicht der Einzige, der behauptet, dass in diesem Jahr die große Mehrheit der Programmierer durch KI Programmierer ersetzt wird. Wir glauben auch, dass es innerhalb eines Jahres Mathematiker mit Hochschulabschluss geben wird, die in den Programmen für Mathematik für Fortgeschrittene ganz oben auf der Liste stehen. Es gibt viele Gründe zu der Annahme, dass dies passieren wird. Das ist der Konsens. Man sagt OK, das ist ja ziemlich interessant, aber ich kann diese Art von Mathematik nicht. Nur sehr wenige Menschen können diese Mathematik Wie kann ein Computer diese Mathematik besser als alle anderen beherrschen? Bis zu einem gewissen Grad liegt es daran, dass die Mathematik eine einfachere Sprache hat als die menschliche Sprache. Diese Algorithmen funktionieren im Wesentlichen so, dass sie Wortvorhersagen treffen. Man nehme einen Satz, streiche ein Wort und der Algorithmus lernt dann, wie das richtige Wort eingefügt werden kann. Das nennt man die Verlustfunktion. Und sie ist dafür optimiert, dies in einem für uns Menschen unvorstellbaren Umfang zu tun. Dasselbe macht man in der Mathematik, aber man verwendet eine Vermutung und dann ein Beweisformat über ein Protokoll namens Lean. In der Programmierung ist es ziemlich Man schreibt einfach so lange Code, bis man den Programmiertest besteht. Seltsamerweise ist die erste Frage, die ich Programmierern immer stelle, in welcher Sprache sie programmieren. Die richtige Antwort ist, dass es keine Rolle spielt, denn man versucht, auf ein bestimmtes Ergebnis hinzuarbeiten. Es ist einem egal, welcher Code vom Computer generiert wird. Das ist eine ganz neue Welt. OK, und ja, eine ganz neue Welt. Wie ich bereits sagte, ist es nicht nur. Eric Schmidt Schauen Sie sich an, was Dario Amade kürzlich in einem anderen Interview in einer Podiumsdiskussion gesagt hat. Er sagte im Grunde, dass in zwölf Monaten, also in einem Jahr, die KI möglicherweise den gesamten Code schreiben könnte. Und man muss verstehen, dass es in 12 Monaten viele Veränderungen geben wird, wenn sich die KI so schnell weiterentwickelt. Ein leistungsstarkes Tool. Wenn ich mir das Codieren Programmieren ansehe, einen Bereich, in dem die KI die größten Fortschritte macht, dann stellen wir fest, dass wir nicht mehr weit von einer Welt entfernt sind. Ich denke, in drei bis sechs Monaten werden wir so weit sein, dass die KI 90 Prozent des Codes schreibt. In zwölf Monaten könnte es sein, dass die KEY im Wesentlichen den gesamten Code schreibt. Hier kommen wir nun zu etwas noch Interessanterem. Eric Smith spricht im Grunde davon, dass die KEY jetzt den gesamten Code schreibt. Aber was passiert danach? Sehen Sie sich das an im zweiten Jahr. Das ist also ein Jahr. OK, was passiert in zwei Jahren? Nun, ich habe euch gerade von Argumentation, Programmierung und Mathematik erzählt. Programmierung und Mathematik bilden die Grundlage unserer gesamten digital Welt. Die Belege und Behauptungen von Forschungsgruppen im Bereich Open Eye, Anthropologie usw. Besagen, dass mittlerweile etwa 10 bis 20 Prozent des Codes, den sie in ihren Forschungsprogrammen entwickeln, vom Computer generiert wird. Das nennt man rekursive Selbstverbesserung, so der Fachbegriff. Was passiert also, wenn das Ganze skalierbar wird? Nun, sehr stark. Okay, Und wo führt uns eurer Meinung nach die rekursive Selbstverbesserung hin? Und das bringt uns zum Thema AGI Superintelligenz. Und hier wird es langsam ziemlich verrückt, denn wir alle wissen, was passiert, wenn AGI erreicht wird. Die Gesellschaft wird mit Sicherheit verändert. Eine Möglichkeit, dies zu beschreiben, ist, dass wir in drei bis fünf Jahren über das verfügen werden, was man allgemeine Intelligenz nennt. Man kann diese als ein System definieren, das so intelligent ist wie der klügste Mathematiker, Physiker, Künstler, Schriftsteller, Denker oder Politiker. Vielleicht nicht auf dem gleichen Level, aber sie verstehen, was ich meine, nur die Kreativbranchen und so weiter. Aber stellen Sie sich das in einem Computer vor. Okay, das ist ziemlich interessant. Ich nenne das übrigens den San Francisco Konsens, weil alle, die daran glauben, in San Francisco leben. Es könnte das Wasser sein. Was passiert, wenn jeder einzelne von uns für jedes Problem den klügsten Menschen in der Tasche hat. Das bedeutet, dass man den besten Architekten hat, wenn man ein Architekturproblem hat. OK, und eine weitere Sache, die er hier anspricht, sind Agenten. Agenten werden jeden Tag mehr. Es gibt neue Frameworks, neue Protokolle, die Man verwenden kann. OpenAI hat vor kurzem GPT 4.1 veröffentlicht, das sich auf Agenten konzentriert, was die Art und Weise betrifft, wie das Modell entworfen wird. Google hat vor kurzem AA veröffentlicht, ein weiteres Agenten Framework. Antropic hat vor kurzem Cloud MCP veröffentlicht. Ich meine, es gibt eine Menge Dinge, die daran arbeiten, Agenten viel besser zu machen, und er spricht im Grunde davon, dass dies die Zukunft ist, und ich werde euch zeigen, warum das so wichtig ist. Eine andere Sache, die gerade passiert, ist die Entwicklung von Agentenlösungen. Und Agenten beziehen sich auf Systeme, die Eingaben und Ausgaben im Speicher haben und lernen. Ein Beispiel dafür ist, dass ich ein weiteres Haus kaufen möchte. Ich mag Virginia zufällig. Ich bin in Virginia aufgewachsen. Ich finde mir ein Haus im Großraum MLAN. Schau dir das an. Das ist ein Agent. Schau dir all die Regeln an. Finde heraus, wie groß das Haus sein kann, das ich bauen kann. Das ist ein anderer Agent. Führe die Transaktion durch, um das Grundstück zu kaufen. Das ist ein anderer Agent. Entwerfe das Haus mit einem menschlichen Architekten, richtig, aber ignoriere sie die meiste Zeit, aber sie müssen es unterschreiben und dann genehmige ich es und suche dann den Bauunternehmer. Richtig? Ich stelle den Bauunternehmer ein, bezahle die Rechnungen und verklage ihn am Ende wegen mangelnder Leistung. Okay, ich habe dir gerade die dümmste Erklärung geliefert, die es gibt. Ich habe gerade jeden Geschäftsprozess, jeden Regierungsprozess und jede Art von akademischem Prozess in unserem Land beschrieben. Es werden also nicht nur die Programmierer arbeitslos sein, wir werden alle arbeitslos sein. Nein, das ist keine Konsequenz. Darauf komme ich noch zu sprechen. Aber der Grund, warum ich hier den Punkt ansprechen möchte, ist, dass in den nächsten ein, zwei Jahren diese Grundlage geschaffen wird und wir werden das nicht aufhalten können. Natürlich fragen sich viele Menschen angesichts des Aufkommens von Agenten, ob die Automatisierung nicht alle ersetzen wird. Und ich muss ehrlich sein, ich bin mir da sicher, denn ich glaube, dass es diesmal anders ist. Eric Schmidt sagt im Grunde, dass es jedes Mal so ziemlich dasselbe Wir finden nur neue Dinge, die wir tun können. Ich habe wirklich Schwierigkeiten zu verstehen, wie Menschen ihre Rolle in der Welt finden, aber natürlich würde ich gerne eure Meinung hören. Und Eric Smith sagt im Grunde, dass es im Grunde so sein wird wie bisher. Und übrigens, was die Arbeitsplätze angeht, gehen alle davon aus, dass die Automatisierung Arbeitsplätze ersetzen und vernichten wird. Wenn man sich die Geschichte der Automatisierung ansieht, seit den webstühlen und vor 300 jahren haben sich die Arbeitsplätze verändert, aber es wurden mehr Arbeitsplätze geschaffen als vernichtet. In diesem Fall müsstet ihr mich davon überzeugen, dass es diesmal anders ist. Wenn man sich Asien ansieht, wo man sich aus welchen Gründen auch immer dafür entscheidet, keine Kinder zu bekommen, liegt die asiatische Reproduktionsrate in der Größenordnung von 1,0 oder niedriger. Sie verschwinden also rapide. Die asiatischen Länder automatisieren also sehr, sehr schnell. Die Werkzeuge, die ich beschreibe, werden es den wenigen Menschen ermöglichen, die in 30 oder 40 Jahren sehr hart arbeiten werden. Wenn sich diese Trends fortsetzen, werden wir anderen von diesen hart arbeitenden Menschen abhängig sein, was ihre Produktivität deutlich steigern wird. Und natürlich muss man auch noch erwähnen, dass es den Deep Seek Moment gab und er hier bis zu einem gewissen Grad darüber spricht, dass China in Sachen künstliche Intelligenz keine Spielchen spielt. Sie nehmen das sehr ernst, ernster als alles zuvor. Das ist also etwas, das natürlich auch die Vereinigten Staaten ernst nehmen müssen. In China ist der Deep Seek Moment gleichzusetzen mit unserem Chat Moment. Ich war mit Henry dort M. Und das passiert, wenn man mit Henry mit den Chinesen über KI spricht. Und das bedeutet, dass wir am Leben sind und euch zuhören. Vielen Dank. Richtig, das machen sie nicht mehr. Als deepseek auftauchte und unser Aktienmarkt an einem Tag eine Billion Dollar verlor, begannen sie plötzlich das Ausmaß dessen zu begreifen, was los war. Jetzt gibt es in China ein riesiges Programm, um diese Dinge zu beschleunigen. Ich dachte, ich und einige andere Leute in diesem Raum hätten wirklich hart an diesen Chipkontrollen gearbeitet, und die Chipkontrollen waren meiner Meinung nach weitgehend effektiv. Wie hat China das umgangen? Nun, ein Teil davon war schlichter Diebstahl und Umgehung der Zölle, aber sie sind auch ausreichend intelligent. Sie haben neue Algorithmen entwickelt, die verschiedene Arten von Computern verwenden, um voranzukommen, weil China mit Open Source arbeitet, d. H. Sie stellen die Software für alle zur Verfügung. Es passieren zwei Wir Amerikaner haben ihre Idee sofort erkannt und in unsere eigene integriert. Vielen Dank China. Ihr habt etwas Neues erfunden. Wir haben es sofort integriert. Aber zweitens sind die Verbreitungsprobleme chinesischer Modelle jetzt zu einem sehr großen Problem geworden, weil es kostenlos ist und unsere Regierung versucht herauszufinden, wie sie mit dieser Frage umgehen soll, bisher ohne Erfolg. Es ist eine sehr knifflige Frage, und eine der Methoden, mit denen die US Regierung versucht hat, dies zu umgehen, besteht darin, den amerikanischen Zugang zu deepseak einzuschränken. Sie denken über ein Verbot von App Stores nach, Sie denken über Beschränkungen nach, wie Cloud Anbieter deepseek Modelle anbieten können. Es gibt einfach unzählige Möglichkeiten, wie die US Regierung damit umgehen wird. Und ich glaube nicht, dass sie deepseak in die US Kultur integrieren wollen. Ich meine, die Wettbewerbsfähigkeit der USA ist etwas, das sie wirklich für ihr Land wollen. Und ich glaube nicht, dass sie wollen, dass chinesische Modelle das Ökosystem überwuchern. Erinnern Sie sich, wie ich sagte, dass China das alles sehr ernst nimmt? Was passiert, wenn China uns voraus ist oder wir China so weit voraus sind, dass sie anfangen, sich Sorgen zu machen? Dann müssen wir uns mit Dingen wie Angriffen auf Rechenzentren, der Bombardierung von Rechenzentren und natürlich der gegenseitig zugesicherten Zerstörung befassen. Im Grunde genommen spricht Eric Schmidt hier darüber, dass, wenn ein Land einem anderen so weit voraus ist, es versuchen könnte, dieses Land zu untergraben, indem es die Gewichte stiehlt und viele andere Dinge tut. Darüber wurde ausführlich von denen gesprochen, die versuchen, die Zukunft der KI vorherzusagen und die in unserem Land diese ganze Debatte darüber führen, was mit dem iranischen Atomprogramm zu tun ist. Ich bin kein Experte auf diesem Gebiet, aber solche Gespräche werden hier in DC geführt. Wenn wir also an den Punkt gelangen, an dem China n Monate voraus ist, sind wir dann bereit, ihre Rechenzentren zu bombardieren. Mein Lieblingsbeispiel hierzu ist, als ich daran gearbeitet habe, ich habe mit jemandem gesprochen, der sagte, die Antwort sei offensichtlich. Ich, die gute Frau und der böse Bube. Wir einigen uns auf einen Vertrag, in dem jeder von uns die Stromversorgung des anderen mit Dynamit unterbricht. Du darfst meinen Strom in die Luft jagen, wenn du wütend wirst, und ich darf deinen Strom in die Luft jagen, wenn ich wütend bin. Sie verstehen schon. Nun würden manche sagen, das haben wir bereits getan, das ist bereits geschehen. Nun, ein kinetischer Angriff auf die Rechenzentren von Menschen ist wahrscheinlich ein Akt des Krieges. Ja, Eric Schmidt spricht tatsächlich über die automatische Entdeckung und möglicherweise Synthese von Medikamenten, was eine bemerkenswerte Implikation ist, denn das bedeutet, dass in Zukunft die Suche nach Heilmitteln für viele verschiedene Krankheiten und all diese Leiden nur noch ein Knopfdruck sein wird und man nur darauf warten muss, dass die KI es herausfindet und Und er spricht darüber, wie es da buchstäblich ein Start up gibt, das er finanziert hat und wie sie tatsächlich daran arbeiten. Der Hauptgründer einer bestimmten Gruppe, die ein Modell entwickelt hat. Es hat zuerst gelernt, wie man Chemie betreibt und wurde als Basismodell für Chemie trainiert. Es ist an ein Roboterlabor angeschlossen. Und was dieses Modell tut, ist, dass es Hypothesen für Medikamente der einen oder anderen Art generiert. Es generiert sie einfach, Gott weiß, ob sie stimmen. Und dann testet das Roboterlabor sie über Nacht und gibt über Nacht den Bericht aus und dann geht es wieder von vorne los. Der Grund, warum ich das erwähne, ist, dass dies das zukünftige Modell der Fusion von KI und Biologie ist. Richtig. Das KI System generiert alle möglichen Kandidaten, um im Wesentlichen den Suchraum zu reduzieren. Wenn man es algorithmisch betrachtet, ist es eine Exponentialfunktion mit zu vielen Exponentialgraden. Man muss sich also eine Möglichkeit einfallen lassen, den Raum zu reduzieren. Diese bestimmte Gruppe verwendet also KI, um den Raum zu reduzieren, die Dinge zu betreiben und so weiter. Ihr Ziel? Wir werden sehen, ob sie es schaffen. Dieses Forschungsprojekt hat zum Ziel, innerhalb der nächsten zwei Jahre alle für Medikamente behandelbaren Zielstrukturen beim Menschen zu identifizieren. Sollte das gelingen, gehen diese Informationen direkt an die Pharmaindustrie. Das ist eine andere Denkweise und tiefgreifend, denn sie liefert ihnen die Ziele, die sie zur Entwicklung von Medikamenten benötigen. Das finde ich interessant. Es ist die Kombination aus KI und einem Roboterlabor, das im Wesentlichen etwas in einem NAS Labor erledigt. Ein Modell, über das man nachdenken sollte, ist die Roboterisierung von NAS Laboren. Und die NAS Labore werden über A verfügen. Im Grunde sind es keine humanoiden Roboter, es sind Armroboter, die bum bum bum machen, sie pipettieren und so weiter und so fort. Und das rund um die Uhr. Das ist eine tiefgreifende Veränderung in der Arbeitsweise der Biotechnologiebranche. Ich muss jetzt nicht wirklich auf die Auswirkungen eingehen. Ich meine, wenn man einfach nur einen Knopf drücken könnte und die KI sofort mit der Arbeit an einigen unserer häufigsten Probleme beginnen könnte. Ich meine, die Lebenserwartung wird weiter steigen. Das ist etwas, das schon seit einiger Zeit vorhergesagt wird, vor allem mit dem Fortschritt der KI Technologien und natürlich.