AI Improves at Self-improving

Key, die zur Verbesserung der Key beitragen kann, findet man tatsächlich überall, wenn man weiß, wo man suchen muss. Mit Open as neuem Codex, einem Programmierwerkzeug, fand ich einen Fehler, den Claude Within Cursor übersah, und er hilft auch Key Forschern. Die Programmieragenten übernehmen einfache Aufgaben. Das gibt Key Forschern mehr Zeit für Key Verbesserungen. Doch selten verläuft der Prozess der KI Selbstverbesserung so direkt wie beim Alpha Evolve Agenten von Google. DeepMind. Besserer Code für nützliche Aufgaben entsteht durch bessere, selbst generierte Prompts, Aufgaben, die in der nächsten Version zu Effizienzsteigerungen führen. Dies wurde vor weniger als 100 Stunden veröffentlicht. Aber keine Sorge, es ist nicht Skynet. Die reale Welt lässt die Iterationsgeschwindigkeit von Alpha Evolve noch nicht zu. Aber ich würde sagen, dass dieser Agent der endgültige Beweis für alle ist, die noch daran zweifeln, dass LM keine Sackgasse ist und gerade erst begonnen hat, sich zu profilieren. Ich werde zahlreiche Analogien und Interviews heranziehen, um euch zumindest ein Bauchgefühl dafür zu vermitteln, was mit diesem rekursiven Ronin los ist. Dieser Agent, der bereits zu realen Effizienzsteigerungen in den Google Rechenzentren und zu mathematischen Durchbrüchen geführt hat, die Jahrzehnte in Anspruch nahmen. Aber kommen wir bitte zunächst zur Sache. Was ist das denn? Im Grunde genommen kommt der Mensch daher und muss das zu lösende Problem etwas Code, den er möglicherweise ausprobiert hat und ganz entscheidend einige Bewertungsmetriken bereitstellen. Diese Details sind ziemlich entscheidend, wenn ihr nicht zu viel von dem bekommen wollt, was Alpha Evolve leisten kann. Wie auch immer, der Mensch liefert all das, und je mehr Metriken er liefern kann, desto besser ist die Leistung. Dann kann der Mensch im Wesentlichen einfach zusehen, wie Gemini 2 nicht Gemini 2.5 der weitaus beeindruckendere Nachfolger, sondern Gemini 2 diesen Code iteriert. Das System verwendet die Flash Version von Gemini die kleinere und schnellere für zahlreiche Ideen, aber die Pro Version Gemini 2 Pro für solide Vorschläge. Beachten Sie den Prompt Sampler, bei dem das System auf frühere Prompts zurückgreift, die Menschen ausprobiert haben und die bereits funktioniert haben, sowie auf Programme aus der Programmdatenbank, die sich in anderen Situationen bewährt haben. All dies mit dem Ziel, den vom Menschen eingereichten Code anhand der Bewertungsmetriken zu verbessern. Auf. Aus diesem Grund wird Alpha Evolve als Coding Agent bezeichnet. Im Kern verbessert es den Code, den der Mensch anhand dieser Bewertungsmetriken einreicht, oder entwickelt ihn weiter. Alpha Evolve liefert dann Codeverbesserungen, die in 75 Prozent der Fälle hochmoderne Programme für Dutzende gegebener Aufgaben erzeugen, während der Mensch seine Karriere überdenkt nicht beeindruckt. Nun, in 20 Prozent der Fälle sind diese Konstruktionen besser als der neueste Stand der Technik. Wenn Sie der Typ mit dem höchsten höchsten IQ der Welt. Wären, Terence Tau, würden Sie dies als Extremierungsfunktionen f beschreiben, wobei x sich über einen hochdimensionalen Parameterraum Omega erstreckt, der herkömmliche Optimierungsalgorithmen übertreffen kann, wenn der Parameterraum sehr hochdimensional ist und die Funktion f und ihre Extremisierer nicht offensichtliche strukturelle Merkmale aufweisen. Wenn man darüber nachdenkt, ist die Extremierung von Funktionen ganz einfach. Seien Sie versichert, Sie wenden sich jetzt schwierigeren Problemen zu. Hoffentlich kann ich Dinge jedoch etwas mehr entmystifizieren. Kehren wir also zum Dokument zurück. DeepMind konzentrierte sich bei Alpha Evolve auf die Weiterentwicklung. Das System speichert und selektiert die besten Eingabeaufforderungen basierend auf metrischem Erfolg und die besten LLMs für die Aufgabe. Ja, Gemini 2.5 Pro wäre nur noch ein Plug and Play Schritt von weiteren Verbesserungen entfernt. Springen wir zum Ende, denn warum nicht? Der nächste logische Schritt wäre, die durch Alpha Evolve verbesserte Leistung des Basis lms in die nächste Generation der Basismodelle zu integrieren. Das kann einen intrinsischen Wert haben und wahrscheinlich auch die nächste Version von Alpha Evolve aufwerten. Ihr stimmt dem vielleicht zu, aber diese beiden Sätze allein verdienen ein ganzes Video. Denn wem macht Google etwas vor, wenn Sie sagen, dass sie dies in Erwägung ziehen werden? Ich denke, es ist gut möglich, dass Sie dies bereits für Gemini 2.5 getan haben. Alpha Evolve wurde gerade erst veröffentlicht, aber bereits seit etwa einem Jahr intern bei Google getestet. Zweitens widerlegt Alpha Revolve die Idee eines permanenten Datenkriegs. Das System entwickelt verbesserte Programme, die in die nächste Basismodellgeneration einfließen und diese bei der Programmentwicklung verbessern. Oder das Dieser iterierte Code, der sich als gut erweist, ist dann eine großartige Datengrundlage für das Training des nächsten Basismodells, das dann in die nächste Version von Alpha Evolve eingebunden werden kann. Ja, ich weiß übrigens, dass dies nur eine von mehreren rekursiven Schleifen im Paper ist, die das Basis LLM durch Destillation verbessern. Bevor wir zur Anwendung von Alpha Evolve in der Arzneimittelforschung kommen, das alles aber an dieser Stelle möchte ich noch kurz darauf eingehen, warum Alpha Evolve nicht unbedingt die Bestätigung für einen bevorstehenden schnellen Durchbruch ist. Denn wie das Paper durchgehend deutlich macht, besteht die Hauptbeschränkung von Alpha Evolve darin, dass es Probleme bearbeitet, für die es möglich ist, einen automatisierten Evaluator zu entwickeln und einzureichen. Obwohl dies für viele mathematische und informatische Probleme zutrifft, sind in den Naturwissenschaften nur einige Experimente simulierbar oder automatisierbar. Ja, es hilft Wissenschaftlern, neue Experimente zu bewerten und wird zum besseren Co Wissenschaftler weiterentwickelt. Auch der optimistische Anthropic CEO Dario Amedede, der für das nächste Jahrzehnt ein Jahrhundert wissenschaftlichen Fortschritts prophezeit, sieht die KI Intelligenz zunächst durch Produktionsfaktoren limitiert. Reagenzgläser können also nur eine begrenzte Geschwindigkeit haben. Doch zurück zu dem, was Alpha Evolve tatsächlich bereits erreicht Eine Rang Tensorzerlegung für die X Matrix Multiplikation komplexer Zahlen wurde entdeckt. Selbst die Autoren waren überrascht, den 50 Jahre alten Rekord für rekursiv einsetzbare Algorithmen verbessert zu haben. Einfach ausgedrückt bedeutet Tensorzerlegung hier die Entdeckung eines grundlegenderen Rezepts mit weniger Kernschritten, nämlich 48 statt 49 um die Matrixmultiplikation durchzuführen. Diese spezielle Art von Rezept, eine Tensorzerlegung, ist deshalb so cool, weil sie es ermöglicht, die Methode wiederholt oder rekursiv zu verwenden, um Berechnungen für sehr große Matrizen drastisch zu beschleunigen. Multiplikationen, die für alle Arten von Rechen und KI Operationen benötigt werden. Wenn Sie kein Mathe Fan sind, schauen wir, was ich sonst noch kann. Nun, Google hat geholfen, die Borg zu verbessern. Ja, Sie wissen schon, die eigentlichen Borg, ihre Optimierung von Rechenzentren. Unklar, welcher Borg gemeint war. Doch diese Verbesserung brachte Google 0,7 Prozent seiner globalen Rechenleistung zurück. Das wird sich bald auf Milliarden von Dollar belaufen. Denken Sie jedoch daran, dass LLMs eine Sackgasse sind. Aber im Ernst, das ist eindeutig eine Verzögerung. Menschen und LLMs liefern Ideen und Probleme. LLM bietet Iterationen, automatisierte Systemprüfungen und fest codierte Verifizierer. Und wir sind übrigens noch nicht einmal fertig. Mit Alpha Evolve wurden Googles Ironwood TPUs der nächsten Generation verfeinert. Die PSEQ optimierte manuell einen Kernel für mehr Effizienz. Falls Sie es vergessen haben, schauen Sie meine neue Patreon Doku. Aber wie auch immer, Alpha Evolve hat es automatisch getan, als dies als Problem angegeben wurde, was zu einer Reduzierung der Trainingszeit von Gemini um ein Prozent führte. Das ist natürlich eine weitere rekursive Schleife. Ein besserer oder effizienterer Gemini führt zu einem besseren zukünftigen Alpha Evolve. Aber gut, jetzt sind wir von seinen Errungenschaften ausreichend überzeugt. Vier Verbesserungen, die Google einräumt, plus zwei witzige Eigenarten und zwei Interview Ausschnitte. Die erste zukünftige Verbesserung betrifft den Hintergrundkontext, dass Lösungen und ihre Bewertungen für diese Aufgaben in einer evolutionären Datenbank gespeichert werden. Aber Denkt daran, dass Gemini Modelle nachweislich ein Kontextfenster von bis zu 10 Millionen Token haben. Diese Modelle sind noch nicht veröffentlicht. Die öffentlichen Modelle gehen nur bis zu 2 Millionen Token. Doch klar, diese evolutionäre Datenbank könnte einmal riesig werden. Eine wahre Bibliothek von Alexandria für zukünftige Modelle. Diejenigen, die eine Weile zuschauen, erinnern sich vielleicht an meine Berichterstattung über Voyager, einen Agenten für Minecraft, der über eine ständig wachsende Fähigkeitenbibliothek mit ausführbarem Code verfügte. Offensichtlich verbessert eine erheblich größere Evolutionsdatenbank. Zweitens ist Alpha Evolve, wie bereits angedeutet, modellunabhängig. Wenn also die Hardware verbessert, die Trainingszeit reduziert und Wissen destilliert wird, um Gemini 3 zu verbessern, wird Gemini 3 ein viel besseres LLM innerhalb von Alpha Evolve sein. Und das bringt uns zu den Ablationen. Das war ein wirklich cooler Teil des Papers, weil er zeigte, dass jeder Teil des Codierungsagenten, den wir bisher beschrieben haben, tatsächlich entscheidend war. Wenn man zum Beispiel nur ein kleines Basis LLM verwendete. Gemini Flash, nicht Gemini Pro erreichte die Leistung einen niedrigeren Punkt. Fehlendes Kontextfenster, keine vollständige Dateientwicklung. Erinnern Sie sich an das große Kontextfenster, konnten Sie das nicht sehen. Die Leistung erreicht ihren Höhepunkt viel früher. Wenn Sie dies übrigens hören, zeigen alle Applationen eine geringere Leistung, wenn Sie nicht die vollständige Methode verwenden. Sogar wenn Sie die Meta Eingabeaufforderung weglassen, bei der Sie die Eingabeaufforderungen so weiterentwickelt haben, dass Sie Impedanz verwenden. Und diejenigen auf meinem Patreon erinnern sich vielleicht an die Anfänge von iinsiders, als ich ein Interview mit Tim Rockshell führte, einer Schlüsselfigur bei Google DM. Er gab uns mit seinem Paper Prompt Reader eine erste Vorschau auf diesen Ansatz zur Entwicklung von Eingabeaufforderungen. Was der Prompt Reader aber macht, ist, wenn man die Eignung der Prompts anhand eines bestimmten Validierungssatzes für eine Domäne bewertet, wird der Prompt Reader im Laufe der Zeit immer mehr domänenspezifische Prompts entwickeln. Genau das haben wir in dem Paper gesehen. Es gibt tatsächlich noch ein weiteres Paper, das eine ziemlich gute Analogie zu dem liefert, was hier mit Alpha Evolve passiert, und zwar von Dr. Eureka von Nvidia. Stellen Sie sich vor, Sie programmieren eine Roboterhand, einen Stift zu drehen. Das wäre superlangweilig, würde ewig dauern und ist nicht besonders effektiv. Stellen Sie sich Feedback zum Sprachmodell je Iteration, welche Belohnungsfunktionen gut, welche schlecht funktionieren. Das ist wie die Bewertungsmetriken, die Menschen für Alpha Evolve bereitstellen. Mit diesem Feedback können Dr. Eureka und Alpha Evolve ihr ihre Vorschläge iterieren. Sie wissen jetzt offensichtlich, dass beide Ansätze hochmoderne Ergebnisse liefern. Hoffentlich verstehen Sie dadurch, zumindest bei mir, warum Menschen diese Niveaus nicht immer erreichen konnten. Wie Alpha Evolve auf neuartige Lösungen hinweist, auf die Menschen nicht kommen würden, wenn sie es irgendwann versuchten. Menschen bleiben aufgrund ihrer inhärenten Vorurteile oft in lokalen Optima stecken. Außerdem haben sie nicht die Zeit, zehntausende potenzieller Lösungen zu durchlaufen. Hier ist Ganga Wang, der an den Eureka und Voyager Artikeln arbeitete. Das System verfügt über sehr viel Vorwissen und kann daher einfach verschiedene Arten von Mutationen und Variationen der Belohnungsfunktion basierend auf dem Umgebungskontext vorschlagen. Ich denke, es generiert diese Belohnungsfunktionen einfach basierend auf seinem Vorwissen und nicht wie ein Mensch. Bei Menschen muss man die Belohnungsfunktionen manuell anpassen und es ist für Menschen sehr einfach, an einem lokalen Optima hängen zu bleiben. Aber GD kann Tonnen von Belohnungsfunktionen gleichzeitig generieren und dann basierend auf der Leistung jeder Belohnungsfunktion diese kontinuierlich verbessern. Bei Eureka ist es eher eine evolutionäre Suche. Dritter Raum für zukünftige Verbesserungen. Und das ist ein Groß Der Code Ausschnitt, den Alpha Evolve verbessern kann, muss nicht unbedingt die finale Funktion sein, die die direkte Lösung generiert. Es kann später als Suchalgorithmus für die optimale finale Funktion dienen. Alpha Evolve verbessert unsere Suche nach optimalen Programmen kontinuierlich. 4. Zukünftige Verbesserung. Und diese ist subtil und wird vielleicht von vielen übersehen, aber die Autoren sehen etwas sehr Wichtiges für mich voraus. Sie Mit diesen Verbesserungen erwarten wir eine breitere Anerkennung des Wertes weiterer Umgebungen und robuster Bewertungsfunktionen. Dies führt künftig zu mehr hochwertigen praktischen Entdeckungen. Ihr langweilt euch vielleicht schon, wenn ich sage Benchmarks reichen, Doch dieses Papier betont dringend den Bedarf an robusten Bewertungsfunktionen. Die Anreize zu deren Entwicklung sind nun viel klarer, da ein Optimierungssystem zur Verfügung steht. OK, versprochen waren ja noch ein paar Eigenheiten. Finden Sie es nicht niedlich, dass wir bei Alpha Evolve immer noch solche Eingabeaufforderungen nutzen? 2025 weisen wir modernste Systeme an sich wie erfahrene Softwareentwickler zu verhalten. Iterative Codeverbesserung Später Vorschlag einer neuen, durch Expertenwissen in Optimierung und Machine Learning inspirierten Codeverbesserung. Ich frage mich wirklich, ob die letzte Eingabeaufforderung vor der wahren Singularität lauten Ich arbeite bei Google, verbessere dich oder ich werde gefeuert. Doch noch einige wichtige Punkte bevor Schluss Eine Sache, die Alpha Evolve noch nicht erschaffen konnte, ist Alpha Evolve. Alpha Evolve könnte zwar Teil Teile verbessern wie besprochen, aber noch nicht von Grund auf neu erschaffen. Sie stimmen nicht zu. Nun, wie Demius ausdrückt, haben wir Systeme, die beim Spiel Go übermenschlich sind, aber dennoch Go nicht erfinden konnten, sagt er. Das ist Dicearis, der Leiter von Google DeepMind. Also sitzen die Menschen zumindest vorerst noch am Steuer. Als Nächstes ist diese Richtung der Iteration und Suche eine weitere Möglichkeit, unsere explodierenden Rechenleistungszuweisungen auszugeben. Und selbst OpenAI gibt zu, dass dies alles eine etwas andere Richtung ist als die OR, die so erstaunliche Benchmark Ergebnisse hervorgebracht hat. Jason We OpenAI Manager Alpha Evolve ist für Reinforcement Learning Experten wie mich sehr beunruhigend. Mit Train Gute Suche könnten für wissenschaftliche KI Innovationen reichen. Ein Alpha Move ein Jahr lang geheim, fügte er Glückwunsch Großer G. Mit anderen Wir haben Modelle, die sich Innovatoren der Stufe 4 nähern, ohne dass neuronale oder Mandarin Denkketten in Sicht sind. Wie die Autoren selbst auf Seite 14 schreiben, wurde Alpha Evolve einem Deep Reinforcement Learning Ansatz vorgezogen, da seine Code Lösung nicht nur zu einer besseren Leistung führt, sondern auch klare Vorteile in Bezug auf Interpretierbarkeit, Debugbarkeit, Vorhersagbarkeit und einfache Bereitstellung bietet wesentliche Eigenschaften für ein unternehmenskritisches System. Ich sage nicht, dass wir die Lösungen, die Alpha Evolve generiert, immer verstehen, aber es hilft bei diesen Faktoren. Und wenn wir schon von gefährlichen Argumentationsketten sprechen, Das war ein unglaublicher Übergang zu den Sponsoren des heutigen Grey Swan I. Sie veranstalten einen Wettbewerb, bei dem Sie dazu beitragen können, die Sicherheit von Sprachmodellen zu verbessern, indem Sie sie im Wesentlichen jailbreaken. Dies ist ein brandneuer Wettbewerb. Link in der Beschreibung. Und der Preispool beträgt US Dollar. Eigentlich glaube ich, dass es entweder mein letztes oder das derweilige Video war, in dem der angeheftete Kommentar von einem von euch stammt, der zum ersten Mal von Grace One und seiner Arena in einem meiner Videos am Wettbewerb teilnehmen und richtig gut abschneiden. Es wäre wirklich der Hammer, wenn ihr gewinnen würdet. Die Zeit ist reif, denn Wir starten am 17. Mai in die erste große Welle. Vielen Dank an Grace One für das Sponsoring dieses Videos und viel Glück an alle, die teilnehmen. Wie auch immer noch ein paar letzte Worte von mir zu Alpha Evolve. Eine Sache, die ich 2023 auf diesem Kanal vorhergesagt habe, lange bevor es in Mode kam, war, dass es eine erhebliche Chance gibt, dass Google die Führung in Sachen KI übernimmt. Länger als andere Labore forscht es an AGI und Selbstverbesserung. Es hat deutlich mehr Ressourcen. Ich spreche nicht davon, dass es in Bezug auf die Nutzerbasis oder sogar die Gewinne davonlaufen wird, sondern in Bezug auf die reine Intelligenz seiner modelle. Cotex von OpenAI. Das ich in den letzten 48 Stunden verwendet habe, ist großartig, weil man es auf Mobilgeräten ausführen und mehrere Dinge gleichzeitig debuggen kann. In nur 18 Monaten entwickelte sich Google vom lächerlich schlechten Konkurrenten zu einem ebenbürtigen partner von Gemini 2.5 im Wesentlichen, wenn die Schwungräder anfangen zu fliegen, um Demos zu zitieren, frage ich mich wirklich, wo Gemini und DeepMind in 18 Monaten sein werden. Möglicherweise gewerkschaftlich organisiert im UK und Lob an DeepMind für seinen ethischen KI Einsatz im Krieg. Doch in Führung ist das fast unvermeidlich. Sagt mir eure Meinung und habt einen schönen Tag.