o3 breaks (some) records, but AI becomes pay-to-win

Schnelle KI Fortschritte. Darum geht's. Weniger US zentrierte Fortschritte sind bald möglich, nachdem einem OpenAI Forscher die Greencard verweigert wurde. Allerdings sind seit der Veröffentlichung von dem neuesten Modell von OpenAI erst ein paar Tage vergangen. Dieses Modell hat einige Rekorde gebrochen und wiederum noch mehr Fragen aufgeworfen. 4 Updates zum aktuellen Stand der KI Spitze bei Basierend auf 6 Artikeln in keiner Reihenfolge. Bevor wir nun dazu kommen, wie viel Geld diese modelle Unternehmen wie OpenAI und Google einbringen. Und wie viel Geld Sie sie kosten werden, möchte ich noch klären, welches Modell derzeit das beste ist. Nun, das ist wirklich schwer zu sagen, da es stark von ihrem Anwendungsfall und dem von ihnen herangezogenen Benchmark abhängt. Im Moment wären für mich die beiden klaren Konkurrenten und Gemini 2.5 Pro. In dem Video, das ich am Abend der Veröffentlichung von veröffentlicht habe, habe ich erläutert, wie sie in einigen der bekanntesten Benchmarks Kopf an Kopf lagen. Seitdem haben wir jedoch einige interessantere Benchmark Ergebnisse erzielt. Nehmen wir das Zusammensetzen von Puzzles in langen fiktionalen Werken mit bis zu etwa Wörtern. Ich erwartete, Gemini 2.5 Pro würde seine Führung aufgrund seiner Fähigkeit, selbst längste Texte zusammenzufügen, behalten. Schließlich sind lange Kontexte die Spezialität von Gemini, Aber nein, übernimmt bei fast jeder Textlänge die Führung. Wissen Sie, dass Kapitel 3 einen Hinweis auf Kapitel 16 enthält? Dann ist Ihr Modell Wen interessiert das? Einige von Ihnen werden Was ist mit Physik und räumlichem Denken? Nun, hier ist ein brandneuer Benchmark, der weniger als 72 Stunden alt ist, und wir können die beiden Spitzenreiter vergleichen. Gemini 2.5 Pro liegt in Führung, gefolgt von High. Bedenken sie, dass Gemini 2.5 Pro viermal günstiger ist als Beachten Sie jedoch, dass die Genauigkeit menschlicher Experten bei diesem Benchmark immer noch weit über der des besten Modells liegt. Stellen Sie sich vor, Sie lernten realistische physikalische Interaktionen hauptsächlich durch Texte, nicht durch Erfahrung. Sie hätten wahrscheinlich die gleichen Probleme. Dies erklärt den größten Teil der Abweichung zwischen den Top Modellen und der menschlichen Basislinie bei simplebench. Diese beiden Modelle durchschauen langsam alle Tricks bei meinem Benchmark, aber beim räumlichen Denken versagen sie immer noch ziemlich. Dies ist keine Frage von simplebench oder dem Physics Benchmark, aber sie veranschaulicht den Punkt. Wenn Sie beispielsweise Ihre rechte Handfläche auf ihre linke Schulter legen und dann ihren linken Arm durch die Lücke zwischen ihrem rechten Arm und ihrer Brust führen, können Sie wahrscheinlich folgen. Aber die Modelle haben keine Ahnung, was vor sich geht. Es fehlt in ihren Trainingsdaten. Sie können es sich nicht vorstellen. Ich komme später auf dieses Beispiel zurück, denn mit den Tools könnte ich mir vorstellen, dass Sie diese Frage richtig beantworten. Bei komplexen biologischen Laborprotokollen erzielte bessere Ergebnisse bei der fehlerbehebung als Gemini 2.5 Pro erreicht einen 94. Perzentilwert zu ihrer Freude. Dies ist natürlich eine textbasierte Prüfung und nicht dasselbe wie die tatsächliche Durchführung dieser Protokolle im Labor. Sie bemerken vielleicht, dass Ich ausgleiche. Gemini 2.5 Pro übertrifft im Benchmark drei Mitbewerber in Mathematik. Sie haben vielleicht gehört, dass und mini bei AIM 2025 tatsächlich hochmoderne Ergebnisse erzielt haben. Das ist ein Mathematikwettbewerb für die Highschool. Ohne Tools erreichten beide Modelle etwa 90 Prozent, aber mit Tools erreichten sie über 99 Prozent. Womöglich wissen Sie nicht, dass AIM nur ein Qualifikationstest für USMO ist. Das ist ein deutlich schwierigerer, beweisbasierter Mathematiktest. Beachten das sind alles Highschool Tests, ganz anders als professionelle Mathematik beim USMO sehen. Einstellung erreicht bei hohen Einstellungen ca. 22 Prozent Gemini 2.5 ca. 24 Prozent. Wieder einmal ist Gemini viermal günstiger. Interessanterweise ist der USMO nur ein Qualifikationswettbewerb für den härtesten High School Mathe Wettbewerb. Das ist die Internationale Mathematik Olympiade. Google hat ein System Alpha Proof, das in diesem Wettbewerb eine Silbermedaille gewonnen hat. Ich habe zwar schon andere Videos über Alpha Proof gemacht, aber ich würde sagen, dass Google beim diesjährigen Wettbewerb im Juli Gold gewinnen könnte. Zurück zu einigen bodenständigeren Bereichen. Einfache visuelle Herausforderungen wie diese. Kann das Modell anhand eines Bildes feststellen, ob das Eichhörnchen den Zaun hinauf oder hinunterklettert, Unterscheiden sich diese beiden Hunde signifikant in der Größe. Eine weitere Dieser Benchmark heißt Natural Bench und Sie haben es wahrscheinlich schon erraten, da ich bei der Leistung wechsle, schneidet tatsächlich besser ab als Gemini 2.5 beide bleiben deutlich hinter Menschen zurück. Trotz dieses ersten Eindrucks schneidet Gemini 2.5 Pro beim Geogen tatsächlich besser ab, da es eine zufällige Straßenansicht erhält und weiß, welches Land und welchen Standort innerhalb dieses Landes Sie sich ansehen. Tatsächlich ist der Unterschied ziemlich krass, da 2.5 Pro High weit übertrifft. Wenn ich jetzt darüber nachdenke, ist das wahrscheinlich nicht allzu überraschend, da Google Google Maps, Google Earth und natürlich YouTube und Wimu besitzt. Der letzte Benchmark versprochen. Aber wie sieht es mit visuellen Rätseln aus? Welcher Drachen hat hier die längste Schnur? Die lösung ist c gemini 2.5 pro schneidet beim visuellen rätsel benchmark schlechter ab als ganz zu schweigen von Beide bleiben weit hinter dem Durchschnitt und menschlichen Experten gestatten Sie mir bitte noch 30 Sekunden, bevor wir zur Frage des Geldes kommen. Denn OpenAI hat im Grunde die WAHR Methode verschenkt, mit der Sie die Sehkraft so stark verbessern. Ihnen ist aufgefallen, wie zum Antworten heranzoomt. Aber wie lautet die Zusammenfassung von WAHR? Im Wesentlichen wird das Modell mit einem hochauflösenden Bild überfordert. Die Methode verwendet also ein multimodales LM, um zu erraten, welcher Teil des Bildes für die Frage am relevantesten ist. Dieser Teil des Bildes wird dann zugeschnitten, dem visuellen Arbeitsspeicher, dem Kontext des Modells zusammen mit dem Originalbild hinzugefügt und mit der Frage übermittelt. Sie können das in Aktion sehen, als ich dieses Bild mit der Aufschrift Wo ist Walter? Oder Wo ist Walter? Gab. Das Sprachmodell spekuliert, dass Walter dazu neigt, an Orten wie einem Aussichtspunkt oder einem Gehweg aufzutauchen, also beschließt es, diesen Bereich zuzuschneiden. Ich muss sagen, dass es Waldo nicht finden konnte, auch wenn es nur etwa drei Minuten gedauert hat, um ehrlich zu sein. OK, das sind die hochmodernen Modelle in der KI, Aber wo führt das alles hin? Nun, laut OpenAI im Jahr 2030 auf 174 Milliarden US Dollar Umsatz. Ich werde gleich noch darauf eingehen, was das für Sie in Bezug auf den Preis bedeutet, aber diese Prognose erscheint mir ziemlich realistisch. Nur 4 Milliarden US Dollar Umsatz 2024 trotzdem sehe ich extrem schnelles Wachstum. Ich möchte jedoch anmerken, dass selbst wenn die höchsten Zahlen weit unter einem Prozent des Wertes der weltweiten Büroarbeit liegen würden, jemand spektakulär falsch liegen müsste. Entweder werden wir, wie ich vermute, im Jahr 2026 27 Kein Land voller Genies in einem Rechenzentrum haben, oder diese Zahlen sind spektakulär unterschätzt. Hier sind einige meiner zusammengefassten Gedanken dazu, warum ich denke, dass KI vielleicht schon zu paywin wird, oder anders ausgedrückt, warum ich oder sie immer mehr bezahlen müssen, um bei Key ganz vorn dabei zu sein. Erst vor ein paar Tagen haben wir erfahren, dass google seine eigenen Premium Plus und Premium Pro Varianten plant, die wahrscheinlich 100 bis 200 US Dollar pro Monat kosten werden, genau wie OpenAI und seit kurzem auch Antropo. Denken Sie mal darüber nach. Bei nur einem einfachen, einer algorithmischen Verbesserung oder leichter skalierbarem RL für KI Superintelligenz würden diese Firmen deren sofortige Veröffentlichung für alle anstreben, Sicherheit vorausgesetzt, Marktanteile erobern, wie sie es alle anstreben, Monopole erlangen und dann später Geld für den Zugang zu dieser Key verlangen. Wenn Leistung andererseits durch die bloße Skalierung der Rechenleistung erkauft werden kann, dann muss jemand für diese Rechenleistung bezahlen, nämlich Sie. Ja, wir hatten einige schnelle Fortschritte von Auf und sogar Mini. Aber wie der CEO von Anthropic sagte, wird das Posttraining oder das Schlussfolgern durch Reinforcement Learning bald Milliarden und Abermilliarden von Dollar kosten. Und das Posttraining ist auch keine Zauberei. Es kann tatsächlich keine Schlussfolgerpfade erstellen, die nicht im ursprünglichen Basismodell enthalten sind. Das geht aus einem ganz neuen Paper der Xinhua University hervor. Interessieren Sie sich für meinen ausführlichen Einblick in beide Papers. Mein minütiges Patreon Video erklärt alles wie immer. Vielen Dank an alle, die den Kanal über Patreon unterstützen. Es gibt, Wie der ehemalige OpenAI Forschungsleiter sagte, noch viel leicht zu erreichendes Potenzial im Schlussfolgern und Posttraining. Er prognostiziert jedoch dennoch, dass das Schlussfolgern bald das Prä Training in dem Sinne einholen wird, dass es logarithmisch lineare Renditen liefert. Das heißt, man muss das Zehnfache der Investition investieren, um einen Schritt mehr Fortschritt zu erzielen. Bedenken Sie auch, dass Salmon OpenAI kürzlich sowohl als Produkt als auch als Modellunternehmen bezeichnet hat. Es ist ein wenig so, als würden Sie den Blick vom AGI Ball abwenden und sich mehr auf den Dollar Return pro ausgegebenem Compute konzentrieren. Die Firmen verfügen nur über begrenzt GPUs und TPUs. Samwin muss jedes Mal, wenn Forscher größere Basismodelle oder mehr Nachtraining anstreben, Ratenlimits für neue Nutzer, neue Funktionen und Latenz berücksichtigen. Ich weiß, dass sich diese Studie von Epochye hauptsächlich auf die Skalierung von Trainingsläufen oder das Vortraining der Basismodelle konzentrierte. Aber ganz allgemein wurde prognostiziert, dass bis 2030 etwa mal so viel effektive Rechenleistung vorhanden sein wird, wie 2022 für das Training von GPT-4 verwendet wurde. Selbst mit hypothetisch fünf Größenordnungen mehr Rechenleistung bis 2030 denken Sie an OpenAIs konkurrierende Anforderungen bei anvisierten 174 Milliarden US Dollar Umsatz. Ihre Modelle könnten zu diesem Zeitpunkt gemessen an der parameteranzahl im Durchschnitt eintausend mal größer sein als heute. GPT 40 mini 8 Milliarden Parameter war bis vor kurzem bei kostenlosen Nutzern im Einsatz. Doch selbst wenn sich Nutzer kostenloser Versionen inzwischen an Modelle von der Größe von GBC 4 gewöhnen, umfasst GPC 4.5 etwa 20 Billionen Parameter. Manche sprechen von 12 Billionen, aber so oder so sind es etwa zwei Größenordnungen mehr als GP. Natürlich nutzen Power User wie ich dann GPT 4.5 nicht mehr, sondern GPT 5 6 oder noch größere Versionen. Dann ist da noch die Nutzerbasis. Und obwohl OpenAI 600 Millionen aktive Nutzer pro Monat bedient, könnte es in fünf Jahren 6 Milliarden Smartphone Nutzer geben. Google hat mit Gemini seine Nutzerbasis kürzlich in nur wenigen Monaten auf 350 Millionen aktive Nutzer. Pro Monat vervierfacht. Doch das könnte sich leicht verdoppeln, verdreifachen oder vervierfachen. Das braucht Rechenleistung, bevor Modelle längerfristig denken. Dann ist da noch die Latenz. Gründliche Forschung ist super, braucht aber 5 10 Minuten. Man kann sich vorstellen, dass man eine Größenordnung mehr Rechenleistung aufwenden müsste, um diese Zeit auf beispielsweise 5 Sekunden zu reduzieren. Vergessen Sie auch nicht die Nutzung pro Nutzer in diesem AGI Szenario von 2027 oder 2030. Natürlich wird jeder diese Chatbots viel mehr nutzen als jetzt. Das ist eine weitere Verzehnfachung. Und das alles, bevor wir zu Dingen wie Text zu Bild, Text zu Video mit SORA kommen, das alles ist eine lange Art zu sagen, dass ich mir vorstellen könnte, dass Unternehmen wie OpenAI 12 Größenordnungen an effektiver Rechenleistung nutzen. Dazu gehören nicht nur mehr Chips, sondern auch effizientere Chips und bessere Algorithmen. Fünf Größenordnungen bis 2030 wären bei weitem nicht genug. Es ist also nicht ausgeschlossen, dass in den nächsten Jahren eine, wenn auch teure Proto AGI entsteht. Hier ist, was ein leitender Mitarbeiter von OpenAI vor ein paar Tagen gesagt AGI, so OpenAI, laut ihm ist ein hochautonomes System, das Menschen bei wirtschaftlich wertvoller Arbeit übertrifft. So weit sind wir definitiv noch nicht weit davon entfernt. Vielleicht ist Ihnen das bei einigen Benchmarks schon aufgefallen, aber er fährt Die AGI Vibes sind für mich sehr real, insbesondere die Art und Weise, wie dynamisch Werkzeuge als Teil seiner Denkkette einsetzt. Er sagt, das bedeute nicht, dass wir AGI jetzt erreicht hätten. Er würde sterben wollen, wenn er wüsste, dass wir es nicht getan haben. Dem stimme ich zu. Es wird langsam gehen, bis es schnell geht, so sein Schluss richtig schnell. Im Moment fühlt sich alles schnell an, aber ich denke, wir beschleunigen immer noch und werden sogar noch schneller werden. Wenn man bereit ist, das Geld auszugeben, sagte François, ein berühmter KI Forscher, kann man von Cent pro Abfrage bis zu Zehntausenden von Dollar pro Abfrage von null fluider Intelligenz zu fluider Intelligenz auf nahezu menschlichem Niveau gelangen. Schließlich erhalten wir Dinge wie das Anthropologie Modellkontextprotokoll, bei dem Modelle jetzt über eine gemeinsame Sprache verfügen, um Tools aller Art aufzurufen. Und wir wissen, dass das Aufrufen von Tools Teil des Reinforcement Learning Trainings von war. Wie lange wird es also dauern, bis dass bei Anatomiefragen wie diesen wohl versagt? Open Source Software wie OpenSim aufrufen und eine Simulation ausführen, die relevanten Parameter eingeben und den Code wie beim Code Interpreter ausführen und die resultierende Simulation beobachten kann. Bald könnte fast jede Software in den Orbit dieser Modelltrainingsprogramme einbezogen werden. Ich gebe zu, dass dies alle möglichen Sicherheitsprobleme mit sich bringt, die zuerst gelöst werden müssen. Deshalb möchte ich euch die Sponsoren dieses Videos Grace Swan Und vielleicht könnt ihr aus dem Augenwinkel einen laufenden Wettbewerb mit einem Preisgeld von US Dollar sehen, bei dem ihr auch ohne professionelle Forschung versuchen könnt, mit Hilfe von Bildeingaben führende KI-Modelle mit Sehfähigkeit zu. Jailbreaken. Ich finde es ziemlich verrückt, dass man dafür bezahlt werden kann, diese Schwachstellen auszunutzen und gleichzeitig die Sicherheit von KI zu verbessern. Das sind absolut legitime Wettbewerbe mit öffentlichen Bestenlisten, die von OpenAI, Anthropic und Google DeepMind überwacht werden. Wäre es nicht episch, wenn die Gewinner diesen Wettbewerb mit meinem Link gewonnen hätten? Den findet ihr in der Beschreibung. Ich werde mir euren Sieg voll und ganz zuschreiben und mich im daraus resultierenden Ruhm sonnen. Ihr könnt natürlich auch gerne in den Kommentaren eure Meinung zu der Nachricht kundtun, die derzeit online viral geht. Zweifellos leben wir in verrückten Zeiten, aber vielen Dank, dass ihr bis zum Ende zugesehen habt. Ich werde immer dankbar für eure Zuschauer sein. Ich wünsche euch ein wunder schönes Erlebnis.