AI CEO: ‘Stock Crash Could Stop AI Progress’, Llama 4 Anti-climax + ‘Superintelligence in 2027’ ...

Jeden Tag, so scheint es mir, gibt es verrückte Behauptungen und Schlagzeilen, nicht nur in der KI, sondern weltweit. Dieses Video versucht einige dieser Schlagzeilen zu entlarven und ihnen nur das zu vermitteln, was wir wissen. Wir sehen uns Lama 4 an, das Modell, das seit einem Jahr auf dem Markt ist und über das es viele Behauptungen und Gegenbehauptungen gibt. Dann der Blogbeitrag Artikel eines ehemaligen OpenAI Forschers, der online millionenfach aufgerufen wurde und in der New York Times erschien und im wesentlichen Superintelligenz bis 2027 vorhersagt. Dann einige aktuelle Nachrichten über den Veröffentlichungstermin des möglicherweise intelligentesten Modells von allen, zusammen mit zahlreichen Widersprüchen darüber, ob und wann es erscheinen könnte. Ich kann es mir einfach nicht verkneifen, mit einem Zitat zu beginnen, das den ganzen Hype um KI buchstäblich dämpfen könnte, als Dario Amedede, CEO von Anthropic, den Machern der Claude Modellreihe, gefragt wurde, was KI stoppen könnte. Was könnte den Fortschritt stoppen? Er erwähnte einen Krieg in Taiwan, dessen Risiko wir schon lange kennen. Ich kann das Buch Chip Wars von Chris Miller. Wärmstens empfehlen. Anschließend erwähnte er kurz eine potenzielle Datenbarriere, die dazu führen könnte, dass ihnen die hochwertigen Daten für das Training ihrer Modelle ausgehen. Doch dann erwähnte er ein neues Risiko, das er zuvor nicht erwähnt hatte. Und bevor Sie dieses Zitat hören Es stammt drei Wochen vor dem ganzen Zollwahnsinn. Was sind die drei wichtigsten Faktoren, die das Ganze stoppen könnten? Wenn es zu einer ausreichend großen Störung des Aktienmarktes kommt, die die Kapitalisierung dieser Unternehmen beeinträchtigt, entsteht im Grunde die Überzeugung, dass sich die Technologie nicht weiterentwickeln wird. Das führt zu einer selbsterfüllenden Prophezeiung, bei der die Kapitalisierung nicht ausreicht. Ich möchte nur 30 Sekunden darauf verwenden, zu erklären, wie sich das auswirken könnte. Unternehmen wie OpenAI und Anthropic müssen Geld auftreiben, um die umfangreichen Trainingsläufe zu finanzieren, die ihren neuesten Modellen zugrunde liegen. Sie haben nicht einfach 40 oder 100 Milliarden auf ihrem Bankkonto, um diese riesigen Rechenzentren und alles andere zu finanzieren, was zum Training eines Sprachmodells gehört. Das Problem ist natürlich, wenn Investoren nicht glauben, dass sie ihr Geld zurückbekommen, etwa aufgrund einer Rezession, werden sie entweder nicht in diese Unternehmen investieren oder bei niedrigeren Bewertungen weniger investieren. Weniger Geld bedeutet weniger Rechenleistung, was wiederum einen langsameren KI Fortschritt bedeutet. Das ist natürlich keine Vorhersage. Niemand, auch ich nicht weiß, was passieren wird. Man vergisst ein einfach leicht, dass KI in der realen Welt funktioniert und reale Dinge Konsequenzen für den KI Fortschritt haben können. Und wenn wir schon beim KI Fortschritt Wie viel Fortschritt stellt die Veröffentlichung von Lama 4 und 2 der drei Modelle der Lama Familie dar? Nun, das ist schwer zu sagen, denn wie immer steckt bei der Veröffentlichung dieser Familie viel mehr Spin als ehrliche Analyse. Aber es scheint nicht allzu viel zu sein. Natürlich gibt es noch kein Papier, Das wird langsam zur Norm. Hier sind die wichtigsten Erkenntnisse. Das kleinste der Lama Modelle verfügt über ein branchenführendes Kontextfenster von 10 Millionen Token. Das entspricht etwa 7,5 Millionen Wörtern. Das klingt natürlich unglaublich und innovativ, aber zwei kurze Bereits im Februar 2024 gab es ein Modell, Gemini 1.5 Pro, das über ein Kontextfenster von 10 MillionEN Token verfügte. Mit diesem extrem großen Fenster konnte es die Suche der Nadel im Heuhaufen bei Videos, Audiodateien und Texten erstaunlich gut durchführen. Zumindest öffentlich haben wir nur Modelle mit bis zu 2 Millionen Token Kontextfenstern erhalten, vielleicht, weil Google etwas erkannt hat. Sie haben vielleicht erkannt, dass es gut und schön ist, einzelne Nadeln im Heuhaufen zu finden, wie dieser Lama Blogbeitrag zeigt. Wenn Sie alle Harry Potter Bücher laden und beispielsweise mittendrin ein Passwort einfügen, kann das Modell es finden und abrufen. Aber sind wir ehrlich, die meisten Leute schmuggeln Keine Passwörter in 7 Bände von Harry Potter Harry Potter. Daher erscheinen mir diese Ergebnisse der Veröffentlichung von vor 48 Stunden weniger relevant als dieser aktualisierte Benchmark von vor 24 Stunden. Er heiß Fiction Live Bench für langen Kontext und tiefes Verständnis. Das ist der Benchmark, bei dem Sprachmodelle Handlungsverläufe über zehn oder Hunderttausende von Token oder Wörtern zusammensetzen müssen. In meinem letzten video zu Gemini 2.5 Pro habe ich die extrem gute Leistung bei diesem Benchmark erwähnt. Im Gegensatz dazu ist Die Leistung von Lama 4 für das mittelgroße und das kleinste Modell ziemlich schlecht und wird sogar noch schlechter. Die Zahlen oben beziehen sich auf die Hinweise, die über beispielsweise Wörter oder Wörter oder sogar Wörter verstreut sind. Wenn man an Daten denkt, wird es noch merkwürdiger. Warum wurde Lama 4 an einem Samstag veröffentlicht? Das ist beispiellos in der gesamten Zeit, in der ich mich mit KI beschäftige. Wenn man auch nur im Entferntesten eine Verschwörungstheorie vertreten wollte, könnte man meinen, sie hätten es an einem Wochenende veröffentlicht, um die Aufmerksamkeit etwas abzumildern. Beachten Sie auch, dass der Wissensstand August 2024 ist. Das sind die aktuellsten Trainingsdaten, mit denen Llama 4 trainiert wurde. Zum Gemini 2.5 hat einen Wissensstand von Januar 2025. Das deutet für mich darauf hin, dass Meta in den vergangenen etwa neun Monaten verzweifelt versucht. Hat, dieses Modell auf den neuesten Stand zu bringen. Eigentlich wollten sie es wahrscheinlich schon früher veröffentlichen, aber dann startete im September die O Serie von Modellen von OpenAI und im Januar bekamen wir dann Deepseek R Ü. Wenn Sie frühzeitig auf meine ausführliche Dokumentation zu Deepseek und R zugreifen möchten, finden Sie sie über meinen Patreon Link in der Beschreibung. Doch bevor wir Lama wie in diesem Meme komplett abschreiben, möchte ich sagen, dass es einige solide Fortschritte darstellt, insbesondere das mittelgroße Modell Lama 4 Maverick im Vergleich zum aktualisierten Deepseek V. Beide Modelle sind natürlich keine denkenden Modelle wie Gemini 2.5 oder Deepseek R. Meta hat sein hochmodernes, denkendes Modell noch nicht veröffentlicht. Aber bedenken Sie einfach Einen Moment, dass Lama 4 Maverick trotz allem Geschwätz um Deepseek V nur etwa die Hälfte der aktiven Parameter hat und dennoch eine vergleichbare Leistung aufweist. Nun ja, ich weiß, dass Leute ihm Benchmark Maxing oder Hacken auf LM Arena vorwerfen, aber sehen Sie sich diese echten Zahlen an. Angenommen, keine der Antworten hat es in die Trainingsdaten für Lama 4 geschafft. Ist die Leistung seiner Modelle auf GPQA Diamond, dem extrem anspruchsvollen Google Benchmark für Proof Stems, tatsächlich besser als die des neuen Deep Seag V oder natürlich GBC 40 Wenn Sie also Meta oder Lama 4 optimistisch einschätzen würden, würden Sie sagen, dass Sie ein ziemlich verrücktes Basismodell haben, auf dem Sie vielleicht ein hochmodernes Denkmodell aufbauen könnten. Das einzige Problem ist, dass Gemini 2.5 Pro bereits vorhanden ist und Deepseek Air 2 jeden Moment erscheint. Wenn Sie Lama 4 aus seiner Komfortzone herausnehmen, beginnt seine Leistung einzubrechen. Nehmen Sie diesen Codierungs Benchmark, den Polyglot Benchmark von Ada, der die Modellleistung für eine Reihe von Programmiersprachen testet. Anders als viele Benchmarks konzentriert er sich nicht nur auf die Programmiersprache Python, sondern auf eine Reihe von Programmiersprachen. Und wie Sie sehen können, führt Gemini 2.5 Pro die Charts an. Nun ja, Sie könnten Das ist ein Denkmodell, aber sehen Sie sich dann Claude 3.7 Sonnet an. Das ist ohne Denken. Es bekommt 60 Prozent. Deepseek V, die neueste Version, bekommt 55 Prozent und man muss leider ziemlich weit nach unten scrollen, um zu Lama 4 Maverick zu gelangen, das 15,6 Prozent erreicht. Liegt es nun an mir oder lässt sich eine solche Leistung nur schwer mit Schlagzeilen wie dieser von Mark Zuckerberg in Einklang bringen, nämlich dass seine KI Modelle bald Ingenieure der mittleren Ebene ersetzen werden. Zuckerberg sagt also dieses Jahr 2025. Hat er das maßlos übertrieben? Wie können Sie es wagen, auf diese Idee zu kommen? Noch vier kurze Dinge, bevor wir Lama Fall verlassen. Und ja, ich habe diese Zahl mit Absicht gewählt und das erste betrifft die vorläufigen Anzeichen Ihres größten Modells, des noch unveröffentlichten Giganten. Meta hat die Vergleiche mit modellen wie Gemini 2 Pro und GPT 4.5 bewusst angestellt und der Vergleich fällt einigermaßen positiv aus. Wenn Sie sich die Fußnoten jedoch genau ansehen, steht dort, dass die Ergebnisse des Lama Modells unsere derzeit besten internen Läufe darstellen. Haben Sie das Modell fünfmal ausgeführt und den besten ausgewählt? Dreimal, Zehnmal? Wir wissen es nicht. Beachten sie auch, dass Lama 4 Behemoth nicht mit Deepseek V verglichen wurde, das hinsichtlich der Gesamtparameter dreimal und hinsichtlich der aktiven Parameter etwa achtmal kleiner ist. In Dunkelblau sehen Sie die Leistung von deepseek V, der neuesten Version, und Sie müssen zugeben, dass es ziemlich vergleichbar mit Lama 4 Behemoth ist. Anders ausgedrückt, wenn man die Veröffentlichung negativ darstellen wollte, könnte man sagen, dass Lamas größtes Modell, das um ein Vielfaches größer ist als das neue deepseek V Basismodell, im Grunde die gleiche Leistung erbringt. Nun ja, ich weiß, Lama 4 Behemoth befindet sich noch in der Entwicklung, aber So ziemlich alle Modelle befinden sich derzeit mit Posttraining in der Entwicklung. Zweitens nur eine kurze Anmerkung, die ich mitten in den Nutzungsbedingungen gesehen Wenn sie sich in der EU befinden, sind sie aufgeschmissen. Sie können weiterhin Endnutzer sein, haben aber nicht die gleichen Rechte darauf aufzubauen. Als nächstes folgt ein kleiner Hinweis weiter unten auf der Seite, in dem versucht wurde, Lama 4 etwas rechtsgerichteter zu gestalten. Es sei bekannt, dass LLMs politisch historisch eher linksgerichtet seien, daher werde man versuchen, dies zu korrigieren. Ich bin mir natürlich sicher, dass das nichts mit Zuckerbergs Verhältnis zur neuen Regierung zu tun hatte. Schließlich Simplebench, in dem Lama 4 Maverick das mittelgroße Modell 27,7 Prozent erreicht, was in etwa dem Niveau von Deepseak V entspricht. Das ist zwar weniger als bei nichtdenkenden Modellen wie 3.5 Sonnet, die sich nicht die Zeit nehmen, ihren Gedankengang vor der Antwort darzulegen, aber es ist eine solide Leistung. Meta ist definitiv noch im Rennen, wenn es um großartige Basismodelle geht, auf denen man unglaubliche Denkmodelle aufbauen kann. Zufällig habe ich kürzlich einige interessante Hinweise zur Leistung von auf simplebench erhalten, und zwar das Modell, das in zwei Wochen erscheint. Darauf gehe ich gleich ein. Es wird wettbewerbsfähig sein. Ich weiß, das ist ein ziemlich krasser Hinweis, den ich nicht unterstütze, aber mehr kann ich im Moment nicht sagen. Was Ihnen vielleicht in der Mitte des Bildschirms aufgefallen ist, ist simplebench, ein Benchmark, den Sie in der Beschreibung finden. Ich habe ihn vor etwa neun Monaten erstellt und er wird von Weave von Waits in Beasses unterstützt. Sie sponsern dieses Video und den gesamten Benchmark, wie Sie am Link in der Bildschirmmitte deutlich erkennen können. Damit öffnen Sie diese Schnellstartanleitung, die für jeden Entwickler nützlich sein sollte, der sich wie wir für das Benchmarking von Sprachmodellen interessiert. Auch wer mehr über LMS erfahren möchte, kann sich hier unten die Waits in Beasses I Academy ansehen. Wie Sie sehen, werden fast ständig neue kostenlose Kurse veröffentlicht. Ich hatte ja angekündigt, die Neuigkeiten zu zu erwähnen, die erst vor ein paar Tagen von Sam Orman kamen. Er teilte uns mit, dass in etwa zwei Wochen erscheinen würde. Das stammt aus meinem Newsletter. Erinnern Sie sich noch daran, wie OpenAI und Salmon ausdrücklich sagten, wir möchten unseren geplanten Fahrplan besser bekannt machen, je näher wir der AGI kommen, Sie verdienen. Klarheit. Klarheit wäre großartig, denn ursprünglich sollte kurz nach Mini High erscheinen, das Ende Januar erschien. Daher erwarteten wir es natürlich im Februar. Dann machte OpenAI eine Kehrtwende, wie Sie in diesem Tweet sehen können, und jemand sagte, wir würden nicht mehr als eigenständiges Modell ausliefern. Nun, vielleicht aufgrund der Veröffentlichung von Gemini 2.5 Pro oder weil ihre GPUs aufgrund der vielen Nutzung von Image Gen schmelzen, haben sie GPT-5 verschoben und werden nun tatsächlich in zwei Wochen als eigenständiges Modell veröffentlichen. So viel zur Klarheit. Wir werden offenbar auch Bücher über Salmons Verfehlungen und sein fragwürdig dokumentiertes Verhalten bekommen, aber das ist ein Thema für ein anderes video. Ich wette, OpenAI möchte nicht, dass wir uns auf die neuen Pläne Ihrer Non Profit Organisation konzentrieren. Erinnern Sie sich an die 300 Milliarden Bewertung, die Sie zuvor in diesem Video gesehen haben. Das hängt davon ab, dass OpenAI ein gewinnorientiertes Unternehmen wird. Was also wird mit dieser Non Profit Organisation geschehen, die die Einnahmen aus OpenAIs Entwicklung von AGI kontrollieren sollte? Bedenken Selbst wenn Salmon Recht hat und OpenAI das Unternehmen ist, das Billionen von Dollar an Wert schafft, hätte diese Non Profit Organisation, wie er vorhergesagt hat, am Ende Billionen von Dollar an Wert kontrollieren können. Noch Sie hätte kontrolliert, was mit AGI geschehen wäre, wenn OpenAI das Unternehmen gewesen wäre, das sie entwickelt hätte. Lassen wir nun einmal beiseite, ob sie glauben, dass OpenAI AGI entwickeln wird, oder ob AGI in den nächsten drei bis fünf Jahren überhaupt klar definiert oder realisierbar ist. Konzentrieren Sie sich auf Versprechen von Sam Orman und Open Wir haben uns von einer gemeinnützigen Organisation, die theoretisch einen bedeutenden Teil der Weltwirtschaft hätte kontrollieren können, zu einer Organisation entwickelt, die lokale Wohltätigkeitsorganisationen in Kalifornien und vielleicht sogar großzügig in ganz Amerika und darüber hinaus unterstützt. Zwar interessiert sich kaum jemand, wenn überhaupt, für diese Geschichte, da OpenAI nicht mehr der dominierende Akteur im Rennen um AGI ist, aber ich halte sie dennoch für bedeutsam. Falls sie nach Lama 4 und diesen OpenAI Geschichten etwas enttäuscht von KI sind, könnten Sie, wie ich am Wochenende ein paar Stunden damit verbringen, AI 2027 zu lesen. Verfasst wurde es von einem ehemaligen OpenAI Forscher und anderen Experten mit beeindruckender Erfolgsbilanz. Wie Sie sich vielleicht erinnern, hat Daniel Coco Tadello sich eindrucksvoll gegen OpenAI und dessen nicht Verunglimpfungsklausel ausgesprochen. Er war im Grunde bereit, auf Millionen von Dollar zu verzichten, und ja, so viel kann man als Sicherheitsforscher bei OpenAI verdienen. Er war bereit, darauf zu verzichten, um die Nichtverunglimpfungsklausel nicht unterzubringen, unterzeichnen zu müssen. Aufgrund seiner Position war OpenAI praktisch gezwungen, diese Klausel für alle fallen zu lassen. Ein großes Lob an ihn. Trotzdem hat mich dieser Bericht nicht besonders überzeugt, auch wenn ich es bewundere, dass Sie Ihre Vorhersagen mit Datumsangaben versehen haben. Um dem Rechnung zu tragen, werde ich versuchen, einige Ihrer Vorhersagen mit meinen eigenen zu vergleichen. Ihre zentrale Prämisse ist, dass KI zunächst zu übermenschlichen Programmierern und dann zu ML Forschern wird und dadurch den KI Fortschritt massiv beschleunigen und uns 2027 Superintelligenz bescheren wird. Sie stützen sich stark auf dieses Papier von Meta. Ich werde das in einem separaten Video behandeln, da ich eng mit einem der Hauptautoren dieses Papiers korrespondiere. Wie dem auch sei, wir beginnen zunächst recht einfach mit einer Beschreibung der Möglichkeiten aktueller KI als Agent, ähnlich dem Operator von ChatGPT und intensiver Forschung, die im Wesentlichen beschreibt, was wir bereits haben. Wir machen dann viele Umwege zur Ausrichtung und Sicherheit, weil man spürt, dass die Autoren diese Botschaft gleichzeitig mit all ihren Vorhersagen vermitteln wollen. Ich weiche deutlich von ihren Vorhersagen ab, wenn es um Anfang 2026 Wenn Sie Folgendes Wenn China die Gewichte der hochmodernen KI, Agent One genannt, stiehlt, könnte es seine Forschungsgeschwindigkeit um fast 50 Prozent steigern. Basierend auf all den Beweisen, die Sie heute zu deep seek und llama 4 gesehen haben, könnte man sagen, dass es fast genauso wahrscheinlich ist, dass der Westen Chinas Gewichte stiehlt. Oder Moment mal, das wird nicht nötig sein, denn Deep Seek macht seine Modelle weiterhin offen. Gewichtet Genau wie bei Leopold Ashen Brehner und Dario Amedede. Ist alles ein Wettlauf um die Kehle. Eine Erzählung, die schwer damit zu vereinbaren ist, dass Deep Seek bestimmte Forschungsarbeiten vorantreibt und sie allen zur Verfügung stellt. Ende 2026 wird das US Verteidigungsministerium dann offenbar still und leise damit beginnen, OpenAI oder Google direkt mit der Analyse von Cyberdaten sowie mit Forschung und Entwicklung zu beauftragen. Aber ich bin etwas verwirrt, denn OpenAI arbeitet bereits seit mindestens einem Jahr direkt mit dem Pentagon zusammen. Ja, bevor Sie es mir Mir ist bewusst, dass Daniel Coco Tagelo, der Hauptautor dieses Papiers, bereits 2021 einige erstaunliche Vorhersagen über den Fortschritt der KI gemacht hat. Ich kann in der Beschreibung darauf verlinken, aber das heißt nicht, dass er in Zukunft immer richtig liegen wird. Außerdem hat er selbst zugegeben, dass diese Vorhersagen nicht so weitreichend waren. Wie dem auch sei, im Januar 2027 wird es wild, Denn wie Sie dieser Grafik hier oben entnehmen können, bekommen wir eine Key, die besser ist als der beste Mensch, den ersten übermenschlichen Programmierer. Mit anderen Worten, das ist der entscheidende Punkt des Papiers, denn sobald das erreicht ist, beschleunigt sich die KI-Forschung und alle anderen. Konsequenzen ergeben sich daraus. Aber wie ich mit den Autoren des Meta Papers besprochen habe, gibt es so viele andere Variablen, mit denen man sich auseinandersetzen muss. Was ist mit proprietärem Code bei Google, Meta oder Amazon, mit dem OpenAI seine Modelle nicht trainieren kann? Was ist mit Benchmarks selbst, die immer weniger zuverlässige Indikatoren für die Leistung in der realen Welt sind? Denn die reale Welt ist viel chaotischer als Benchmarks. Dieser übermenschliche Programmierer muss möglicherweise mit ganzen Teams zusammenarbeiten, bestimmte Berechtigungen einholen und alle möglichen Hürden des gesunden Menschenverstands überwinden. Und selbst wenn man sich ausschließlich auf überprüfbare Benchmarks konzentrieren wollte, zeigt nicht jeder Benchmark eine exponentielle Entwicklung. Nehmen wir den MLE Benchmark oder den Machine Learning Engineering Benchmark aus der Deep Research oder Systemkarte von OpenAI. Dieser Datensatz besteht aus 75 handkuratierten Kaggle Wettbewerben mit einem Preisgeld von 2 Millionen US Dollar. Die Messung des Fortschritts bei der Selbstverbesserung von Modellen ist der Schlüssel zur Bewertung des vollen Potenzials autonomer Agenten. Grundsätzlich Wenn Modelle im Machine Learning Engineering gut werden, können sie sich offensichtlich viel leichter selbst verbessern. Und lassen sie uns zum Fortschritt springen und etwas näher herangehen. Sie können die Leistung von mini intensiver Recherche ohne Browsen, intensiver Recherche mit Browsen und sogar GPT 40 sehen und ich kann keinen absoluten Leistungssprung feststellen. Natürlich kenne ich Benchmarks wie Humanities, Last, XM und andere, die exponentielle Verbesserungen zeigen. Ich sage nur, dass nicht jeder Benchmark das zeigt. Außerdem sind Januar oder Februar 2027 weniger als zwei Jahre entfernt und dieses Modell müsste übermenschliche Leistung erbringen, so sehr, dass es autonom Pläne entwickeln und ausführen könnte, um sich in KI Server einzuhacken, Kopien von sich selbst zu installieren, unentdeckt zu bleiben und diese sichere Basis für seine anderen Ziele zu nutzen. Beachten Sie jedoch den voreiligen Vorbehalt. Wie effektiv es dies im Laufe der Wochen tun würde, ist unbekannt und fraglich. Das kommt in der Arbeit übrigens häufig vor. Ich habe sogar einen Co Autor sagen hören. Nun, das war nicht meine Vorhersage. Es war Daniels. Es gibt viel heftiges Eingeständnis. Beachten Sie jedoch, dass ein KI Modell nicht nur über menschliche Programmiererkenntnisse besitzen müsste, um all dies zu leisten, sondern auch nur wenige oder gar keine gravierenden Mängel aufweisen dürfte. Wenn ein Aspekt des vorgeschlagenen Plans nicht in den Trainingsdaten enthalten wäre oder er nicht zuverlässig umgesetzt werden könnte, würde das Ganze scheitern. Und das führt mich zu meiner Vorhersage. Sie haben eine Vorhersage gemacht, also kann ich eine machen. Modelle werden selbst bis 2030 nicht dazu in der Lage sein. Ich meine zuverlässig mit 95 oder 99 Prozent Zuverlässigkeit, autonom, vollautonom Pläne entwickeln und ausführen, um sich in Key Server einzuhacken, sich selbst zu kopieren, unentdeckt zu bleiben und so weiter. Sollte Daniel hingegen recht haben und modelle bis Februar 2027 dazu in der Lage sein, dann gebe ich zu, dass ich falsch liege. Das bringt mich übrigens zurück zu dieser Grafik. Sie zeigt, dass zu diesem Zeitpunkt nur 4 Prozent der Befragten, die Was ist Ihrer Meinung nach das wichtigste Problem, mit dem das Land heute konfrontiert ist, mit KI beantworten würden. Nun, ich weiß nicht, wie es Ihnen geht, aber wenn ich meine Freunde oder meine Familie hören würden, dass es KI gibt, die Dinge hacken, sich selbst replizieren und in der freien Wildbahn überleben kann, würden glaube ich, mehr als vier Prozent der Menschen sagen, dass das das wichtigste Thema ist. Ich meine, je mehr ich darüber nachdenke, desto mehr Clickbait Schlagzeilen, die man heute auf YouTube und anderswo über KI liest. Können Sie sich den Clickbait vorstellen, wenn KI tatsächlich in der Lage wäre, sich selbst auf verschiedene Server zu kopieren und autonom zu hacken? Eigentlich wäre es dann nicht einmal mehr Clickbait. Ich würde Schlagzeilen schreiben wie oh mein Gott, die kann alles hacken. Wie auch immer, Sie verstehen schon ganz zu schweigen davon, dass diese Agenten fast genauso gut wie ein Mensch Biowaffen und dergleichen herstellen können. China wird dann diesen verbesserten Agenten zwei aus dem Pentagon stehlen und trotzdem sind 96 Prozent der Menschen völlig ahnungslos mit anderen Dingen beschäftigt, um es etwas weniger oberflächlich auszudrücken. Ich denke, die Studie überbewertet Gewichtsdiebstahl und die Tatsache, dass dieser in den Gewichten eines Modells enthalten ist. Ich denke, der Fortschritt zwischen heute und 2030 wird viel stärker. Davon abhängen, welche Daten zur Verfügung stehen, welche Benchmarks erstellt werden und welche proprietären Daten verfügbar sind. Verstehen Sie mich nicht falsch, Ich glaube, KI wird zur Verbesserung der KI beitragen, selbst wenn es nur um die Überprüfung und Evaluierung bestehender KI Forschung geht, wie es ein neuer Benchmark ist, der erst vor einer Woche von OpenAI veröffentlicht wurde. Modelle wie Claude 3.5 Sonet können bereits 21 Prozent der Arbeiten in diesem Benchmark replizieren. Aber wenn die Rechenleistung begrenzt ist, möglicherweise sogar sehr begrenzt, etwa bei einem massiven weltweiten Börsencrash oder einem Krieg in Taiwan, und die Rechenleistung gleichzeitig begrenzt ist, würde man die Entscheidung über die verfolgten Ansätze an ein Modell delegieren, das möglicherweise nur 80 Prozent so gut ist wie die eigenen besten Forscher. Nein, man würde sich einfach diesen Spitzenforschern beugen. Nur wenn ein Modell hinsichtlich der Rechenleistung durchgängig bessere Entscheidungen trifft als die besten Forscher, würde man es ihnen anvertrauen. Die Autoren beziehen definitiv einige reale Ereignisse ein, die sich bei OpenAI möglicherweise ereignet haben, wenn sie sagen, dass KI Sicherheitsbefürworter aus Angst vor Whistleblowern an den Rand gedrängt oder sogar gefeuert werden. Ich persönlich würde vorhersagen, dass Sicherheitsbefürworter nicht an den Rand gedrängt werden. Wenn wir eine autonome KI haben, die hacken und selbstständig überleben kann. Wenn ich mich irre, sind wir als Menschheit viel dümmer, als ich dachte. Wie dem auch sei, in nur zwei Jahren, im Juni 2027 können die meisten Mitarbeiter bei OpenAI G Google keinen sinnvollen Beitrag mehr leisten. Ich glaube einfach nicht, dass Feedbackschleifen so schnell entstehen können, wenn man dieses Niveau erreicht. Ich könnte mir gut vorstellen, dass Benchmarks wie die MMU oder einfache Benchmarks zu diesem Zeitpunkt ausgereizt sind. Aber stellen Sie sich vor, Sie versuchen eine aerodynamischere oder effizientere F-47 zu entwickeln. Das ist der neue Kampfjet, den das Pentagon angekündigt hat. Nun, diese Selbstverbesserung der KI wird durch den Realismus der Simulation, an der sie gemessen wird, ausgebremst. Sofern das simulierte Flugzeug nicht exakt dem realen entspricht, wird man nicht wissen, ob diese sich selbst verbessernde KI das Design tatsächlich verbessert hat, es sei denn, man testet sie in einem echten Flugzeug. Multipliziert man dieses Beispiel dann mit den zehntausend anderen Bereichen, in denen es proprietäre Daten oder Lücken zwischen Simulation und Realität gibt. Man könnte meine Ansichten wohl so zusammenfassen, dass die reale Welt viel chaotischer ist als bestimmte isolierte Online Benchmarks. Das Modell ist übrigens zum jetzigen Zeitpunkt plausibel extrem gefährlich, da es Bogenwaffen herstellen kann und dabei erschreckend effektiv ist. Aber 92 Prozent sagen, dass dies nicht das wichtigste Thema ist. Man Wie gut müsste TikTok werden, damit sich 92 Prozent der Leute zu diesem Zeitpunkt nicht mehr auf KI konzentrieren würden. Ich verabschiede mich mit dem positiven Ende der beiden in der Studie genannten Enden, die dies für 2030 vorhersagt. Wir enden damit, dass Menschen das Sonnensystem terraformieren und besiedeln und sich darauf vorbereiten, darüber hinauszugehen. Kies, die mit tausendfacher subjektiver menschlicher Geschwindigkeit laufen, reflektieren über den Sinn der Existenz und tauschen Erkenntnisse miteinander aus. Das ist hilfreich, und sie prägen die Werte, die es den Sternen bringen wird. Ein neues Zeitalter bricht an eines, das in fast jeder Hinsicht unvorstellbar erstaunlich, in manchen aber vertrauter ist. Zuschauer mit einem höheren PDOM können sich das andere Szenario ansehen, das eher düster ist. Beachten Sie jedoch, dass ich nicht bestreite, ob einige dieser Dinge eintreten werden, sondern nur die Zeitlinien, die Sie angeben. Ich denke immer noch, dass wir in einer der epischsten Zeiten überhaupt leben, nur dass es eher ein epochales Jahrzehnt als ein paar Jahre sein könnte. Vielen Dank wie immer fürs Zuschauen. Ich weiß, ich habe in einem Video viel ab. Ich werde versuchen, meine Videos in Zukunft stärker zu trennen. Ich bin super stolz auf die Deepsea Dokumentation, die ich auf Patreon erstellt habe. Schauen Sie es sich also an, wenn Sie frühzeitigen Zugriff wünschen. Kunst auf jeden Fall.