Gemini 2.5 Flash - Hybrid Reasoning on Demand

OK, Google hat gerade Gemini 2.5 Flash veröffentlicht. Abgesehen von dem wettbewerbsfähigen Preis ist dies das erste hybride Argumentationsmodell, bei dem Entwickler das Denken ein und ausschalten können, was es bei noch keinem anderen Modell gab. Wenn sie beispielsweise zu iStudio gehen, wo das Modell derzeit verfügbar ist, können Sie den Denkmodus aktivieren oder deaktivieren. Wenn Sie ihn aktivieren, können Sie außerdem die Anzahl der Token festlegen, die das Modell für sein Denken oder seine Gedankenkette verwenden soll, was wirklich interessant ist. Ich denke, dass Entwickler dadurch dasselbe Modell im Denk und Nicht Denkmodus verwenden können. Das Hauptverkaufsargument dieses Modells wird der Preis sein. Wenn Sie es mit OpenAI Cloud 3.5 Sonnet oder anderen Angeboten wie Deep Sync R vergleichen, ist der Preis für dieses Modell absolut verrückt. Es könnte tatsächlich zum wahren Arbeitstier werden. Für den nicht Denkmodus kostet es nur 60 Cent pro einer Million ausgegebener Token und Wenn man es im Denk oder Argumentationsmodus verwendet, kostet es 3,50 US Dollar, was immer noch günstiger ist als das O Mini. Bei den Benchmarks ist es derzeit das zweitplatzierte Modell im Chatpot Arena Leaderboard. Nach dem Lama Fiasko, bei dem es vom zweiten auf den 35. Platz im LM Arena abrutschte, muss man dieses spezielle Leaderboard meiner Meinung nach mit Vorsicht genießen. Aber selbst bei den allgemeinen akademischen Benchmarks, die uns zur Verfügung stehen, zeigt es eine enorme Verbesserung gegenüber der vorherigen Generation, nämlich Gemini Flash, und scheint im Vergleich zu 3.5 Sonnet relativ besser abzuschneiden. Es hinkt definitiv hinter dem O Mini her. Ich empfehle jedoch immer, das Modell einfach anhand Ihrer eigenen internen Benchmarks zu testen. Schenken Sie diesen externen Benchmarks nicht zu viel Beachtung. Allerdings hinkt es beim Adapolyglot Modell definitiv hinter 3.5 Sonnet her. Es wird also interessant sein, wie die Code Performance ist. Ich denke aber, dass Google bei diesem speziellen Modell wahrscheinlich nicht versucht, ein hochmodernes Frontiermodell zu entwickeln. Stattdessen liegt ihr Hauptaugenmerk auf dem Verhältnis von Leistung zu Kosten, bei dem kein anderes Modell auch nur annähernd herankommt. Dies ist nun der PTO Frontier Effekt Leistung im Verhältnis zu Kosten. Sie können also sehen, dass fast alle Gemini-Modelle das beste Verhältnis von Leistung zu Kosten aller verfügbaren Modelle bieten. Ich denke, es ist Googles Ziel, sie im Vergleich zu ihren Mitbewerbern so günstig zu machen, dass die Leute gar nicht die Möglichkeit haben, sich die anderen Modelle anzusehen. Vor allem, wenn sie diese Modelle in großem Umfang einsetzen, benötigen sie nicht für jede Aufgabe das modernste Modell. Sie möchten ein ausreichend gutes Modell, das ihre Aufgabe zu vertretbaren Kosten erledigen kann. Und es scheint, dass die Gemini Modelle derzeit diejenigen sind, die das beste Verhältnis von Leistung zu Kosten bieten. Die Frage ist, wie genau Google das schafft, und ich denke, die Antwort ist, dass sie sowohl den Hardware als auch den Software-Stack für ihre Modelle. Kontrollieren. Hier ist ein Beitrag von Sanoni Madra, der bei Grok arbeitet, einem weiteren Inferenzanbieter. Er sagt also, dass günstige Token grundsätzlich von Anbietern ermöglicht werden, die keine Nvidia Hardware einsetzen und daher in der Lage sind, deren hohe Margen zu vermeiden. Jetzt spricht er speziell von seiner eigenen Grok Hardware. Aber wenn man sich die Kosten für den Betrieb von Adbench oder Adapolyglot Coding Benchmark ansieht, kann man sehen, dass High fast 80 Prozent erreichen konnte, was ziemlich erstaunlich ist. Aber die Kosten liegen bei etwa 110 Dollar, während Gemini 2.5 pro 72 Prozent oder 73 Prozent für einen Bruchteil dieser Kosten erreichen kann, was etwa 6 Dollar entspricht, was verrückt ist, wenn man bedenkt, was einige dieser anderen Anbieter anbieten. Sogar Claude hat Probleme mit den Kosten, weil sie ihren Hardware-Stack nicht unter Kontrolle haben und sich auf Nvidia verlassen. Diese Optimierung der Leistung im Verhältnis zu den Kosten wird also ein wichtiger Bestandteil der Strategie von Google sein. Tatsächlich hebt jeder, den ich von Google gesehen habe, der darüber postet, speziell das Verhältnis von Leistung zu Kosten hervor. Das ist für jeden Entwickler von entscheidender Bedeutung, denn wenn sie auf einer proprietären API aufbauen, möchten sie das beste Verhältnis von Leistung zu Kosten erzielen, da sie für diese API Kosten bezahlen werden. Wenn OpenAIO Mini nicht veröffentlicht hätte, würde wahrscheinlich jeder dies direkt mit Sonnet vergleichen und wir würden über die Leistung sprechen. Ein weiterer Punkt, den ich in diesem Video speziell ansprechen möchte, ist die Feinabstimmung zur Verwaltung des Denkens. Es handelt sich um ein hybrides Modell und dies ist wahrscheinlich das erste Mal, dass der Entwickler den Denkmodus aktivieren oder deaktivieren kann. Selbst wenn sie ihn aktivieren, können sie das Denkbudget Weiterhin steuern verschiedene Anwendungsfälle unterschiedliche Kompromisse bei Qualität, Kosten und Latenz. Für mehr Entwicklerflexibilität ermöglichen wir ein Denkbudget zur Feinabstimmung der maximalen Tokenanzahl bei der Modellgenerierung. Das ist ziemlich wichtig, da sie für einfachere Aufgaben kein Denkmodell verwenden möchten. In der Vergangenheit mussten sie zwischen Modellen wechseln oder sich einfach auf das Modell verlassen und hoffen, dass es keine Denktoken verwendet. Aber jetzt hast du tatsächlich die Kontrolle. Wenn Google diesen Ansatz mit 2.5 pro oder einer anderen Version, die folgen wird, fortsetzt, denke ich, dass das für Entwickler extrem hilfreich sein wird, da du dasselbe Modell sowohl im Denk als auch im Nicht Denkmodus verwenden kannst. Wenn du ein Denkbudget festlegst, bedeutet das nicht, dass Flash das gesamte Budget verbraucht. Es entscheidet automatisch, wie viele Token im Denkmodus angemessen sind. Und wie wir bei der gestrigen Veröffentlichung von OpenAI gesehen haben, scheint sich die Leistung dieser Modelle zu verbessern, wenn du das Denkbudget erhöhst, da sie immer mehr Testzeit Berechnungen verwenden. Hier zeigen sie, dass sich das Modell im Vergleich zu den GPQA Diamant Daten immer weiter verbesserte, als sie bis zu Token in der Denkkette erreichten. Beim Life Code Benchmark ist offenbar ein Plateau erreicht. Es wäre interessant zu sehen, ob weitere Testzeit Inferenz Token die Leistung steigern, denn nach dem, was wir von OpenAI gesehen haben, scheint es die Leistung weiter zu verbessern. In diesem Fall begrenzt Google das Denkbudget auf Token. Ich bin mir nicht sicher, welche Entscheidung dahintersteckt. Möglicherweise haben sie erkannt, dass die meisten Aufgaben nur bis zu Token verbrauchen und sie für den Denkprozess keine weiteren To Einige der Modelle denken jedoch nur fünf bis zehn Minuten lang. Es wäre also interessant zu erfahren, wie sie auf diese Zahl gekommen sind. Sie haben auch einige Beispiele dafür geliefert, wann ein unterschiedlich hohes Denkbudget benötigt wird. Wenn Sie beispielsweise etwas in eine andere Sprache übersetzen oder nach Fakteninformationen suchen, möchten Sie nicht, dass das Modell zu lange nachdenkt. Hier eine Wahrscheinlichkeitsfrage. Das Modell soll nachdenken, aber nicht das ganze Budget verbrauchen. Richtig. Es gibt eine komplexere mathematische Frage. In diesem Fall möchten Sie definitiv, dass das Modell mehr Denktoken verwendet. Richtig. Das Gute daran ist, dass man das Denkbudget nicht nur innerhalb der Benutzeroberfläche von iStudio und Vortex ist steuern kann, sondern auch innerhalb der API. Es gibt jetzt einen weiteren neuen Hyperparameter, den man festlegen kann, wenn man einen API Aufruf tätigt. OK, ich werde ein umfassenderes Video über das Testen dieses Modells erstellen, aber es gibt einige wichtige Änderungen. Gemini zweiter Flash hatte eine maximale Ausgabe Tokenlänge von 8000 Token, was für Programmieraufgaben nicht nützlich ist. Und das ist mein Hauptanwendungsfall. Die 2.5 Flash Vorschau kann jetzt jedoch bis zu Token in ihrer Ausgabe generieren, was ziemlich erstaunlich ist und sie viel nützlicher macht. Es hat jetzt auch eine Million Kontextfenster. Ich habe keine offizielle Dokumentation gesehen, aber das ist meine Annahme. Ja, es hat tatsächlich ein Kontextfenster von einer Million Token. Es ist von Natur aus multimodellbasiert. Sie können also einfach ein ganzes Video einspeisen. Es wird in der Lage sein, die Videos zu verstehen oder wenn Sie Audiodateien hinzufügen, kann es diese verstehen. Es versteht auch Bilder. Es verfügt noch nicht über Funktionen zur Bilderzeugung. Anders als das experimentelle Modell zur Erzeugung von Flash-Bildern aus der Version O kann dieses Modell keine Bilder erzeugen. Wie gesagt, ich werde wahrscheinlich ein weiteres Video erstellen, um dieses Modell zu testen. Testen wir es aber anhand einer der Fragen zum Datensatz mit der fehlgeleiteten Aufmerksamkeit und sehen, wie es sich schlägt. Wir deaktivieren zunächst den Denkmodus. Dies ist die modifizierte Version des klassischen Trolley Problems. Okay, das war überraschend. Selbst ohne Denkmodus erkannte das Modell, dass die fünf Personen bereits tot sind und der Pfad daher keinen Einfluss auf ihren Zustand hat. Ziemlich clever, denn ich denke, selbst die ersten Versionen von Flash Thinking konnten das nicht richtig hinbekommen und das ohne Denken. Aktivieren wir den Denkmodus. Ich wiederhole die Eingabeaufforderung. Sehen wir uns an, wie der Denkprozess tatsächlich aussieht. Wie gesagt, Sie können das Budget festlegen. Im Moment werden Denktoken generiert. Es heiß Identifiziere das Kernszenario. Klassisches Trolley Problem, insbesondere eine Variation. Analysiere die Unterschiede zum Standard Trolley Problem. Standards sind fünf lebende Personen, hier fünf Tote im Vergleich zu einer lebenden Person. Richtig. Ich denke also, dass es keine Probleme geben wird, da die Funktion bereits erkannt hat, dass diese Personen tot sind. Ziemlich clever, oder? Ich hatte gehofft, ich könnte dir die Auswirkungen verschiedener Denkbudgets auf dieses Problem zeigen, aber es scheint, dass es auch ohne Denken keine Probleme gibt. Okay, ich glaube, ich habe etwas gefunden. Hier ist eine Variante des normalen Bauernproblems, bei dem er alle drei Gegenstände auf die andere Seite bringen muss. Aber in diesem Fall wollen wir, dass der Bauer nur die Ziege über den Fluss bringt, ohne dass sie gefressen wird. Im Moment durchläuft es diesen mehrstufigen Prozess. Egal wie viel ich für das Denkbudget einstelle, was nicht nötig ist, es sollte einfach nur die Ziege auf die andere Seite bringen. Und das ist das Ende der Geschichte. Hier habe ich dies beispielsweise auf Token festgelegt. Jetzt durchläuft es eine ganze Reihe von Kombinationen. Es verwendet tatsächlich viele Denktoken, aber es gibt uns wieder keine Antwort. OK, es geht aber nicht nur um Flash 2.5 oder 2.5 Flash. Ich habe die gleiche Frage auch mit Mini High getestet. Es durchläuft den gleichen mehrstufigen Prozess, der nicht benötigt wird, sogar hängt in der gleichen Schleife fest und versucht im Grunde alle über den Fluss auf die andere Seite zu bringen, wo er nicht benötigt wird. Ich persönlich mag diese Art von Tests, die nur Variationen bekannter Probleme sind und die tatsächlich zeigen, ob das Modell logische Deduktion anwenden kann. Ich habe gesehen, dass die meisten dieser Frontier Modelle bei diesen relativ einfachen Dingen versagen, was wirklich zeigt, wie sehr wir diese Modelle tatsächlich vorantreiben müssen. OK, das war also ein sehr interessantes Release von Google. Gemini Modelle bieten offenbar ein deutlich besseres Kosten Leistungs Verhältnis als die Konkurrenz. Hoffen wir, dass auch andere Anbieter die Kosten deutlich senken können und wir dann einen stärkeren Wettbewerb haben. Lasst mich wissen, was ihr von diesem Release und den Releases der letzten Wochen im Allgemeinen haltet und welches Modell ihr in euren eigenen Workflows verwenden werdet. Wie auch immer, ich hoffe, ihr fandet dieses Video hilfreich. Danke fürs Zuschauen und wie immer bis zum nächsten Mal.