The Llama 4 Herd - Open Source Won?

Es ist Lama 4 Tag und wir hören von ihm selbst. Hallo zusammen, heute ist Lama 4 Tag. Unser Ziel ist es, die weltweit führende KI zu entwickeln, sie als Open Source bereitzustellen und universell zugänglich zu machen, damit jeder davon profitiert. Ich bin schon lange überzeugt, dass Open Source Key die führenden Modelle sein wird und mit Llama 4 beginnt genau das. MetaEye erhält heute ein umfassendes Upgrade. Wenn Sie Llama 4 ausprobieren möchten, können Sie Meta in WhatsApp, Messenger oder Instagram direkt verwenden oder unsere Website unter Meta AI besuchen. Heute veröffentlichen wir die ersten beiden Open Source Modelle von Llama 4 und zwei weitere sind in Vorbereitung. Das erste Modell ist Lama Force Scout. Es ist extrem schnell, nativ multimodal, verfügt über eine branchenführende, nahezu unbegrenzte Kontextlänge von 10 Millionen Token und ist für die Ausführung auf einer einzelnen GPU ausgelegt. Es umfasst 17 Milliarden Parameter von 16 Experten und ist mit Abstand das leistungsstärkste kleine Modell seiner Klasse. Das zweite Modell ist Lama 4 Maverick, das Arbeitstier. Es schlägt GPT-40 und Gemini Flash 2 in allen Benchmarks. Es ist kleiner und effizienter als Deepseak V, aber bei Textverarbeitung dennoch vergleichbar. Außerdem ist es nativ multimodal. Dieses Modell umfasst 17 Milliarden Parameter von 128 Experten und ist für die Ausführung auf einem einzigen Host konzipiert, um einfache Inferenz zu ermöglichen. Dieses Ding ist Ein echtes Biest. Zwei weitere Modelle sind in Vorbereitung. Eines ist Lama 4 Riesening und dazu werden wir im nächsten Monat mehr Neuigkeiten haben. Und das letzte nennen wir Lama 4 Behemoth. Dieses Ding ist riesig, mehr als zwei Billionen Parameter. Mir ist niemand bekannt, der ein größeres Modell trainiert. Es ist bereits das leistungsstärkste Basismodell der Welt und das Training ist noch nicht einmal abgeschlossen. Wir werden bald mehr über Lama 4 den Giganten berichten. Insgesamt ist Lama 4 ein Meilenstein für Meta Key und Open Source. Erstmals werden die besten kleinen, mittelgroßen und möglicherweise bald auch Frontier Modelle Open Source sein. Es gibt noch viel zu tun, aber die Richtung ist klar. Wir werden bald weitere Modelle veröffentlichen, also bleibt dran. Okay, Ich bin mir nicht sicher, ob Sie das mitbekommen haben. Mark nannte Llama for Scout ein kleines Modell, aber in Wirklichkeit umfasst es fast 110 Milliarden Parameter, davon 17 Milliarden aktive Parameter, 16 Experten und ein riesiges Kontextfenster von 100 Millionen Token. Das andere Modell, das er erwähnte, war Maverick. Auch das ist ein riesiges, gigantisches Modell mit 400 Milliarden Parametern, 17 Milliarden aktiven Parametern und 128 Experten. Dieses Modell hat ein relativ kleines Kontextfenster von einer Million Token, was wahrscheinlich immer noch das längste Kontextfenster in westlichen Open Wait Modellen ist. Und das letzte Modell, das über zwei Billionen Tokens verfügen soll, ist Lama für Behemoth mit fast 300 Milliarden aktiven Parametern. Mit 16 Experten wird es also tatsächlich deutlich mehr aktive Parameter geben. Gerüchten zufolge soll GBT 40 ein Modell mit einer Billion Tokens oder einer Billion Parametern sein. Eines ist jedoch ziemlich Ich denke, alle tendieren zu diesen riesigen Modellen. Angesichts der Größe dieser Modelle ist die beobachtete Leistungsverbesserung absolut sinnvoll. Überraschend ist jedoch, dass Lama 4 Maverick derzeit den zweiten Platz in der Chatbot Rangliste belegt. Das ist schon ziemlich verrückt, da es in Bezug auf die Benutzerpräferenzen deutlich vor GPD 40 Grok 3 und GPD 4.5 liegt. Das ist ein großer Erfolg für das Lama und Meta Team. Mit Lama 4 haben sie sich auch von dichten Modellen verabschiedet. Dies ist also das erste Mal, dass Meta einen oder eine Mischung aus Experten veröffentlicht. Es scheint, als würde sich die gesamte Branche in diese Richtung bewegen. Die Gemini Modelle sollen den deepseek Modellen ebenbürtig sein, die Quinn gerade veröffentlicht, und die meisten der größeren und leistungsstärkeren Modelle scheinen moas zu sein. Wir könnten also das Ende der Ära der dichten Modelle erleben. Das Gute an MOS Mix of Experts ist, dass sie auch recheneffizient sind. Das zeigt sich in diesem Diagramm. Dies ist der LM Arena Elo Score im Vergleich zu den Kosten. Lama 4 Mavic ist also das leistungsstärkste Modell, wahrscheinlich mit den geringsten Kosten im Vergleich zu den anderen Frontiermodellen, hat aber den höchsten EO Score, der im Wesentlichen die Benutzerpräferenzen misst. Sie können dies jedoch nicht auf Ihrem lokalen Rechner ausführen. Sie benötigen weiterhin eine H GPU mit etwa 80 GB VRAM. Selbst wenn Sie dies mit einer niedrigeren Quantisierung ausführen möchten, benötigen Sie mindestens eine höhere. Sehen wir uns nun die Benchmarks an. Denken Sie Ich empfehle Ihnen dringend, dies mit Ihren eigenen internen Benchmarks zu testen, aber diese Standard Benchmarks geben Ihnen eine Vorstellung davon, wie es im Vergleich zu anderen Modellen abschneidet. Zur Veranschaulichung. Da es sich um ein Multimodel handelt, ist Lama für Maverick in seiner Klasse auf dem neuesten Stand der Technik. Es wird mit Gemini Flash und GPD 40 verglichen, daher würde ich annehmen, dass sie sehr ähnliche Größen haben. Außerdem wird es mit Deepcre 3 verglichen, aber insgesamt ist es bei den meisten dieser Benchmarks auf dem neuesten Stand der Technik. Abgesehen von Multimodel Benchmarks liegt es jedoch sehr nah an Deep C heran oder hinkt sogar hinterher einem anderen EM mit fast 600 Milliarden Parametern. Wenn Sie sich also beispielsweise Live Codebench ansehen, ist DeepCQ tatsächlich besser als Lama 4 Maverick. Ebenso ist Deep C auf MMlupro immer noch besser als Lama 4 Mavericks. Bei GPQA ist Lama 4 Maverick besser als Deep CQ, aber die Unterschiede in den Ergebnissen dieser Benchmarks sind nicht signifikant. Interessanterweise werden für das Programmieren nur Ergebnisse der Live Codebench gemeldet. Ich hätte angenommen, dass auch eine suitebench Version hinzugefügt wird, aber in diesem Fall wurde darauf verzichtet. LAMA für Scout wird mit den vorherigen Lama Versionen verglichen, außerdem Gemma 3 27 Milliarden, Mistel 3.1 24 Milliarden und die Gemini Taschenlampe. Auch im Vergleich zu diesen kleineren Modellen ist Llama Force Scout in allen getesteten Benchmarks auf dem neuesten Stand. Basierend auf den gemeldeten Benchmarks scheint es jedoch kein besonders gutes Programmiermodell zu sein. Für mich persönlich ist Programmieren einer meiner Hauptanwendungsfälle, daher schaue ich mir immer die Programmierfähigkeiten eines Modells an. Der Ada Benchmark und einige unabhängige Benchmarks werden wahrscheinlich bald verfügbar sein. Es wird interessant sein zu sehen, wie Lama für Scout und Lama 4 Maverick in unabhängigen Benchmarks abschneiden. Wir werden die Tests in einem weiteren Video ausführlicher durchführen. Schauen wir uns zunächst einige der Funktionen an. Lama ist von Natur aus multimodellbasiert und verfügt über Bildverständnisfunktionen. Sie können ein Eingabebild bereitstellen und Fragen dazu stellen. Basierend auf den bisherigen Benchmarks scheint dies recht gut zu sein. Ein weiterer Vorteil ist die Bilderdung. Lama kann auch anhand der Eingabebilder schlussfolgern. Hier ist beispielsweise die Eingabeaufforderung, mit welchem Werkzeug im Bild Längen gemessen werden können. Basierend auf all diesen verfügbaren Werkzeugen kann Lama seine Antwort nun anhand dieser Bilder erschließen. Richtig, Bildverständnis und Bildbegründung sind also wirklich gut. Ich persönlich interessiere mich für die langen Kontextfunktionen. Ich arbeite viel mit Retrieval Systemen und unterstütze Unternehmen dabei. Ein Kontextfenster mit 10 Millionen Kontexten macht Lama daher äußerst nützlich und könnte in bestimmten Fällen bestehende Retrieval Systeme ersetzen. Folgen Sie uns. Wir müssen die Kosten und die Rechen Leistung berücksichtigen. Der Hasstec Test lieferte diese Funktion für Lama 4 Maverick bei reiner Textverarbeitung, für Lama for Scout bei Textverarbeitung und für Lama for Scouts, das dank seines riesigen Kontextfensters von 10 Millionen Token ein Video mit bis zu 20 Stunden verarbeitet. Die Funktion des Hasstec Tests besteht Die Funktion an verschiedenen Positionen in den Text einzubetten. Betrachten wir Beispielsweise das obere siebte Quartil der Kurve oder die oberen 35 bis Hundertste. Wir platzieren die Information in unterschiedlichen Tiefen und bitten dann LLM, sie abzurufen. Beim Abrufen langer Kontexte scheint Llamascout mit 10 Millionen Token in unterschiedlichen Abruftiefen sehr gut zu funktionieren. Das gesamte Kontextfenster von 10 Millionen Token scheint. Nutzbar zu sein, insbesondere für den Abruf einer einzelnen Information. Normalerweise werden jedoch mehrere verschiedene Informationen oder Informationen betrachtet, wenn Abfrageaufgaben ausgeführt werden. Es wird interessant sein zu sehen, wie sich die Ergebnisse bei der Betrachtung mehrerer verschiedener Abrufschritte in einer einzigen Eingabeaufforderung verhalten. Auch bei Maverick schneidet es meiner Meinung nach recht gut ab. Wenn man beispielsweise eine Tatsache bis zum 70. Kiele eingibt, scheint sogar dieses Kontextfenster mit einer Million Kontextpunkten nutzbar zu sein. Darüber hinaus scheint es jedoch Probleme beim Abruf zu geben. La Für Scout scheint auch bei Videos eine recht gute Abrufgenauigkeit zu haben. Interessant ist nun, ob die Videos Bild für Bild oder nur der Text verarbeitet werden. Ich denke, wir müssen mehr darüber lesen, wie genau multimodale Informationen bei Videos verarbeitet werden. Es gibt auch dieses sehr interessante Diagramm aus dem Benchmark Score der Chatbot Arena Bestenliste. Es zeigt die Veränderungen des Elo Scores verschiedener Modellanbieter im Laufe der Jahre. Der größte Sprung von einer Generation zur nächsten ist bei Lama zu beobachten. Der Elo Score lag in der vorherigen Generation bei etwa oder 1270 würde ich sagen. Aktuell liegt er bei 144 bzw. 1 417 und liegt damit knapp hinter dem Gemini 2.5 Pro. Das ist ein enormer Sprung in Bezug auf die Benutzerpräferenzen für jede Modellfamilie. Das ist wirklich eine großartige Arbeit des Lama Teams. Das ist eine enorme Leistungssteigerung in nur einer Generation. Ich möchte noch ein paar weitere Punkte hervorheben, insbesondere die 10 Millionen Kontextfenster bzw. Eine Million Kontextfenster für Lama 4 Maverick. Sie benötigen bereits eine H GPU, um Llama Scout mit 4 Bit Quantisierung auszuführen. Wenn Sie jedoch die 10 Millionen Token nutzen möchten, benötigen Sie deutlich mehr GPU VRAM als beim Laden des Modells in einer VM. In der Praxis wird Ihnen also wohl niemand 10 Millionen Kontextfenster bieten können und ich spreche hier von den verschiedenen Dienstanbietern. Vergessen Sie das Hosting auf Ihrer eigenen Infrastruktur, sofern Sie nicht beispielsweise ein Unternehmen wie Google sind, die die eine Million Kontextfenster auf ihren TPUs hosten oder Meta beschließt, dieses Modell selbst zu hosten. Zweitens gibt es einige Diskussionen bezüglich der Lizenz selbst. Maxime hat hervorgehoben, dass die Lama Force Lizenz mit mehreren Einschränkungen verbunden ist. Unternehmen mit mehr als 700 Millionen aktiven Nutzern müssen bei Meta eine spezielle Lizenz beantragen, die Meta nach eigenem Ermessen erteilen oder verweigern kann. Außerdem müssen mit Meta erstellte Modelle auf Websites, Influencer Schnittstellen und in der Dokumentation und so weiter prominent angezeigt werden. Mir persönlich ist es egal, ob Sie ein Unternehmen mit 700 Millionen aktiven Nutzern. Fragen. Wir betrachten hier eine Handvoll Unternehmen. Meta ist eines davon. Google und Apple sind wahrscheinlich noch ein paar andere, die tatsächlich 700 Millionen aktive Nutzer pro Monat haben. Für Unternehmen wie dieses wäre es meiner Meinung nach besser, entweder über eigene große Sprachmodelle zu verfügen, wie Google sie verwendet. Apple könnte tatsächlich Hilfe von meta, Google oder OpenAI benötigen. Aber für alle mit weniger als 700 Millionen aktiven Nutzern ist dieses Modell meiner Meinung nach völlig in Ordnung. Ich weiß, es ist nicht vollständig Open Source, wie Open Source definiert ist, aber selbst wenn es nicht so wäre, wäre es kein Open Source Modell. Es ist lediglich ein Open Source Modell. Wir haben keinen Zugriff auf den Trainingscode, die Trainingsdaten und so weiter. Solange sie weniger als 700 Millionen aktive Nutzer. Haben, ist es meiner Meinung nach völlig in Ordnung. Zweitens handelt es sich um genau dieselbe Lizenz, die wir für Lama 3 und Lama 2 hatten. Es ist also nichts Neues. Was ist, wenn Sie das Modell testen möchten? Es gibt verschiedene Möglichkeiten, beispielsweise wird es von togetherye gehostet. Grog bietet das Lama für Scouts auch auf seinem Playground an und ich glaube auch über die API. Wenn Sie dieses Modell selbst testen möchten, sind die Modellgewichte sowohl für Lama 4 Scout als auch für Llama 4 Maverick auf Hugging. Face verfügbar. Wenn Sie Zugriff auf einen H oder B haben, können Sie es auch testen. Die Leistung des b ist 3,4 mal schneller als die des H, was schon ziemlich beeindruckend ist. Mit dem Lama Force Scout erreichen Sie fast Token pro Sekunde. Wenn Sie das Modell einfach nur ausprobieren möchten, können Sie sich auch bei Meta AI anmelden. Nutzen Sie Ihr Facebook Konto und interagieren Sie mit dem Modell. So können wir zum Beispiel Hey, welches Modell bist du? Ich werde ein ausführlicheres Testvideo erstellen, aber wenn Sie danach fragen, wird angezeigt, dass ich auf Lama 4 aufbaue. Es scheint also, als ob Lama für Scout zumindest bereits aktiv ist. Zusammenfassend lässt sich sagen, dass dies bedeutende Fortschritte bei Open Weight Modellen sind. Ehrlich gesagt scheint es, als ob niemand wirkt Modelle dafür hat. Sowohl was den Skalierungsverlust angeht, können wir diese Modelle immer weiter skalieren. Zum Beispiel ein 2 Billionen Behemoth, ein passender Name für ein echtes Billionenmodell. Und auch hier handelt es sich nicht um ein Reasoning Modell. Es bietet sich also die Möglichkeit, auf Basis dieser Basismodelle wirklich gute Reasoning Modelle zu entwickeln. Zweitens glaube ich, dass diese Version die Idee festigt, dass eine Expertenmischung oder ein Expertenmix der richtige Weg ist. Die meisten der größeren und leistungsfähigeren Modelle sind heute Moes. Kleinere modelle wie gemma 3 sind immer noch dichte Modelle, aber für die größeren Modelle scheint jedes Pionierlabor über den Aufbau von Mohas oder Experten Mix nachzudenken. Langfristiger Kontext ist ein weiterer Trend, den wir immer häufiger beobachten werden, mit einem Kontextfenster von 10 Millionen Token. Slama 4 Scout ist wahrscheinlich das führende Modell direkt hinter Gemini, da Google Gemini 1.5 Pro mit einem Kontextfenster von 10 Millionen Token vorgestellt. Hat, obwohl sie das eigentliche Modell, glaube ich, nie veröffentlicht haben. Wie ich im Video bereits erwähnt habe, bin ich mir hinsichtlich der Fähigkeiten nur hinsichtlich der Programmierfähigkeiten nicht ganz sicher, basierend auf den Benchmarks, die das Meta Team hier gezeigt hat. Ich würde mir mehr Benchmarks wünschen, insbesondere für etwas wie SW Bench, das meiner Meinung nach im Wesentlichen die Programmierfähigkeiten eines Python basierten Modells misst, da es sich im Wesentlichen um Python handelt. Dennoch ist es ein sehr guter Indikator für die Programmierfähigkeiten eines LLM oder eines agentenbasierten Systems. Das wirft bei mir auch die Frage auf, wie gut sich das als Programmiermodell oder für den agentenbasierten Einsatz eignen wird. Ich denke, wir werden diese CAP Fähigkeiten und Benchmark Ergebnisse schon bald sehen. Es ist großartig, das hochmoderne Frontiermodell an einem Wochenende zu sehen. Das war tatsächlich das erste. Wie dem auch sei, lassen Sie mich wissen, ob Sie dieses Video hilfreich fanden. Vielen Dank fürs Anschauen und wie immer bis zum nächsten Mal.