DeepSeek SHOCKS the West AGAIN! Their New AI Model Is Smarter & Free (V3–0324)

DeepSeek released V3, an open-source AI model with 671 billion parameters that matches or beats competitors on benchmarks. It uses an expert-mixture approach for efficiency, cost under $6 million to train, and comes with an MIT license. The model handles 128K token context and generates code faster than most Western alternatives.
Questions this video answers
MIT license
671 billion parameters
About 37 billion parameters per prompt
4-bit quantization
About 20 tokens per second
Chapters
DeepSeek hat soeben ein neues Key Modell veröffentlicht, das für Aufsehen sorgt, und der Grund dafür ist nicht schwer zu verstehen. Es ist leistungsstark genug, um mit den besten westlichen Modellen zu konkurrieren, und dennoch effizient genug, um auf einem High End Mac Studio zu laufen. Dabei handelt es sich vollständig um ein Open Source Modell unter der MID Lizenz. Angesichts der Tatsache, dass China seine Bemühungen zur Weiterentwicklung der KI verdoppelt und die globalen Spannungen zunehmen, schlägt diese Version weit über die Welt der Technologie hinaus Wellen. Ein Grund, warum die KI Welt wegen deepseek V so aufgeregt ist, ist, dass das Modell jetzt unter der MIT Lizenz veröffentlicht wird, die sehr tolerant ist. Zuvor hatte deepseek eine benutzerdefinierte Open Source Lizenz verwendet, die Entwicklern mehr Einschränkungen hinsichtlich der Verwendung oder Änderung seiner Inhalte auferlegte. Mit dieser MIT Lizenz kann nun praktisch jeder deepseat V verwenden, daran herumbasteln, es in kommerzielle Produkte einbetten oder nach Belieben anpassen. Diese Art von offenem Ansatz ist ein großer Moment für Chinas KI Sektor, da er es kleinen Teams und neuen Start ups erheblich erleichtert, sofort mit etwas Bahnbrechendem zu arbeiten. Die Leute sind auch von den Effizienz und Leistungsverbesserungen begeistert. Ein großes Highlight ist, dass die neue V-Text schneller generieren kann. Als ältere Modelle. Einige Leute in den sozialen Medien wiesen darauf hin, dass Sie auf einem High End Mac Studio etwa 20 Token pro Sekunde erreicht, obwohl Sie dafür einen Bit Quantisierungsstrick anwenden mussten, falls Sie damit nicht vertraut Die 4 Bit Quantisierung ist ein Prozess, der die Genauigkeit der internen Berechnungen des Modells geringfügig verringert, damit es schneller läuft und weniger Speicher verbraucht. Dies kann zu einem leichten Rückgang der Ausgabequalität führen, aber für viele Anwendungen ist es ein lohnender Kompromiss. Besonders interessant ist, dass sie es auf einem Mac Studio ausgeführt haben, was nicht die Hardware ist, die man normalerweise sieht, wenn man über große Sprachmodelle von Frontier spricht. Dieses spezielle Setup hatte tatsächlich einen stolzen Preis von aber es ist trotzdem bemerkenswert, dass man kein vollwertiges Rechenzentrum oder einen riesigen GPU Cluster benötigt, um anständige Geschwindigkeiten zu erzielen. B verfolgt ebenfalls diesen Ansatz, bei dem nicht bei jeder Beantwortung einer Frage alle Parameter aktiviert werden. Konkret sprechen wir von einer Gesamtkapazität von 671 Milliarden Parametern, von denen jedoch nur etwa 37 Milliarden pro Eingabeaufforderung verwendet werden. Dies wird oft als Strategie der Expertenmischung bezeichnet. Deepseek formuliert dies jedoch manchmal mit eigenen Fachbegriffen. Bei der Expertenmischung wird nicht immer alles dicht gehalten. Stattdessen wird ein Modell in kleinere, spezialisierte Netzwerke aufgeteilt und dann nur die Teile abgerufen, die man für ein bestimmtes Problem wirklich benötigt. Dies ist weniger ressourcenintensiv, als zu versuchen, alles von einem einzigen großen Modell erledigen zu lassen, und das ist unter anderem der Grund, warum deepseak die die Inferenzkosten niedrig halten kann. Wenn wir kurz zurückblicken, wurde die ursprüngliche Deepseek V im Dezember veröffentlicht. Die Ingenieure haben etwa 2,8 Millionen Grafikkartenstunden damit verbracht, sie auf einen Datensatz von 14,8 Billionen Token zu trainieren. Das ist zwar riesig, aber immer noch kostengünstiger, als man es bei einem Modell dieser Größenordnung erwartet hätte. Sie bezogen außerdem Wissen aus ihrem fortschrittlicheren Modell für Schlussfolgerungen die PSEEK R mit ein, indem sie V mit einer Reihe von Beispielaufforderungen fütterten, die R bereits gelöst hatte. R kam im Januar auf den Markt und sorgte schnell für Aufsehen, da es bei fortgeschrittenen Schlussfolgerungsaufgaben, mathematischen Problemen und der Codegenerierung extrem gut abschnitt. V ist nicht ganz so speziell für Schlussfolgerungen optimiert wie R, aber es ist immer noch ziemlich gut in Bezug auf Logik, Codierung und allgemeine Problemlösung. Einige informelle Tests zur Codegenerierung zeigen, dass es bei Python und Bash Aufgaben etwa 60 Prozent erreicht, was definitiv eine Verbesserung gegenüber früheren Versionen darstellt, obwohl es immer noch hinter R oder Quin B, einem anderen führenden Modell für Schlussfolgerungen, zurückbleibt. Da sich KI Modelle wie Deep seag ständig weiterentwickeln, ist es wichtiger denn je, mit diesen Änderungen Schritt zu halten. Da KI die Wirtschaft verändert und unsere Arbeitsweise neu gestaltet, ist es nicht nur hilfreich, sondern unerlässlich zu wissen, wie man diese Werkzeuge einsetzt. Das Beherrschen dieser Fähigkeiten macht sie wertvoller und verschafft ihnen einen entscheidenden Vorteil. Aus diesem Grund empfehle ich Ihnen dringend das zweitägige KI Mastermind Programm von outskill. Es ist die weltweit erste auf KI ausgerichtete Bildungsplattform, die von führenden Investoren und Gründern im Bereich Künstliche Intelligenz unterstützt wird. Dieses Wochenende bieten sie jeweils am Samstag und Sonntag von 11 bis 19 Uhr ein stündiges Live Training an. Der reguläre Preis beträgt 895 Dollar, für meine Zuschauer ist es kostenlos. In diesem Programm erhalten Sie fundierte Kenntnisse zu einer Vielzahl von Themen, darunter über 20 leistungsstarke Tools für künstliche Intelligenz, Prompt Engineering für bessere Ergebnisse, Datenanalyse ohne Programmierung, Verwendung von KI und Excel zur Erstellung professioneller Präsentationen, Entwicklung von Tools ohne Programmierung, Erstellung beeindruckender Bilder und Videos mit KI, Entwicklung von KI Agenten sowie Automatisierung von Aufgaben, um Zeit zu sparen und die Produktivität zu steigern. Mehr als eine million Menschen aus 40 Ländern haben an diesem Training teilgenommen. Es ist die perfekte Wahl für alle, von Technikexperten bis hin zu Geschäftsinhabern und Freiberuflern. Die Plätze füllen sich schnell, also klickt auf den Link in der Beschreibung, um euch euren Platz zu sichern. Vergesst nicht, ihren WhatsApp Gruppen für Updates beizutreten und es gibt diesen Freitag um 10 Uhr Eastern Standard Time einen Intro Call, den solltet ihr euch nicht entgehen lassen. OK, nun nun zurück zu deepseek. Eine weitere coole Sache an V ist, dass es die Kontextlänge von etwa Token auf bis zu Token erweitert hat. Die Methode, die Deep S nach eigenen Angaben verwendet hat, heißt YAN, ein weiteres rekurrentes Netzwerk. Das mag etwas skurril klingen, aber im Grunde ist es eine Methode für den Umgang mit erweiterten Kontextfenstern. Wenn wir uns bestimmte Benchmarks ansehen, wird der IDE RS Polyglottest erwähnt, bei dem Deep Seag mit bei etwa 55 Prozent lag und damit direkt hinter Sonnet 3.7 unter den nicht logischen zentrischen Modellen landete. Das ist ziemlich gut, wenn man die Konkurrenz bedenkt. Die Leute bemerken, dass der Stil von Deepseek V etwas formeller ist. Als bei älteren Versionen. Wenn sie sich also an den entspannten menschlichen Ton der ursprünglichen V gewöhnt haben, könnten sie die neue Version etwas intellektueller oder strukturierter finden. Einige Leute wissen das für berufliche oder akademische Zwecke zu schätzen, während andere eine lockerere Atmosphäre für Chatbot Interaktionen bevorzugen. In jedem Fall ist es definitiv ein beeindruckender Sprung in Sachen Rohrleistung. All dies geschieht vor einem größeren Hintergrund. Die chinesische Regierung rät offenbar ihren führenden KI Experten und Unternehmern, Reisen in die USA zu vermeiden, und verweist auf Sicherheitsbedenken. Sie befürchten, dass diese Personen festgenommen oder unter Druck gesetzt werden könnten, Einzelheiten über Chinas KI Fortschritte preiszugeben, insbesondere angesichts des rasanten Erfolgs von Deep Seek, der Chinas Ruf im KI Rennen verbessert hat. Wir haben gehört, dass Deep Seag Gründer Leang Wen Fan sich vor einiger Zeit entschieden hat, nicht an einem KI Gipfel in Paris teilzunehmen, und es gibt Gerüchte, dass andere chinesische KI-Führungskräfte ihre Reisen in die USA absagen oder verschieben. Das alles erinnert an den früheren Vorfall mit einem Huawei Manager und zeigt, wie der globale Wettbewerb im Bereich KI auf die reale Politik und Reisebeschränkungen übergreift. Unterdessen hat der Vertrauensschub, der durch die Durchbrüche von deepseaks ausgelöst wurde, offenbar eine Wiederbelebung ausgelöst. In Chinas Speicherindustrie sind die Menschen begeistert von Investitionen in die Infrastruktur für KI. Das löst auch bei anderen chinesischen KI Start ups eine Welle von Veränderungen aus. Nehmen wir zum Beispiel AIDS. Das Unternehmen wurde von dem bekannten Risikokapitalgeber und ehemaligen Chef von Google China Puli, gegründet. Früher hat das Unternehmen sein eigenes Prä Training für große Modelle durchgeführt, aber die Kosten stiegen immer weiter an und das Unternehmen entschied, dass es effektiver sein könnte, sich auf den Verkauf von maßgeschneiderten KI Lösungen zu konzentrieren, die tatsächlich auf deepseaks Modellen aufbauen. Ein anderer Name ist Bitchuan, das sich nun entschieden hat, sich auf das Gesundheitswesen zu konzentrieren, nachdem es kurzzeitig Chatbots für Verbraucher und Finanzen ausprobiert hat. Dann ist da noch SPU, das früher als großer LLM Anwärter in China galt, aber mit großen Verlusten zu kämpfen hat und auf einen Börsengang drängt, um sich über Wasser zu halten. Und natürlich haben wir Moonshot, die einen beliebten Chatbot namens Key auf den Markt gebracht haben, der jedoch mit Ausfällen zu kämpfen hatte, so dass sie nun Geld in das Training größerer Modelle stecken. All diese Schritte unterstreichen, wie deepseaks Erfolg mit R und jetzt V die Konkurrenz dazu gebracht hat, ihr Handeln zu überdenken. Interessant ist unter anderem, dass Deep S nach eigenen Angaben lieber den Fokus auf die Forschung legen möchte, als Geschäftsanwendungen direkt zu verkaufen. Diese Entscheidung lässt anderen Unternehmen wie AI oder großen Akteuren wie BYU viel Raum, als Vermittler zu fungieren und Unternehmen Lösungen auf Basis des Modells von Deep Shack anzubieten. Das könnte eine gute Strategie sein, denn der chinesische Markt für KI-Lösungen für Unternehmen ist. Bekanntermaßen umkämpft und man braucht große Vertriebsteams und viele Beziehungen zu lokalen Behörden, um erfolgreich zu sein. Deepseak versucht, ein reines F E Kraftpaket zu bleiben, doch deepseaks Einfluss beschränkt sich nicht nur auf den kommerziellen Bereich. Wir hören, dass auch das chinesische Militär in einigen seiner Krankenhäuser mit dem Modell experimentiert, um Diagnosevorschläge zu unterbreiten. Die Volksbefreiungsarmee nutzt Deep Seag offenbar für Aufgaben. Außerhalb des Kampfes als eine Art Test, bevor sie es in sensibleren Missionen wie der Steuerung von Drohnen oder der Analyse von Satellitenbildern einsetzt. Daher ist es sinnvoll, dass die PLA sehen möchte, wie robust das Modell in harmloseren Umgebungen ist, da KI im Militär sehr kompliziert werden kann. Deepseaks Open Source Charakter macht es attraktiv, da die Daten und Berechnungen aus Sicherheitsgründen auf lokalen Servern gespeichert werden können. All dies ist mit den US-amerikanischen Exportkontrollen für fortschrittliche Chips verknüpft. Die Leute fragten sich, ob Chinas KI ohne den Zugriff auf hochmoderne GPUs ins Stocken geraten würde, aber Deepseat gibt an, Nvidias H Chips verwendet zu haben, die zwar etwas eingeschränkt, aber dennoch leistungsstark genug sind, um V zu trainieren. Sie behaupten, der gesamte Trainingsprozess habe sie weniger als 6 Millionen US Dollar gekostet, was im Vergleich zu den üblichen Trainingskosten für ein Frontier Key Modell dieser Größenordnung extrem. Niedrig ist. Diese Zahl hat einige Debatten darüber ausgelöst, ob die US Beschränkungen für Hardware China tatsächlich wie beabsichtigt verlangsamen. Im Silicon Valley sind einige besorgt, dass chinesische Unternehmen mit ihrem Ansatz, Expertenwissen zu vereinen, Möglichkeiten finden könnten, Weltklasse Ergebnisse zu erzielen, ohne die absoluten Spitzen HPC Cluster oder die hochwertigsten Grafikkarten zu benötigen. Das sorgt für Aufsehen, vor allem, da einige US amerikanische Technologieunternehmen Berichten zufolge rund eine Billion Dollar an Marktwert verloren haben, da man befürchtet, dass chinesische KI sie überholen könnte. Sogar Donald Trump äußerte sich zu deepseak und bezeichnete es als Weckruf für die amerikanische Technologie. Inzwischen nehmen lokale Regierungen in China die Technologie von deepseek wirklich an. Es ist die Rede davon, dass Kommunen wie Chongqing voll auf KI setzen und im Grunde genommen KI-gestützte Lösungen für das Stadtmanagement einführen wollen. Peking und Shenzhen richten Fond ein, um große KI und Robotik Projekte zu unterstützen. Die Haltung der obersten Führungsspitze ist, dass KI ein strategischer Schlüsselsektor ist und der Erfolg von Deepseak als Beweis dafür. Dient, dass chinesische Talente und Ressourcen mit dem Westen mithalten oder ihn sogar übertreffen können. Das ist ein dramatischer Wandel im Vergleich zu vor ein paar Jahren, als viele glaubten, China würde in der KI Forschung nur noch aufholen. Mit jedem neuen Modell Release macht Deepseaq seinen westlichen Konkurrenten wie OpenAI, Anthropic oder Google Konkurrenz und sorgt auf beiden Seiten des Pazifiks definitiv für Aufruhr. So sieht es derzeit aus. Deepseek V ist die einzige verbesserte Version, die für Schlagzeilen sorgt, nicht zwei verschiedene V Updates. Das neue Modell ist effizienter, es kann mit einer Menge Kontext umgehen und wurde mit diesem riesigen Datensatz trainiert, während es einen cleveren Ansatz mit verschiedenen Experten nutzt, um die Hardwareanforderungen niedrig zu halten. Chinesische KI Startups wetteifern darum, in einem Markt relevant zu bleiben, der plötzlich von Deepseak dominiert zu werden. Scheint. Lokale Regierungen steigen ein, um öffentliche Dienste zu transformieren, und sogar das chinesische Militär tastet sich mit Einsätzen ohne Kampfhandlungen ans Wasser heran. Wenn man dann noch die Spannungen mit den USA über Chip Exportkontrollen und die Bedenken hinsichtlich der Inhaftierung von KI Experten hinzufügt, ergibt das eine der dramatischsten Geschichten, die sich derzeit in der Welt der Technologie abspielen. Ich hoffe, das hat euch einen guten Überblick über das neue Modell V von Deep seak verschafft. Ich glaube wirklich, dass wir erst am Anfang eines gewaltigen Wandels stehen und es wird faszinierend sein zu sehen, wie sich das in den kommenden Monaten entwickelt. Wie immer, danke fürs Einschalten und ich sehe dich beim nächsten Update wieder.










