DeepSeek’s 500% Profit Margin—How Are They Doing It?

OK, letzte Woche hat deepseak angekündigt, dass sie fünf verschiedene Repositories als Open Source zur Verfügung stellen werden. Jedes einzelne davon war ziemlich verrückt und zeigte wirklich, wie sie die Modelle V und R bedienen. Heute haben sie im Grunde ihre potenziellen Umsatzzahlen vorgestellt und die sind ziemlich verrückt. Es gab also einen Bonus Dark 6, an dem ein Überblick über das Inferenzsystem von Deepseek R und V. Gegeben wurde. Das Verrückteste daran war, dass ihre Gewinnmarge 500 Prozent betrug. Wir dachten alle, dass sie wahrscheinlich Geld verbrennen. Wie genau machen sie das? Nun, in den letzten fünf Tagen haben sie uns tatsächlich das gesamte System gezeigt. Tatsächlich haben sie in den letzten Tagen die Preise für V und R außerhalb der Spitzenzeiten um 50 Prozent bzw. 75 Prozent gesenkt. Das lässt einen darüber nachdenken, wie diese anderen Anbieter von Foundation Model APIs so wahnsinnige Summen verlangen können, wenn Deepk sehr ähnliche Modelle zu einem Preis anbietet, der so gut wie nichts wert ist. OpenAI sagt sogar, dass sie mit dem Paket Geld verlieren. Vielleicht müssen sie alle das implementieren, was deepsea Carbon implementiert hat. In diesem Video werden wir also diese ankündigung von Tag 6 durchgehen. Ich werde wahrscheinlich ein weiteres Video erstellen, in dem ich die vorherigen fünf Tage durchgehe, in denen sie gezeigt haben, wie das Inferenzsystem funktioniert und welche verschiedenen Komponenten es gibt. In diesem Video kombinieren sie im Grunde alles, um zu zeigen, wie sie diese groß angelegte Inferenzmission durchführen. Der Plan für dieses Video ist jedoch, sich nur auf die Umsatzzahlen zu konzentrieren und darauf, wie sie das Modell tatsächlich bereitstellen. Hier IST also das Online Inferenzsystem. Sie sagen nun, dass alle Deepseek R und V Inferenzdienste von H GPUs mit einer Präzision bereitgestellt werden, die mit dem Training übereinstimmt. Sie führen also die Infant Dienste mit einer Bit Gleitkommagenauigkeit aus. Beachten Sie auch, dass Sie immer noch dieselben HA GPUs verwenden, die Sie zum Trainieren des Modells verwenden. Außerdem verwenden sie einen sehr intelligenten Mechanismus zur Lastverteilung. Tagsüber haben sie also eine hohe Last und nachts ist die Last niedrig. Deshalb haben sie einen Mechanismus implementiert, um Infantdienste während der Spitzenzeiten am Tag auf allen Knoten bereitzustellen. Nachts, wenn weniger Datenverkehr vorhanden ist, nutzen sie diese zusätzliche Kapazität für Forschungs und Schulungszwecke. Daher wird ein Teil des Clusters, den Sie für die Inferenz verwenden, wahrscheinlich auch für Schulungen genutzt. Sie haben nun eine Schätzung der Kapazität über 24 Stunden vorgelegt. In den letzten 24 Stunden waren es insgesamt 278 Knoten, das ist der Spitzenwert. Die durchschnittliche Belegung liegt jedoch bei 226. Wenn Sie sich diese Zahlen ansehen, ist der Unterschied zwischen Durchschnitt und Spitzenwert nicht so groß. Das zeigt wirklich, wie gut Ihr System optimiert ist. Wenn wir 278 mit 8 multiplizieren, stellen Sie Ihre Modelle auf etwa 2,1 Stunden 800 GP GPUs bereit. Wenn man bedenkt, dass die Kosten für jede GPU 2 US Dollar pro Stunde betragen, beläuft sich das auf etwa US Dollar pro Tag. Das sind im Grunde Ihre Inferenzkosten. Aber danach wird es ziemlich verrückt. In den letzten 24 Stunden haben sie etwa 600 Milliarden Eingabetoken verarbeitet. Und die Hälfte davon landet tatsächlich im Kiwi Cash. Das ist also eine noch bessere Optimierung. Und sie haben etwa 168 Milliarden Ausgabetoken mit einer ziemlich guten Generierungsgeschwindigkeit von 20 bis 22 Token pro Sekunde. Produziert. Was bedeutet das alles nun konkret in Bezug auf den Gewinn? Sie sagen, dass die oben genannten Statistiken alle Anfragen von Web Apps und APIs umfassen. Beachten Sie, dass Sie derzeit nur für die API Gebühren erheben. Wenn man all dies jedoch zusammenzählt, dann würde der tägliche Gesamtumsatz etwa eine halbe Million Dollar betragen, was etwa 500 Prozent der Kosten Gewinn Marge entspricht. Und so würde es im Vergleich zu den tatsächlichen Kosten für die Kleinkinder mit den theoretischen Einnahmen aussehen aussehen. Sie sagen jedoch, dass diese Zahlen keine realen Zahlen sind, da sie, wie gesagt, niemandem für die Nutzung von Web und App Gebühren berechnen. Die einzige Gebühr entsteht durch die API Nutzung. Deshalb sagen Sie, dass unser tatsächlicher Umsatz aus folgendem Grund wesentlich niedriger Die Preise für Deep Sequence 3 sind deutlich niedriger. Als die von R. Nur ein Teil der Dienste wird monetarisiert und dann werden nachts automatisch Rabatte außerhalb der Spitzenzeite angewendet. Aber es vermittelt einem trotzdem eine Vorstellung davon, wie die Umsatzzahlen aussehen könnten. Man muss auch bedenken, dass ihnen die GPUs tatsächlich gehören. Wenn man also bedenkt, dass sie niemandem etwas bezahlen, sind die Inferenzkosten für sie wahrscheinlich niedriger als 2 US Dollar pro Stunde, wenn sie dasselbe Setup für Training und Inferenz verwenden. Die tatsächlichen Margen werden also bei etwa 85 Prozent liegen, was ziemlich verrückt ist. Und wie DD auf X anmerkte, wenn dies ein in den USA ansässiges Unternehmen mit einem Jahresumsatz von 200 Millionen US Dollar VR wäre, wäre es ein Unternehmen mit einem Wert von etwa 10 Milliarden US Dollar. Das zeigt wirklich die Innovationskraft, die sie auf die Beine gestellt haben. Ich kann nur sagen, dass es ziemlich verrückt ist, dass ein Unternehmen wie die PCK solche Gewinne macht. Und es wirft auch die Frage auf, wie diese anderen Unternehmen sagen, dass sie Geld verbrennen. Wie auch immer, ich hoffe, das war hilfreich. Danke fürs Zuschauen und wie immer bis zum nächsten Mal.