OpenAI’s Most Expensive Model Yet!

OK, OpenAI hat gerade pro für die API verfügbar gemacht und ich denke, das einzige, was die Leute an diesem Modell bemerken werden, ist der Preis. Jetzt kostet es satte 150 US Dollar pro einer Million Token Eingaben und 600 US Dollar pro einer Million Token Ausgabe. Damit ist es doppelt so teuer wie GPD 4.5 und satte mal so teuer wie GBD 4 Mini. Und es ist das bisher teuerste Modell. Spaß beiseite. Das ist definitiv nicht auf normale Entwickler ausgerichtet, obwohl es bei diesem hochkomplexen Hexagon Problem, das von Flyo geteilt wurde, der meiner Meinung nach der ursprüngliche Erfinder des Hexagon Problems ist, eine wirklich gute Leistung zu zeigen scheint. Ich bin mir nicht sicher, wie viel es ihn tatsächlich gekostet hat, aber wir wissen, dass es fast einen Dollar kosten wird, wenn man einen Pelikan erstellen möchte. Wir werden später im Video darauf zurückkommen. Um Ihnen einen schnellen Überblick über die Fähigkeiten dieses Modells und die verfügbaren Funktionen zu verschaffen, können wir einen kurzen Vergleich anstellen. Vergleiche den Pro EGPD 4.5 mit dem GPD 40. Dies ist im Vergleich zu den anderen Modellen das beste Modell für Read Reasoning, aber im Vergleich zu den anderen beiden ist es viel langsamer. Es kann Text und Bilder verarbeiten. GPD 4.5 und GPD 40 können dasselbe und bei allen drei Modellen ist die Ausgabe nur Text. Abgesehen von den Argumentationsfähigkeiten ist der Preis der große Unterschied. Dieses Modell ist extrem teuer. Selbst die Ausgabe Token sind im Vergleich zu 4.5 fast viermal teurer als beim zuvor teuersten Modell. Das Gute ist jedoch, dass dieses Modell ein Kontextfenster von Token hat und maximal Token generieren kann. Die Stichtage sind für alle drei Modelle identisch. Hier werden sich nun die Probleme für Entwickler zeigen. Derzeit wird der Endpunkt für den Chat Abschluss nicht unterstützt. Wenn also jemand dies integrieren und Chat verfolgt ersetzen möchte, muss er eine eigene Implementierung vornehmen. Es wird nur über die Responses API verfügbar sein. Außerdem gibt es keine Echtzeit Funktionen. Es wird nicht über ein System verfügbar sein. Es gibt eine Stapelverarbeitung und ich denke, dass jeder, der dieses Modell tatsächlich für ernsthafte Arbeit verwendet, höchstwahrscheinlich die Stapelverarbeitungsfunktion verwenden wird, da diese höchstwahrscheinlich für ernsthafte wissenschaftliche Arbeiten und nicht für alltägliche Chatbots verwendet wird. Es unterstützt auch kein Streaming, kann aber Funktionsaufrufe durchführen und strukturierte Ausgaben generieren. Damit könnte es ein wirklich guter Kandidat für agentenbasierte Workflows sein. Sie können dieses Modell auch nicht optimieren, aber es kann Eingabebilder verarbeiten. Das Modell ist jetzt für alle kostenpflichtigen Stufen verfügbar. Stufe 1 erhält etwa Token pro Minute. Dieses Modell ist nun für alle kostenpflichtigen Stufen ab Stufe 1 bis Stufe 5 verfügbar, aber die Ratenlimits sind für jede Stufe unterschiedlich und es folgt in diesem Fall wirklich dem GPT 40 OK. Wenn man es sogar mit vergleicht, ist der Preis fast zehnmal höher. Das zeigt, wie Teuer es für OpenAI ist, das Modell auszuführen. Es ist also definitiv ein viel größeres Modell. Aber vergleichen wir es mit drei Mini, das für ein logisches Modell wahrscheinlich angemessener ist. Und wie Sie sehen, ist es immer noch fast mal teurer als GV GPT Mini, aber fast 100 mal teurer als Mini, oder eher 150 mal teurer. Ich habe dazu noch keine eigenen Tests durchgeführt und um ehrlich zu sein, ist es ein ziemlich teures Modell, um ernsthafte Tests durchzuführen. Aber Simon hat ein paar wirklich kurze Anmerkungen. Wenn Sie Simon Wilson nicht kennen, empfehle ich Ihnen dringend, ihm auf Twitter zu folgen. Er hat wirklich gutes Material, wenn es um LLMs geht. Einer der Tests, die er normalerweise durchführt. Er lässt das LLM ein SVG eines fahrradfahrenden Pelikans generieren. Dabei gibt es ein paar Dinge zu beachten. Zunächst verwendete er Pro und erhielt etwa Ausgabetoken, was ihn etwa 94 Cent kostete, also fast einen Dollar. Die Ausgabe dafür ist nicht so toll. Ich glaube, ich habe für diese Eingabeaufforderung schon bessere Ergebnisse von ihm gesehen. Als er jedoch den Aufwand auf hoch einstellte, verfügte es auch über mehrere Argumentationsebenen und es generierte dann ein viel besseres Bild eines Pelikans auf einem Fahrrad. Er sagt, dass das Modell Token im Vergleich zu 512 verwendet hat. Der Aufwand war nicht auf hoch eingestellt. Wenn man sich jedoch die von ihm bereitgestellten Ausgaben ansieht, scheint es, dass es viel mehr Argumentationstoken verwendet. Hier werden also 960 Token verwendet, wenn der Aufwand hoch ist, verglichen mit 104 Token, wenn nur die Standardparameter verwendet werden. Dies zeigt also, dass die Ausgabe viel besser zu sein scheint, obwohl die Ausgabetoken geringer sind als in diesem Fall, da viel länger nachgedacht wird. Und auch hier erhält man keinen Zugriff auf die Argumentation oder die Gedankenkette, was ziemlich schlecht ist, wenn man bedenkt, dass man 150 US Dollar pro einer Million Eingabetoken und 600 US Dollar pro einer Million Ausgabetoken zahlt. Ich denke, bei diesem Preis möchte man definitiv Zugriff auf diese zugrunde liegenden Gedanken haben. Wenn man sich die letzten Modelle ansieht, die von OpenAI veröffentlicht wurden, gibt es meiner Meinung nach zwei verschiedene Marktsegmente, für die sie versuchen, Produkte zu entwickeln. Eines sind Entwickler, die auf diesen APIs aufbauen werden und sie werden ihre eigenen Kunden haben. Dafür könnte man möglicherweise so etwas wie Mini oder hoffentlich eine Miniversion der kommenden Argumentation Und dann gibt es große Institutionen oder sogar Unternehmen, die diese riesigen Argumentationsmodelle für ihre internen Zwecke oder für die Forschung verwenden werden. Hier ist ein kurzes Beispiel Tweet von Philip Kuhn Dahl, dem CPO bei Grab. Er Ich freue mich endlich mitteilen zu können, dass wir das neue Pro Modell von OpenAI vor seiner Veröffentlichung testen durften. Mit dem Pro konnte unser internes Datenabfrage Tool Jarvis eine Verbesserung der Ungenauigkeit bei der Verarbeitung komplexer Eingabeaufforderungen um 6 Prozentpunkte im Vergleich zum Mini High Modell feststellen. Es gibt also definitiv ein Marktsegment für diese Modelle mit hohem Denkvermögen und die Leute sind bereit, den Preis zu zahlen. Der Trend, den wir bisher gesehen haben, ist, dass die Preise im Laufe der Zeit drastisch sinken. Sam Allmann sagte, dass die Preise für das gleiche Maß an Intelligenz über einen Zeitraum von einem Jahr um das Zehnfache sinken. Hoffentlich werden wir also einen sehr ähnlichen Trend bei den Preisen für GPT 40 oder GPT 4 4.5 und dieses Pro Modells sehen. Aber ich denke, dass sich die Leute, die für Pro bezahlen, heute viel besser fühlen könnten als zu dem Zeitpunkt, als sie sich ursprünglich für 200 US-Dollar pro Monat angemeldet. Haben. Ich hoffe jedoch, dass sich dieser zunehmende Trend steigender Preise bei OpenAI nicht fortsetzt. Daumen drücken. Lasst mich also wissen, was ihr davon haltet. Maps und wenn sie einen bestimmten Anwendungsfall im Sinn haben, würden wir gerne sehen, was die Leute mit Pro bauen. Wie auch immer, ich hoffe, sie fanden dieses kurze Video nützlich. Danke fürs Zuschauen und wie immer bis zum nächsten Mal.