OpenAI Just Hit a MASSIVE Roadblock ...

Die Lage ist für OpenAI also etwas schwieriger. Geworden. Vor kurzem wurde auf einer gleichnamigen Website ein offener Brief mit dem Aufruf Keine private Bereicherung Veröffentlicht, der von Dutzenden ehemaliger OpenAI Mitarbeiter unterzeichnet wurde. Der Brief fordert Kaliforniens und delawares Generalstaatsanwälte auf, OpenAI's Profitumstellung zu blockieren. Ein solcher Schritt widerspräche dem ursprünglichen Auftrag der Non Profit Organisation AGI zum Wohle aller Menschen nicht privater Interessen. Daher werde ich heute auf 10 wichtige Punkte eingehen, die Sie wissen müssen, um wirklich zu verstehen, was hier vor sich geht. Wie Sie sehen können, beginnt dieser Brief ziemlich gewagt. Dort heißt es, dass wir Experten für Recht, Unternehmensführung und Key Vertreter von gemeinnützigen Organisationen sowie ehemalige OpenAI Mitarbeiter sind. Glauben sie mir, zahlreiche ehemalige OpenAI mitarbeiter protestieren gegen OpenAIs geplante Umstrukturierung, die die AGI Entwicklung und Bereitstellung von einer Non Profit Organisation an ein gewinnorientiertes Unternehmen übergibt. Und sie erklären Im Grunde, dass OpenAI versucht, AGI zu entwickeln. Aber die Entwicklung von AGI ist nicht seine Mission. Wie in der Satzung festgelegt, besteht der gemeinnützige Zweck von OPAI darin, sicherzustellen, dass AGI der gesamten Menschheit zugutekommt und nicht den privaten Vorteil einer Person fördert. Kommen wir nun zu den zehn verrückten Dingen. Das erste, worüber ich sprechen werde, ist der grundlegende Verrat am Gründungsprinzip. Die meisten Menschen Wissen nicht, dass OpenAI speziell gegründet wurde, weil die Gründer der Meinung waren, dass die Entwicklung von AGI nur aus Profitgründen, wie es Google angeblich tat, extrem gefährlich sei. Sein ursprünglicher gemeinnütziger Status sollte das Wohl der Menschheit über Profit stellen. OpenAI zielt jetzt auf eine profitbasierte Struktur ab. Denken Sie daran. Und das kehrt die Kernidee im Grunde um und widerspricht dem gesamten Grund, aus dem OpenAI überhaupt gegründet wurde. Und sie zeigen tatsächlich die Gründungsbekanntmachung. Dort heißt Unser Ziel ist es, die digitale Intelligenz so voranzubringen, dass sie der Menschheit als Ganzes am ehesten nützt, und zwar unabhängig von der Notwendigkeit, finanzielle Erträge zu erwirtschaften. Da unsere Forschung frei von finanziellen Verpflichtungen ist, können wir uns besser auf positive Auswirkungen auf die Menschheit konzentrieren. Das ist die Gründungsaussage von OpenAI. Und wenn Sie tatsächlich zu einem gewinnorientierten Unternehmen werden, würde das im Wesentlichen ein Verrat an dieser Logik sein. Wir können hier auch eine Aussage von Greg Brockman sehen. Er Was die Ethik betrifft, so ist das wirklich ein Kernanliegen meiner Organisation. Das ist der Grund, warum wir existieren, wenn es um die Vorteile geht. Wer diese Technologie besitzt, wer sie bekommt, wissen Sie. Wo fließt das Geld hin? Wir denken, dass sie allen gehört. Das ist Greg Brockman im Jahr 2018. Und sie haben das tatsächlich zitiert, um zu zeigen, dass Sie von Ihrer ursprünglichen Aussage zurücktreten. Sie sprechen darüber, wie die Umstrukturierung die Pflichten der Organisation, die die Entwicklung und die Open Eyes Technologie kontrolliert, grundlegend verändern würde und dass sich die Anreize von einer durchsetzbaren Pflicht gegenüber der Öffentlichkeit im Grunde genommen hin zu gewinnen, verlagern würden. Und man kann hier sogar sehen, dass Sie darüber sprechen, dass, wenn dies geschieht, dies bedeuten würde, dass die langfristige Mission gefährdet wäre, was Sie ursprünglich wollten. Denken Sie daran, dass das gesamte Ziel von OpenAI darin bestand, sicherzustellen, dass AGI sicher ist und allen zugutekommt, selbst wenn dies bedeutet, dass keine Gewinne erzielt werden. Wenn man darüber nachdenkt, ist das ziemlich verrückt, wenn man Auch bedenkt, wie OpenAI derzeit seine Struktur ändert. Jetzt, wo wir gerade darüber gesprochen haben, denke ich, dass dieses Zeug mein Gehirn zum Arbeiten bringt. Und wenn Sie dieses Gefühl auch mögen, werden Sie wahrscheinlich eine unterhaltsame Möglichkeit suchen, Ihre Fähigkeiten zur Problemlösung jeden Tag zu verbessern. Wenn das stimmt, müssen Sie sich den heutigen Sponsor Brilliant Org ansehen. Brilliant hilft dir mit tausenden wirklich interaktiven Lektionen in Mathematik, Naturwissenschaften, Programmierung und Datenanalyse sowie natürlich KI täglich klüger zu werden. Ihr Angebot ist wirklich riesig. Was Brilliant so effektiv macht, und das ist der Grund, warum ich es persönlich liebe, ist der praxisnahe Ansatz. Du schaust dir nicht einfach nur Vorlesungen an, du löst aktiv Probleme und spielst mit Konzepten. Es basiert auf ersten Prinzipien, erklärt Zusammenhänge statt bloßes Auswendiglernen. Diese Methode hat sich tatsächlich als viel effektiver erwiesen, um echtes Verständnis und kritisches Denkvermögen aufzubauen. Fähigkeiten, die überall anwendbar sind. Stopp. Mindless Scrolling. Entwickle mit Brilliant eine starke Lernroutine. Egal ob du endlich die Infinitesimalrechnung begreifen, die Logik hinter KI verstehen, deine Python Kenntnisse ausbauen oder Daten visuell sinnvoll darstellen möchtest. Brilliant bietet ansprechende Kurse, die von Experten von Einrichtungen wie Demit und Google entwickelt. Wurden, um dich ans Ziel zu bringen. Du kannst jetzt alles, was Brilliant zu bieten hat, 30 Tage lang kostenlos testen. Außerdem erhalten Sie 20 Prozent Rabatt auf ein jährliches Premium Abonnement, wenn Sie meinen Link auf dem Bildschirm besuchen. Sie können auch den QR-Code auf dem Bildschirm scannen. Den Link dazu finden Sie in der Beschreibung unten. Vergessen Sie nicht, ihn sich anzusehen. Die zweite verrückte Sache, über die sie sprechen, ist die Tatsache, dass es ein riesiges Potenzial für den Transfer großer Mengen an Vermögen gibt. OpenAI sprach unter anderem darüber, dass sie wissen, dass AGI einen fast unvorstellbaren Reichtum schaffen könnte, und sie sprachen davon, dass dies den Lichtkegel allen zukünftigen Werts haben könnte. Die ursprüngliche Gewinnobergrenze wurde im Wesentlichen so konzipiert, dass der Amen Reichtum tatsächlich an die gemeinnützige Organisation zurückfließt, die die Menschheit repräsentieren würde, und nicht an die privaten Investoren. Der Brief behauptet, Deckelung werde wohl Investorenforderungen zum Opfer fallen, so dass astronomische AGI Gewinne nun vorwiegend einer kleinen Aktionärsgruppe zugutekommen, statt wie geplant dem Gemeinwohl. Sie sagen tatsächlich unter anderem, dass es natürlich beispiellose wirtschaftliche Vorteile in Höhe von nahezu unendlichem Reichtum generieren wird. Und diese Aussage ist ziemlich wahr. Die meisten Menschen wissen nicht, dass AJI eine Technologie ist, die im Grunde alles beeinflusst. Dieser Wohlstand nimmt ein Ausmaß an, das wir so noch nie zuvor gesehen haben. Sie sehen sogar, dass sie sich erneut auf die ursprünglichen Aussagen von OpenAI beziehen. Sam Allmanns Aussage zum Problem von Erfolgreiche Entwicklung könnte den Lichtkegel allen zukünftigen Wertes des Universums einfangen, was für eine einzelne Investorengruppe inakzeptabel ist. Denken Sie Die Leute haben immer darüber gesprochen, wie der Kapitalismus im Grunde genommen unter AGI zusammenbricht und. Und eines der Dinge, über die sie sprechen, ist die Tatsache, dass die Gewinnobergrenze bekanntermaßen Struktur. Die Unsicherheit über die Folgen der Umstrukturierung ist groß, doch Berichten zufolge hingen die jüngsten Investitionen von der Aufhebung der Gewinnbegrenzung ab. Im Grunde genommen wird damit gesagt, dass diese Leute, die jetzt in Open Eyes Finanzierungsrunden investieren, potenziell unbegrenzte Gewinne aus diesen Investitionen erzielen könnten. Auf diese Weise treibt OpenAI Investitionen in Milliardenhöhe. In die Höhe. Sie sehen hier, dass sie erklären, dass dies eine massive Umverteilung von Vermögen von der Menschheit insgesamt hin zu den OpenAI Aktionären darstellen könnte, was die Menschen natürlich nicht wollen. Hinzu kommt der Verlust der rechtlichen Verantwortlichkeit. Da OpenAI von einer gemeinnützigen Wohltätigkeitsorganisation kontrolliert wird, haben Amtsträger im Wesentlichen das Recht und die Pflicht, dafür zu sorgen, dass OpenAI sich an seine Mission hält. Öffentliche Aufsicht entfiele durch die geplante Änderung zur gemeinnützigen Körperschaft. Obwohl eine PBC einen öffentlichen Nutzen hat, liegt die Klagebefugnis nun bei Aktionären, deren Hauptinteresse meist finanzieller Ertrag ist, nicht das Gemeinwohl. Gewählte Amtsträger verlieren ihr wichtigstes Durchsetzungsmittel. Kurz Nur wer selbst negative Anreize hat, kann diese Leute zur Strecke bringen. Das wird also überhaupt nicht gut sein, wenn diese Änderung tatsächlich eintritt. Ein vierter Punkt, der mit dem ersten Punkt zusammenhängt, ist, dass AGI auch Investoren gehören könnte. Sie sprechen über das Eigentum an AGI und eine der ursprünglich ausdrücklich genannten Regeln. Wenn sie echte AGI Technologie entwickeln, würde diese von der gemeinnützigen Organisation entwickelt werden, um sicherzustellen, dass sie zum Wohle der Menschheit verwaltet wird. Die Umstrukturierung, so der Brief, würde AGI in den Besitz und die Kontrolle des gewinnorientierten Unternehmens und seiner Investoren bringen. Und das bedeutet, dass sie Großinvestoren uneingeschränkten Zugang zu der leistungsstarken Technologie gewähren würden, was zuvor verboten war. Und dieses Eigentum diktiert die Kontrolle und Nutzung. Das verrückte OpenAI äußerte sich nicht öffentlich zum AGI Besitz nach der Umstrukturierung. Es würde vermutlich OpenAI und seinen Investoren gehören. Unglaubliche Berichte behaupten auch, dass OpenAI und Microsoft darüber diskutiert haben, die vertragliche Beschränkung des Zugriffs von Microsoft auf KI Technologien aufzuheben. OpenAI könnte also wieder einmal Dinge ändern, von denen sie zuvor sagten, dass sie es nicht tun würden. Hier haben wir auch Sam Allmanns krasse Kehrtwende. Im Jahr 2023 sagte Sam Allman tatsächlich etwas ziemlich Im US Kongress hob er die gemeinnützige Kontrolle, Gewinnbegrenzungen und die einzigartigen Governance Merkmale als zentrale Sicherungen für Openais Missionsfokus hervor. Und wenig weniger als zwei Jahre später drängt er tatsächlich darauf, genau diese Schutzmaßnahmen abzuschaffen und stellt sie nun als Hindernisse dar. Und diese dramatische Veränderung wirft ernsthafte Fragen über die Motivationen hinter der Umstrukturierung auf. Sie können hier sehen, dass Sie angeben, was sich zwischen Mai 2023 und September 2024 geändert hat, dass diese Schutzmaßnahmen, die wichtig waren, nun zu Hindernissen werden. Das sind die Aussagen, die er gemacht hat, und ich meine, es ist ehrlich gesagt ziemlich interessant, all dies in einer ganzen Erklärung ans Licht kommen zu sehen. Hinzu kommt die Aufgabe des Stop und Assist Prinzips. Opais Gründungsurkunde enthielt ein ungewöhnliches Versprechen. Wenn eine andere verantwortungsbewusste, sicherheitsbewusste Gruppe nicht Wenn eine andere verantwortungsbewusste, sicherheitsbewusste Gruppe tatsächlich kurz davor käme, AGI aufzubauen, würde OpenAI zunächst den Wettbewerb einstellen und Ihnen helfen, einen rücksichtslosen Wettlauf um die Bereitstellung einer potenziell gefährlichen Technologie zu verhindern. Hier können Sie sehen, dass Sie Wenn ein wertorientiertes, sicherheitsbewusstes Projekt auch nur annähernd an den Aufbau von AGI herankommt, verpflichten wir uns, den Wettbewerb mit diesem Projekt einzustellen und es stattdessen zu unterstützen. Angesichts des KI Wettbewerbs und der wahrscheinlichen OpenAI Umstrukturierung zeigt der Brief die Sorge, dass die neue gewinnorientierte Struktur die Sicherheitsverpflichtung aufgrund des Wettbewerbsdrucks ignorieren oder aufgeben könnte, was das globale Risiko erhöht. Und das wäre keine Überraschung. Stellen Sie sich vor, OpenAI hilft einem anderen Unternehmen trotz des hohen Risikos. Ich kann mir das ehrlich nicht vorstellen. Eine weitere wichtige Sache ist, dass Sie darüber sprechen, dass diese Kontrolle über AGI im Wesentlichen wertvoller sein wird als alles andere. Und eine der verrücktesten Sachen ist auch, dass dieses Unternehmen mit wohltätigen Spenden gegründet wurde. Es heißt, das Gesetz sei hier eindeutig Obwohl die Allgemeinheit von einer beliebigen Anzahl wohltätiger Zwecke profitieren kann, dürfen wohltätige Zuwendungen nur für die Zwecke verwendet werden, für die sie treuhänderisch entgegengenommen wurden. Als OpenAI gegründet wurde, erhielten sie im Wesentlichen Spenden, weil sie eine künstliche Intelligenz entwickelten, die der Menschheit zugutekommt. Das war ihre Mission. Aber da diese Spende nun verwendet wird, um ein gewinnorientiertes Unternehmen aufzubauen, bricht das im Wesentlichen dieses ursprüngliche Versprechen. Nun wurde hier unter anderem der Druck der Investoren angeführt. Die Umstrukturierung wird also gerechtfertigt. OpenAI beruft sich in erster Linie auf die Forderungen der Investoren, dass das Unternehmen seine Kapitalstruktur vereinfachen müsse, und verweist dabei speziell auf die mangelnde Marktkenntnis seiner Gewinnobergrenzen. Sie sprechen darüber, dass die Gewinnbeteiligung an OpenAIs. Gewinnobergrenze im Vergleich zu seinen Wettbewerbern weniger vertraut sei. Jüngste Finanzierungsrunden offenbarten OpenAIs Herausforderungen. Investoren setzten Bedingungen für die Befreiung von Finanzierungsverpflichtungen durch oder die Rückzahlung mit Zinsen bei ausbleibender Vereinfachung der Kapitalstruktur. Sie reden also natürlich davon, dass die Mission mal wieder in die Irre geführt wird, weil diese Investoren eigentlich wollen, dass sie die Struktur des Unternehmens ändern. Inzwischen wurde auch eingeräumt, dass viel auf dem Spiel steht. Open E warnt vor schwerwiegenden Risiken durch Missbrauch, Unfälle, gesellschaftliche Destabilisierung. Auf seiner Website heißt es, dass eine fehlgeleitete, superintelligente KI der Welt schweren Schaden zufügen könnte. Sie sprechen darüber, dass Salmon und der kürzliche Nobelpreisträger und KI-Pionier Jeffrey Hinton eine. Erklärung unterzeichnet haben, in der es im Grunde heißt, dass die Eindämmung des Risikos des Aussterbens durch KI eine globale Priorität sein sollte, neben anderen gesellschaftlichen Risiken wie Pandemien und Atomkrieg. Es steht also wirklich viel auf dem Spiel, wenn es um AGI geht. Das ist keine einfache Technologie, die ein paar hundert Menschen betreffen wird. Hier steht eine bahnbrechende Technologie auf dem Spiel. Das heißt, wenn man zurückblickt und sich anschaut, warum OpenAI diese Gründungserklärung verfasst hat, wurde deutlich, dass ihnen bewusst war, dass diese Technologie sehr, sehr wirkungsvoll sein wird. Daher brauchen sie von Anfang an eine Gründungserklärung, damit sie ihre Mission auf die richtige Weise erfüllen können. Und wenn sie jetzt davon abweichen, geraten sie natürlich in echte Schwierigkeiten, denn OpenAI befindet sich im Grunde genommen in einer Zwickmühle. Wenn sie sich umstrukturieren, werden sie als die Bösewichte dastehen. Ohne Umstrukturierung bleiben die Investoren vielleicht nicht. Nun zu meinem letzten Punkt. Es gibt auch Einige schwerwiegende Vorwürfe, OpenAI steht wegen der Prozesse bei der Bereitstellung von Modellen in der Kritik. Umstrukturierungswiderstand ist nicht bloß theoretisch sie äußern konkrete Bedenken hinsichtlich der von OpenAI ergriffenen Maßnahmen. Dazu gehören beispielsweise die weniger gründlichen Testprozesse, da nicht genügend Zeit und Ressourcen für die Identifizierung und Minderung von Risiken aufgewendet werden. Das Unternehmen hat die Sicherheitstests überstürzt durchgeführt, um den Zeitplan für die Produkteinführung einzuhalten. Es ist von seinem Versprechen abgewichen, 20 Prozent seiner Rechenleistung dem AGI Sicherheitsteam zu widmen. Und ich erinnere mich, dass es yanlik war, der OpenAI verließ, weil er sagte, dass dieses Unternehmen seine Mission verloren habe und sich nur noch auf den Profit konzentriere. Daher wandte er sich an ein Unternehmen wie Antropic, spezialisiert auf KI Sicherheit. Sie erwähnten auch die Tatsache, dass Herr Allmann sagte, dass es bald wichtig werden könnte, die weltweite Verfügbarkeit von Rechenressourcen zu reduzieren, während er im Geheimen versuchte, Billionen von Dollar für den Ausbau der Recheninfrastruktur mit US amerikanischen Gegnern zu vereinbaren. OpenAI zwang den Scheiden restriktiven nicht Verunglimpfungsvereinbarungen. Im Grunde genommen wurde festgelegt, dass diejenigen, die OpenAI verließen, nicht wirklich über die Dinge sprechen durften, die schiefgelaufen waren. Insgesamt gibt es also zehn wichtige Punkte. Ich meine, dieses Dokument war absolut unglaublich. Es legt zehn wichtige Punkte dar. Ich meine, ich habe nur die zehn wichtigsten Punkte herausgegriffen, aber es gibt viele ehemalige OpenAI Mitarbeiter, die sich klar dagegen aussprechen, darunter Daniel Cataglio und viele andere. Jeffrey Hinton hat das auch unterzeichnet. Ich meine, es ist ein ziemlich überzeugendes Dokument. Es wird also wirklich interessant sein zu sehen, wie sie damit umgehen. OpenAI wird dank ihres einzigartigen Falls erfolgreich bleiben und großartige Produkte liefern. Aber auch wenn es um die Kontrolle von AGI geht, denke ich, dass es eine gewisse Legalität geben muss, denn das Unternehmen wurde mit der Mission gegründet, sicherzustellen, dass AGI der gesamten Menschheit zugutekommt. Lasst mich also wissen, was ihr von diesem Video haltet, und ich sehe euch beim nächsten Mal.