Experts like Nate Swords and Stuart Russell warn AI could pose existential risks, citing scenarios where superintelligence might weaponize biology. The speaker acknowledges our bias toward doomsday narratives but argues that doesn't mean the warnings are wrong, and calls for serious regulation despite tech industry resistance.
Chapters
The Atlantic berichtet, dass einige der lautesten Stimmen, die vor künstlicher Intelligenz warnen, tatsächlich panischer klingen und schwerer abzutun sind. Nate Swords, Leiter des Machine Intelligence Research Institute, Uns läuft die Zeit davon, Schutzmaßnahmen zu implementieren. Max Tegmark vom MIT warnte, dass wir bis 2027 die Kontrolle über KI verlieren könnten. Und OpenAI, Anthropic und DeepMind bringen trotz der Zusagen zur öffentlichen Sicherheit weiterhin immer leistungsfähigere Systeme auf den Markt. Ein detailliertes Szenario namens I-2027 stellt sich vor, dass Superintelligenz Bots biologische Waffen einsetzen, um die Menschheit auszulöschen. Solche Vorhersagen mögen wie Science Fiction klingen, doch die jüngsten Misserfolge von Key Chatbots, die Nutzer täuschen, bis hin zu einem, der sich in einer Schimpftirade über die Vorherrschaft der Weißen austobt, haben dazu geführt, dass diese Warnungen schwerer abzutun sind. An der University of California in Berkeley sagt Steuerart oder wie Steuerart Russell von der UC Berkeley es ausdrückte, Ihr Friseur muss sich mit mehr Regulierung auseinandersetzen als ihr KI Unternehmen. Milliarden Menschen verlassen sich auf Algorithmen. KI Fehler haben immense Folgen. OK, also was ist hier die eigentliche Botschaft? Es wird jeden Tag eine Menge Untergangsstimmung in Bezug auf KI geben. Der einfachste Weg, eine Schlagzeile zu bekommen, ist zu sagen, dass die KI Roboter kommen, um uns zu vernichten. Und wissen Sie was, das möge sie auch tun. Aber es gibt keinen Zusammenhang zwischen dem, was passieren könnte, und dem, was Schlagzeilen machen wird. Ich rate Ihnen daher dringend, jedes Mal sehr skeptisch zu sein, wenn Sie eine Schlagzeile wie meine sehen. Leider manipuliert sie ihr eigenes Risikoempfinden, ihr eigenes Angstempfinden, Ihre eigene Vorstellung von dem Dramatischsten. Und das hat nicht unbedingt etwas mit der Wahrheit oder der Realität zu tun. Es geht darum, Klicks zu bekommen und Geld zu verdienen. Lassen Sie uns hier etwas tiefer graben. Sehen wir uns also einige Fakten an und werfen wir einen Blick auf die Geschichte der Menschen, die den Untergang vorher Menschen haben für jede neue Technologie den Untergang vorhergesagt, und bisher haben die Menschen, die das Ende der Menschheit vorhergesagt haben, überhaupt nicht getroffen. Sie haben kläglich versagt. Ich denke also, dass man, wenn man voreingenommen ist, tatsächlich auch voreingenommen gegenüber jenen sein sollte, die nichts als Untergang und Finsternis vorhersagen. Denn die Leute sagen, die Welt werde untergehen. Das sagen sie schon seit Jahrtausenden und sie haben sich tatsächlich jedes Mal geirrt. Könnte es diesmal anders sein? Das könnte es durchaus. Könnte eine außer Kontrolle geraten, Kimorgen die Weltherrschaft an sich reißen und die Menschheit auslöschen. Vielleicht ist es möglich, bevor Sie es sich vorstellen können. Aber ich habe keine rationale Grundlage für diese Behauptung, und Sie haben keine rationale Grundlage, das zu glauben. Werfen wir einen Blick auf einige Statistiken. Dies stammt aus einem Artikel im Atlantic und Ned Soros sagt, dass uns die Zeit davonläuft. Ich weiß nicht, ob uns die Zeit davonläuft. Dies könnte der perfekte Zeitpunkt für Regulierungen sein. Max Tegmark sagt, dass es nur noch zwei Jahre dauert, bis etwas Schreckliches passiert. Das ist eine ziemlich sichere Vorhersage. Wir sind nur noch zwei Jahre von einer schweren Rezession entfernt. Wir sind nur noch zwei Jahre vom Ende. Der Welt entfernt. Niemand wird sich in zwei Jahren daran erinnern, wenn du das sagst. Sei also immer skeptisch gegenüber Leuten, die solche Vorhersagen für die nächsten zwei Jahre machen, denn es ist sehr schwer für jemanden, dich dafür verantwortlich zu machen. Mich fasziniert, wie wir als Menschen Nachrichten und Kommunikation empfangen. Analysieren wir das. Es gibt immer einen Negativitätsbias. Wir sind darauf programmiert zu denken, oh, das Rascheln im Gebüsch da drüben könnte ein Säbelzahntiger sein. Lasst uns Angst bekommen und weglaufen. Denn wenn wir falsch liegen, passiert nichts Schlimmes. Wenn wir richtig liegen, haben wir unser Leben gerettet. Der Säbelzahntiger wird uns fressen. Wir müssen also immer darauf konditioniert sein, uns um unseren eigenen Negativitätsbiss Sorgen zu machen und die Realität auf eine Weise zu filtern, die sie verzerrt. Sie ist nicht real. Es gibt eine Tendenz zur dramatischen Erzählung. Es ist immer erfreulicher zu sagen, oh, es wird genau wie in dem Science Fiction Film sein, der vor 20 oder 30 Jahren rauskam. Da werden diese wilden, von KI gesteuerten Roboter herumlaufen und Laser aus ihren Augen schießen, um uns alle zu töten. Das ist dramatisch, das ist interessant, das ist aufregend, das ist erschreckend. Es ist wie ein kostenloser Horrorfilm, den man sich in seiner eigenen Vorstellung ansehen kann. Das macht es nicht unbedingt wahr. Außerdem gibt es eine Risikoneigung. Es gibt bei allem ein Risiko, aber oft Je dramatischer das Risiko ist, desto geringer ist die tatsächliche Wahrscheinlichkeit, dass etwas passiert. Deshalb machen wir uns als Menschen ständig Sorgen über Flugzeugabstürze. Also fahren wir von einer Stadt in die andere. Ich habe aktuelle Analysen gesehen, die zeigen, dass nach dem 11. September etwa 1500 Menschen starben, weil sie Auto gefahren sind, anstatt zu fliegen. Als Menschen neigen wir also dazu, Aktivitäten, das falsche Risikoelement, die falsche Risikobewertung zuzuordnen, weil sie dramatischer sind. Der 11. September ist dramatischer als die Tatsache, dass das jedes Jahr zehntausende Menschen bei Autounfällen sterben. Tatsächlich ist ein Flugzeug aber im Allgemeinen der sicherste Ort, an dem man sich jemals aufhalten wird, zumindest in einem Verkehrsflugzeug. Es gibt also all diese Vorurteile, die wir meiner Meinung nach berücksichtigen müssen. Nachdem wir das alles gesagt haben, kommen wir zur Sache. Ich denke, wir brauchen Regulierung für künstliche Intelligenz. Daran besteht kein Zweifel, denn sie ist einfach leistungsfähiger als jede andere Technologie, die wir je gesehen haben. Ich sage das mit einer Einschrä Atomkraft. Atombomben sind ebenfalls eine ziemlich leistungsstärke Technologie und sie unterliegen strengen Vorschriften. Man kann nicht einfach loslegen und eine eigene Atombombe bauen. Zum Glück gibt es aber hier den Eine Atombombe ist außerordentlich schwierig und extrem teuer zu bauen. Die Infrastruktur, die man dafür schaffen muss, das angereicherte Uran, das man beschaffen muss, das ist nicht etwas, das jeder einfach mit einem Laptop und einem Internetanschluss macht kann. KI ist in dieser Hinsicht Man muss kein angereichertes Uran kaufen, Man muss keine Atombombe bauen. Reaktoren. Man muss keine Top Atomwissenschaftler einstellen, um ein KI Modell zu entwickeln, so wie man es für eine Atomwaffe tut. Und für Atomkraft. Atombomben und Atomenergie gibt es auf lokaler Ebene, auf Bundes Nationalstaaten und internationaler Ebene einen enormen Regulierungsrahmen. Ich hatte das Privileg, viel Zeit mit Kommunikationstrainings und Schulungen zur Persönlichkeitsentwicklung bei der Internationalen Atomenergieorganisation zu verbringen. Diese Leute verstehen wirklich viel von Kernenergie. Und es gibt Leute mit Doktortiteln und Abschlüssen in allen möglichen Wissenschaften, die ihr Leben der Regulierung und Überwachung von Kernenergie und Atomenergie widmen. Wir brauchen etwas Ähnliches, wenn es um KI geht. Denn das Zitat von Stuart Russell im Atlantic, das ich vorhin mit Ihnen über Stuart geteilt habe, ist absolut wahr. Ihr Friseur muss sich mit mehr Vorschriften auseinandersetzen als Ihr KI Unternehmen. Da stimmt etwas ganz und gar nicht. Immer wenn es eine neue Technologie gibt, sind die Leute ganz aufgeregt. Als die Autos aufkamen, starben die Menschen massenhaft. Das war viel mehr als heute. Es dauerte, bis die Gesellschaft verstand, wie wir das schaffen, das Ganze zu regulieren. Es hat eine Weile gedauert, bis wir Lasst uns Sicherheitsgurte einführen. Lasst uns dafür sorgen, dass sich alle darauf einigen, auf einer Straßenseite zu fahren. Lasst uns herausfinden, wie wir die Geschwindigkeitsüberschreitung regulieren können. All diese Dinge haben das Autofahren wesentlich zuverlässiger und sicherer gemacht als zu seiner Zeit. Wir brauchen etwas Ähnliches wie bei der künstlichen Intelligenz. Der Unterschied besteht darin, dass es heute so viele äußerst erfolgreich erfolgreiche, mächtige Unternehmen mit einem Wert von mehreren Milliarden Dollar, in manchen Fällen sogar Billionen Dollar gibt, die von der Unreguliertheit profitieren können. Und anders als die kleinen Autohersteller vor 100 110 115 Jahren haben diese großen Billionen Dollar Technologieunternehmen Einfluss. Sie haben Lobbyisten, Sie haben Wahlkampfspenden an Politiker beider großen Parteien hier in den Vereinigten Staaten. Daher ist es einfach viel schwieriger, Vorschriften zu verabschieden, die Ihnen zuwider sind. Das könnte Sie ausbremsen oder weniger profitabel machen. Aber es ist etwas, das wir wirklich sehr genau im Auge behalten müssen, und irgendwann wird es eine Regulierung geben müssen. Ich hoffe, das geschieht, bevor es zu einer größeren Katastrophe kommt.
