TJ Walker examines how deepfakes spread unchecked on X, using Senator Amy Klobuchar's fake video as a case study. He details real harms: a school principal suspended over a fabricated video, fake robocalls impersonating Marco Rubio. Walker argues platforms must remove deepfakes and people need legal control over their own image and voice.
Chapters
Amy Klolobacher entlarvt nach einem vulgären Video die Bedrohung durch Deepfakes. Senatorin Amy Klolobacher sagt, sie habe immer gewusst, dass Deepfakes gefährlich sind, aber es wurde persönlich, als sie eines von sich selbst sah. In einem Artikel in der heutigen New York Times beschrieb sie, wie sie ein gefälschtes Video ansah, das echtes Filmmaterial ihrer Senatsanhörung verwendete, aber mit einer keygenerierten Stimme, die plumpe Angriffe ausführte. In dem Deepfake sagte sie die Schauspielerin Sydney Sweeney Leute, ich versuche das höflich auszudrücken, aber das ist, was wirklich vor sich geht. Ich zitiere also die Senatoren, die den tatsächlichen Deepfake zitiert. Das ist eine US Senatorin, eine von vielen Menschen aus dem gesamten politischen Spektrum respektierte Person, eine gemäßigte. Sie wird mit den Worten zitiert, dass sie in ihrer Key generierten Version von sich. Sagte, dass Sydney Sweeney perfekte Titten habe und behauptete, Demokraten seien zu dick, um Jeans zu tragen, oder zu hässlich, um nach draußen zu gehen. Klatscher sagte, sie habe sofort erkannt, dass es sich um eine Fälschung handelte, gab aber zu Man konnte nicht leugnen, dass es sehr echt aussah und klang. Auf X blieb das Video. X lehnte Entfernung und Kennzeichnung ab, Trotz Maßnahmen von TikTok und Meta. Klatscher warnt, dass die Einsätze weit über ihren eigenen Fall hinausgehen, und verweist auf einen Schulleiter aus Maryland, der suspendiert wurde, nachdem ihn ein Key Audio fälschlicherweise als Rassisten dargestellt hatte. Und eine Betrügerin, die sich als Außenminister Marco Rubio ausgab, rief die Staats und Regierungschefs der Welt zu den Wir können die Technologie lieben und wir können sie nutzen, aber wir können nicht die alleinige Macht über unsere eigenen Bilder und unsere Privatsphäre haben. Okay, also was ist hier die eigentliche Botschaft? Wenn sogar das Bild einer US-Senatorin wie Amy Klolobacher und ihre Stimme die wilde, obszöne und fiese Dinge sagt, um den öffentlichen Diskurs zu verzerren, welche Chance haben dann Sie und ich? Wollen Sie wirklich, dass Ihr Gesicht und Ihre Stimme extremistische politische Ideologen und alle möglichen Krypto Betrügereien befürworten? Nun, so ist die Welt, in der wir gerade leben, und es gibt keinen schlimmeren Täter als die Plattform X. Lassen Sie uns das etwas genauer beleuchten. Das ist eine besorgniserregende Angelegenheit. Ich bin jemand, der nicht scheinheilig klingen möchte. Ich habe meinen eigenen KI Klon, aber es ist ein Klon, den ich kontrolliere. Es ist ein Video von mir. Sie können es sich unter tjwalker AI ansehen. Ich kann ihn dazu bringen, zu was ich möchte. Aber ich möchte zum Beispiel nicht eines Tages auf Facebook gehen und Videobilder von mir sehen, in denen ich politische Kandidaten unterstütze, die ich abstoßend finde. Ich bezweifle, dass Sie das auch wollen. Es wird also eine gewisse Regulierung geben müssen und wir leben in einer Welt, in der viele Menschen in Europa nicht diese reflexartige Reaktion haben und oh, oh, Regulierung ist schlecht. Oh, jedes Mal, wenn du etwas regulierst, wird die Welt untergehen und es wird keine freie Marktwirtschaft mehr geben. Jetzt verstehen Sie, dass man eine gemischte Wirtschaft haben kann und dass man den Großteil des freien Marktes tatsächlich in den Händen von Einzelpersonen lassen kann. Aber man wird einen Teil davon regulieren müssen, damit wir die Gesellschaft und unsere Kultur nicht völlig zerstören. Man kann eine gewisse Regulierung haben. Nun weist Kluba darauf hin, dass TikTok und Facebook letztendlich ihren Wünschen entsprochen und es entfernt haben. Aber denken Sie, sie ist eine US Senatorin. Wenn also ein US Senator, der enorme Regulierungsbefugnisse über ein in den USA ansässiges Unternehmen hat, in diesem fall Meta, nicht TikTok, aber selbst TikTok, auf einer gewissen Ebene von der US Regierung kontrolliert wird, dann wird das eskaliert. Wenn Sie und ich plötzlich unser Bild in einem Pornovideo sehen oder extremistische Ideen oder extremistische Politiker befürworten, wie einfach wird es dann wohl sein, Mark Zuckerberg oder jemanden von Facebook oder Google oder YouTube ans Telefon zu bekommen. Ich kann Ihnen jetzt schon sagen, dass das nicht passieren wird. Als jemand, der Probleme mit YouTube hatte und dessen Kanal aus, wie ich finde, überhaupt keinem Grund gelöscht wurde, wurde jedenfalls nie einer genannt. Die Vorstellung, dass man auf diesen Plattformen irgendjemanden dazu bringen kann, deine Bedenken ernst zu nehmen, selbst wenn es sich um dein eigenes Kind handelt, das in einem Deepfake Porno auftaucht, ist lächerlich. Leider haben Sie dafür nicht die Leute. Deshalb sind Sie so profitabel. Deshalb haben Sie und ich und wahrscheinlich auch viele andere Leute, die wir kennen, große Anteile an Facebook und all diesen Social Media Unternehmen, weil sie wirklich profitabel sind, weil es keinen Kundenservice gibt. Denn nicht Sie und ich sind die Kunden, sondern die Werbetreibenden sind die Kunden. Die einzige Möglichkeit, jemanden bei einem dieser großen Technologieunternehmen ans Telefon zu bekommen, besteht darin zu Hallo, ich würde heute gerne 10 Millionen Dollar für Werbung ausgeben. Dann bekommt man einen Anruf oder wenn man ein US Senator ist. Aber das fehlt einfach. Ich möchte Senatorin Klolobacher dafür loben, dass sie dieses Thema ernst genommen und beleuchtet hat. Als Senatorin wäre es sehr einfach zu Ich habe Besseres zu tun, als mich mit den sozialen Medien zu beschäftigen. Aber sie hat sich die Zeit genommen. Sie schreibt Meinungsartikel für die New York Times und nimmt es sehr ernst. Dafür spreche ich ihr mein Lob aus und ich bitte sie inständig, nur weil sie keine gemäßigte Zentristin sind wie Senatorin Klolobacher Du magst weit links stehen, weit rechts oder mega. Das betrifft jeden. Das geht über jede politische Partei, Ideologie oder jeden Aspekt von dir hinaus. Es läuft auf die tatsächliche Menschenwürde hinaus, auf die tatsächliche Kontrolle über dich selbst, ob du es nun das Recht auf Privatsphäre nennen willst, was in Europa eine gängige Vorstellung ist. Aber heutzutage spotten viele Leute über das Recht, die eigene Öffentlichkeitsarbeit zu monetarisieren. Es gibt viele verschiedene Sichtweisen dazu, aber letzten Endes muss ich davon ausgehen, dass du und jeder vernünftig denkende Mensch nicht möchte, dass sein eigenes Image von anderen Leuten aus finanziellen oder politischen Gründen manipuliert wird. Und das finde ich interessant. Ich habe in dieser Sendung schon oft darüber gesprochen, Diese ganze Sydney Sweeney Werbung, sie scheint nie zu verschwinden. Es gibt nur eine Sache, die an dieser Sydney Sweeney Werbung gleich bleibt. Ich habe es schon einmal gesagt und ich sage es noch Kein prominenter Demokrat, kein prominenter Liberaler oder fortschrittlicher Denker, Experte, Kolumnist oder Podcaster hat diese Sydney Sweeney Werbung für die American Apparel Jeans Company tatsächlich kritisiert. Alles, was wir gesehen haben, ist ein gefälschtes, unechtes, erfundenes Medienereignis, das nur mit dem ausdrücklichen Ziel erfolgt, Demokraten dumm, seltsam, weltfremd, liberal und fortschrittlich aussehen zu lassen. Es ist eine politische Keule, die immer weit erlebt. Sie wächst weiter und ist nach wie vor ein perfektes Beispiel dafür, dass ich diesen Begriff nicht gerne verwende, weil er so verfälscht wurde. Aber es handelt sich in Wirklichkeit um Fake News. Es ist in der Tat komplette politische Demagogie, Leute. Es gibt Demokraten Liberale und Progressive, die gelegentlich dumme Ideen haben. Genauso wie es konservative Leute rechts der Mitte, Libertäre und Mega Leute gibt, die gelegentlich dumme Ideen haben. Der Unterschied ist Hier ist eine Sache, über die sich im Grunde niemand links der Mitte oder in der Mitte aufregt. Und es war eine komplett erfundene Mediengeschichte, die speziell darauf ausgelegt war, einer politischen Partei zu helfen, der MAGA Partei, der Republikanischen Partei. Denn sie sollte jeden delegitimieren, der nicht Teil der MAGA Gruppe ist. Nicht weil es Fakten gibt, sondern einfach, weil es Spaß macht und wir es tun können. Das Äquivalent dazu wäre, wenn ein linksgerichteter Medienexperte oder politischer Aktivist einfach einen Deepfake von, sagen wir, einem prominenten republikanischen Senator machen würde, der Ich verdiene es, mit jedem attraktiven jährigen Mädchen im Land schlafen zu dürfen. Und dieser fortschrittliche demokratische Medienaktivist würde das Gruß rausbringen, überall verbreiten und alle anderen Mainstream Medien dazu bringen, darüber zu berichten. Wie kann Senator Smithers es wagen, zu behaupten, er habe das Recht, mit jedem attraktiven jährigen Mädchen in Amerika zu schlafen? Und das wurde zu einer großen Sache. Und dann spricht Bill Maher darüber und jeder Pop Podcaster spricht darüber und die Leute benutzen das als Beispiel. Hier ist ein perfektes Beispiel dafür, wie die GOP den Bezug zum modernen Amerika verloren hat und wie sehr das Ganze auf nichts basierte. Jetzt sagst TJ, das ist unmöglich, das würde doch niemand tun. Das wäre nicht fair. Nun rate mal, genau das passiert tagtäglich mit diesem Unsinn, diesem kompletten Unsinn von Sydney Sweeney.
