Tote können nicht wegen Verleumdung verklagt werden, aber Deepfakes lösen neue ethische Alarmsignale aus.

Zelda Williams, die Tochter des verstorbenen Schauspielers Robin Williams, richtet sich mit einer sehr persönlichen Botschaft an die Fans ihres Vaters.

"Ich bitte euch, hört auf, mir KI-generierte Videos von meinem Vater zu schicken. Denkt nicht, dass ich sie sehen will oder dass ich sie sinnvoll finde. Das will ich nicht und werde ich auch nicht", schrieb sie in einer Instagram-Story, die sie am Montag veröffentlichte. "Wenn ihr irgendeinen Respekt habt, hört einfach auf, ihm, mir und allen anderen das anzutun. Es ist sinnlos, eine Verschwendung von Mühe, und ich kann euch versichern, dass es NICHT das ist, was er gewollt hätte."

Es ist wahrscheinlich kein Zufall, dass Williams sich veranlasst sah, dies kurz nach der Einführung des Sora 2-Videomodells von OpenAI und der sozialen App Sora zu posten, die es den Nutzern ermöglicht, äußerst überzeugende Deepfakes von sich selbst, ihren Freunden und bestimmten Zeichentrickfiguren zu erstellen.

Diese Fähigkeit erstreckt sich auch auf verstorbene Personen, die anscheinend ungeschützte Ziele sind, da es, wie das Student Press Law Center feststellt, nicht illegal ist, Tote zu diffamieren.

Sora verbietet es den Nutzern, Videos von lebenden Personen zu erstellen - es sei denn, es handelt sich um sie selbst oder einen Freund, der die Erlaubnis erteilt hat, ihr Bildnis zu verwenden (was OpenAI als "Cameo" bezeichnet). Diese Einschränkungen gelten jedoch nicht für Verstorbene, die im Allgemeinen ungehindert nachgebildet werden können. Die App, die derzeit nur auf Einladung verfügbar ist, hat einen Zustrom von Videos mit historischen Persönlichkeiten wie Martin Luther King, Jr., Franklin Delano Roosevelt und Richard Nixon sowie verstorbenen Berühmtheiten wie Bob Ross, John Lennon, Alex Trebek und sogar Robin Williams erlebt.

Die Politik von OpenAI in Bezug auf die Erstellung von Videos von Verstorbenen bleibt zweideutig. Nach den Tests von TechCrunch produziert Sora 2 beispielsweise keine Videos des ehemaligen Präsidenten Jimmy Carter, der 2024 verstorben ist, oder des 2009 verstorbenen Michael Jackson, aber es hat Inhalte erstellt, die dem 2014 verstorbenen Robin Williams ähneln. Während die Cameo-Funktion von OpenAI es lebenden Personen ermöglicht, Richtlinien für ihr Erscheinen in von anderen erstellten Videos festzulegen - eine Reaktion auf frühere Kritik an Sora - haben Verstorbene keine solche Kontrolle. Ich stelle mir vor, dass Richard Nixon sich im Grab umdrehen würde, wenn er das Deepfake sehen würde, das ich von ihm gemacht habe und in dem er die Abschaffung der Polizei befürwortet.

OpenAI hat auf die Anfrage von TechCrunch bezüglich der Zulässigkeit der Erstellung von Deepfakes von verstorbenen Personen nicht geantwortet. Es ist jedoch möglich, dass die Erstellung von Deepfakes von verstorbenen Berühmtheiten wie Williams in den zulässigen Rahmen des Unternehmens fällt; rechtliche Präzedenzfälle deuten darauf hin, dass OpenAI wahrscheinlich nicht für die Diffamierung von Verstorbenen haftbar gemacht werden kann.

Treffen Sie mehr als 10.000 Tech- und VC-Führungskräfte auf der Disrupt 2025, um zu wachsen und Kontakte zu knüpfen

Netflix, Box, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil, Vinod Khosla - das sind nur einige der 250+ führenden Köpfe, die in über 200 Sessions die Erkenntnisse vermitteln, die das Wachstum von Startups fördern und Ihren Vorsprung ausbauen. Verpassen Sie nicht das 20-jährige Jubiläum von TechCrunch und die Chance, von den führenden Köpfen der Tech-Branche zu lernen. Sichern Sie sich Ihr Ticket, bevor die Türen geöffnet werden, und sparen Sie bis zu 444 $.

Besuchen Sie die Disrupt 2025 mit mehr als 10.000 Tech- und VC-Führungskräften für Wachstum und Kontakte

Netflix, Box, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil, Vinod Khosla - das sind nur einige der mehr als 250 hochkarätigen Referenten, die in mehr als 200 Sessions die Erkenntnisse vermitteln, die das Wachstum von Startups vorantreiben und Ihren Vorsprung ausbauen. Verpassen Sie nicht die Chance, von den führenden Köpfen der Tech-Branche zu lernen. Sichern Sie sich Ihr Ticket, bevor die Türen geöffnet werden, und sparen Sie bis zu 444 $.

"Es macht mich wütend, wenn ich sehe, wie die Hinterlassenschaften echter Menschen darauf reduziert werden, dass sie ihnen nur noch vage ähneln, damit andere schreckliche TikTok-Inhalte produzieren können, die sie als Puppen darstellen", schrieb Williams.

Kritiker von OpenAI behaupten, das Unternehmen sei in solchen Angelegenheiten nachlässig gewesen, weshalb Sora nach seinem Start schnell mit KI-Clips von urheberrechtlich geschützten Figuren wie Peter Griffin und Pikachu überschwemmt wurde. CEO Sam Altman erklärte zunächst, dass Hollywood-Studios und Agenturen sich ausdrücklich abmelden müssten, wenn sie nicht wollten, dass ihr geistiges Eigentum in von Sora generierten Videos verwendet wird. Die Motion Picture Association hat OpenAI bereits aufgefordert, sich mit diesem Problem zu befassen und erklärt, dass "das etablierte Urheberrecht die Rechte der Urheber schützt und hier anwendbar ist." Altman hat inzwischen angekündigt, dass das Unternehmen diese Haltung ändern wird.

Sora ist wohl das gefährlichste Deepfake-fähige KI-Modell, das der Öffentlichkeit bisher zur Verfügung steht, da seine Ergebnisse sehr realistisch sind. Konkurrierende Plattformen wie xAI sind weniger fortschrittlich, haben aber noch weniger Sicherheitsvorkehrungen und ermöglichen die Erstellung pornografischer Deepfakes von echten Menschen. Während andere Unternehmen den Abstand zu OpenAI verringern, riskieren wir, einen erschreckenden Präzedenzfall zu schaffen, wenn wir echte Menschen - ob lebend oder tot - als bloße Spielzeuge behandeln.