Les morts ne peuvent pas être poursuivis pour diffamation, mais les deepfakes soulèvent de nouvelles alarmes éthiques.

Zelda Williams, la fille du défunt acteur Robin Williams, partage un message très personnel avec les fans de son père.

"Je vous demande d'arrêter de m'envoyer des vidéos de mon père générées par l'IA. Ne croyez pas que je veuille les voir ou que je les trouve intéressantes. Je ne le fais pas et je ne le ferai pas", a-t-elle exprimé dans une story Instagram publiée lundi. "Si vous avez un tant soit peu de respect, arrêtez de lui faire ça, à moi et à tous les autres. C'est inutile, un gaspillage d'efforts, et je peux vous assurer que ce n'est PAS ce qu'il aurait voulu."

Ce n'est probablement pas une coïncidence si Williams s'est senti obligé de publier ce message peu après le lancement du modèle vidéo Sora 2 d'OpenAI et de l'application sociale Sora, qui permet aux utilisateurs de créer des deepfakes très convaincants d'eux-mêmes, de leurs amis et de certains personnages de dessins animés.

Cette capacité s'étend aux personnes décédées, qui semblent être des cibles non protégées puisque, comme le souligne le Student Press Law Center, il n'est pas illégal de diffamer les morts.

Sora empêche les utilisateurs de générer des vidéos de personnes vivantes, sauf s'il s'agit d'eux-mêmes ou d'un ami qui a autorisé l'utilisation de leur image (ce qu'OpenAI appelle un "caméo"). Toutefois, ces restrictions ne s'appliquent pas aux personnes décédées, qui peuvent généralement être recréées sans problème. L'application, qui n'est actuellement accessible que sur invitation, a vu affluer des vidéos mettant en scène des personnages historiques tels que Martin Luther King, Franklin Delano Roosevelt et Richard Nixon, ainsi que des célébrités décédées telles que Bob Ross, John Lennon, Alex Trebek et, bien sûr, Robin Williams.

La politique d'OpenAI en matière de production de vidéos de personnes décédées reste ambiguë. Par exemple, d'après les tests effectués par TechCrunch, Sora 2 ne produira pas de vidéos de l'ancien président Jimmy Carter, décédé en 2024, ou de Michael Jackson, décédé en 2009, mais il a créé du contenu ressemblant à Robin Williams, décédé en 2014. Alors que la fonction caméo d'OpenAI permet aux personnes vivantes de définir des règles pour leur apparition dans les vidéos générées par d'autres - une réponse aux critiques antérieures de Sora - les personnes décédées ne disposent pas d'un tel contrôle. J'imagine que Richard Nixon se retournerait dans sa tombe s'il voyait le deepfake que j'ai réalisé de lui soutenant l'abolition de la police.

OpenAI n'a pas répondu à la demande de TechCrunch concernant l'autorisation de créer des deepfakes de personnes décédées. Néanmoins, il est possible que la création de deepfakes de célébrités décédées telles que Williams relève de l'usage acceptable de l'entreprise ; les précédents juridiques suggèrent qu'OpenAI ne serait probablement pas tenue responsable de la diffamation des personnes décédées.

Rejoignez plus de 10 000 leaders de la technologie et du capital-risque pour vous développer et nouer des relations à Disrupt 2025.

Netflix, Box, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil, Vinod Khosla - ce ne sont là que quelques-unes des 250 personnalités qui animeront plus de 200 sessions conçues pour fournir les informations qui alimentent la croissance des startups et vous permettent d'affiner vos connaissances. Ne manquez pas le 20e anniversaire de TechCrunch et l'occasion d'apprendre des plus grands noms de la technologie. Achetez votre billet avant l'ouverture des portes pour économiser jusqu'à 444 $.

Rejoignez plus de 10 000 leaders de la technologie et du capital-risque pour vous développer et nouer des relations à Disrupt 2025.

Netflix, Box, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil, Vinod Khosla - ce ne sont là que quelques-uns des 250 intervenants qui animeront plus de 200 sessions conçues pour fournir les informations qui alimentent la croissance des startups et vous permettent d'affiner vos connaissances. Ne manquez pas l'occasion d'apprendre des plus grands noms de la technologie. Achetez votre billet avant l'ouverture des portes pour économiser jusqu'à 444 dollars.

Voir l'héritage de personnes réelles réduit à "cela leur ressemble vaguement, donc c'est suffisant", juste pour que d'autres puissent produire d'horribles contenus TikTok en les marionnettisant, c'est exaspérant", a écrit M. Williams.

Les détracteurs d'OpenAI soutiennent que l'entreprise a été négligente sur ces questions, ce qui explique pourquoi Sora a été rapidement saturé de clips d'IA de personnages protégés par le droit d'auteur tels que Peter Griffin et Pikachu après son lancement. Le PDG Sam Altman a d'abord déclaré que les studios et les agences d'Hollywood devraient explicitement se retirer s'ils ne voulaient pas que leur propriété intellectuelle soit utilisée dans les vidéos générées par Sora. La Motion Picture Association a déjà demandé à OpenAI de se pencher sur cette question, déclarant que "la loi sur le droit d'auteur bien établie protège les droits des créateurs et s'applique dans ce cas". M. Altman a depuis annoncé que l'entreprise reviendrait sur cette position.

Sora est sans doute le modèle d'IA capable de réaliser des deepfakes le plus dangereux mis à la disposition du public à ce jour, compte tenu du réalisme de ses résultats. Les plateformes concurrentes, comme xAI, sont moins avancées mais présentent encore moins de garanties, ce qui permet la création de deepfakes pornographiques de personnes réelles. Alors que d'autres entreprises réduisent l'écart avec OpenAI, nous risquons de créer un précédent terrifiant si nous traitons des personnes réelles - qu'elles soient vivantes ou mortes - comme de simples jouets.