Os mortos não podem processar por difamação, mas os deepfakes levantam novos alarmes éticos.

Zelda Williams, filha do falecido ator Robin Williams, está compartilhando uma mensagem profundamente pessoal com os fãs de seu pai.

"Peço a vocês que parem de me enviar vídeos do meu pai gerados por IA. Não pensem que eu quero vê-los ou que os acharei significativos. Não quero e não vou achar", disse ela em uma história no Instagram publicada na segunda-feira. "Se você tem algum respeito, apenas pare de fazer isso com ele, comigo e com todos os outros. É inútil, um desperdício de esforço, e posso lhe garantir que NÃO é o que ele gostaria de fazer."

Provavelmente não é coincidência que Williams tenha se sentido compelido a fazer essa publicação logo após o lançamento do modelo de vídeo Sora 2 da OpenAI e do aplicativo social Sora, que permite aos usuários criar deepfakes altamente convincentes de si mesmos, de seus amigos e de personagens de desenhos animados específicos.

Essa capacidade se estende a indivíduos falecidos, que parecem ser alvos desprotegidos, pois, conforme observado pelo Student Press Law Center, não é ilegal difamar os mortos.

O Sora impede que os usuários gerem vídeos de pessoas vivas, a menos que seja deles mesmos ou de um amigo que tenha dado permissão para usar sua imagem (o que a OpenAI chama de "cameo"). No entanto, essas restrições não abrangem os falecidos, que geralmente podem ser recriados sem impedimentos. O aplicativo, atualmente disponível apenas por convite, tem visto um fluxo de vídeos com figuras históricas como Martin Luther King Jr., Franklin Delano Roosevelt e Richard Nixon, além de celebridades falecidas como Bob Ross, John Lennon, Alex Trebek e, de fato, Robin Williams.

A política da OpenAI sobre a geração de vídeos de mortos permanece ambígua. Por exemplo, com base nos testes do TechCrunch, o Sora 2 não produzirá vídeos do ex-presidente Jimmy Carter, que faleceu em 2024, ou de Michael Jackson, que morreu em 2009, mas criou conteúdo semelhante a Robin Williams, que morreu em 2014. Embora o recurso de camafeu da OpenAI permita que indivíduos vivos definam diretrizes para sua aparição em vídeos gerados por outros - uma resposta a críticas anteriores à Sora -, os falecidos não têm esse controle. Imagino que Richard Nixon estaria se revirando em seu túmulo se visse o deepfake que fiz dele endossando a abolição da polícia.

A OpenAI não respondeu à consulta do TechCrunch sobre a permissibilidade de criar deepfakes de pessoas falecidas. No entanto, é possível que a geração de deepfakes de celebridades falecidas, como Williams, esteja dentro do uso aceitável da empresa; precedentes legais sugerem que a OpenAI provavelmente não seria responsabilizada por difamar os mortos.

Junte-se a mais de 10 mil líderes de tecnologia e de capital de risco para crescimento e conexões no Disrupt 2025

Netflix, Box, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil, Vinod Khosla - apenas alguns dos mais de 250 grandes nomes que conduzirão mais de 200 sessões projetadas para fornecer os insights que impulsionam o crescimento de startups e aprimoram sua vantagem. Não perca o 20º aniversário do TechCrunch e a chance de aprender com as principais vozes da tecnologia. Adquira seu ingresso antes da abertura das portas e economize até US$ 444.

Junte-se a mais de 10 mil líderes de tecnologia e de capital de risco para crescimento e conexões no Disrupt 2025

Netflix, Box, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil, Vinod Khosla - apenas alguns dos mais de 250 nomes de peso que conduzirão mais de 200 sessões projetadas para fornecer os insights que impulsionam o crescimento de startups e aprimoram sua vantagem. Não perca a chance de aprender com as principais vozes da tecnologia. Adquira seu ingresso antes da abertura das portas para economizar até US$ 444.

"Ver o legado de pessoas reais reduzido a 'isso se parece vagamente com elas, então é bom o suficiente', apenas para que outros possam produzir conteúdo horrível do TikTok manipulando-as, é enfurecedor", escreveu Williams.

Os críticos da OpenAI argumentam que a empresa tem sido descuidada em relação a essas questões, e é por isso que a Sora foi rapidamente saturada com clipes de IA de personagens protegidos por direitos autorais, como Peter Griffin e Pikachu, após seu lançamento. Inicialmente, o CEO Sam Altman declarou que os estúdios e agências de Hollywood precisariam se recusar explicitamente se não quisessem que sua propriedade intelectual fosse usada em vídeos gerados pelo Sora. A Motion Picture Association já pediu à OpenAI que resolvesse esse problema, afirmando que "a lei de direitos autorais bem estabelecida protege os direitos dos criadores e é aplicável aqui". Desde então, Altman anunciou que a empresa reverterá essa posição.

Sora é, sem dúvida, o modelo de IA com capacidade de deepfake mais perigoso disponível para o público até o momento, dado o realismo de seus resultados. Plataformas concorrentes como a xAI são menos avançadas, mas têm ainda menos proteções, permitindo a criação de deepfakes pornográficos de pessoas reais. À medida que outras empresas diminuem a distância em relação à OpenAI, corremos o risco de estabelecer um precedente assustador se tratarmos indivíduos reais - vivos ou mortos - como meros brinquedos.