O YouTube amplia a detecção de deepfakes por IA para políticos, autoridades governamentais e jornalistas

Na terça-feira, o YouTube anunciou que está expandindo sua tecnologia de detecção de deepfakes para um grupo seleto de autoridades governamentais, candidatos políticos e jornalistas. A ferramenta identifica imagens geradas por IA e permite que os participantes do projeto-piloto solicitem a remoção de conteúdo não autorizado que considerem violar as políticas do YouTube.

O sistema de detecção foi lançado pela primeira vez no ano passado para cerca de 4 milhões de criadores no Programa de Parceria do YouTube, após fases de testes anteriores.

Assim como o sistema Content ID existente do YouTube para materiais protegidos por direitos autorais, o recurso de detecção de imagens identificadas identifica rostos simulados por IA. Essas representações sintéticas são, por vezes, usadas para espalhar desinformação e distorcer a realidade, fazendo com que figuras notáveis pareçam dizer ou fazer coisas que nunca fizeram na vida real.

Com este programa piloto, o YouTube visa equilibrar a liberdade de expressão com os riscos da tecnologia de IA, que pode produzir representações convincentes de figuras públicas.

“Essa expansão visa, na verdade, proteger a integridade do debate público”, disse Leslie Miller, vice-presidente de Assuntos Governamentais e Políticas Públicas do YouTube, em uma coletiva de imprensa antes do anúncio de terça-feira. “Reconhecemos que a falsificação de identidade por IA representa riscos especialmente elevados para aqueles que atuam no espaço cívico. Mas, embora ofereçamos essa nova proteção, também a estamos aplicando com cautela”, acrescentou ela.

Crédito da imagem: YouTube

Miller explicou que nem toda correspondência detectada será removida mediante solicitação. Em vez disso, o YouTube avaliará cada solicitação de acordo com sua política de privacidade existente para determinar se o conteúdo se qualifica como paródia ou crítica política, ambas formas protegidas de liberdade de expressão.

A empresa também defende proteções federais, apoiando a Lei NO FAKES em Washington, D.C., que regulamentaria recriações não autorizadas geradas por IA da voz e da imagem de um indivíduo.

Os participantes elegíveis para o teste piloto devem verificar sua identidade enviando uma selfie e um documento de identidade oficial antes de usar a ferramenta. Uma vez aprovados, eles podem criar um perfil, revisar as correspondências detectadas e solicitar a remoção, se necessário. O YouTube planeja, eventualmente, permitir que os usuários bloqueiem conteúdos violadores antes que sejam publicados ou, potencialmente, monetizem esses vídeos, de forma semelhante ao funcionamento do Content ID.

O YouTube se recusou a citar nomes específicos de políticos ou autoridades no grupo inicial de testadores, mas afirmou que o objetivo é tornar a tecnologia amplamente disponível ao longo do tempo.

Crédito da imagem: YouTube

Vídeos gerados por IA terão rótulos indicando sua origem sintética, embora a localização varie. Para a maioria dos conteúdos, o rótulo aparece na descrição do vídeo. Para temas mais sensíveis, o rótulo é exibido de forma destacada antes do vídeo ser reproduzido. Essa abordagem reflete a política mais ampla do YouTube para todo conteúdo gerado por IA.

“Muito conteúdo é produzido com IA, mas essa distinção nem sempre é relevante para o conteúdo em si”, explicou Amjad Hanif, vice-presidente de Produtos para Criadores do YouTube, sobre a localização do rótulo. “Um desenho animado gerado por IA, por exemplo, é diferente de um conteúdo que talvez precise de um aviso mais visível. O contexto importa”, disse ele.

O YouTube não divulgou quantas remoções de deepfakes foram realizadas por meio de sua ferramenta voltada para criadores, mas observou que o volume até agora tem sido “muito pequeno”.

“Para a maioria dos criadores, a ferramenta serviu principalmente para aumentar a conscientização sobre o que está sendo produzido. Os pedidos reais de remoção são extremamente baixos porque a maior parte do conteúdo detectado acaba sendo inofensivo ou até mesmo benéfico para seus negócios”, disse Hanif.

Isso pode não ser o caso com deepfakes de autoridades governamentais, políticos ou jornalistas.

Olhando para o futuro, o YouTube planeja estender sua tecnologia de detecção de deepfakes a áreas adicionais, incluindo vozes faladas reconhecíveis e propriedade intelectual, como personagens populares.