A OpenAI simplifica a verificação de imagens geradas por IA

À medida que os geradores de imagens por IA se tornam cada vez mais difundidos e sofisticados na internet, distinguir imagens reais das falsas nunca foi tão desafiador. Na terça-feira, a OpenAI divulgou duas novas medidas para lidar com essa questão.
A empresa adotou o padrão aberto C2PA, que incorpora um sinal claro nos metadados indicando que uma imagem foi gerada por IA. Além disso, a OpenAI está colaborando com o Google para incorporar uma marca d’água invisível chamada SynthID — projetada para ser mais difícil de detectar e ainda mais difícil de remover caso agentes mal-intencionados tentem ocultar seus rastros.
Atualmente, essas proteções se aplicam apenas a imagens geradas pelos próprios produtos da OpenAI; portanto, não irão conter a enxurrada de imagens provenientes de ferramentas de IA menos confiáveis. No entanto, elas ajudam a garantir que a própria OpenAI não contribua para o problema.
A OpenAI também apresentou uma prévia de uma ferramenta pública de verificação que verifica ambos os sinais, permitindo que os usuários testem facilmente se uma imagem foi gerada por IA. Inicialmente, a ferramenta funcionará apenas para imagens criadas por produtos da OpenAI, mas a empresa espera, eventualmente, estendê-la a outras ferramentas.
A Coalizão para a Proveniência e Autenticidade de Conteúdo (C2PA), fundada em 2021, é uma organização sem fins lucrativos focada em reduzir o impacto prejudicial das imagens geradas por IA no discurso público. O padrão C2PA foi adotado por vários produtos do Google, mas a adoção em todo o setor ainda é inconsistente. Como o sinal C2PA é facilmente acessível nos metadados de cada arquivo, ele pode ser manipulado, tornando-se mais eficaz entre usuários confiáveis.
O SynthID é uma iniciativa mais recente projetada para oferecer uma defesa mais robusta contra adulterações. Desenvolvida pelo Google, a marca d’água do SynthID foi projetada para persistir mesmo quando agentes mal-intencionados tentam removê-la por meio de capturas de tela, redimensionamento ou manipulação digital.
Os dois sistemas têm como objetivo se complementar, com cada um suprindo as limitações do outro.
“A marca d’água é mais resistente a transformações como capturas de tela, enquanto os metadados podem fornecer informações mais ricas do que uma marca d’água por si só”, observou a OpenAI em seu comunicado. “Juntos, eles tornam a proveniência mais resiliente do que qualquer uma das camadas seria sozinha.”
Artigo relacionado
Sam Altman Gera Debate Sobre a Desaceleração da IA
Escute noApple PodcastsEscute noSpotifyO CEO da OpenAI, Sam Altman, sugeriu recentemente que pode ser hora de “controlar o ritmo do desenvolvimento de IA” para permitir que a sociedade “se fortaleça em torno de alguns desses novos níveis de capacida
A OpenAI process a Apple por violação de segredo comercial
A OpenAI refutou as alegações de segredo comercial da Apple na terça-feira, argumentando que a ação judicial é infundada.“Levamos essas alegações a sério, mas não vemos evidências que as apoiem”, afirmou a OpenAI, conforme relatado por Ed Ludlow, da
A cabeça de robótica da OpenAI, Caitlin Kalinowski, renuncia devido à parceria com o Pentágono
O líder de robótica da OpenAI, Caitlin Kalinowski, renunciou após a polêmica parceria da empresa com o Departamento de Defesa.“Esta não foi uma decisão fácil”, explicou Kalinowski em uma declaração nas redes sociais. “Embora a IA desempenhe um papel
Recomendações de tópicos especiais relacionados
Comentários (0)

À medida que os geradores de imagens por IA se tornam cada vez mais difundidos e sofisticados na internet, distinguir imagens reais das falsas nunca foi tão desafiador. Na terça-feira, a OpenAI divulgou duas novas medidas para lidar com essa questão.
A empresa adotou o padrão aberto C2PA, que incorpora um sinal claro nos metadados indicando que uma imagem foi gerada por IA. Além disso, a OpenAI está colaborando com o Google para incorporar uma marca d’água invisível chamada SynthID — projetada para ser mais difícil de detectar e ainda mais difícil de remover caso agentes mal-intencionados tentem ocultar seus rastros.
Atualmente, essas proteções se aplicam apenas a imagens geradas pelos próprios produtos da OpenAI; portanto, não irão conter a enxurrada de imagens provenientes de ferramentas de IA menos confiáveis. No entanto, elas ajudam a garantir que a própria OpenAI não contribua para o problema.
A OpenAI também apresentou uma prévia de uma ferramenta pública de verificação que verifica ambos os sinais, permitindo que os usuários testem facilmente se uma imagem foi gerada por IA. Inicialmente, a ferramenta funcionará apenas para imagens criadas por produtos da OpenAI, mas a empresa espera, eventualmente, estendê-la a outras ferramentas.
A Coalizão para a Proveniência e Autenticidade de Conteúdo (C2PA), fundada em 2021, é uma organização sem fins lucrativos focada em reduzir o impacto prejudicial das imagens geradas por IA no discurso público. O padrão C2PA foi adotado por vários produtos do Google, mas a adoção em todo o setor ainda é inconsistente. Como o sinal C2PA é facilmente acessível nos metadados de cada arquivo, ele pode ser manipulado, tornando-se mais eficaz entre usuários confiáveis.
O SynthID é uma iniciativa mais recente projetada para oferecer uma defesa mais robusta contra adulterações. Desenvolvida pelo Google, a marca d’água do SynthID foi projetada para persistir mesmo quando agentes mal-intencionados tentam removê-la por meio de capturas de tela, redimensionamento ou manipulação digital.
Os dois sistemas têm como objetivo se complementar, com cada um suprindo as limitações do outro.
“A marca d’água é mais resistente a transformações como capturas de tela, enquanto os metadados podem fornecer informações mais ricas do que uma marca d’água por si só”, observou a OpenAI em seu comunicado. “Juntos, eles tornam a proveniência mais resiliente do que qualquer uma das camadas seria sozinha.”
Sam Altman Gera Debate Sobre a Desaceleração da IA
Escute noApple PodcastsEscute noSpotifyO CEO da OpenAI, Sam Altman, sugeriu recentemente que pode ser hora de “controlar o ritmo do desenvolvimento de IA” para permitir que a sociedade “se fortaleça em torno de alguns desses novos níveis de capacida
A OpenAI process a Apple por violação de segredo comercial
A OpenAI refutou as alegações de segredo comercial da Apple na terça-feira, argumentando que a ação judicial é infundada.“Levamos essas alegações a sério, mas não vemos evidências que as apoiem”, afirmou a OpenAI, conforme relatado por Ed Ludlow, da
A cabeça de robótica da OpenAI, Caitlin Kalinowski, renuncia devido à parceria com o Pentágono
O líder de robótica da OpenAI, Caitlin Kalinowski, renunciou após a polêmica parceria da empresa com o Departamento de Defesa.“Esta não foi uma decisão fácil”, explicou Kalinowski em uma declaração nas redes sociais. “Embora a IA desempenhe um papel





Lar






