OpenAI facilita la verificación de imágenes generadas por IA

A medida que los generadores de imágenes basados en IA se generalizan y se vuelven cada vez más sofisticados en Internet, distinguir las imágenes reales de las falsas nunca ha sido tan complicado. El martes, OpenAI presentó dos nuevas medidas para abordar este problema.
La empresa ha adoptado el estándar abierto C2PA, que incorpora una señal clara en los metadatos que indica que una imagen ha sido generada por IA. Además, OpenAI está colaborando con Google para incorporar una marca de agua invisible denominada SynthID, diseñada para ser más difícil de detectar y aún más difícil de eliminar en caso de que actores malintencionados intenten borrar sus huellas.
Estas medidas de protección se aplican actualmente solo a las imágenes generadas por los propios productos de OpenAI, por lo que no frenarán la avalancha de imágenes procedentes de herramientas de IA de menor reputación. Sin embargo, ayudan a garantizar que la propia OpenAI no contribuya al problema.
OpenAI también ha presentado una versión preliminar de una herramienta de verificación pública que comprueba ambas señales, lo que permite a los usuarios comprobar fácilmente si una imagen ha sido generada por IA. Inicialmente, la herramienta solo funcionará con imágenes creadas por productos de OpenAI, pero la empresa espera ampliarla con el tiempo a otras herramientas.
La Coalición para la Procedencia y la Autenticidad de los Contenidos (C2PA), fundada en 2021, es una organización sin ánimo de lucro centrada en reducir el impacto perjudicial de las imágenes generadas por IA en el discurso público. El estándar C2PA ha sido adoptado por varios productos de Google, pero su adopción en todo el sector sigue siendo irregular. Dado que la señal C2PA es fácilmente accesible en los metadatos de cada archivo, puede ser manipulada, por lo que resulta más eficaz entre usuarios de confianza.
SynthID es una iniciativa más reciente diseñada para ofrecer una defensa más sólida contra la manipulación. Desarrollada por Google, la marca de agua SynthID está diseñada para persistir incluso cuando actores malintencionados intentan eliminarla mediante capturas de pantalla, cambios de tamaño o manipulación digital.
Ambos sistemas están pensados para complementarse mutuamente, de modo que cada uno subsana las limitaciones del otro.
«La marca de agua es más resistente a transformaciones como las capturas de pantalla, mientras que los metadatos pueden proporcionar información más detallada que una marca de agua por sí sola», señaló OpenAI en su comunicado. «Juntos, hacen que la procedencia sea más resistente de lo que lo sería cualquiera de las dos capas por sí sola».
Artículo relacionado
Sam Altman desata un debate sobre la desaceleración de la IA
Escuchar enApple PodcastsEscuchar enSpotifyEl director ejecutivo de OpenAI, Sam Altman, sugirió recientemente que podría ser el momento de “regular el ritmo del desarrollo de la IA” para permitir que la sociedad “se fortalezca en torno a algunos de
OpenAI enfrenta una demanda por secreto comercial de Apple
OpenAI rebatió las alegaciones de Apple sobre secretos comerciales el martes, argumentando que la demanda es infundada.“Tomamos estas afirmaciones en serio, pero no vemos ninguna evidencia que las respalde”, declaró OpenAI, según informó Ed Ludlow d
La jefa de robótica de OpenAI, Caitlin Kalinowski, renuncia por la asociación con el Pentágono
El líder de robótica de OpenAI, Caitlin Kalinowski, ha dimitido tras la controvertida asociación de la empresa con el Departamento de Defensa.“Esta no fue una decisión fácil”, explicó Kalinowski en un comunicado en redes sociales. “Aunque la IA dese
Recomendaciones de temas especiales relacionados
comentario (0)
0/500

A medida que los generadores de imágenes basados en IA se generalizan y se vuelven cada vez más sofisticados en Internet, distinguir las imágenes reales de las falsas nunca ha sido tan complicado. El martes, OpenAI presentó dos nuevas medidas para abordar este problema.
La empresa ha adoptado el estándar abierto C2PA, que incorpora una señal clara en los metadatos que indica que una imagen ha sido generada por IA. Además, OpenAI está colaborando con Google para incorporar una marca de agua invisible denominada SynthID, diseñada para ser más difícil de detectar y aún más difícil de eliminar en caso de que actores malintencionados intenten borrar sus huellas.
Estas medidas de protección se aplican actualmente solo a las imágenes generadas por los propios productos de OpenAI, por lo que no frenarán la avalancha de imágenes procedentes de herramientas de IA de menor reputación. Sin embargo, ayudan a garantizar que la propia OpenAI no contribuya al problema.
OpenAI también ha presentado una versión preliminar de una herramienta de verificación pública que comprueba ambas señales, lo que permite a los usuarios comprobar fácilmente si una imagen ha sido generada por IA. Inicialmente, la herramienta solo funcionará con imágenes creadas por productos de OpenAI, pero la empresa espera ampliarla con el tiempo a otras herramientas.
La Coalición para la Procedencia y la Autenticidad de los Contenidos (C2PA), fundada en 2021, es una organización sin ánimo de lucro centrada en reducir el impacto perjudicial de las imágenes generadas por IA en el discurso público. El estándar C2PA ha sido adoptado por varios productos de Google, pero su adopción en todo el sector sigue siendo irregular. Dado que la señal C2PA es fácilmente accesible en los metadatos de cada archivo, puede ser manipulada, por lo que resulta más eficaz entre usuarios de confianza.
SynthID es una iniciativa más reciente diseñada para ofrecer una defensa más sólida contra la manipulación. Desarrollada por Google, la marca de agua SynthID está diseñada para persistir incluso cuando actores malintencionados intentan eliminarla mediante capturas de pantalla, cambios de tamaño o manipulación digital.
Ambos sistemas están pensados para complementarse mutuamente, de modo que cada uno subsana las limitaciones del otro.
«La marca de agua es más resistente a transformaciones como las capturas de pantalla, mientras que los metadatos pueden proporcionar información más detallada que una marca de agua por sí sola», señaló OpenAI en su comunicado. «Juntos, hacen que la procedencia sea más resistente de lo que lo sería cualquiera de las dos capas por sí sola».
Sam Altman desata un debate sobre la desaceleración de la IA
Escuchar enApple PodcastsEscuchar enSpotifyEl director ejecutivo de OpenAI, Sam Altman, sugirió recientemente que podría ser el momento de “regular el ritmo del desarrollo de la IA” para permitir que la sociedad “se fortalezca en torno a algunos de
OpenAI enfrenta una demanda por secreto comercial de Apple
OpenAI rebatió las alegaciones de Apple sobre secretos comerciales el martes, argumentando que la demanda es infundada.“Tomamos estas afirmaciones en serio, pero no vemos ninguna evidencia que las respalde”, declaró OpenAI, según informó Ed Ludlow d
La jefa de robótica de OpenAI, Caitlin Kalinowski, renuncia por la asociación con el Pentágono
El líder de robótica de OpenAI, Caitlin Kalinowski, ha dimitido tras la controvertida asociación de la empresa con el Departamento de Defensa.“Esta no fue una decisión fácil”, explicó Kalinowski en un comunicado en redes sociales. “Aunque la IA dese





Hogar






