OpenAI facilite la vérification des images générées par l'IA

À mesure que les générateurs d’images basés sur l’IA se généralisent et gagnent en sophistication sur Internet, il n’a jamais été aussi difficile de distinguer les images réelles des faux. Mardi, OpenAI a dévoilé deux nouvelles mesures visant à remédier à ce problème.
L'entreprise a adopté la norme ouverte C2PA, qui intègre dans les métadonnées un signal clair indiquant qu'une image a été générée par l'IA. De plus, OpenAI collabore avec Google pour intégrer un filigrane invisible appelé SynthID, conçu pour être plus difficile à détecter et encore plus difficile à supprimer si des acteurs malveillants tentent de brouiller les pistes.
Ces protections ne s’appliquent pour l’instant qu’aux images générées par les propres produits d’OpenAI ; elles ne permettront donc pas d’endiguer le flot d’images provenant d’outils d’IA moins fiables. Elles contribuent toutefois à garantir qu’OpenAI elle-même ne participe pas au problème.
OpenAI a également présenté en avant-première un outil de vérification public qui analyse ces deux indicateurs, permettant ainsi aux utilisateurs de vérifier facilement si une image a été générée par une IA. Dans un premier temps, cet outil ne fonctionnera que pour les images créées par les produits d’OpenAI, mais l’entreprise espère à terme l’étendre à d’autres outils.
La Coalition for Content Provenance and Authenticity (C2PA), fondée en 2021, est une organisation à but non lucratif qui vise à réduire l’impact néfaste des images générées par l’IA sur le débat public. La norme C2PA a été adoptée par divers produits Google, mais son adoption à l’échelle du secteur reste inégale. Le signal C2PA étant facilement accessible dans les métadonnées de chaque fichier, il peut être manipulé, ce qui le rend particulièrement efficace parmi les utilisateurs de confiance.
SynthID est une initiative plus récente conçue pour offrir une protection plus solide contre la falsification. Développé par Google, le filigrane SynthID est conçu pour persister même lorsque des acteurs malveillants tentent de le supprimer par le biais de captures d’écran, de redimensionnement ou de manipulation numérique.
Ces deux systèmes sont destinés à se compléter, chacun palliant les limites de l’autre.
« Le tatouage numérique résiste mieux aux transformations telles que les captures d’écran, tandis que les métadonnées peuvent fournir des informations plus riches qu’un tatouage numérique seul », a noté OpenAI dans son communiqué. « Ensemble, ils rendent la traçabilité plus résiliente que ne le serait chacune de ces couches prise isolément. »
Article connexe
Sam Altman suscite un débat sur le ralentissement de l'IA
Écouter surApple PodcastsÉcouter surSpotifyLe PDG d'OpenAI, Sam Altman, a récemment suggéré qu'il était peut-être temps de « rythmer le rythme du développement de l'IA » afin de permettre à la société de « se renforcer autour de certains de ces nouv
OpenAI combat l’action en justice pour violation des secrets commerciaux intentée par Apple
OpenAI a réfuté les allégations de violation de secrets commerciaux d’Apple ce mardi, affirmant que le procès est infondé.« Nous prenons ces allégations au sérieux mais ne voyons aucune preuve à leur appui », a déclaré OpenAI, selon Ed Ludlow de Blo
La tête robotique d'OpenAI, Caitlin Kalinowski, démissionne en raison du partenariat avec le Pentagone
Caitlin Kalinowski, responsable de la robotique chez OpenAI, a démissionné à la suite du partenariat controversé de l’entreprise avec le département de la Défense.« Ce n’était pas une décision facile », a expliqué Kalinowski dans une déclaration sur
Recommandations de sujets spéciaux liés
commentaires (0)

À mesure que les générateurs d’images basés sur l’IA se généralisent et gagnent en sophistication sur Internet, il n’a jamais été aussi difficile de distinguer les images réelles des faux. Mardi, OpenAI a dévoilé deux nouvelles mesures visant à remédier à ce problème.
L'entreprise a adopté la norme ouverte C2PA, qui intègre dans les métadonnées un signal clair indiquant qu'une image a été générée par l'IA. De plus, OpenAI collabore avec Google pour intégrer un filigrane invisible appelé SynthID, conçu pour être plus difficile à détecter et encore plus difficile à supprimer si des acteurs malveillants tentent de brouiller les pistes.
Ces protections ne s’appliquent pour l’instant qu’aux images générées par les propres produits d’OpenAI ; elles ne permettront donc pas d’endiguer le flot d’images provenant d’outils d’IA moins fiables. Elles contribuent toutefois à garantir qu’OpenAI elle-même ne participe pas au problème.
OpenAI a également présenté en avant-première un outil de vérification public qui analyse ces deux indicateurs, permettant ainsi aux utilisateurs de vérifier facilement si une image a été générée par une IA. Dans un premier temps, cet outil ne fonctionnera que pour les images créées par les produits d’OpenAI, mais l’entreprise espère à terme l’étendre à d’autres outils.
La Coalition for Content Provenance and Authenticity (C2PA), fondée en 2021, est une organisation à but non lucratif qui vise à réduire l’impact néfaste des images générées par l’IA sur le débat public. La norme C2PA a été adoptée par divers produits Google, mais son adoption à l’échelle du secteur reste inégale. Le signal C2PA étant facilement accessible dans les métadonnées de chaque fichier, il peut être manipulé, ce qui le rend particulièrement efficace parmi les utilisateurs de confiance.
SynthID est une initiative plus récente conçue pour offrir une protection plus solide contre la falsification. Développé par Google, le filigrane SynthID est conçu pour persister même lorsque des acteurs malveillants tentent de le supprimer par le biais de captures d’écran, de redimensionnement ou de manipulation numérique.
Ces deux systèmes sont destinés à se compléter, chacun palliant les limites de l’autre.
« Le tatouage numérique résiste mieux aux transformations telles que les captures d’écran, tandis que les métadonnées peuvent fournir des informations plus riches qu’un tatouage numérique seul », a noté OpenAI dans son communiqué. « Ensemble, ils rendent la traçabilité plus résiliente que ne le serait chacune de ces couches prise isolément. »
Sam Altman suscite un débat sur le ralentissement de l'IA
Écouter surApple PodcastsÉcouter surSpotifyLe PDG d'OpenAI, Sam Altman, a récemment suggéré qu'il était peut-être temps de « rythmer le rythme du développement de l'IA » afin de permettre à la société de « se renforcer autour de certains de ces nouv
OpenAI combat l’action en justice pour violation des secrets commerciaux intentée par Apple
OpenAI a réfuté les allégations de violation de secrets commerciaux d’Apple ce mardi, affirmant que le procès est infondé.« Nous prenons ces allégations au sérieux mais ne voyons aucune preuve à leur appui », a déclaré OpenAI, selon Ed Ludlow de Blo
La tête robotique d'OpenAI, Caitlin Kalinowski, démissionne en raison du partenariat avec le Pentagone
Caitlin Kalinowski, responsable de la robotique chez OpenAI, a démissionné à la suite du partenariat controversé de l’entreprise avec le département de la Défense.« Ce n’était pas une décision facile », a expliqué Kalinowski dans une déclaration sur





Maison






