OpenAI vereinfacht die Überprüfung von KI-generierten Bildern

Da sich KI-Bildgeneratoren im Internet immer weiter verbreiten und immer ausgefeilter werden, ist es schwieriger denn je, echte Bilder von Fälschungen zu unterscheiden. Am Dienstag stellte OpenAI zwei neue Maßnahmen vor, um dieses Problem anzugehen.
Das Unternehmen hat den offenen C2PA-Standard übernommen, der ein eindeutiges Signal in die Metadaten einbettet, das darauf hinweist, dass ein Bild KI-generiert wurde. Darüber hinaus arbeitet OpenAI mit Google zusammen, um ein unsichtbares Wasserzeichen namens SynthID zu integrieren – das so konzipiert ist, dass es schwerer zu erkennen und noch schwieriger zu entfernen ist, falls böswillige Akteure versuchen, ihre Spuren zu verwischen.
Diese Schutzmaßnahmen gelten derzeit nur für Bilder, die mit den eigenen Produkten von OpenAI erstellt wurden; sie werden daher die Flut von Bildern aus weniger seriösen KI-Tools nicht eindämmen. Sie tragen jedoch dazu bei, sicherzustellen, dass OpenAI selbst nicht zu dem Problem beiträgt.
OpenAI hat zudem eine Vorschau auf ein öffentliches Verifizierungstool vorgestellt, das auf beide Signale prüft und es Nutzern ermöglicht, auf einfache Weise zu testen, ob ein Bild KI-generiert wurde. Zunächst wird das Tool nur für Bilder funktionieren, die mit OpenAI-Produkten erstellt wurden, doch das Unternehmen hofft, es schließlich auf andere Tools auszuweiten.
Die 2021 gegründete „Coalition for Content Provenance and Authenticity“ (C2PA) ist eine gemeinnützige Organisation, die sich darauf konzentriert, die schädlichen Auswirkungen von KI-generierten Bildern auf den öffentlichen Diskurs zu verringern. Der C2PA-Standard wurde von verschiedenen Google-Produkten übernommen, doch die branchenweite Akzeptanz ist nach wie vor uneinheitlich. Da das C2PA-Signal in den Metadaten jeder Datei leicht zugänglich ist, kann es manipuliert werden, weshalb es vor allem bei vertrauenswürdigen Nutzern am effektivsten ist.
SynthID ist eine neuere Initiative, die einen robusteren Schutz vor Manipulationen bieten soll. Das von Google entwickelte SynthID-Wasserzeichen ist so konzipiert, dass es auch dann bestehen bleibt, wenn böswillige Akteure versuchen, es durch Screenshots, Größenänderung oder digitale Manipulation zu entfernen.
Die beiden Systeme sollen sich gegenseitig ergänzen, wobei jedes die Einschränkungen des anderen ausgleicht.
„Wasserzeichen sind bei Bearbeitungen wie Screenshots widerstandsfähiger, während Metadaten umfangreichere Informationen liefern können als ein Wasserzeichen allein“, erklärte OpenAI in seiner Ankündigung. „Zusammen machen sie die Herkunftsnachweise widerstandsfähiger, als es jede der beiden Ebenen für sich allein wäre.“
Verwandter Artikel
Sam Altman löst eine Debatte über die Verlangsamung der KI-Entwicklung aus
Bei Apple Podcasts anhörenBei Spotify anhörenDer CEO von OpenAI, Sam Altman, hat kürzlich vorgeschlagen, es könnte an der Zeit sein, „das Tempo der KI-Entwicklung zu drosseln“, um der Gesellschaft Zeit zu geben, „sich um einige dieser neuen Fähigkei
OpenAI beklagt sich über Apples Handelsgeheimnis-Klage
OpenAI widerlegte am Dienstag Apples Vorwürfe wegen Verletzung von Geschäftsgeheimnissen und argumentierte, der Klage fehle jede Grundlage.„Wir nehmen diese Behauptungen ernst, sehen jedoch keine Beweise, die sie stützen“, erklärte OpenAI, wie Bloom
OpenAI-Robotik-Chefin Caitlin Kalinowski tritt zurück wegen Pentagon-Partnerschaft
Der Leiter der Robotik-Abteilung von OpenAI, Caitlin Kalinowski, ist zurückgetreten, nachdem das Unternehmen eine umstrittene Partnerschaft mit dem Verteidigungsministerium eingegangen war.„Dies war keine einfache Entscheidung“, erklärte Kalinowski
Empfehlungen zu verwandten Spezialthemen
Kommentare (0)

Da sich KI-Bildgeneratoren im Internet immer weiter verbreiten und immer ausgefeilter werden, ist es schwieriger denn je, echte Bilder von Fälschungen zu unterscheiden. Am Dienstag stellte OpenAI zwei neue Maßnahmen vor, um dieses Problem anzugehen.
Das Unternehmen hat den offenen C2PA-Standard übernommen, der ein eindeutiges Signal in die Metadaten einbettet, das darauf hinweist, dass ein Bild KI-generiert wurde. Darüber hinaus arbeitet OpenAI mit Google zusammen, um ein unsichtbares Wasserzeichen namens SynthID zu integrieren – das so konzipiert ist, dass es schwerer zu erkennen und noch schwieriger zu entfernen ist, falls böswillige Akteure versuchen, ihre Spuren zu verwischen.
Diese Schutzmaßnahmen gelten derzeit nur für Bilder, die mit den eigenen Produkten von OpenAI erstellt wurden; sie werden daher die Flut von Bildern aus weniger seriösen KI-Tools nicht eindämmen. Sie tragen jedoch dazu bei, sicherzustellen, dass OpenAI selbst nicht zu dem Problem beiträgt.
OpenAI hat zudem eine Vorschau auf ein öffentliches Verifizierungstool vorgestellt, das auf beide Signale prüft und es Nutzern ermöglicht, auf einfache Weise zu testen, ob ein Bild KI-generiert wurde. Zunächst wird das Tool nur für Bilder funktionieren, die mit OpenAI-Produkten erstellt wurden, doch das Unternehmen hofft, es schließlich auf andere Tools auszuweiten.
Die 2021 gegründete „Coalition for Content Provenance and Authenticity“ (C2PA) ist eine gemeinnützige Organisation, die sich darauf konzentriert, die schädlichen Auswirkungen von KI-generierten Bildern auf den öffentlichen Diskurs zu verringern. Der C2PA-Standard wurde von verschiedenen Google-Produkten übernommen, doch die branchenweite Akzeptanz ist nach wie vor uneinheitlich. Da das C2PA-Signal in den Metadaten jeder Datei leicht zugänglich ist, kann es manipuliert werden, weshalb es vor allem bei vertrauenswürdigen Nutzern am effektivsten ist.
SynthID ist eine neuere Initiative, die einen robusteren Schutz vor Manipulationen bieten soll. Das von Google entwickelte SynthID-Wasserzeichen ist so konzipiert, dass es auch dann bestehen bleibt, wenn böswillige Akteure versuchen, es durch Screenshots, Größenänderung oder digitale Manipulation zu entfernen.
Die beiden Systeme sollen sich gegenseitig ergänzen, wobei jedes die Einschränkungen des anderen ausgleicht.
„Wasserzeichen sind bei Bearbeitungen wie Screenshots widerstandsfähiger, während Metadaten umfangreichere Informationen liefern können als ein Wasserzeichen allein“, erklärte OpenAI in seiner Ankündigung. „Zusammen machen sie die Herkunftsnachweise widerstandsfähiger, als es jede der beiden Ebenen für sich allein wäre.“
Sam Altman löst eine Debatte über die Verlangsamung der KI-Entwicklung aus
Bei Apple Podcasts anhörenBei Spotify anhörenDer CEO von OpenAI, Sam Altman, hat kürzlich vorgeschlagen, es könnte an der Zeit sein, „das Tempo der KI-Entwicklung zu drosseln“, um der Gesellschaft Zeit zu geben, „sich um einige dieser neuen Fähigkei
OpenAI beklagt sich über Apples Handelsgeheimnis-Klage
OpenAI widerlegte am Dienstag Apples Vorwürfe wegen Verletzung von Geschäftsgeheimnissen und argumentierte, der Klage fehle jede Grundlage.„Wir nehmen diese Behauptungen ernst, sehen jedoch keine Beweise, die sie stützen“, erklärte OpenAI, wie Bloom
OpenAI-Robotik-Chefin Caitlin Kalinowski tritt zurück wegen Pentagon-Partnerschaft
Der Leiter der Robotik-Abteilung von OpenAI, Caitlin Kalinowski, ist zurückgetreten, nachdem das Unternehmen eine umstrittene Partnerschaft mit dem Verteidigungsministerium eingegangen war.„Dies war keine einfache Entscheidung“, erklärte Kalinowski





Heim






