OpenAI、AI生成画像の検証を簡素化

オンライン上でAI画像生成ツールがますます普及し、高度化するにつれ、本物の画像と偽物の画像を見分けることはかつてないほど困難になっています。火曜日、OpenAIはこの問題に対処するための2つの新たな対策を発表しました。
同社は、画像がAIによって生成されたことを示す明確なシグナルをメタデータに埋め込むオープンなC2PA規格を採用しました。さらに、OpenAIはGoogleと協力し、SynthIDと呼ばれる目に見えない透かしを組み込む予定です。これは、悪意のある者が痕跡を隠そうとした場合でも、検出が難しく、除去がさらに困難になるように設計されています。
これらの保護措置は現在、OpenAI独自の製品によって生成された画像にのみ適用されるため、信頼性の低いAIツールから流出する画像の氾濫を食い止めることはできない。しかし、OpenAI自体がこの問題に加担しないことを確実にする助けとなる。
また、OpenAIは、これら2つのシグナルを両方チェックする公開検証ツールのプレビューも公開しており、ユーザーは画像がAIによって生成されたものかどうかを簡単に確認できるようになります。当初、このツールはOpenAIの製品で作成された画像にのみ対応しますが、同社は将来的には他のツールにも対応範囲を拡大することを目指しています。
2021年に設立された「コンテンツの出所と真正性に関する連合(C2PA)」は、AI生成画像が公の議論に及ぼす有害な影響を軽減することに焦点を当てた非営利団体である。 C2PA規格はGoogleのさまざまな製品で採用されていますが、業界全体での採用状況にはばらつきがあります。C2PAシグナルは各ファイルのメタデータから容易に取得できるため、改ざんの対象となりやすく、信頼できるユーザー間での利用において最も効果を発揮します。
SynthIDは、改ざんに対するより強固な防御を提供するために設計された、比較的新しい取り組みです。Googleが開発したSynthIDの透かしは、悪意のある者がスクリーンショット、サイズ変更、またはデジタル加工によって削除しようとしても、残るように設計されています。
これら2つのシステムは互いに補完し合うことを意図しており、それぞれが相手の限界を補う役割を果たします。
「透かしはスクリーンショットなどの変換処理に対してより耐久性が高く、一方、メタデータは透かし単独よりも豊富な情報を提供できる」と、OpenAIは発表の中で述べている。「これらを組み合わせることで、個々のレイヤーが単独で機能する場合よりも、出所の追跡(プロヴェナンス)の堅牢性を高めることができる。」
関連記事
サム・アルトマン氏によるAIの減速論が議論を呼ぶ
Apple Podcastsで聴くSpotifyで聴くOpenAIのCEO、サム・アルトマン氏は最近、社会が「これらの新しい能力レベルのいくつかに対して強固になる」時間を確保するため、「AI開発の速度を制御する」時期が来た可能性を示唆した。TechCrunchの「Equity」ポッドキャストの最新回で、ケルステン・コロセック、ショーン・Oケイン、そして私自身は、アルトマン氏の発言が、OpenAIのエージェントがHugging Faceのシステムに侵入した最近のハッキング事件をきっかけとしたも
OpenAIはアップルの営業秘密訴訟と戦っている
OpenAIは火曜日、Appleの営業秘密に関する主張に反論し、同訴訟は根拠がないと主張した。「これらの主張を真剣に受け止めているが、それを支持する証拠は見当たらない」とOpenAIは述べた。これはBloombergのEd LudlowがXで報じたものである。「私たちは公正な競争とどこでも働く自由を支持しており、世界中のユーザーを強化する技術の創出に注力しています。」これは、Appleが金曜日に米国北カリフォルニア連邦地方裁判所に提起した訴訟に続くものである。同訴訟は、OpenAIが元App
OpenAIのロボティクス部門ヘッド、ケイトリン・カリノフスキー氏がペンタゴンとの提携を理由に辞任
OpenAIのロボティクスリーダーであるケイトリン・カリノフスキーは、同社と国防総省との論争の的となったパートナーシップの後に辞任した。「これは簡単な決断ではなかった」と、カリノフスキーはソーシャルメディアでの声明で説明した。「AIが国家安全保障において重要な役割を果たしていることは事実だが、司法の監督なしにアメリカ国民の監視を行い、人間の承認なしに致死性の自律システムを展開することは、はるかに慎重な検討を必要とする境界線である」。Metaの拡張現実(AR)グラス部門を率いていたことで知られ
関連特集おすすめ
コメント (0)
0/500

オンライン上でAI画像生成ツールがますます普及し、高度化するにつれ、本物の画像と偽物の画像を見分けることはかつてないほど困難になっています。火曜日、OpenAIはこの問題に対処するための2つの新たな対策を発表しました。
同社は、画像がAIによって生成されたことを示す明確なシグナルをメタデータに埋め込むオープンなC2PA規格を採用しました。さらに、OpenAIはGoogleと協力し、SynthIDと呼ばれる目に見えない透かしを組み込む予定です。これは、悪意のある者が痕跡を隠そうとした場合でも、検出が難しく、除去がさらに困難になるように設計されています。
これらの保護措置は現在、OpenAI独自の製品によって生成された画像にのみ適用されるため、信頼性の低いAIツールから流出する画像の氾濫を食い止めることはできない。しかし、OpenAI自体がこの問題に加担しないことを確実にする助けとなる。
また、OpenAIは、これら2つのシグナルを両方チェックする公開検証ツールのプレビューも公開しており、ユーザーは画像がAIによって生成されたものかどうかを簡単に確認できるようになります。当初、このツールはOpenAIの製品で作成された画像にのみ対応しますが、同社は将来的には他のツールにも対応範囲を拡大することを目指しています。
2021年に設立された「コンテンツの出所と真正性に関する連合(C2PA)」は、AI生成画像が公の議論に及ぼす有害な影響を軽減することに焦点を当てた非営利団体である。 C2PA規格はGoogleのさまざまな製品で採用されていますが、業界全体での採用状況にはばらつきがあります。C2PAシグナルは各ファイルのメタデータから容易に取得できるため、改ざんの対象となりやすく、信頼できるユーザー間での利用において最も効果を発揮します。
SynthIDは、改ざんに対するより強固な防御を提供するために設計された、比較的新しい取り組みです。Googleが開発したSynthIDの透かしは、悪意のある者がスクリーンショット、サイズ変更、またはデジタル加工によって削除しようとしても、残るように設計されています。
これら2つのシステムは互いに補完し合うことを意図しており、それぞれが相手の限界を補う役割を果たします。
「透かしはスクリーンショットなどの変換処理に対してより耐久性が高く、一方、メタデータは透かし単独よりも豊富な情報を提供できる」と、OpenAIは発表の中で述べている。「これらを組み合わせることで、個々のレイヤーが単独で機能する場合よりも、出所の追跡(プロヴェナンス)の堅牢性を高めることができる。」
サム・アルトマン氏によるAIの減速論が議論を呼ぶ
Apple Podcastsで聴くSpotifyで聴くOpenAIのCEO、サム・アルトマン氏は最近、社会が「これらの新しい能力レベルのいくつかに対して強固になる」時間を確保するため、「AI開発の速度を制御する」時期が来た可能性を示唆した。TechCrunchの「Equity」ポッドキャストの最新回で、ケルステン・コロセック、ショーン・Oケイン、そして私自身は、アルトマン氏の発言が、OpenAIのエージェントがHugging Faceのシステムに侵入した最近のハッキング事件をきっかけとしたも
OpenAIはアップルの営業秘密訴訟と戦っている
OpenAIは火曜日、Appleの営業秘密に関する主張に反論し、同訴訟は根拠がないと主張した。「これらの主張を真剣に受け止めているが、それを支持する証拠は見当たらない」とOpenAIは述べた。これはBloombergのEd LudlowがXで報じたものである。「私たちは公正な競争とどこでも働く自由を支持しており、世界中のユーザーを強化する技術の創出に注力しています。」これは、Appleが金曜日に米国北カリフォルニア連邦地方裁判所に提起した訴訟に続くものである。同訴訟は、OpenAIが元App
OpenAIのロボティクス部門ヘッド、ケイトリン・カリノフスキー氏がペンタゴンとの提携を理由に辞任
OpenAIのロボティクスリーダーであるケイトリン・カリノフスキーは、同社と国防総省との論争の的となったパートナーシップの後に辞任した。「これは簡単な決断ではなかった」と、カリノフスキーはソーシャルメディアでの声明で説明した。「AIが国家安全保障において重要な役割を果たしていることは事実だが、司法の監督なしにアメリカ国民の監視を行い、人間の承認なしに致死性の自律システムを展開することは、はるかに慎重な検討を必要とする境界線である」。Metaの拡張現実(AR)グラス部門を率いていたことで知られ





家






