YouTube、政治家、政府関係者、ジャーナリストを対象にAIによるディープフェイク検出機能を拡大

火曜日、YouTubeは、ディープフェイク検出技術を、特定の政府関係者、政治家候補者、ジャーナリストを対象に拡大すると発表した。このツールはAIによって生成された肖像を識別し、パイロットプログラムの参加者は、YouTubeのポリシーに違反していると判断した無断コンテンツの削除をリクエストできるようになる。

この検出システムは、先行するテスト段階を経て、昨年、YouTubeパートナープログラムに参加する約400万人のクリエイター向けに初めて導入された。

YouTubeの既存の著作権保護コンテンツ向け「Content ID」システムと同様に、この肖像検出機能はAIによってシミュレートされた顔を識別します。こうした合成画像は、著名人が実際には行ったことのない発言や行動をしているように見せかけることで、誤った情報を拡散したり現実を歪めたりするために利用されることがあります。

このパイロットプログラムを通じて、YouTubeは、公人の説得力のある肖像を生成し得るAI技術のリスクと、表現の自由とのバランスを図ろうとしています。

「今回の拡大は、公的な対話の健全性を守るためのものです」と、YouTubeの政府渉外・公共政策担当副社長レスリー・ミラー氏は、火曜日の発表に先立つ記者会見で述べました。「AIによるなりすましは、市民社会の活動家にとって特に高いリスクをもたらすことを認識しています。しかし、この新たな保護措置を提供する一方で、慎重に適用していくつもりです」と彼女は付け加えました。

画像提供：YouTube

ミラー氏は、検出された一致がすべてリクエストに応じて削除されるわけではないと説明した。その代わりに、YouTubeは既存のプライバシーポリシーに基づき各リクエストを審査し、そのコンテンツがパロディや政治的批判に該当するかどうかを判断する。これらはいずれも、表現の自由として保護される形態である。

同社はまた、連邦レベルの保護措置を提唱しており、個人の声や外見をAIで無断再現することを規制する「NO FAKES法」をワシントンD.C.で支持している。

パイロットテストの対象となるユーザーは、ツールを使用する前に、自撮り写真と公的身分証明書をアップロードして本人確認を行う必要があります。承認されると、プロフィールを作成し、検出された一致内容を確認し、必要に応じて削除をリクエストできるようになります。YouTubeは将来的には、Content IDと同様に、違反コンテンツが公開される前にユーザーがブロックしたり、それらの動画から収益を得たりできるようにする計画です。

YouTubeは、初期のテスターグループに含まれる具体的な政治家や公職者の名前を明かすことは避けたが、将来的にはこの技術を広く利用可能にすることを目標としていると述べた。

画像提供：YouTube

AI生成動画には、合成されたものであることを示すラベルが付与されますが、その表示位置はケースによって異なります。ほとんどのコンテンツでは、ラベルは動画の説明欄に表示されます。よりデリケートなトピックについては、動画の再生前に目立つようにラベルが表示されます。このアプローチは、すべてのAI生成コンテンツに対するYouTubeの包括的なポリシーを反映したものです。

YouTubeのクリエイター製品担当バイスプレジデント、アムジャド・ハニフ氏は、ラベルの配置について次のように説明した。「多くのコンテンツがAIで制作されていますが、その区別が必ずしもコンテンツ自体にとって重要なわけではありません。例えば、AI生成のアニメは、より目立つ免責事項が必要なコンテンツとは異なります。文脈が重要です」と彼は述べた。

YouTubeは、クリエイター向けツールを通じて処理されたディープフェイクの削除件数を公表していないが、これまでの件数は「ごくわずか」であると述べた。

「ほとんどのクリエイターにとって、このツールは主に、どのようなコンテンツが制作されているかについての認識を高める役割を果たしています。実際に削除を要請するケースは極めて少ないのです。なぜなら、検出されたコンテンツのほとんどは、無害であるか、あるいは彼らのビジネスにプラスになるものだからです」とハニフ氏は語った。

しかし、政府高官、政治家、ジャーナリストを題材としたディープフェイクの場合は、事情が異なる可能性がある。

今後、YouTubeはディープフェイク検出技術を、認識可能な話し声や人気キャラクターなどの知的財産を含む、さらなる分野へと拡大する計画だ。