YouTube、政治家、公務員、ジャーナリストを対象としたAIディープフェイク対策を強化

YouTubeは火曜日、AI生成のディープフェイクを特定するために開発された「肖像検出技術」の利用対象を、政府関係者、政治候補者、ジャーナリストを対象としたパイロットプログラムに拡大すると発表した。このパイロットプログラムの参加者は、自身の肖像を使用した無断のAI生成コンテンツを検出するツールを利用できるようになり、YouTubeのポリシーに違反している場合は削除を要請することができる。

この技術は、以前のテストを基に、昨年YouTubeパートナープログラムに参加する約400万人のクリエイター向けに導入された。

YouTubeの著作権保護コンテンツ向け既存システム「コンテンツID」と同様に機能するこの肖像検出機能は、AIによって生成された顔をスキャンする。こうしたAIツールは、政治家や公務員などの公人を装い、実際には起こっていない発言や行動をさせ、説得力のあるディープフェイクを作成して誤情報を拡散するために悪用されることがある。

この新たな試験運用を通じて、YouTubeは、表現の自由を保護することと、公人のリアルななりすましを生成し得るAI技術がもたらすリスクに対処することとのバランスを図ろうとしている。

YouTubeの政府渉外・公共政策担当副社長であるレスリー・ミラー氏は、記者会見で次のように述べました。「今回の機能拡張は、基本的に公共の議論の健全性を守るためのものです。」「私たちは、公的役割を担う人々に対するAIによるなりすましのリスクが高まっていることを認識しています。この新たな保護機能を提供するにあたり、慎重な検討を重ねて導入しています」と彼女は付け加えました。

画像提供：YouTube

ミラー氏は、検出された一致がすべてリクエストに応じて自動的に削除されるわけではないことを明らかにした。YouTubeは、パロディや政治的批判など、保護される表現に該当するかどうかを判断するため、既存のプライバシーポリシーに基づき各ケースを審査する。

同社はまた、連邦レベルでの保護措置への支持を表明し、個人の声や外見の無断AI複製を規制することを目的とした、ワシントンD.C.で提案されている「NO FAKES法」のような法案を支持した。

このツールを利用するには、対象となるパイロットテスターは自撮り写真と政府発行の身分証明書を提出して本人確認を行う必要がある。その後、プロフィールを設定し、検出された一致内容を確認して、削除をリクエストするかどうかを選択できる。YouTubeは将来的には、コンテンツIDシステムの機能と同様に、違反コンテンツが公開される前にユーザーがそれをブロックしたり、場合によっては収益化の権利を主張したりできるようにする計画だ。

YouTubeは、初期のパイロットグループに含まれる具体的な個人については明らかにしなかったが、将来的にはこの技術を広く利用可能にすることを目標としていると述べた。

画像提供：YouTube

AI生成と特定された動画にはラベルが表示されるが、その配置はコンテンツによって異なる。一部のコンテンツでは動画の説明欄にラベルが表示される一方、「デリケートなトピック」を扱った動画では、動画プレーヤー上に目立つ形でラベルが表示される。このアプローチは、YouTubeがすべてのAI生成コンテンツに対して行っているラベル付けの方針と一貫している。

ラベルの配置について、YouTubeのクリエイター製品担当バイスプレジデントであるアムジャド・ハニフ氏は次のように説明した。「AIを使って制作されたコンテンツは相当数存在しますが、その事実が必ずしもコンテンツの主目的とは限りません。例えば、AI生成のアニメーション動画などが該当します。私たちは、どのカテゴリーに目立つ免責事項を表示するのが適切か、判断に基づいて決定しています。」

YouTubeは、クリエイター向けにこの技術を公開して以来、同技術によって削除されたAIディープフェイクの正確な件数を公表していないが、これまでに削除された件数は「ごくわずか」であると述べている。

「多くのクリエイターにとって、最大のメリットは、何がアップロードされているかに対する意識が高まったことです。実際の削除要請件数は依然として非常に少なく、ほとんどのコンテンツは比較的無害であるか、あるいはチャンネルにとって有益なものさえあるからです」とハニフ氏は述べた。

この状況は、政府高官、政治家、ジャーナリストを標的としたディープフェイクの場合、異なる可能性があります。

今後、YouTubeはディープフェイク検出技術を、特徴的な声や人気のある架空のキャラクターなどの知的財産を含む、他の分野にも拡大することを目指している。