死者は名誉毀損で訴えられないが、ディープフェイクは新たな倫理的警鐘を鳴らす。

俳優の故ロビン・ウィリアムズの娘であるゼルダ・ウィリアムズが、父のファンに向けて深い個人的なメッセージを伝えている。

「お願いだから、AIが生成した父のビデオを私に送るのはやめてほしい。私が見たいとか、意味があると思わないでください。私は見ませんし、見るつもりもありません。「尊敬の念があるなら、彼にも私にも、そして他のみんなにも、こんなことはやめて。無意味だし、努力の無駄だし、彼が望んだことではないと断言できる。"

ウィリアムズがこの投稿をせざるを得ないと感じたのは、OpenAIのSora 2ビデオモデルとSoraソーシャルアプリのローンチ直後だったのは偶然ではないだろう。

Student Press Law Centerが指摘するように、死者の名誉を毀損することは違法ではないため、この機能は無防備なターゲットと思われる故人にも及んでいる。

Soraは、ユーザーが生きている個人のビデオを生成することを制限している。ただし、それが自分自身か、自分の肖像の使用を許可した友人である場合（OpenAIの言う「カメオ」）は別である。ただし、こうした制限は故人には適用されず、一般的には支障なく再現できる。現在招待制で利用できるこのアプリには、マーティン・ルーサー・キング・ジュニア、フランクリン・デラノ・ルーズベルト、リチャード・ニクソンといった歴史上の人物や、ボブ・ロス、ジョン・レノン、アレックス・トレベック、そして実際にロビン・ウィリアムスといった故人の有名人が登場する動画が流入している。

死者のビデオを生成することに関するOpenAIのポリシーは、あいまいなままだ。例えば、TechCrunchのテストによると、Sora 2は2024年に亡くなったジミー・カーター元大統領や2009年に亡くなったマイケル・ジャクソンのビデオは作成しないが、2014年に亡くなったロビン・ウィリアムズに似たコンテンツは作成した。OpenAIのカメオ出演機能では、他人が作成した動画に生前の人物が出演する際のガイドラインを設定することができるが、これは以前のSoraへの批判への対応であり、故人にはそのようなコントロールはできない。もしリチャード・ニクソンが、私が作った警察廃止を支持する彼のディープフェイクを見たら、墓の中で回心していることだろう。

OpenAIは、故人のディープフェイクを作成することの可否に関するTechCrunchの問い合わせには回答していない。とはいえ、ウィリアムズのような故人の有名人のディープフェイクを作成することは、同社の許容範囲に含まれる可能性がある。判例によれば、OpenAIは死者の名誉を毀損しても法的責任を問われない可能性が高い。

Disrupt 2025で1万人以上のテック企業やVCのリーダーと共に成長と人脈を得よう

Netflix、Box、a16z、ElevenLabs、Wayve、Hugging Face、Elad Gil、Vinod Khosla - 250以上の大物のほんの一部が200以上のセッションをリードし、スタートアップの成長を促進し、あなたのエッジを磨くための洞察を提供するように設計されています。テッククランチ20周年、そしてテック界のトップランナーから学ぶチャンスをお見逃しなく。開場前にチケットを入手すると、最大444ドルお得です。

Disrupt 2025で1万人以上のテック企業やVCのリーダーたちと一緒に、成長と人脈を築きましょう。

Netflix、Box、a16z、ElevenLabs、Wayve、Hugging Face、Elad Gil、Vinod Khoslaなど、スタートアップの成長を促進し、あなたのエッジを磨くための洞察を提供するために設計された200以上のセッションをリードする250以上の大物のほんの一部です。テック業界のトップランナーから学ぶチャンスをお見逃しなく。開場前にチケットを手に入れると、最大444ドルお得です。

実在の人物の遺産が、"これは漠然と彼らに似ているから、それで十分だ "ということになり、他人が彼らを操ったひどいTikTokコンテンツを制作できるようになるのを見るのは、腹立たしいことだ」とウィリアムズは書いている。

OpenAIを批判する人々は、同社がこのようなことに無頓着であったため、Soraは発売後すぐにピーター・グリフィンやピカチュウのような著作権で保護されたキャラクターのAIクリップで飽和状態になったと主張している。サム・アルトマン最高経営責任者（CEO）は当初、ハリウッドのスタジオやエージェンシーが、自分たちの知的財産をSoraが生成した動画に使用されたくなければ、明示的にオプトアウトする必要があると述べていた。モーション・ピクチャー・アソシエーション（Motion Picture Association）はすでにOpenAIに対し、「確立された著作権法はクリエイターの権利を保護するものであり、ここでも適用される」として、この問題に対処するよう求めている。アルトマンはその後、同社がこの姿勢を撤回すると発表した。

Soraは、その出力のリアルさを考えると、現在一般に公開されているディープフェイク対応AIモデルの中で最も危険なモデルであることは間違いない。xAIのような競合プラットフォームは、より高度なものではないが、安全装置はさらに少なく、実在の人物のポルノ的なディープフェイクの作成を可能にしている。他社がOpenAIとの差を縮める中、生死にかかわらず実在の個人を単なる遊び道具として扱えば、恐ろしい前例を作ってしまう危険性がある。