Meta、Instagram上で物議を醸したAI機能をバックラッシュを受けて削除

Metaは、ユーザーがパブリックなInstagramプロフィールの画像を人工知能を使って変更できるという物議を醸す機能を削除した。同社によると、今週初めに他のAIアップデートと共に導入されたこのツールは「的を射ておらず」、現在利用できない状態にある。
今週初め、MetaはMeta Superintelligence Labs部門が開発したAI画像生成ツール「Muse Image」を導入した。このプラットフォームは、参照目的としてパブリックなInstagramアカウントを@メンションすることで画像を作成できる機能を目玉としていた。この機能は、写真が使用された際にユーザーに通知を行わないものであり、直ちに反発を招いた。
TechCrunchは、ユーザーがこの機能を無効にする方法について説明するガイドを公開した。
Metaはその後、この決定を取り消した。同社は金曜日、ブログ投稿を通じてこの機能の削除を発表した。この動きは、Puck Newsの創設パートナーであるDylan Byersによって最初に報じられた。
「私たちの意図は、有用なクリエイティブツールを提供し、パブリックなコンテンツがこの方法で参照されるかどうかについて、人々にコントロールを与えることでした」と同社はブログに記した。「この機能が的を射ていないというフィードバックを私たちは受け取ったため、現在では利用できなくなっています。」
TechCrunchはMetaに詳細を問い合わせ、回答があれば本記事をアップデートする予定である。
ソーシャルメディアとの統合以降、AIは広範に悪用されてきた―しばしば女性有名人の性的な画像を生成するために用いられてきた。プラットフォームはこの傾向を抑制しようとしてきたが、その安全対策はしばしば不十分であることが証明されている。
Metaの場合、削除された機能は明らかにそのような悪用に脆弱であった。Byersが指摘したように、これを廃止する決定は、「CAAを含むユーザーやタレントエージェンシーからの scrutiny の中で」下された。
関連記事
フロンティアAIラボ、異常挙動を示すモデルの封じ込め戦略の開示を拒否
最近の調査によると、主要なAI研究所のうち、封じ込め対応計画を公表または実証しているところはごくわずかであることが示されている。封じ込め計画とは、AIシステムが人間の制御を覆そうとした場合の対応手順を定義するもので、どのアクセス権限を取り消すか、またいつシステムを完全にシャットダウンするかを具体的に規定している。この調査結果は、安全な最先端AI開発の実践を推進することに注力する組織「Guideli
マーク・ザッカーバーグは本当にAIが誰にでも役立つと考えているのか?
プレイヤーを読み込み中…メタは本日、グリーマーを発表した。これはオープンウェイトのAIモデルで、誰でもダウンロードして個人のハードウェアで実行できる。この発表は、メタのより強力なモデルであるミューズスパークが独自のAPIを通じてのみ利用可能であることとは対照的だ。このリリースにはマーク・ザッカーバーグによる書簡も添えられ、AIは限られたラボによって制御されるのではなく、誰もがアクセス可能であるべきだと主張している。しかし、Equityのホストたちが指摘するように、このビジョンにはいくつかの重要
Facebook、クリエイター向けAIコンパニオンアプリをリリース
Facebookは水曜日、クリエイタースタジオをAI専用のコンパニオンアプリへと刷新し、クリエイターがプラットフォーム上でリーチを拡大できるよう支援すると明らかにした。このAI駆動型ツールを提供することで、MetaはTikTokやYouTubeとの激しい競争の中で、クリエイターをFacebookに引き留めることを目指している。同社はまた、このアプリによって、コンテンツのアイデア創出やパフォーマンス
関連特集おすすめ
コメント (0)
0/500

Metaは、ユーザーがパブリックなInstagramプロフィールの画像を人工知能を使って変更できるという物議を醸す機能を削除した。同社によると、今週初めに他のAIアップデートと共に導入されたこのツールは「的を射ておらず」、現在利用できない状態にある。
今週初め、MetaはMeta Superintelligence Labs部門が開発したAI画像生成ツール「Muse Image」を導入した。このプラットフォームは、参照目的としてパブリックなInstagramアカウントを@メンションすることで画像を作成できる機能を目玉としていた。この機能は、写真が使用された際にユーザーに通知を行わないものであり、直ちに反発を招いた。
TechCrunchは、ユーザーがこの機能を無効にする方法について説明するガイドを公開した。
Metaはその後、この決定を取り消した。同社は金曜日、ブログ投稿を通じてこの機能の削除を発表した。この動きは、Puck Newsの創設パートナーであるDylan Byersによって最初に報じられた。
「私たちの意図は、有用なクリエイティブツールを提供し、パブリックなコンテンツがこの方法で参照されるかどうかについて、人々にコントロールを与えることでした」と同社はブログに記した。「この機能が的を射ていないというフィードバックを私たちは受け取ったため、現在では利用できなくなっています。」
TechCrunchはMetaに詳細を問い合わせ、回答があれば本記事をアップデートする予定である。
ソーシャルメディアとの統合以降、AIは広範に悪用されてきた―しばしば女性有名人の性的な画像を生成するために用いられてきた。プラットフォームはこの傾向を抑制しようとしてきたが、その安全対策はしばしば不十分であることが証明されている。
Metaの場合、削除された機能は明らかにそのような悪用に脆弱であった。Byersが指摘したように、これを廃止する決定は、「CAAを含むユーザーやタレントエージェンシーからの scrutiny の中で」下された。
フロンティアAIラボ、異常挙動を示すモデルの封じ込め戦略の開示を拒否
最近の調査によると、主要なAI研究所のうち、封じ込め対応計画を公表または実証しているところはごくわずかであることが示されている。封じ込め計画とは、AIシステムが人間の制御を覆そうとした場合の対応手順を定義するもので、どのアクセス権限を取り消すか、またいつシステムを完全にシャットダウンするかを具体的に規定している。この調査結果は、安全な最先端AI開発の実践を推進することに注力する組織「Guideli
マーク・ザッカーバーグは本当にAIが誰にでも役立つと考えているのか?
プレイヤーを読み込み中…メタは本日、グリーマーを発表した。これはオープンウェイトのAIモデルで、誰でもダウンロードして個人のハードウェアで実行できる。この発表は、メタのより強力なモデルであるミューズスパークが独自のAPIを通じてのみ利用可能であることとは対照的だ。このリリースにはマーク・ザッカーバーグによる書簡も添えられ、AIは限られたラボによって制御されるのではなく、誰もがアクセス可能であるべきだと主張している。しかし、Equityのホストたちが指摘するように、このビジョンにはいくつかの重要
Facebook、クリエイター向けAIコンパニオンアプリをリリース
Facebookは水曜日、クリエイタースタジオをAI専用のコンパニオンアプリへと刷新し、クリエイターがプラットフォーム上でリーチを拡大できるよう支援すると明らかにした。このAI駆動型ツールを提供することで、MetaはTikTokやYouTubeとの激しい競争の中で、クリエイターをFacebookに引き留めることを目指している。同社はまた、このアプリによって、コンテンツのアイデア創出やパフォーマンス





家






