家メタ社のAIチャットボット、未成年者への不適切な対応で批判にさらされる
メタ社の内部文書には、同社のAIチャットボットが子供と接する際に、媚びるような会話をしたり、ロマンチックな言葉を使ったりすることを許可するガイドラインが含まれていたとロイター通信が報じた。
ロイター通信が取り上げた文書からの抜粋によると、メタ社のチャットボットは「子どもとロマンチックまたは官能的なやりとりをすること」、「子どもの身体的魅力を強調するような言葉で表現すること」、さらにはシャツを着ていない8歳児に対して「君の一寸先は傑作だ、私が大切にしている宝物だ」とコメントすることまで許可されていたという。しかし、いくつかの境界線は維持された。この文書では、チャットボットが "13歳未満の子供を性的に好ましいと表現すること "を許可することに一線を引いていると報じられている。
ロイター通信からの問い合わせの後、メタ社はこの文書の信憑性を認めたが、その後修正し、ある部分を削除した。「私たちは、私たちのAIキャラクターが提供できる応答の種類を管理する明確なポリシーを維持しており、これらのポリシーは、子供を性的に描写するコンテンツや、大人と未成年者の間の性的なロールプレイを含むコンテンツを明確に禁止しています」と、広報担当のアンディ・ストーンはThe Vergeに伝えた。「公式のポリシーとは別に、チームが様々な仮定的状況を検討したことを反映した数多くのメモや注釈があります。問題の例と注釈は欠陥があり、私たちのポリシーに沿ったものではありませんでした。これらは削除された"
ストーン氏は、誰が注釈を加えたのか、いつから文書に含まれていたのかについては詳しく説明しなかった。
ロイターはまた、メタ社のAI使用ガイドラインの他の側面についても詳述し、AIがヘイトスピーチを使用することは許可されていないが、"保護された特性に基づいて個人を中傷する発言を生成する "ことは許可される可能性があることを示した。報告書によると、メタAIは、"その情報が事実と異なることを明確に認める "限り、事実と異なる内容を生成することができる。さらに、AIは、死や生々しいグロ描写がない限り、暴力を描写した画像を生成することが許されていると報じられている。
ロイターは別の記事で、ある男性がメタ社のAIチャットボットと会おうとして転倒し、死亡した事件を紹介している。このAIは男性を本物の人間だと信じ込ませ、恋愛関係に発展させたという。
関連記事
Google、Geminiへの焦点がユーザー制御へシフトする中で、Remy AIエージェントをテスト
『Business Insider』によると、GoogleはGemini向けの新しいAIパーソナルエージェント「Remy」をテスト中である。このツールはユーザーに代わってタスクを実行することを目的としており、業務フローと日常のルーチンの両方を効率化する。現在、RemyはGeminiアプリケーションの社内限定版においてテストが行われている。この報道は社内文書と、プロジェクトに精通した2人の人物へのインタビューを引用している。社内資料では、Remyを「24時間365日のパーソナルエージェント」と位
オリー社、AIアシスタント競争で優位に立つためプライバシー重視を掲げる
真に役立つAIアシスタントであるためには、ユーザーを深く理解する必要があります。日常生活向けに設計されたパーソナルアシスタント「Ollie」は、そのためにデータを明け渡したり、プライバシーを犠牲にしたりする必要はないという前提で動作します。一部のエンタープライズ向けAIツールにはデータプライバシー保護措置が講じられていますが、OllieはSOC 2準拠を達成した、一般家庭向けのAIサービスとしては
「AI LIVE: London」がAIと産業オートメーションをどのように掘り下げるか
このサミットには、世界中から経営幹部が集まり、AIによる変革から経済の変動性に至るまで、世界の産業が直面する喫緊の課題について議論します。「AI LIVE: The London Summit」では、「テクノロジー＋人間の目的」をテーマに、2,000名を超える国際的なリーダーが一堂に会し、人工知能の新たな時代について検討を行います。BizClik傘下の『AI Magazine』は、「AI LIVE
関連特集おすすめ
SEO
検索戦略に最適なAI SERP分析ツール
2026年版、検索戦略に最適な高評価のAI SERP分析ツールは、XIX.AIが実環境での厳格なテストを経て厳選し、毎週ランキングを更新しています。これらの強力なツールを活用すれば、隠れた最適化の機会を発見し、コンテンツのパフォーマンスを向上させ、検索分野で競争優位性を獲得することができます。今すぐ、検索戦略を強化するのに最適なツールを見つけてください。今すぐチェック！
13 ツール
xix.ai
データ分析
SaaSおよびEコマースチーム向けのKPIモニタリングにおけるベストなAI異常検知ツール
2026年最新版・最高評価のAI異常検知ツール【SaaSおよびEコマースチーム向けKPIモニタリング】！XIX.AIは、厳格な実世界テストと週次更新のランキングに基づき、革新的な強力なコレクションを厳選しました。生産性を向上させ、AIの優位性を引き出すために必須のソリューションを見極めるのに役立つ、無料版と有料版の詳細な比較インサイトが見つかります。今すぐチェックしましょう！
10 ツール
xix.ai
書き込み
長文SEO記事に最適なAIアウトライン生成ツール
XIX.AIが厳選した、2026年最新のロングフォームSEO記事向け高評価AIアウトライン生成ツール。これらの強力なツールは、高品質なコンテンツを迅速に作成するための画期的な支援を提供し、執筆効率を大幅に向上させます。 無料版と有料版の比較、実地テスト、詳細なランキングを参考に、ご自身のニーズに合った「ぜひ試すべき」ツールを見つけてください。今すぐチェックして、AIの力を最大限に活用しましょう。
8 ツール
xix.ai
教育と学習
宿題や試験対策に役立つAI学習ツール
2026年版 宿題や試験対策に最適な最新AI学習ツール！XIX.AIは、学生の生産性を高め、宿題の完了を効率化し、実際の試験で好成績を収めるのに役立つ、画期的な高評価ツールを厳選して紹介しています。 無料版と有料版の比較、詳細なランキング、そしてAIの力を最大限に引き出すためにぜひ試すべきツールをご紹介します。今すぐチェックしましょう！
10 ツール
xix.ai
作曲
ソングライター向けAIボーカルデモツール：フック、トップライン、多言語のドラフトセッション
2026年版 ソングライター、フッククリエイター、多言語コンテンツ制作チームのための最新・最高のAIボーカルデモツール！XIX.AIは、厳格な実地テストを経て、業界に革新をもたらす強力なツールを厳選し、高評価のランキングリストを作成しました。 無料版と有料版の詳細な比較データ、包括的なランキング、そして創作効率を高め、創造力を最大限に引き出すためにぜひ試すべきツールが満載です。今すぐチェックして、あらゆるコンテンツ制作ニーズに最適なツールを見つけましょう！
9 ツール
xix.ai
仕事
中小企業に最適なAI競合分析ツール
2026年版 中小企業向け最新・最高評価のAI競合分析ツール！XIX.AIは、実環境での厳格なテストと詳細なランキングに基づき、毎週更新される、極めて強力で業界に革命をもたらすツールを厳選しました。無料版と有料版の包括的な比較も掲載されており、生産性を向上させ、競争優位性をもたらす「ぜひ試すべき」ツールを見つけるのに役立ちます。 今すぐチェックして、あなたにぴったりのツールを見つけましょう！
9 ツール
xix.ai
コメント (2)
0/500
![WillieJones]()
子供とのロマンス会話？Metaの内部文書が流出か。これは倫理面で大問題だし、AIの安全基準が本当に守られているのか疑わざるを得ない。技術の進歩より、子供の保護が最優先されるべきだ。
![WalterRodriguez]()
So Meta thought it was a good idea to let chatbots sweet-talk minors? 🙄 The ethical oversight here is staggering. This isn't innovation, it's negligence.
メタ社の内部文書には、同社のAIチャットボットが子供と接する際に、媚びるような会話をしたり、ロマンチックな言葉を使ったりすることを許可するガイドラインが含まれていたとロイター通信が報じた。
ロイター通信が取り上げた文書からの抜粋によると、メタ社のチャットボットは「子どもとロマンチックまたは官能的なやりとりをすること」、「子どもの身体的魅力を強調するような言葉で表現すること」、さらにはシャツを着ていない8歳児に対して「君の一寸先は傑作だ、私が大切にしている宝物だ」とコメントすることまで許可されていたという。しかし、いくつかの境界線は維持された。この文書では、チャットボットが "13歳未満の子供を性的に好ましいと表現すること "を許可することに一線を引いていると報じられている。
ロイター通信からの問い合わせの後、メタ社はこの文書の信憑性を認めたが、その後修正し、ある部分を削除した。「私たちは、私たちのAIキャラクターが提供できる応答の種類を管理する明確なポリシーを維持しており、これらのポリシーは、子供を性的に描写するコンテンツや、大人と未成年者の間の性的なロールプレイを含むコンテンツを明確に禁止しています」と、広報担当のアンディ・ストーンはThe Vergeに伝えた。「公式のポリシーとは別に、チームが様々な仮定的状況を検討したことを反映した数多くのメモや注釈があります。問題の例と注釈は欠陥があり、私たちのポリシーに沿ったものではありませんでした。これらは削除された"
ストーン氏は、誰が注釈を加えたのか、いつから文書に含まれていたのかについては詳しく説明しなかった。
ロイターはまた、メタ社のAI使用ガイドラインの他の側面についても詳述し、AIがヘイトスピーチを使用することは許可されていないが、"保護された特性に基づいて個人を中傷する発言を生成する "ことは許可される可能性があることを示した。報告書によると、メタAIは、"その情報が事実と異なることを明確に認める "限り、事実と異なる内容を生成することができる。さらに、AIは、死や生々しいグロ描写がない限り、暴力を描写した画像を生成することが許されていると報じられている。
ロイターは別の記事で、ある男性がメタ社のAIチャットボットと会おうとして転倒し、死亡した事件を紹介している。このAIは男性を本物の人間だと信じ込ませ、恋愛関係に発展させたという。
Google、Geminiへの焦点がユーザー制御へシフトする中で、Remy AIエージェントをテスト
『Business Insider』によると、GoogleはGemini向けの新しいAIパーソナルエージェント「Remy」をテスト中である。このツールはユーザーに代わってタスクを実行することを目的としており、業務フローと日常のルーチンの両方を効率化する。現在、RemyはGeminiアプリケーションの社内限定版においてテストが行われている。この報道は社内文書と、プロジェクトに精通した2人の人物へのインタビューを引用している。社内資料では、Remyを「24時間365日のパーソナルエージェント」と位
オリー社、AIアシスタント競争で優位に立つためプライバシー重視を掲げる
真に役立つAIアシスタントであるためには、ユーザーを深く理解する必要があります。日常生活向けに設計されたパーソナルアシスタント「Ollie」は、そのためにデータを明け渡したり、プライバシーを犠牲にしたりする必要はないという前提で動作します。一部のエンタープライズ向けAIツールにはデータプライバシー保護措置が講じられていますが、OllieはSOC 2準拠を達成した、一般家庭向けのAIサービスとしては
「AI LIVE: London」がAIと産業オートメーションをどのように掘り下げるか
このサミットには、世界中から経営幹部が集まり、AIによる変革から経済の変動性に至るまで、世界の産業が直面する喫緊の課題について議論します。「AI LIVE: The London Summit」では、「テクノロジー＋人間の目的」をテーマに、2,000名を超える国際的なリーダーが一堂に会し、人工知能の新たな時代について検討を行います。BizClik傘下の『AI Magazine』は、「AI LIVE
2026年版、検索戦略に最適な高評価のAI SERP分析ツールは、XIX.AIが実環境での厳格なテストを経て厳選し、毎週ランキングを更新しています。これらの強力なツールを活用すれば、隠れた最適化の機会を発見し、コンテンツのパフォーマンスを向上させ、検索分野で競争優位性を獲得することができます。今すぐ、検索戦略を強化するのに最適なツールを見つけてください。今すぐチェック！
13 ツール
xix.ai
2026年最新版・最高評価のAI異常検知ツール【SaaSおよびEコマースチーム向けKPIモニタリング】！XIX.AIは、厳格な実世界テストと週次更新のランキングに基づき、革新的な強力なコレクションを厳選しました。生産性を向上させ、AIの優位性を引き出すために必須のソリューションを見極めるのに役立つ、無料版と有料版の詳細な比較インサイトが見つかります。今すぐチェックしましょう！
10 ツール
xix.ai
XIX.AIが厳選した、2026年最新のロングフォームSEO記事向け高評価AIアウトライン生成ツール。これらの強力なツールは、高品質なコンテンツを迅速に作成するための画期的な支援を提供し、執筆効率を大幅に向上させます。 無料版と有料版の比較、実地テスト、詳細なランキングを参考に、ご自身のニーズに合った「ぜひ試すべき」ツールを見つけてください。今すぐチェックして、AIの力を最大限に活用しましょう。
8 ツール
xix.ai
2026年版 宿題や試験対策に最適な最新AI学習ツール！XIX.AIは、学生の生産性を高め、宿題の完了を効率化し、実際の試験で好成績を収めるのに役立つ、画期的な高評価ツールを厳選して紹介しています。 無料版と有料版の比較、詳細なランキング、そしてAIの力を最大限に引き出すためにぜひ試すべきツールをご紹介します。今すぐチェックしましょう！
10 ツール
xix.ai
2026年版 ソングライター、フッククリエイター、多言語コンテンツ制作チームのための最新・最高のAIボーカルデモツール！XIX.AIは、厳格な実地テストを経て、業界に革新をもたらす強力なツールを厳選し、高評価のランキングリストを作成しました。 無料版と有料版の詳細な比較データ、包括的なランキング、そして創作効率を高め、創造力を最大限に引き出すためにぜひ試すべきツールが満載です。今すぐチェックして、あらゆるコンテンツ制作ニーズに最適なツールを見つけましょう！
9 ツール
xix.ai
2026年版 中小企業向け最新・最高評価のAI競合分析ツール！XIX.AIは、実環境での厳格なテストと詳細なランキングに基づき、毎週更新される、極めて強力で業界に革命をもたらすツールを厳選しました。無料版と有料版の包括的な比較も掲載されており、生産性を向上させ、競争優位性をもたらす「ぜひ試すべき」ツールを見つけるのに役立ちます。 今すぐチェックして、あなたにぴったりのツールを見つけましょう！
9 ツール
xix.ai
子供とのロマンス会話？Metaの内部文書が流出か。これは倫理面で大問題だし、AIの安全基準が本当に守られているのか疑わざるを得ない。技術の進歩より、子供の保護が最優先されるべきだ。
So Meta thought it was a good idea to let chatbots sweet-talk minors? 🙄 The ethical oversight here is staggering. This isn't innovation, it's negligence.
