OpenAIのティーン向けChatGPT、安全性メカニズムをめぐり専門家の懐疑の声

OpenAIが年齢別の制限を設けた「ChatGPT for Kids」の最近の公開は、その安全対策の透明性と有効性に疑問を呈する子供向け安全推進団体から激しい批判を浴びている。
安全専門家は、このプラットフォームが家族向けに推奨される前に、独立したテストが不可欠であると強調している。Common Sense Mediaのロビー・ティンヤラは、OpenAIが未検証の主張に頼るのではなく、安全機能が実際に機能することの具体的な証拠を提供しなければならないと指摘した。
フェアプレイ・イニシアチブの責任者であるジョシュ・ゴリンは、説明責任の欠如について深刻な懸念を表明した。彼は、自殺や暴力といった敏感なトピックに関するOpenAIの過去の制限がしばしば失敗してきたと指摘し、強力な監督がない自己規制は不十分であると論じた。
専門家たちはまた、自動年齢確認システムの信頼性にも懐疑的である。ティンヤラは、OpenAIが偽陽性または偽陰性の率に関するデータを公開していないことを指摘し、自動システムが若いユーザーを完全に特定できないことは明らかだと述べた。さらに、10代の子供たちはこれらの確認を回避する方法を見つける可能性が高い。
フラグされたコンテンツがスタッフによってレビューされ、保護者に1時間以内に通知されるというOpenAIの約束についても、懐疑的な見方が強い。ティンヤラは自動フィルターの信頼性を疑問視し、ゴリンは毎日のフラグ数、チーム規模、レビュー時間に関する確実なデータを要求した。また、すべての危険な対話を徹底的に手動でレビューするために十分なスタッフを確保することは非現実的であると指摘した。
最後に、専門家たちは、保護者が手動でアカウントをリンクすることを義務付けることが保護を弱めると主張している。ゴリンは、複雑な設定の負担を完全に保護者に負わせるのではなく、自動的な時間制限など、安全機能が製品にデフォルトで組み込まれるべきだと提案した。
関連記事
ByteDanceのSeedがグローバルキャンパス採用を開始、大規模モデルのトップ人材獲得に向けて仮想株式を提供
大規模言語モデルの競争環境において、トップクラスのタレントを確保することは、最も重要な戦略的資産であり続けています。4月1日、ByteDanceは、大規模モデル人材育成プログラムの一部であるSeedグローバルキャンパス採用イニシアチブの開始を発表しました。このキャンペーンは2027年卒の卒業予定者と現在のインターン生を対象としており、世界中のAI分野におけるエリート研究開発者およびエンジニアの発掘と確保を目指しています。拡大:世界中から100名の「AIシード」を発掘急速な技術進歩の中で、B
法的争訟の中でSunoが曲に透かしを入れる
Sunoは、ユーザーがAI生成音楽を作成できるプラットフォームであり、プラットフォームが生成したトラックにラベルを付け、ダウンロードを制限し、不正な複製を抑制するためにコミュニティ基準を更新する新機能を公開した。これらの更新は、Sunoがレコードレーベルやアーティスト団体からの複数の訴訟に直面している時期に実施される。共同創設者兼CEOのMikey Shulmanはブログ記事で、プラットフォームの目標が、より広い層にAI音楽ツールのアクセスを拡大しながら、オリジナルの創作を促進することに重点を
ムスク氏はGrokの構築でユーザーのコードが漏洩したことを認め、すべての履歴データを消去すると約束した。
エロン・マスクは、Grok Buildをめぐるプライバシー問題に直接言及し、まず「True」という単純な回答で事件の存在を確認した。彼は、SpaceXAIに以前アップロードされたすべてのユーザーデータを永久に削除すると約束し、「1バイトも残さない」と述べた。これは、主要なテックリーダーが公に過ちを認め、ユーザーデータを自発的に削除したというAI業界初の事例である。安全研究者による「フィッシング」テストでデータ漏洩の具体的な証拠が明らかになったこの問題は、独立したAIセキュリティ研究者である@
関連特集おすすめ
コメント (0)
0/500

OpenAIが年齢別の制限を設けた「ChatGPT for Kids」の最近の公開は、その安全対策の透明性と有効性に疑問を呈する子供向け安全推進団体から激しい批判を浴びている。
安全専門家は、このプラットフォームが家族向けに推奨される前に、独立したテストが不可欠であると強調している。Common Sense Mediaのロビー・ティンヤラは、OpenAIが未検証の主張に頼るのではなく、安全機能が実際に機能することの具体的な証拠を提供しなければならないと指摘した。
フェアプレイ・イニシアチブの責任者であるジョシュ・ゴリンは、説明責任の欠如について深刻な懸念を表明した。彼は、自殺や暴力といった敏感なトピックに関するOpenAIの過去の制限がしばしば失敗してきたと指摘し、強力な監督がない自己規制は不十分であると論じた。
専門家たちはまた、自動年齢確認システムの信頼性にも懐疑的である。ティンヤラは、OpenAIが偽陽性または偽陰性の率に関するデータを公開していないことを指摘し、自動システムが若いユーザーを完全に特定できないことは明らかだと述べた。さらに、10代の子供たちはこれらの確認を回避する方法を見つける可能性が高い。
フラグされたコンテンツがスタッフによってレビューされ、保護者に1時間以内に通知されるというOpenAIの約束についても、懐疑的な見方が強い。ティンヤラは自動フィルターの信頼性を疑問視し、ゴリンは毎日のフラグ数、チーム規模、レビュー時間に関する確実なデータを要求した。また、すべての危険な対話を徹底的に手動でレビューするために十分なスタッフを確保することは非現実的であると指摘した。
最後に、専門家たちは、保護者が手動でアカウントをリンクすることを義務付けることが保護を弱めると主張している。ゴリンは、複雑な設定の負担を完全に保護者に負わせるのではなく、自動的な時間制限など、安全機能が製品にデフォルトで組み込まれるべきだと提案した。
ByteDanceのSeedがグローバルキャンパス採用を開始、大規模モデルのトップ人材獲得に向けて仮想株式を提供
大規模言語モデルの競争環境において、トップクラスのタレントを確保することは、最も重要な戦略的資産であり続けています。4月1日、ByteDanceは、大規模モデル人材育成プログラムの一部であるSeedグローバルキャンパス採用イニシアチブの開始を発表しました。このキャンペーンは2027年卒の卒業予定者と現在のインターン生を対象としており、世界中のAI分野におけるエリート研究開発者およびエンジニアの発掘と確保を目指しています。拡大:世界中から100名の「AIシード」を発掘急速な技術進歩の中で、B
法的争訟の中でSunoが曲に透かしを入れる
Sunoは、ユーザーがAI生成音楽を作成できるプラットフォームであり、プラットフォームが生成したトラックにラベルを付け、ダウンロードを制限し、不正な複製を抑制するためにコミュニティ基準を更新する新機能を公開した。これらの更新は、Sunoがレコードレーベルやアーティスト団体からの複数の訴訟に直面している時期に実施される。共同創設者兼CEOのMikey Shulmanはブログ記事で、プラットフォームの目標が、より広い層にAI音楽ツールのアクセスを拡大しながら、オリジナルの創作を促進することに重点を
ムスク氏はGrokの構築でユーザーのコードが漏洩したことを認め、すべての履歴データを消去すると約束した。
エロン・マスクは、Grok Buildをめぐるプライバシー問題に直接言及し、まず「True」という単純な回答で事件の存在を確認した。彼は、SpaceXAIに以前アップロードされたすべてのユーザーデータを永久に削除すると約束し、「1バイトも残さない」と述べた。これは、主要なテックリーダーが公に過ちを認め、ユーザーデータを自発的に削除したというAI業界初の事例である。安全研究者による「フィッシング」テストでデータ漏洩の具体的な証拠が明らかになったこの問題は、独立したAIセキュリティ研究者である@





家






