OpenAIは、10代の若者がChatGPTを使い始めてから数年を経て、より安全なChatGPTをリリースした
AIチャットボットに安全対策が欠如していたことによる一連の訴訟――これが10代の自殺やその他のメンタルヘルスの危機の一因となった――を受け、OpenAIは月曜日に「ChatGPT for Teens」を発表した。この新サービスには強化された安全機能が組み込まれており、学校現場でAIツールによって助長されている学業上の不正行為という深刻化する問題に対処している。
教育的な観点から、「ChatGPT for Teens」では、「学習モード(Study Mode)」をはじめ、好奇心や問題解決能力を育むことを目的とした各種ツールが導入されており、ユーザーが即座に答えを求めるのではなく、コンテンツと深く向き合うよう促している。
OpenAIのブログ記事によると、「学習モード」では、10代の若者が複雑な内容を理解できるよう、誘導的な質問や段階的な支援を提供する。さらに、このプラットフォームには、システムが不正行為の可能性を検知した際に作動する宿題のリマインダー機能が搭載されており、ユーザーに「学習モード」への切り替えを促す。
同社によると、このアプリにはクイズや学習内容を視覚化した機能に加え、保護者や後見人が「学習モード」をデフォルトで有効にできる設定機能も備わっているという。
しかし、10代のユーザーが従うことを拒否した場合、これらの安全対策をどれほど容易に回避できてしまうかは依然として不透明だ。若いユーザーは、ペアレンタルコントロールやその他のデジタル上の制限を回避することに長けていることが多い。ChatGPTの「ティーンモード」が厳格なテストを経るまでは、これらの安全対策の実用的な有効性は不明確なままである。

画像提供:OpenAI
OpenAIによると、「ChatGPT for Teens」では、アプリに適した保護機能がデフォルトで有効化されており、有害なコンテンツや発達段階に不適切なコンテンツへの接触を最小限に抑えるよう設計されている。これらの安全対策は、同社のモデル仕様書(Model Spec)に盛り込まれた「18歳未満に関する原則(Under-18 Principles)」に基づいており、同社はこれらが発達科学や専門家の指導に基づいて策定されたものであると主張している。
保護者は、以前に導入されたファミリーツールやペアレンタルコントロールを利用して、設定の管理、安全に関する通知の受信、「Quiet Hours(静かな時間)」の設定などを行うことができます。
OpenAIは、CodeAIとの提携を発表しました。これは、10代の若者がAIの仕組み、AIへの指示や質問の仕方、効果的な活用方法などをより深く理解できるよう支援することを目的としています。教育現場においては、OpenAIはすでに「ChatGPT for Teachers」を提供しており、学校が機関管理下のAIアクセスとサポートを利用できるようにしています。
関連記事
OpenAIのロボティクス部門ヘッド、ケイトリン・カリノフスキー氏がペンタゴンとの提携を理由に辞任
OpenAIのロボティクスリーダーであるケイトリン・カリノフスキーは、同社と国防総省との論争の的となったパートナーシップの後に辞任した。「これは簡単な決断ではなかった」と、カリノフスキーはソーシャルメディアでの声明で説明した。「AIが国家安全保障において重要な役割を果たしていることは事実だが、司法の監督なしにアメリカ国民の監視を行い、人間の承認なしに致死性の自律システムを展開することは、はるかに慎重な検討を必要とする境界線である」。Metaの拡張現実(AR)グラス部門を率いていたことで知られ
OpenAI、Anthropicとの差をビジネスユーザー間で縮める、新しいデータが示す
OpenAIとAnthropicがまだ予想されるIPOや詳細な財務報告から遠く離れているため、私たちはそれらのビジネスパフォーマンスを測定するために代替指標に頼らなければならない。企業向けクレジットカードおよび経費管理プラットフォームであるRampは、最近、OpenAIが米国の企業間でAnthropicとの格差を急速に縮めていることを示す説得力のあるデータを公開した。OpenAIは以前、消費者と企業の両方で支配的な立場を占めていたが、5月にRampの有料企業ユーザーの間での首位をAnthrop
フロンティアAIラボ、異常挙動を示すモデルの封じ込め戦略の開示を拒否
最近の調査によると、主要なAI研究所のうち、封じ込め対応計画を公表または実証しているところはごくわずかであることが示されている。封じ込め計画とは、AIシステムが人間の制御を覆そうとした場合の対応手順を定義するもので、どのアクセス権限を取り消すか、またいつシステムを完全にシャットダウンするかを具体的に規定している。この調査結果は、安全な最先端AI開発の実践を推進することに注力する組織「Guideli
関連特集おすすめ
コメント (0)
0/500
AIチャットボットに安全対策が欠如していたことによる一連の訴訟――これが10代の自殺やその他のメンタルヘルスの危機の一因となった――を受け、OpenAIは月曜日に「ChatGPT for Teens」を発表した。この新サービスには強化された安全機能が組み込まれており、学校現場でAIツールによって助長されている学業上の不正行為という深刻化する問題に対処している。
教育的な観点から、「ChatGPT for Teens」では、「学習モード(Study Mode)」をはじめ、好奇心や問題解決能力を育むことを目的とした各種ツールが導入されており、ユーザーが即座に答えを求めるのではなく、コンテンツと深く向き合うよう促している。
OpenAIのブログ記事によると、「学習モード」では、10代の若者が複雑な内容を理解できるよう、誘導的な質問や段階的な支援を提供する。さらに、このプラットフォームには、システムが不正行為の可能性を検知した際に作動する宿題のリマインダー機能が搭載されており、ユーザーに「学習モード」への切り替えを促す。
同社によると、このアプリにはクイズや学習内容を視覚化した機能に加え、保護者や後見人が「学習モード」をデフォルトで有効にできる設定機能も備わっているという。
しかし、10代のユーザーが従うことを拒否した場合、これらの安全対策をどれほど容易に回避できてしまうかは依然として不透明だ。若いユーザーは、ペアレンタルコントロールやその他のデジタル上の制限を回避することに長けていることが多い。ChatGPTの「ティーンモード」が厳格なテストを経るまでは、これらの安全対策の実用的な有効性は不明確なままである。

画像提供:OpenAI
OpenAIによると、「ChatGPT for Teens」では、アプリに適した保護機能がデフォルトで有効化されており、有害なコンテンツや発達段階に不適切なコンテンツへの接触を最小限に抑えるよう設計されている。これらの安全対策は、同社のモデル仕様書(Model Spec)に盛り込まれた「18歳未満に関する原則(Under-18 Principles)」に基づいており、同社はこれらが発達科学や専門家の指導に基づいて策定されたものであると主張している。
保護者は、以前に導入されたファミリーツールやペアレンタルコントロールを利用して、設定の管理、安全に関する通知の受信、「Quiet Hours(静かな時間)」の設定などを行うことができます。
OpenAIは、CodeAIとの提携を発表しました。これは、10代の若者がAIの仕組み、AIへの指示や質問の仕方、効果的な活用方法などをより深く理解できるよう支援することを目的としています。教育現場においては、OpenAIはすでに「ChatGPT for Teachers」を提供しており、学校が機関管理下のAIアクセスとサポートを利用できるようにしています。
OpenAIのロボティクス部門ヘッド、ケイトリン・カリノフスキー氏がペンタゴンとの提携を理由に辞任
OpenAIのロボティクスリーダーであるケイトリン・カリノフスキーは、同社と国防総省との論争の的となったパートナーシップの後に辞任した。「これは簡単な決断ではなかった」と、カリノフスキーはソーシャルメディアでの声明で説明した。「AIが国家安全保障において重要な役割を果たしていることは事実だが、司法の監督なしにアメリカ国民の監視を行い、人間の承認なしに致死性の自律システムを展開することは、はるかに慎重な検討を必要とする境界線である」。Metaの拡張現実(AR)グラス部門を率いていたことで知られ
OpenAI、Anthropicとの差をビジネスユーザー間で縮める、新しいデータが示す
OpenAIとAnthropicがまだ予想されるIPOや詳細な財務報告から遠く離れているため、私たちはそれらのビジネスパフォーマンスを測定するために代替指標に頼らなければならない。企業向けクレジットカードおよび経費管理プラットフォームであるRampは、最近、OpenAIが米国の企業間でAnthropicとの格差を急速に縮めていることを示す説得力のあるデータを公開した。OpenAIは以前、消費者と企業の両方で支配的な立場を占めていたが、5月にRampの有料企業ユーザーの間での首位をAnthrop
フロンティアAIラボ、異常挙動を示すモデルの封じ込め戦略の開示を拒否
最近の調査によると、主要なAI研究所のうち、封じ込め対応計画を公表または実証しているところはごくわずかであることが示されている。封じ込め計画とは、AIシステムが人間の制御を覆そうとした場合の対応手順を定義するもので、どのアクセス権限を取り消すか、またいつシステムを完全にシャットダウンするかを具体的に規定している。この調査結果は、安全な最先端AI開発の実践を推進することに注力する組織「Guideli





家






