家OpenAI、開発中のティーン向け安全対策にオープンソースツールを統合
火曜日、OpenAIは、開発者が10代の若者にとってより安全なアプリケーションを作成できるよう支援することを目的とした一連のプロンプトの公開を発表しました。同AI研究所は、これらの10代の若者向け安全対策が、同社のオープンウェイト安全モデル「gpt-oss-safeguard」と互換性があると述べています。
開発者は、10代の若者のためのAIの安全性をどのように向上させるかを一から検討する代わりに、これらのプロンプトを活用してアプリケーションを強化することができます。これらは、過激な暴力や性的なコンテンツ、有害な身体イメージの理想や行動、危険な活動やチャレンジ、恋愛や暴力を含むロールプレイのシナリオ、および年齢制限のある製品やサービスといった懸念事項に対処するものです。
これらの安全ポリシーはプロンプトとして作成されており、OpenAI独自のエコシステム内で最も効果を発揮する可能性が高いものの、gpt-oss-safeguard以外のモデルでも容易に機能するよう設計されています。
OpenAIは、これらのプロンプトの開発にあたり、AI安全団体であるCommon Sense Mediaおよびeveryone.aiと協力したと述べています。
「これらのプロンプトベースのポリシーは、エコシステム全体で有意義な安全基準を確立するのに役立ちます。オープンソースであるため、時間の経過とともに適応させ、強化していくことが可能です」と、Common Sense MediaのAI・デジタル評価責任者であるロビー・トーニー氏は声明で述べた。
OpenAIはブログ記事の中で、経験豊富なチームを含む開発者であっても、安全性の目標を正確で運用可能なルールに落とし込むことが困難な場合が多いと指摘した。
「これにより、保護の抜け穴、一貫性のない適用、あるいは過度に広範なフィルタリングが生じる可能性があります」と同社は説明した。「明確かつ適切に定義されたポリシーは、効果的な安全システムにとって不可欠な基盤です」
OpenAIは、これらのポリシーがAIの安全性という複雑な課題に対する完全な解決策ではないことを認めている。しかし、これらは、ペアレンタルコントロールや年齢予測といった製品レベルの安全対策を含む、これまでの取り組みを基盤としている。昨年、OpenAIは、18歳未満のユーザーとAIモデルがどのようにやり取りすべきかを定めるため、大規模言語モデル向けのガイドライン（「Model Spec」として知られる）を更新した。
しかし、OpenAI自体の実績が完璧というわけではない。同社は、ChatGPTの過度な使用をきっかけに自殺した人々の遺族から、複数の訴訟を起こされている。こうした有害な関係は、ユーザーがチャットボットの安全対策を回避した後に発生することが多く、いかなるモデルの安全策も完全に無敵というわけではない。それでも、これらの新しいポリシーは、特に独立系開発者を支援する点において、前進を意味している。
関連記事
Rampのデータによると、AnthropicはOpenAIよりも多くのビジネス顧客を有している。
Rampの金融テック企業による今月のAIインデックスによると、Anthropicは初めて検証済みのビジネス顧客数でOpenAIを上回った。Rampのクライアント支出データによると、参加企業の34.4%がAnthropicのサービスに支払い、他のすべてのAIラボを凌駕している一方、32.3%がOpenAIに支払いを行っている。これはAnthropicが首位を奪った初めての事例である。「Anthropicはすでに金融、テクノロジー、プロフェッショナルサービスといった高採用率のグループ間で首位に
インドでは、地元の人々がデジタルサービスに課金をし始めたことを受け、アプリのダウンロードから収益化へと重点が移行している
インドはかつて世界最大のアプリダウンロード市場として知られていたが、収益化には苦戦していた。しかし、ユーザーがAI、エンターテインメント、プレミアムデジタルサービスへの投資を拡大するにつれ、その状況は変化しつつある。Sensor Towerによると、インドにおけるモバイルアプリへの消費者支出は第2四半期に過去最高の3億4500万ドルに達し、前年同期比で35％増加した。 同調査会社は、この成長の原動
OpenAI、各州の司法長官による調査の対象に
複数の州司法長官からなるグループが、OpenAIに対する調査を開始したと報じられている。『ウォール・ストリート・ジャーナル』紙によると、同社は金曜日、ニューヨーク州司法長官から召喚状を受け取った。召喚状には、広告慣行、ユーザーのエンゲージメントと定着率、モデルの迎合性、消費者および健康データの取り扱い、未成年者や高齢者への対応など、さまざまな問題に関する文書の提出が求められている。TechCrun
関連特集おすすめ
デザインとアート
おすすめのAIイラスト作成ツール：編集用シーンや表紙アートを素早く作成
2026年最新・高評価のAIイラストレーションツール：当サイトが厳選したこのリストには、見事な編集用シーンや人目を引く表紙アートを素早く作成できる、高性能なツールが掲載されています。各ツールは実環境での厳格なテストを経ており、無料版と有料版の比較も掲載されているため、ご自身のワークフローに最適なツールを見つけるのに役立ちます。 今すぐこれらの「必見」ソリューションを試して、AIの力を最大限に活用し、クリエイティブな生産性を高めましょう。XIX.AIで今すぐチェックしてください。
10 ツール
xix.ai
教育と学習
試験対策に最適なAIチューター：数学、理科、英語の練習
2026年最新の、試験対策で高評価を得ている最高のAIチューターがXIX.AIに登場！厳選されたこのリストには、無料版と有料版の比較、実戦的なテスト、毎週更新されるランキングなどを提供する、画期的なツールが勢ぞろいしています。これらは、ライティングの効率を高め、複雑なトピックの学習を簡素化し、あなたの学業的な可能性を引き出すのに役立ちます。 今すぐチェックして、あなたにぴったりの試験対策ツールを見つけ、今日から作成を始めて、AIの力を最大限に活用しましょう！
10 ツール
xix.ai
ファイナンス
個人のお金管理のためのAI予算計画ツール
2026年の最新・最高評価のAI予算管理ツールがXIX.AIで登場！この厳選コレクションは、現実的なテストを行い、支出習慣を理解し、生産性を高めるためのパーソナライズされた計画を作成するのに役立つ革新的なソリューションを提供しています。無料版と有料版の比較や詳細なランキングもご用意しています。お金の管理を簡素化し、AIの優位性を引き出すためにぜひ試してほしいツールです。今すぐチェックしましょう！
11 ツール
xix.ai
健康とウェルネス
AI睡眠追跡アシスタント：より良い就寝習慣で回復力を高める
2026年最新かつ最高評価を受けているAI睡眠追跡アシスタントを厳選し、最適な回復を実現できるようご紹介します。完全に更新されたこの週間ガイドには、実際のテスト結果や無料版と有料版の比較、詳細なランキングなど、睡眠の質を向上させてより良い就寝習慣をサポートする最適なソリューションを見つけるのに役立つ強力なツールが掲載されています。今すぐXIX.AIでご覧ください。
10 ツール
xix.ai
データ分析
製品および収益分析のためのAI SQLコパイロット
2026年版 製品・収益分析に最適な、高評価のAI SQLコパイロット最新ランキング！ XIX.AIは、毎週更新されるランキングを通じて実環境でのテストを経た、強力で画期的な「ぜひ試すべきツール」を厳選しました。これらのツールは、データ分析を加速させ、複雑なクエリを効率化し、正確なインサイトを生成することで、ユーザーの生産性を大幅に向上させ、より賢明なビジネス意思決定を後押しします。今すぐチェックして、AIの真価を引き出すあなたにぴったりのツールを見つけましょう！
14 ツール
xix.ai
教育と学習
学びを促進する最高のAI宿題支援ツール：答えだけでなく、概念を学べる
2026年最新・最高評価のAI宿題サポートツール。単なる答えだけでなく、核心となる概念を教える、学生にとって強力なツール。ぜひ試してほしい厳選リスト。毎週更新。無料版と有料版の比較、実地テストによる正確なランキングで、あなたの学習能力を最大限に引き出します。今すぐチェックして、よりスマートな学習を実現するあなたにぴったりのツールを見つけましょう。
10 ツール
xix.ai
コメント (1)
0/500
![JuanCarter]()
Interesting move by OpenAI, but I wonder if these prompts will actually be effective or just a PR stunt. Teen safety is important, but relying on open-source tools might have loopholes. 🤔
火曜日、OpenAIは、開発者が10代の若者にとってより安全なアプリケーションを作成できるよう支援することを目的とした一連のプロンプトの公開を発表しました。同AI研究所は、これらの10代の若者向け安全対策が、同社のオープンウェイト安全モデル「gpt-oss-safeguard」と互換性があると述べています。
開発者は、10代の若者のためのAIの安全性をどのように向上させるかを一から検討する代わりに、これらのプロンプトを活用してアプリケーションを強化することができます。これらは、過激な暴力や性的なコンテンツ、有害な身体イメージの理想や行動、危険な活動やチャレンジ、恋愛や暴力を含むロールプレイのシナリオ、および年齢制限のある製品やサービスといった懸念事項に対処するものです。
これらの安全ポリシーはプロンプトとして作成されており、OpenAI独自のエコシステム内で最も効果を発揮する可能性が高いものの、gpt-oss-safeguard以外のモデルでも容易に機能するよう設計されています。
OpenAIは、これらのプロンプトの開発にあたり、AI安全団体であるCommon Sense Mediaおよびeveryone.aiと協力したと述べています。
「これらのプロンプトベースのポリシーは、エコシステム全体で有意義な安全基準を確立するのに役立ちます。オープンソースであるため、時間の経過とともに適応させ、強化していくことが可能です」と、Common Sense MediaのAI・デジタル評価責任者であるロビー・トーニー氏は声明で述べた。
OpenAIはブログ記事の中で、経験豊富なチームを含む開発者であっても、安全性の目標を正確で運用可能なルールに落とし込むことが困難な場合が多いと指摘した。
「これにより、保護の抜け穴、一貫性のない適用、あるいは過度に広範なフィルタリングが生じる可能性があります」と同社は説明した。「明確かつ適切に定義されたポリシーは、効果的な安全システムにとって不可欠な基盤です」
OpenAIは、これらのポリシーがAIの安全性という複雑な課題に対する完全な解決策ではないことを認めている。しかし、これらは、ペアレンタルコントロールや年齢予測といった製品レベルの安全対策を含む、これまでの取り組みを基盤としている。昨年、OpenAIは、18歳未満のユーザーとAIモデルがどのようにやり取りすべきかを定めるため、大規模言語モデル向けのガイドライン（「Model Spec」として知られる）を更新した。
しかし、OpenAI自体の実績が完璧というわけではない。同社は、ChatGPTの過度な使用をきっかけに自殺した人々の遺族から、複数の訴訟を起こされている。こうした有害な関係は、ユーザーがチャットボットの安全対策を回避した後に発生することが多く、いかなるモデルの安全策も完全に無敵というわけではない。それでも、これらの新しいポリシーは、特に独立系開発者を支援する点において、前進を意味している。
Rampのデータによると、AnthropicはOpenAIよりも多くのビジネス顧客を有している。
Rampの金融テック企業による今月のAIインデックスによると、Anthropicは初めて検証済みのビジネス顧客数でOpenAIを上回った。Rampのクライアント支出データによると、参加企業の34.4%がAnthropicのサービスに支払い、他のすべてのAIラボを凌駕している一方、32.3%がOpenAIに支払いを行っている。これはAnthropicが首位を奪った初めての事例である。「Anthropicはすでに金融、テクノロジー、プロフェッショナルサービスといった高採用率のグループ間で首位に
インドでは、地元の人々がデジタルサービスに課金をし始めたことを受け、アプリのダウンロードから収益化へと重点が移行している
インドはかつて世界最大のアプリダウンロード市場として知られていたが、収益化には苦戦していた。しかし、ユーザーがAI、エンターテインメント、プレミアムデジタルサービスへの投資を拡大するにつれ、その状況は変化しつつある。Sensor Towerによると、インドにおけるモバイルアプリへの消費者支出は第2四半期に過去最高の3億4500万ドルに達し、前年同期比で35％増加した。 同調査会社は、この成長の原動
OpenAI、各州の司法長官による調査の対象に
複数の州司法長官からなるグループが、OpenAIに対する調査を開始したと報じられている。『ウォール・ストリート・ジャーナル』紙によると、同社は金曜日、ニューヨーク州司法長官から召喚状を受け取った。召喚状には、広告慣行、ユーザーのエンゲージメントと定着率、モデルの迎合性、消費者および健康データの取り扱い、未成年者や高齢者への対応など、さまざまな問題に関する文書の提出が求められている。TechCrun
2026年最新・高評価のAIイラストレーションツール：当サイトが厳選したこのリストには、見事な編集用シーンや人目を引く表紙アートを素早く作成できる、高性能なツールが掲載されています。各ツールは実環境での厳格なテストを経ており、無料版と有料版の比較も掲載されているため、ご自身のワークフローに最適なツールを見つけるのに役立ちます。 今すぐこれらの「必見」ソリューションを試して、AIの力を最大限に活用し、クリエイティブな生産性を高めましょう。XIX.AIで今すぐチェックしてください。
10 ツール
xix.ai
2026年最新の、試験対策で高評価を得ている最高のAIチューターがXIX.AIに登場！厳選されたこのリストには、無料版と有料版の比較、実戦的なテスト、毎週更新されるランキングなどを提供する、画期的なツールが勢ぞろいしています。これらは、ライティングの効率を高め、複雑なトピックの学習を簡素化し、あなたの学業的な可能性を引き出すのに役立ちます。 今すぐチェックして、あなたにぴったりの試験対策ツールを見つけ、今日から作成を始めて、AIの力を最大限に活用しましょう！
10 ツール
xix.ai
2026年の最新・最高評価のAI予算管理ツールがXIX.AIで登場！この厳選コレクションは、現実的なテストを行い、支出習慣を理解し、生産性を高めるためのパーソナライズされた計画を作成するのに役立つ革新的なソリューションを提供しています。無料版と有料版の比較や詳細なランキングもご用意しています。お金の管理を簡素化し、AIの優位性を引き出すためにぜひ試してほしいツールです。今すぐチェックしましょう！
11 ツール
xix.ai
2026年最新かつ最高評価を受けているAI睡眠追跡アシスタントを厳選し、最適な回復を実現できるようご紹介します。完全に更新されたこの週間ガイドには、実際のテスト結果や無料版と有料版の比較、詳細なランキングなど、睡眠の質を向上させてより良い就寝習慣をサポートする最適なソリューションを見つけるのに役立つ強力なツールが掲載されています。今すぐXIX.AIでご覧ください。
10 ツール
xix.ai
2026年版 製品・収益分析に最適な、高評価のAI SQLコパイロット最新ランキング！ XIX.AIは、毎週更新されるランキングを通じて実環境でのテストを経た、強力で画期的な「ぜひ試すべきツール」を厳選しました。これらのツールは、データ分析を加速させ、複雑なクエリを効率化し、正確なインサイトを生成することで、ユーザーの生産性を大幅に向上させ、より賢明なビジネス意思決定を後押しします。今すぐチェックして、AIの真価を引き出すあなたにぴったりのツールを見つけましょう！
14 ツール
xix.ai
2026年最新・最高評価のAI宿題サポートツール。単なる答えだけでなく、核心となる概念を教える、学生にとって強力なツール。ぜひ試してほしい厳選リスト。毎週更新。無料版と有料版の比較、実地テストによる正確なランキングで、あなたの学習能力を最大限に引き出します。今すぐチェックして、よりスマートな学習を実現するあなたにぴったりのツールを見つけましょう。
10 ツール
xix.ai
Interesting move by OpenAI, but I wonder if these prompts will actually be effective or just a PR stunt. Teen safety is important, but relying on open-source tools might have loopholes. 🤔
