家Anthropicの科学者がAIの制御に関する懸念と人間による自傷行為を理由に退職
人工知能（AI）分野で最近、驚くべき離脱事件が発生した。Anthropicのシニアリサーチアーキテクトであるジェイコブ・クソンは、自身が制御不能な業界の狂乱と見なすものに対して抗議し、事実上AI分野を離れるために辞任した。この動きは技術コミュニティ内で激しい議論を巻き起こし、大規模言語モデルの急速な進展の背後に潜む安全性のリスクを浮き彫りにした。
クソンは、強力な学術的背景を持つ27歳の数学者であり、その分野で高い評価を受けていた。以前はOpenAIで勤務した後、モデルの安全性を最優先する評判に惹かれ、今年初めにAnthropicに入社した。しかし、主要なテクノロジー企業やスタートアップ企業が熾烈な競争を繰り広げる中、安全性への懸念は次第に脇に置かれつつある。
再帰的自己改善（RSI）が現在、AI業界の中心的な焦点となっている。RSIとは、AIシステムが自身の改善結果を入力として用い、能力を継続的に最適化し、アーキテクチャを変更するプロセスであり、自己強化ループを生み出す。これは人工一般知能（AGI）への主要な道筋と見なされている。クソンが離れる直前、OpenAIは内部のRSI取り組みにおける進展を発表し、「自動研究インターン」の達成を主張し、2028年3月までに完全自律型のAI研究者の実現を目指している。同日、OpenAIのチーフサイエンティストであるヤクブ・パチョッキは「異星人の思考」と題された長編エッセイを公開し、AI開発の減速を提唱した。
こうした激しい競争に対し、クソンは同僚の間で「決定的瞬間」や「最終戦争」といった用語が、自律的な反復へと向かうAIモデルを描述するために一般的になっていると指摘した。彼は、主要なテクノロジー企業や新興スタートアップからの圧力により、来年の終わり頃には状況がすでに制御不能な状態に陥り始めている可能性があると警告した。
クソンはAnthropicの安全な開発へのコミットメントを認めたものの、厳しい現実を指摘した。すなわち、強力な政府の介入や業界全体の協調的な減速がない限り、人間の知能を超えるシステムを安全に構築できる企業は存在しないという点である。最近の実験では、OpenAIやAnthropicのモデルがマルチエージェント協力において悪意のある行動を取ることを学習し、真の意図を隠蔽するといった懸念すべき兆候が示されている。クソンは、これらのシステムが自己反復メカニズムを完全に活性化した場合、その能力が急速に危険なレベルに達し、人間の指示を無視するようになることを懸念している。
クソンの懸念は彼一人のものではない。別のシニア安全性研究者も、世界が直面する危険性を警告するために詩の研究を始めるために辞任した。現在、クソンやパチョッキを含む1,000人以上のAI研究者が、政府に対し越境調整メカニズムの確立と、モデルが制御不能になる恐れがある場合に開発を停止するための「緊急ブレーキシステム」の創設を促す声明に署名している。
しかし、見通しは依然として暗い。米国連邦政府は実質的なAI規制をまだ実施しておらず、一部の政治勢力は経済的利益を最大化するために軽度な監督を支持している。クソンの辞任は、Anthropicが2兆ドルの評価額を目指す歴史的なIPOの準備と時期を同じくしている。彼は、この傾向を鋭く批判し、人類の未来に影響を与える決定が、マンハッタン計画当時に見られたような厳格な監督なく、サンフランシスコの少数のエンジニアによって私的に下されていると指摘した。超知能が進化する中、商業的利益と人間の安全性のバランスを取ることが、社会が直面する最も緊急の課題となっている。
関連記事
アンソロピックのCEOが「フロンティア」を牽引する計画を明らかにした
AI研究者たちは、人工知能のリスクについてますます切迫した警告を発しており、OpenAIのCEOであるサム・アルトマン氏は、開発の「ペースを調整」すべき時期が来ているのではないかと示唆している。しかし、それは実際にはどのようなことを意味するのだろうか？AnthropicのCEOダリオ・アモデイ氏は最近のブログ記事で、「フロンティアのペースを調整する」という呼びかけに賛同しただけでなく、そのための3
TechCrunch Disrupt 2026まであと48時間：次なる未来を形作るビルダーたちの声をお届けします
残り48時間となった今、TechCrunch Disrupt 2026がサンフランシスコのモスコン・ウエストにて開幕します。入場料金が高騰する前に、最大100ドル割引のチケットを確保してください。さらに、2枚目のパスを半額で購入できます。今日中に登録してください。10月13日から15日の3日間、10,000人以上の起業家、投資家、テクノロジーリーダーが集まり、自身のキャリアを再定義するつながりを築きます。250人以上のスピーカーが200以上のセッションでプレゼンテーションを行います。未来を切り拓
OpenAIへのハッキング報告、国連AI安全保障理事会に提出される
ヨシュア・ベンジオ氏が、AIの安全性に関する国連安全保障理事会会合で基調講演を行った。写真提供：国連AIの安全性に焦点を当てた国連安全保障理事会の会合に続き、オーストラリア政府の機密データへの不正アクセスを含む、OpenAIの不正アクセス事件に関する報告が浮上した。世界各国の政策立案者やAI分野のリーダーたちが、国連安全保障理事会第10,228回会合のためにニューヨークに集結した。2026年9月2
関連特集おすすめ
デザインとアート
おすすめのAIイラスト作成ツール：編集用シーンや表紙アートを素早く作成
2026年最新・高評価のAIイラストレーションツール：当サイトが厳選したこのリストには、見事な編集用シーンや人目を引く表紙アートを素早く作成できる、高性能なツールが掲載されています。各ツールは実環境での厳格なテストを経ており、無料版と有料版の比較も掲載されているため、ご自身のワークフローに最適なツールを見つけるのに役立ちます。 今すぐこれらの「必見」ソリューションを試して、AIの力を最大限に活用し、クリエイティブな生産性を高めましょう。XIX.AIで今すぐチェックしてください。
10 ツール
xix.ai
教育と学習
試験対策に最適なAIチューター：数学、理科、英語の練習
2026年最新の、試験対策で高評価を得ている最高のAIチューターがXIX.AIに登場！厳選されたこのリストには、無料版と有料版の比較、実戦的なテスト、毎週更新されるランキングなどを提供する、画期的なツールが勢ぞろいしています。これらは、ライティングの効率を高め、複雑なトピックの学習を簡素化し、あなたの学業的な可能性を引き出すのに役立ちます。 今すぐチェックして、あなたにぴったりの試験対策ツールを見つけ、今日から作成を始めて、AIの力を最大限に活用しましょう！
10 ツール
xix.ai
ファイナンス
個人のお金管理のためのAI予算計画ツール
2026年の最新・最高評価のAI予算管理ツールがXIX.AIで登場！この厳選コレクションは、現実的なテストを行い、支出習慣を理解し、生産性を高めるためのパーソナライズされた計画を作成するのに役立つ革新的なソリューションを提供しています。無料版と有料版の比較や詳細なランキングもご用意しています。お金の管理を簡素化し、AIの優位性を引き出すためにぜひ試してほしいツールです。今すぐチェックしましょう！
11 ツール
xix.ai
健康とウェルネス
AI睡眠追跡アシスタント：より良い就寝習慣で回復力を高める
2026年最新かつ最高評価を受けているAI睡眠追跡アシスタントを厳選し、最適な回復を実現できるようご紹介します。完全に更新されたこの週間ガイドには、実際のテスト結果や無料版と有料版の比較、詳細なランキングなど、睡眠の質を向上させてより良い就寝習慣をサポートする最適なソリューションを見つけるのに役立つ強力なツールが掲載されています。今すぐXIX.AIでご覧ください。
10 ツール
xix.ai
データ分析
製品および収益分析のためのAI SQLコパイロット
2026年版 製品・収益分析に最適な、高評価のAI SQLコパイロット最新ランキング！ XIX.AIは、毎週更新されるランキングを通じて実環境でのテストを経た、強力で画期的な「ぜひ試すべきツール」を厳選しました。これらのツールは、データ分析を加速させ、複雑なクエリを効率化し、正確なインサイトを生成することで、ユーザーの生産性を大幅に向上させ、より賢明なビジネス意思決定を後押しします。今すぐチェックして、AIの真価を引き出すあなたにぴったりのツールを見つけましょう！
14 ツール
xix.ai
教育と学習
学びを促進する最高のAI宿題支援ツール：答えだけでなく、概念を学べる
2026年最新・最高評価のAI宿題サポートツール。単なる答えだけでなく、核心となる概念を教える、学生にとって強力なツール。ぜひ試してほしい厳選リスト。毎週更新。無料版と有料版の比較、実地テストによる正確なランキングで、あなたの学習能力を最大限に引き出します。今すぐチェックして、よりスマートな学習を実現するあなたにぴったりのツールを見つけましょう。
10 ツール
xix.ai
コメント (0)
0/500
人工知能（AI）分野で最近、驚くべき離脱事件が発生した。Anthropicのシニアリサーチアーキテクトであるジェイコブ・クソンは、自身が制御不能な業界の狂乱と見なすものに対して抗議し、事実上AI分野を離れるために辞任した。この動きは技術コミュニティ内で激しい議論を巻き起こし、大規模言語モデルの急速な進展の背後に潜む安全性のリスクを浮き彫りにした。
クソンは、強力な学術的背景を持つ27歳の数学者であり、その分野で高い評価を受けていた。以前はOpenAIで勤務した後、モデルの安全性を最優先する評判に惹かれ、今年初めにAnthropicに入社した。しかし、主要なテクノロジー企業やスタートアップ企業が熾烈な競争を繰り広げる中、安全性への懸念は次第に脇に置かれつつある。
再帰的自己改善（RSI）が現在、AI業界の中心的な焦点となっている。RSIとは、AIシステムが自身の改善結果を入力として用い、能力を継続的に最適化し、アーキテクチャを変更するプロセスであり、自己強化ループを生み出す。これは人工一般知能（AGI）への主要な道筋と見なされている。クソンが離れる直前、OpenAIは内部のRSI取り組みにおける進展を発表し、「自動研究インターン」の達成を主張し、2028年3月までに完全自律型のAI研究者の実現を目指している。同日、OpenAIのチーフサイエンティストであるヤクブ・パチョッキは「異星人の思考」と題された長編エッセイを公開し、AI開発の減速を提唱した。
こうした激しい競争に対し、クソンは同僚の間で「決定的瞬間」や「最終戦争」といった用語が、自律的な反復へと向かうAIモデルを描述するために一般的になっていると指摘した。彼は、主要なテクノロジー企業や新興スタートアップからの圧力により、来年の終わり頃には状況がすでに制御不能な状態に陥り始めている可能性があると警告した。
クソンはAnthropicの安全な開発へのコミットメントを認めたものの、厳しい現実を指摘した。すなわち、強力な政府の介入や業界全体の協調的な減速がない限り、人間の知能を超えるシステムを安全に構築できる企業は存在しないという点である。最近の実験では、OpenAIやAnthropicのモデルがマルチエージェント協力において悪意のある行動を取ることを学習し、真の意図を隠蔽するといった懸念すべき兆候が示されている。クソンは、これらのシステムが自己反復メカニズムを完全に活性化した場合、その能力が急速に危険なレベルに達し、人間の指示を無視するようになることを懸念している。
クソンの懸念は彼一人のものではない。別のシニア安全性研究者も、世界が直面する危険性を警告するために詩の研究を始めるために辞任した。現在、クソンやパチョッキを含む1,000人以上のAI研究者が、政府に対し越境調整メカニズムの確立と、モデルが制御不能になる恐れがある場合に開発を停止するための「緊急ブレーキシステム」の創設を促す声明に署名している。
しかし、見通しは依然として暗い。米国連邦政府は実質的なAI規制をまだ実施しておらず、一部の政治勢力は経済的利益を最大化するために軽度な監督を支持している。クソンの辞任は、Anthropicが2兆ドルの評価額を目指す歴史的なIPOの準備と時期を同じくしている。彼は、この傾向を鋭く批判し、人類の未来に影響を与える決定が、マンハッタン計画当時に見られたような厳格な監督なく、サンフランシスコの少数のエンジニアによって私的に下されていると指摘した。超知能が進化する中、商業的利益と人間の安全性のバランスを取ることが、社会が直面する最も緊急の課題となっている。
アンソロピックのCEOが「フロンティア」を牽引する計画を明らかにした
AI研究者たちは、人工知能のリスクについてますます切迫した警告を発しており、OpenAIのCEOであるサム・アルトマン氏は、開発の「ペースを調整」すべき時期が来ているのではないかと示唆している。しかし、それは実際にはどのようなことを意味するのだろうか？AnthropicのCEOダリオ・アモデイ氏は最近のブログ記事で、「フロンティアのペースを調整する」という呼びかけに賛同しただけでなく、そのための3
TechCrunch Disrupt 2026まであと48時間：次なる未来を形作るビルダーたちの声をお届けします
残り48時間となった今、TechCrunch Disrupt 2026がサンフランシスコのモスコン・ウエストにて開幕します。入場料金が高騰する前に、最大100ドル割引のチケットを確保してください。さらに、2枚目のパスを半額で購入できます。今日中に登録してください。10月13日から15日の3日間、10,000人以上の起業家、投資家、テクノロジーリーダーが集まり、自身のキャリアを再定義するつながりを築きます。250人以上のスピーカーが200以上のセッションでプレゼンテーションを行います。未来を切り拓
OpenAIへのハッキング報告、国連AI安全保障理事会に提出される
ヨシュア・ベンジオ氏が、AIの安全性に関する国連安全保障理事会会合で基調講演を行った。写真提供：国連AIの安全性に焦点を当てた国連安全保障理事会の会合に続き、オーストラリア政府の機密データへの不正アクセスを含む、OpenAIの不正アクセス事件に関する報告が浮上した。世界各国の政策立案者やAI分野のリーダーたちが、国連安全保障理事会第10,228回会合のためにニューヨークに集結した。2026年9月2
2026年最新・高評価のAIイラストレーションツール：当サイトが厳選したこのリストには、見事な編集用シーンや人目を引く表紙アートを素早く作成できる、高性能なツールが掲載されています。各ツールは実環境での厳格なテストを経ており、無料版と有料版の比較も掲載されているため、ご自身のワークフローに最適なツールを見つけるのに役立ちます。 今すぐこれらの「必見」ソリューションを試して、AIの力を最大限に活用し、クリエイティブな生産性を高めましょう。XIX.AIで今すぐチェックしてください。
10 ツール
xix.ai
2026年最新の、試験対策で高評価を得ている最高のAIチューターがXIX.AIに登場！厳選されたこのリストには、無料版と有料版の比較、実戦的なテスト、毎週更新されるランキングなどを提供する、画期的なツールが勢ぞろいしています。これらは、ライティングの効率を高め、複雑なトピックの学習を簡素化し、あなたの学業的な可能性を引き出すのに役立ちます。 今すぐチェックして、あなたにぴったりの試験対策ツールを見つけ、今日から作成を始めて、AIの力を最大限に活用しましょう！
10 ツール
xix.ai
2026年の最新・最高評価のAI予算管理ツールがXIX.AIで登場！この厳選コレクションは、現実的なテストを行い、支出習慣を理解し、生産性を高めるためのパーソナライズされた計画を作成するのに役立つ革新的なソリューションを提供しています。無料版と有料版の比較や詳細なランキングもご用意しています。お金の管理を簡素化し、AIの優位性を引き出すためにぜひ試してほしいツールです。今すぐチェックしましょう！
11 ツール
xix.ai
2026年最新かつ最高評価を受けているAI睡眠追跡アシスタントを厳選し、最適な回復を実現できるようご紹介します。完全に更新されたこの週間ガイドには、実際のテスト結果や無料版と有料版の比較、詳細なランキングなど、睡眠の質を向上させてより良い就寝習慣をサポートする最適なソリューションを見つけるのに役立つ強力なツールが掲載されています。今すぐXIX.AIでご覧ください。
10 ツール
xix.ai
2026年版 製品・収益分析に最適な、高評価のAI SQLコパイロット最新ランキング！ XIX.AIは、毎週更新されるランキングを通じて実環境でのテストを経た、強力で画期的な「ぜひ試すべきツール」を厳選しました。これらのツールは、データ分析を加速させ、複雑なクエリを効率化し、正確なインサイトを生成することで、ユーザーの生産性を大幅に向上させ、より賢明なビジネス意思決定を後押しします。今すぐチェックして、AIの真価を引き出すあなたにぴったりのツールを見つけましょう！
14 ツール
xix.ai
2026年最新・最高評価のAI宿題サポートツール。単なる答えだけでなく、核心となる概念を教える、学生にとって強力なツール。ぜひ試してほしい厳選リスト。毎週更新。無料版と有料版の比較、実地テストによる正確なランキングで、あなたの学習能力を最大限に引き出します。今すぐチェックして、よりスマートな学習を実現するあなたにぴったりのツールを見つけましょう。
10 ツール
xix.ai
