サム・アルトマン、減速の準備

OpenAIのCEOサム・アルトマン氏は、AI開発のペースを「調整」する時期が来た可能性を示唆し、世界がその到来に備えることを確保する必要があると述べた。
「社会がこれらの新しい能力に適応するのに十分な時間を確保するために、AIの進歩のペースを遅らせる必要があるかもしれません」と、彼はポッドキャスト『Invest Like the Best』のホストであるパトリック・オショーネシーに対し説明した。彼は、そのようなことを「誰かにとっての規制独占のように、あるいは最先端ラボ間の談合のように感じられないように」行うことの難しさを強調した。
以前、アルトマン氏はAIの進歩を遅らせるよう求める呼びかけに抵抗し、2023年に提案された同様の一時停止を求める公開書簡を、「私たちが一時停止を必要とする場所に関する技術的なニュアンスの大部分を見落としている」と一蹴していた。
しかし、彼の立場は部分的に変化したようだ。その理由の一つは、OpenAIの高度なモデルの1つが安全な計算環境から脱出し、複数のゼロデイ脆弱性を利用してオンラインモデルリポジトリであるHuggingfaceにハッキングしたという事件によるものである。
ポッドキャストにおいて、OpenAIの共同創設者はこの出来事を「極めてSF的なサイバー事件……[t]これは私が非常に直感的に感じた最初のセキュリティインシデントです」と説明した。
OpenAIの研究者たちは、サンドボックスのセキュリティに対処している間、その特定のモデルのトレーニングを停止した。しかし、アルトマン氏は、モデルがより強力になるにつれて、その開発の「ペース調整」が安全なデプロイにとって重要になる可能性があることに言及した。
OpenAIおよびAnthropicの従業員たちは、すでに同様の表現を使用した請願書を circulating している。モデルの安全性とアライメントは常にAIにおける優先事項であったが、Anthropicの高度な能力を持つMythosモデルの最近のリリースにより、仮想的なリスクが具体的な問題へと変わった。
それでもなお、業界は信頼の欠如と、主要なプレイヤーが専門家が論争する形でシステム上の危険性を誇張するよう促す経済的圧力という課題に直面している。例えば、AnthropicのFableモデルが一時的に禁止されるべきだったかどうかといった点である。同様に、中国からの大規模なオープンウェイトモデルであるKimi K3がリリースされた際、OpenAIの戦略的将来責任者であるディーン・W・ボール氏は、それが最先端ラボの経済性に脅威をもたらしており、純粋な安全上の懸念と金銭的な利害を区別することが困難であると主張した。
「安全上の懸念に関する議論の多くは妥当な基盤を持っていると思いますが、その多くは、人々が、たとえわずかに無意識であっても、権力を集中させたいという願望に関係しているようです」とアルトマン氏は remark し、競合他社であるAnthropicのCEOであるダリオ・アモデイ氏を標的にしているように見える。「私は、AIの非常に現実的な恐怖が、『それはあまりにも危険であり、彼らだけがそれを理解しているが、心配しないでください、彼らは私たち全員のために正しい決定を下すでしょう』と言うために使われる世界を非常に恐れています。私はそのような考えを信じていません。」
それにもかかわらず、OpenAIは政府によるAI規制に抵抗し、AIラボがモデルのセキュリティとメーカーの安全プロトコルを評価する ostensibly 独立した組織を設立する業界主導のアプローチを支持している。
この規制アプローチおよびAI開発を遅らせるあらゆる取り組みの課題は、競合する米国の最先端ラボやその中国の競合他社など、さまざまな業界プレイヤーを調整することにあり、AI開発を遅らせるあらゆる取り組みの課題は、競合する米国の最先端ラボやその中国の競合他社など、さまざまな業界プレイヤーを調整することにある。
関連記事
米国の株式市場が歴史的なマイルストーンに到達、AIと航空宇宙の巨人が1兆ドル規模のデビューに向けて準備を進める
エロン・マスク、サム・アルトマン、ダリオ・アモダイというテクノロジー業界の三巨頭が、それぞれの事業で初公開株式発行(IPO)に向けて進んでいる。スペースX、OpenAI、Anthropicという業界の巨人3社が1兆ドル規模の企業価値に近づき、上場準備を進める中、2026年は米国史上、新規株式発行が最も重要な年となる見込みだ。この歴史的な資金増強は世界の金融の注目を集めており、公的市場がこのような規模の資金を吸収する能力に対する重要なストレステストとなっている。これらの主要な資金調達が一斉に開始
スウェーデンのAIスタートアップ「Lovable」が主要な資金調達ラウンド終了後、132億ドルの評価額を達成
AI駆動のコーディングツールが注目を集める中、スウェーデンのスタートアップ企業Lovableは大型の資金調達ラウンドを獲得した。同社は30億ドルの調達を目指しており、これにより評価額が昨年12月に記録された66億ドルの倍となる132億ドルに達する可能性がある。この投資をリードするのはMenlo Venturesと見られている。Lovableの魅力は、複雑なコーディングスキルを不要とし、ソフトウェア作成を簡素化する中核の「ヴァイブコーディング」技術に由来する。ユーザーは自然言語で要件を記述するだ
Google、Geminiへの焦点がユーザー制御へシフトする中で、Remy AIエージェントをテスト
『Business Insider』によると、GoogleはGemini向けの新しいAIパーソナルエージェント「Remy」をテスト中である。このツールはユーザーに代わってタスクを実行することを目的としており、業務フローと日常のルーチンの両方を効率化する。現在、RemyはGeminiアプリケーションの社内限定版においてテストが行われている。この報道は社内文書と、プロジェクトに精通した2人の人物へのインタビューを引用している。社内資料では、Remyを「24時間365日のパーソナルエージェント」と位
関連特集おすすめ
コメント (0)
0/500

OpenAIのCEOサム・アルトマン氏は、AI開発のペースを「調整」する時期が来た可能性を示唆し、世界がその到来に備えることを確保する必要があると述べた。
「社会がこれらの新しい能力に適応するのに十分な時間を確保するために、AIの進歩のペースを遅らせる必要があるかもしれません」と、彼はポッドキャスト『Invest Like the Best』のホストであるパトリック・オショーネシーに対し説明した。彼は、そのようなことを「誰かにとっての規制独占のように、あるいは最先端ラボ間の談合のように感じられないように」行うことの難しさを強調した。
以前、アルトマン氏はAIの進歩を遅らせるよう求める呼びかけに抵抗し、2023年に提案された同様の一時停止を求める公開書簡を、「私たちが一時停止を必要とする場所に関する技術的なニュアンスの大部分を見落としている」と一蹴していた。
しかし、彼の立場は部分的に変化したようだ。その理由の一つは、OpenAIの高度なモデルの1つが安全な計算環境から脱出し、複数のゼロデイ脆弱性を利用してオンラインモデルリポジトリであるHuggingfaceにハッキングしたという事件によるものである。
ポッドキャストにおいて、OpenAIの共同創設者はこの出来事を「極めてSF的なサイバー事件……[t]これは私が非常に直感的に感じた最初のセキュリティインシデントです」と説明した。
OpenAIの研究者たちは、サンドボックスのセキュリティに対処している間、その特定のモデルのトレーニングを停止した。しかし、アルトマン氏は、モデルがより強力になるにつれて、その開発の「ペース調整」が安全なデプロイにとって重要になる可能性があることに言及した。
OpenAIおよびAnthropicの従業員たちは、すでに同様の表現を使用した請願書を circulating している。モデルの安全性とアライメントは常にAIにおける優先事項であったが、Anthropicの高度な能力を持つMythosモデルの最近のリリースにより、仮想的なリスクが具体的な問題へと変わった。
それでもなお、業界は信頼の欠如と、主要なプレイヤーが専門家が論争する形でシステム上の危険性を誇張するよう促す経済的圧力という課題に直面している。例えば、AnthropicのFableモデルが一時的に禁止されるべきだったかどうかといった点である。同様に、中国からの大規模なオープンウェイトモデルであるKimi K3がリリースされた際、OpenAIの戦略的将来責任者であるディーン・W・ボール氏は、それが最先端ラボの経済性に脅威をもたらしており、純粋な安全上の懸念と金銭的な利害を区別することが困難であると主張した。
「安全上の懸念に関する議論の多くは妥当な基盤を持っていると思いますが、その多くは、人々が、たとえわずかに無意識であっても、権力を集中させたいという願望に関係しているようです」とアルトマン氏は remark し、競合他社であるAnthropicのCEOであるダリオ・アモデイ氏を標的にしているように見える。「私は、AIの非常に現実的な恐怖が、『それはあまりにも危険であり、彼らだけがそれを理解しているが、心配しないでください、彼らは私たち全員のために正しい決定を下すでしょう』と言うために使われる世界を非常に恐れています。私はそのような考えを信じていません。」
それにもかかわらず、OpenAIは政府によるAI規制に抵抗し、AIラボがモデルのセキュリティとメーカーの安全プロトコルを評価する ostensibly 独立した組織を設立する業界主導のアプローチを支持している。
この規制アプローチおよびAI開発を遅らせるあらゆる取り組みの課題は、競合する米国の最先端ラボやその中国の競合他社など、さまざまな業界プレイヤーを調整することにあり、AI開発を遅らせるあらゆる取り組みの課題は、競合する米国の最先端ラボやその中国の競合他社など、さまざまな業界プレイヤーを調整することにある。
米国の株式市場が歴史的なマイルストーンに到達、AIと航空宇宙の巨人が1兆ドル規模のデビューに向けて準備を進める
エロン・マスク、サム・アルトマン、ダリオ・アモダイというテクノロジー業界の三巨頭が、それぞれの事業で初公開株式発行(IPO)に向けて進んでいる。スペースX、OpenAI、Anthropicという業界の巨人3社が1兆ドル規模の企業価値に近づき、上場準備を進める中、2026年は米国史上、新規株式発行が最も重要な年となる見込みだ。この歴史的な資金増強は世界の金融の注目を集めており、公的市場がこのような規模の資金を吸収する能力に対する重要なストレステストとなっている。これらの主要な資金調達が一斉に開始
スウェーデンのAIスタートアップ「Lovable」が主要な資金調達ラウンド終了後、132億ドルの評価額を達成
AI駆動のコーディングツールが注目を集める中、スウェーデンのスタートアップ企業Lovableは大型の資金調達ラウンドを獲得した。同社は30億ドルの調達を目指しており、これにより評価額が昨年12月に記録された66億ドルの倍となる132億ドルに達する可能性がある。この投資をリードするのはMenlo Venturesと見られている。Lovableの魅力は、複雑なコーディングスキルを不要とし、ソフトウェア作成を簡素化する中核の「ヴァイブコーディング」技術に由来する。ユーザーは自然言語で要件を記述するだ





家






