RSIは新たなAGIとなり、その定義も同様に捉えどころのないものとなった

「再帰（recursion）」という言葉は、人工知能分野における最新の流行語となっている。 2つの異なるスタートアップ企業が社名にこの言葉を採用しており、他にも多くの企業が開発計画の中で「再帰的自己改善（RSI）」に言及している。かつてのAGIと同様に、RSIはAIにおける劇的なブレークスルーを表す3文字の略語となっている――その正確な定義については依然として議論の余地があるものの。

本質的に、RSIとは自らを継続的にアップグレードできるAIシステムを指す。こうしたシステムが人間よりも効果的に改善サイクルを処理できるようになれば、そのプロセスは利用可能な計算能力のみによって制約される閉ループとなり、人間の関与は不要になるか、あるいは逆効果さえもたらすようになる。

不安を覚えるかどうかは別として、そのビジョンは多くのAI研究所が熱心に追求しようとしているものだ。

今月初め、著名なAI研究者であるリチャード・ソーチャー氏は、「Recursive Superintelligence（再帰的超知能）」というまさにその名の通りの会社を設立し、RSIを明確なミッションとして掲げた。 「私たちの主な焦点は、真に再帰的で自己改善型のスーパーインテリジェンスを大規模に構築することです」と、ソーチャー氏は設立時にTechCrunchに語った。「これは、研究アイデアの創出、実装、検証というプロセス全体が自動化されることを意味します。」

他にも数名の著名な研究者が同じ目標を追い求めており、再帰的な自己改善を現実のものとする画期的な進展を期待している。

中でも特に注目すべき人物の一人が、テスラやOpenAIで伝説的な存在であるアレックス・カーパシーだ。彼は「Auto-Research」と呼ばれるプロジェクトにおいて、エージェントの群れを用いてLLMに単純なタスクを学習させている。カーパシーはこのプロジェクトについて異例なほど透明性を保っており、マイルストーンを定期的にツイートしたり、構成要素を公開GitHubリポジトリを通じて公開したりしている。 これまでのところ、この研究は主にGPT-2規模のモデルに対する微細な改善に焦点を当ててきた――カルパシー氏が3月に指摘したように、「（まだ）斬新で画期的な『研究』というわけではない」――が、それでも多くの研究者にRSIという夢の追求を促すには十分な成果となっている。 現在、カーパシー氏はAnthropicで事前学習の研究に取り組んでおり、この概念をより大規模に適用する十分な機会を得ることになるだろう。

CohereとGoogle出身のサラ・フッカーが設立したAdaptionは、最近、フロンティアトレーニングを自動化する「AutoScientist」という同様のツールをリリースした。 カーパシー氏の「自動研究者」と同様に、このシステムもエージェントを訓練して漸進的な改善を図らせるが、Adaptionの目標は、本格的なフロンティアモデルのトレーニングを簡素化することにある。もしそれらの研究者がフロンティアをさらに押し広げていけば、このシステムはすぐにRSIに極めて近いものへと進化する可能性がある。

Disarrayの創業者であるドリス・シンは、彼女の自己学習型機械学習エージェントが最近のKaggleコンペティションで28個のメダルを獲得し、多くの人間が訓練したエージェントを上回る成績を収めたことで、RSI関係者からより具体的な関心を集めた。彼女の見解では、主な課題は信頼性である。

「無限の計算能力と無限の時間軸があれば、私たちはすでにその段階に達していると言えるでしょう」とシン氏は私に語った。「これは実際には創造的な取り組みではなく、主に堅実なエンジニアリング作業であると言いたいのです。」

まだその段階には至っていない

また、AI業界が有意義な再帰的システムには程遠く、依然として懐疑的な一般大衆に進捗状況を伝えるのに苦労しているという証拠も数多く存在する。GoogleのCEO、サンダー・ピチャイ氏は、最近のポッドキャストインタビューで、この事実を事実上認めた。

「これは連続的なプロセスであり、我々全員が確実に進歩を遂げている」とピチャイ氏は述べた。「しかし、人々がR.S.I.（再帰的自己改善）を説明する様子を見ると、それは多くの影響を伴う次の段階の加速を意味するものであり、我々はまだその段階には達していない。」

とはいえ、その連続体には、自己改善型AIシステムが数多く含まれている。1月、Anthropic社のClaude Code担当主任プログラマーの一人は、自身のチームのコードの「ほぼ100％」がこのツールによって記述されたと推定した。これは、Claude Codeが文字通り自らを記述していたことを率直に認めたものだ。

エンジニアがAIツールを使用しているからといって、それがエンジニアに取って代わるわけではない――しかし、Anthropicはエンジニアの代替にも近づきつつあるようだ。 Mythosのプレビューに関連した最近の調査では、Anthropicのエンジニア18人のうち5人が、ハーネスの改良により、このバージョンのMythosがまもなくL4レベルのエンジニア――監督なしで複雑なプロジェクトを処理できる中堅プログラマー――の代わりになり得ると考えていた。

とはいえ、いくつかの弱点は依然として残っていると見られています。

「L4と比較して報告されているClaudeの主な弱点には、1週間にわたる曖昧なタスクの自己管理、組織の優先順位の理解、センス、検証、指示の遵守、および認識論などが含まれる」と報告書には記されている。

言い換えれば、その弱点はRSIの基盤である自律的な方向付けに関連するあらゆる事柄を網羅している。しかし、それ以外のあらゆる点において、Claudeは即座に活躍できる準備が整っている。

かつての「AGI（汎用人工知能）」という用語と同様、AI業界もまた、有意義な再帰的システムを実証するまであとどれほどか、明確には示せていない。 昨年、ジョージタウン大学のセキュリティ・新興技術センター（CSET）がRSIを研究するために専門家グループを結成した際、評価には大きな意見の相違が見られた。ある者は「超知能」の爆発的な出現が差し迫っていると予測した一方で、他の者は進展は緩やかで、最終的には頭打ちになると予想した。しかし、再帰性によって未来の予測が特に困難になるという点では、全員が一致していた。

CSETの所長であり、OpenAIの元理事でもあるヘレン・トナー氏は、TechCrunchに対し、単にAIツールを使ってAI研究を行うだけでは、RSIと見なすには不十分だと語った。「彼らはただ、できる限りAIを使っているだけなのです」とトナー氏はTechCrunchに語った。 「そして、それはRSIの古典的な定義とは異なると思います。RSIとは本来、人間が一切必要とされない状態を意味するのですから」

トナー氏は、METRのAjeya Cotra氏による最近の投稿を例に挙げ、AIが研究を主導するようになるまでの道のりにおけるさまざまなマイルストーンを区別している。Cotra氏が「適性（adequacy）」と呼ぶ段階は、人間がすべて排除された後もシステムが研究を継続できる状態を指す――たとえその結果として得られる研究の価値や効率が低下したとしても。 「パリティ（同等性）」とは、AIのみのシステムが、人間のみのシステムと同等の研究能力を持つ状態を指す。最終段階である「スプリームシー（優位性）」は、AIのみのシステムが、人間とAIの協働システムを上回る性能を発揮するようになった時点で達成される。

最終的にコトラは、AIが独自に何らかの成果を生み出せる「適性」の閾値に非常に近づいていると結論づけている。これは、カルパシー氏の「Auto-Research」システムによってもたらされた漸進的な変化に類似している。 「このマイルストーンがすでに過ぎ去ったと言われても、私はそれほど驚きはしないでしょう。そして、それは今後2年以内に起こるだろうと予想しています」とコトラは記している。

彼女は「同等性」がいつ達成されるかについては確信が持てないものの、一旦達成されれば、「AIの進歩のペースが飛躍的に加速し、さらに1年以内にAI研究の覇権が確立されるだろう」と信じている。

道のりの障害

AIの多くがスケーリング則に基づいて構築されていることを考えると、RSIも同様の曲線を描くものと想定する傾向が強い。トナー氏は、RSIを通じてAIの研究開発に取り組む人々の多くが、「RSIを、ただひたすらスケールアップし続けられる、かなり滑らかなはしごのようなものだと考えている」と指摘する。

しかし、たとえAI研究者がカルパシー氏の「自動研究者」のように漸進的な改善を成し遂げられたとしても、研究プロセス全体を委ねるという点では、依然として大きな課題が残っている。トナー氏はこれをコンピューティングの歴史に例えて説明する。そこでは、人間はトップから全体を指揮しつつ、プロセスのより多くの部分を委ねてきたのだ。

「私たちは機械語からアセンブリ言語、そしてコンパイル言語へと移行してきました。コンピュータの本質からますます遠ざかっているのです」とトナー氏は言う。「しかし、直感的な意味では、依然として人間が主導権を握っているのです。」

そのパラダイムを超えるには、工学面でもアラインメントの面でも、大きな課題が待ち受けている。しかし、巨額の投資を投じたとしても、無限の計算能力は得られない――そして、人間の労働と機械知能との間の根本的なトレードオフを克服することは困難だろう。

では、終末論的なビジョンが描かれる完全再帰型AIシステムについてはどうだろうか？ 研究者たちが概ね一致している唯一の点は、AGIと同様に、それがまだ実現していないということだ。