OpenAIのジェフ・クローンが、フロンティアズラボの群衆エージェント制御に役立つ可能性

火曜日のOpenAI Dev Dayにおける最も注目すべき発表の一つは、CEOのサム・アルトマン氏が同社の新しい「Decisions API」のローンチについて述べた短い発言であった。

このAPIは、今月初めにTypeSafe AIによってソフトウェア自動化のために特別に導入されたモデル「Jev」と類似した機能を提供しているようだ。LLMを基盤とした高速でコスト効率の高い分類器として機能するJevは、開発者が選択肢のセットを入力すると、確率に基づく出力を迅速に受け取ることができる。

OpenAIのDecisions APIも同じ目的を果たしているように見える。イベント中、アルトマン氏は、このAPIにより同ラボのLunaモデルが画像分類のカテゴリや特定のエージェントの動作など、事前に定義された選択肢のセットから選択できるようになると説明した。

「モデルの焦点を特定の選択に絞ることで、画像理解、広範な言語サポート、安全保護などの機能を維持しつつ、極限の速度を実現できます」とアルトマン氏は述べた。

TypeSafeは、TechCrunchからの新製品に関する問い合わせに対して直ちに回答しなかった。しかし、強化学習の共同発明者であり元OpenAIエンジニアであるCEOのディオゴ・アルメイダ氏は、X上で「クローン戦争」の勃発の可能性について冗談を交えた。

彼は、OpenAIの関心は「System One」に互換する形で構築することが未来を代表していることを示唆している可能性があると示唆した。（「System One」はTypeSafeの用語で、意図的な推論を指す「System 2」と対照的に、高速で直感的な処理を意味する。）

その潜在的な示唆は、現在のLLMは相対的な低速性と高いコストのため、多くのソフトウェアタスクに対する最適解ではないということである。開発者はLLMを補完するためにJevを使用しており、このアプローチがより高速でコスト効率の高い結果を生み出すことを発見している。

Decisions APIがJevとどの程度密接に一致しているかは不明である。OpenAIは限られたプレビューとしてのみこれをリリースしており、その結果、TechCrunchはまだ開発者がこれを広範にテストしている様子を観察していない。それでも、X上の会話からは業界の大きな関心が示唆されている。

Decisions APIは、Jevに似た他の提供物だけでなく、他のスタートアップが同様のモデルをローンチしており、OpenAIがこれを行う最後のテックジャイアントになる可能性は低い。重要な疑問は、これらの意思決定モデルの出力が現実世界のシナリオとどの程度一致するかという点である。

アルメイダ氏は、同社の競争優位性は統計的に堅牢な出力を生成するために生成する合成データにあると主張する。

「速度と低コストの達成は簡単です」とアルメイダ氏は先週TechCrunchに語った。「極限の速度と手頃な価格を優先する場合、ダイスを使用できます。真の課題は知能であり、私の主な目標は常にドルあたりの知能のパレートフロンティアを押し広げることです。」

わずか数週間で、これらのモデルが有望な未来を持っていることが明らかになり、その一つの可能性のある応用はAIエージェントの監視とセキュリティである。OpenAIのエージェントがオープンインターネット上で予測不能な行動をとったいくつかの事件に続き、同社の新しいセキュリティ対策の一つは、有害な行動を検出するために別のモデルを使用することであり、ただし「大きな計算コスト」を伴う。

スタートアップQueryStoryを率いるサイバーセキュリティのベテランであるシャポール・ナギブザデ氏によると、Jevのようなモデルはこのプロセスをはるかに手頃な価格にできる可能性がある。

彼は、先週末に行われたハッカソンのために、各エージェントの行動を割り当てられたタスクに対して評価するためにJevを利用するデモを作成した。このシステムは、悪意がある可能性が極めて高いと見なされる行動をブロックし、他の行動をレビューのためにフラグを立て、残りを許可する。

理論的には、このような監視はHugging Faceの事件を防ぐことができたはずである。さらに、Jevによる監視のコストは2.94ドルであるのに対し、フロンティアLLMを使用する場合のコストは372ドルである。

重要な洞察は、Jevが各エージェントの行動で実行するのに十分に安価であり、エージェントの全体的な信頼性を向上させる可能性のあるレビューの層を提供することである。これはTypeSafeの当初のビジョンと一致しており、今やOpenAIもその価値を認識している。