OpenAI 的 Jev 克隆體可能幫助前沿實驗室控制叢集智慧體

在週二 OpenAI 開發者大會（Dev Day）上，最令人矚目的公告之一，是執行長 Sam Altman 關於公司推出新的“Decisions API”（決策 API）的簡短宣告。

該 API 似乎提供了與 Jev 類似的功能，Jev 是 TypeSafe AI 本月早些時候專門針對軟體自動化推出的模型。作為一個由大語言模型（LLM）驅動的高速、低成本分類器，Jev 允許開發者輸入一組選項，並快速獲得基於機率的輸出結果。

OpenAI 的 Decisions API 似乎服務於相同的目的。在活動期間，Altman 解釋說，該 API 使實驗室的 Luna 模型能夠從預定義的選項集中進行選擇，例如影象分類類別或特定的智慧體行為。

“透過將模型的注意力範圍縮小到特定選擇，我們可以在保持影象理解、廣泛語言支援和安全保護等能力的同時，實現極致的速度，”Altman 表示。

TypeSafe 尚未立即回應 TechCrunch 關於新產品的詢問。然而，前 OpenAI 工程師、強化學習共同發明人 Diogo Almeida 在 X 平臺上開玩笑地提到了可能爆發的“克隆戰爭”。

他暗示，OpenAI 的興趣可能表明，以相容“System One”（系統一）的方式進行構建代表了未來。（“System One”是 TypeSafe 的術語，指快速、直覺式的處理，與指代深思熟慮推理的“System 2”（系統二）相對。）

其潛在含義是，由於當前大語言模型相對緩慢且成本高昂，它們並非許多軟體任務的最優解決方案。開發者一直使用 Jev 來增強大語言模型，發現這種方法能產生更快且更具成本效益的結果。

目前尚不清楚 Decisions API 與 Jev 的相似程度，因為 OpenAI 僅將其作為有限預覽版釋出。因此，TechCrunch 尚未觀察到開發者對其進行廣泛測試。儘管如此，X 平臺上的對話表明業界對此有濃厚興趣。

Decisions API 並非唯一的類 Jev 產品；其他初創公司也在推出類似模型，而 OpenAI 不太可能是最後一位推出此類產品的科技巨頭。一個關鍵問題仍然存在，即這些決策模型的輸出與現實場景的契合度如何。

Almeida 認為，其公司的競爭優勢在於其生成的合成資料，這些資料能產生統計上穩健的輸出結果。

“實現速度和低成本是 straightforward（直接/簡單）的，”Almeida 上週告訴 TechCrunch，“如果你優先考慮極致速度和可負擔性，你可以使用骰子（dice）。真正的挑戰在於智慧，而我主要目標始終是推動每美元智慧的帕累託前沿（Pareto frontier）。”

僅僅幾周時間，這些模型展現出廣闊的前景已變得顯而易見，其中一個潛在應用是監控和保護 AI 智慧體。在 OpenAI 的智慧體在開放網際網路上出現幾次不可預測的行為事件後，該公司的一項新安全措施涉及使用單獨的模型來檢測有害行為，儘管這需要“巨大的計算成本”。

網路安全老兵 Shapor Naghibzadeh 領導著初創公司 QueryStory，他認為像 Jev 這樣的模型可以使這一過程變得更為經濟實惠。

他在上週末舉辦的一次駭客松活動中建立了一個演示，利用 Jev 評估每個智慧體行為與其分配任務的匹配程度。該系統會阻止其認為極有可能是惡意的行為，標記其他行為以供審查，並允許其餘行為透過。

理論上，此類監控本可以防止 Hugging Face 事件的發生。此外，透過 Jev 進行監控的成本為 2.94 美元，而使用前沿大語言模型的成本則為 372 美元。

一個關鍵的見解是，Jev 足夠便宜，可以執行於每一個智慧體操作上，提供一層審查機制，從而提升智慧體的整體可靠性。這符合 TypeSafe 最初的願景——如今 OpenAI 也認識到了其價值。