Das Jev-Clone von OpenAI könnte Frontiers Lab dabei helfen, Schwarmagenten zu steuern

Zu den bemerkenswertesten Ankündigungen beim Dev Day von OpenAI am Dienstag gehörte eine kurze Bemerkung von CEO Sam Altman zur Einführung der neuen „Decisions API“ des Unternehmens.

Diese API scheint Funktionen anzubieten, die denen von Jev ähneln, einem Modell, das Anfang dieses Monats von TypeSafe AI speziell für die Softwareautomatisierung vorgestellt wurde. Als schneller und kostengünstiger Klassifikator, der von einem LLM angetrieben wird, ermöglicht es Jev Entwicklern, eine Reihe von Optionen einzugeben und schnell wahrscheinlichkeitbasierte Ausgaben zu erhalten.

Die Decisions API von OpenAI scheint denselben Zweck zu erfüllen. Während der Veranstaltung erklärte Altman, dass die API es dem Luna-Modell des Labors ermöglicht, aus einer vordefinierten Auswahl an Möglichkeiten zu wählen, wie beispielsweise Bildklassifizierungskategorien oder spezifische Agentenverhalten.

„Indem wir den Fokus des Modells auf eine bestimmte Auswahl einschränken, können wir extreme Geschwindigkeit erreichen und gleichzeitig Funktionen wie Bildverständnis, breite Sprachunterstützung und Sicherheitsvorkehrungen bewahren“, so Altman.

TypeSafe reagierte nicht umgehend auf die Anfragen von TechCrunch bezüglich des neuen Produkts. Der CEO Diogo Almeida, ein ehemaliger OpenAI-Ingenieur und Miturheber der Verstärkungslernmethode, scherzte jedoch auf X über das mögliche Einsetzen eines „Klonkriegs“.

Er deutete an, dass das Interesse von OpenAI darauf hindeuten könnte, dass die Entwicklung in einer „System One“ kompatiblen Weise die Zukunft darstellt. („System One“ ist die Terminologie von TypeSafe für schnelle, intuitive Verarbeitung, im Gegensatz zu „System 2“, das absichtsvolles Denken bezeichnet.)

Die implizite Aussage dabei ist, dass aktuelle LLMs aufgrund ihrer relativen Langsamkeit und hohen Kosten nicht die optimale Lösung für viele Softwareaufgaben sind. Entwickler nutzen Jev bereits zur Erweiterung von LLMs und haben festgestellt, dass dieser Ansatz schnellere und kostengünstigere Ergebnisse liefert.

Es ist noch unklar, wie eng die Decisions API Jev widerspiegelt, da OpenAI sie nur als begrenzte Vorschau freigegeben hat. Daher hat TechCrunch noch keine ausgiebigen Tests durch Entwickler beobachtet. Dennoch deuten Gespräche auf X auf ein erhebliches Brancheninteresse hin.

Die Decisions API ist nicht das einzige Jev-ähnliche Angebot; andere Startups starten ähnliche Modelle, und OpenAI wird wahrscheinlich nicht der letzte Tech-Gigant sein, der dies tut. Eine entscheidende Frage bleibt, wie gut die Ausgaben dieser Entscheidungsmodelle mit realen Szenarien übereinstimmen.

Almeida argumentiert, dass der Wettbewerbsvorteil seines Unternehmens in den synthetischen Daten liegt, die es generiert, um statistisch robuste Ausgaben zu erzeugen.

„Geschwindigkeit und niedrige Kosten zu erreichen, ist einfach“, sagte Almeida letzte Woche gegenüber TechCrunch. „Wenn Sie extreme Geschwindigkeit und Erschwinglichkeit priorisieren, können Sie Würfel verwenden. Die eigentliche Herausforderung ist Intelligenz, und mein Hauptziel ist es immer, die Pareto-Grenze der Intelligenz pro Dollar voranzutreiben.“

Innerhalb weniger Wochen wurde deutlich, dass diese Modelle eine vielversprechende Zukunft haben, wobei eine wahrscheinliche Anwendung die Überwachung und Sicherheit von KI-Agenten ist. Nach mehreren Vorfällen, in denen OpenAI-Agenten im offenen Internet unvorhersehbar agierten, gehört eine der neuen Sicherheitsmaßnahmen des Unternehmens die Verwendung eines separaten Modells zur Erkennung schädlicher Handlungen, wenn auch zu „erheblichen Rechenkosten“.

Shapor Naghibzadeh, ein Cybersicherheits-Veteran, der das Startup QueryStory leitet, glaubt, dass ein Modell wie Jev diesen Prozess erheblich erschwinglicher machen könnte.

Er erstellte eine Demo für einen Hackathon, der am vergangenen Wochenende stattfand und Jev nutzt, um jede agentische Handlung gegen ihre zugewiesene Aufgabe zu bewerten. Das System blockiert Handlungen, die es als hochgradig bösartig erachtet, markiert andere zur Überprüfung und erlaubt den Rest.

Theoretisch hätte eine solche Überwachung den Hugging-Face-Vorfall verhindern können. Darüber hinaus kostet die Überwachung via Jev 2,94 US-Dollar, im Vergleich zu 372 US-Dollar bei der Verwendung eines Frontier-LLM.

Eine wichtige Erkenntnis ist, dass Jev so günstig ist, dass es bei jeder agentischen Handlung ausgeführt werden kann, was eine Überprüfungsebene bietet, die die Gesamtzuverlässigkeit der Agenten verbessern könnte. Dies entspricht der ursprünglichen Vision von TypeSafe – und nun hat auch OpenAI ihren Wert erkannt.