Satya Nadella richtet eine eindringliche Warnung an Unternehmen, die KI einsetzen

Unter den zahlreichen Debatten über die möglichen Nachteile der KI gibt es eine Sorge, die KI-Begeisterte im Silicon Valley besonders beunruhigt: dass große KI-Forschungslabore, die proprietäre Modelle verkaufen, möglicherweise wie Trojanische Pferde agieren.

Die Befürchtung ist, dass diese Labore, wenn Start-ups und Unternehmen KI-Modelle von Anbietern wie OpenAI und Anthropic einsetzen, zunehmend Zugang zu den sensibelsten Geschäftsdaten der Unternehmen erhalten. Die Modellentwickler könnten dieses Wissen dann zu ihrem eigenen Vorteil nutzen und sich so potenziell zu Konkurrenten ihrer eigenen Kunden entwickeln. Warnungen vor diesem Risiko kommen von verschiedenen Seiten, vom Risikokapitalgeber Jason Calacanis bis hin zum Palantir-CEO Alex Karp.

Nun hat sich in einem überraschenden Blogbeitrag am Montag auch Microsoft-CEO Satya Nadella zu Wort gemeldet. Nadella warnt, dass KI-Nutzer – die er als „Käufer“ bezeichnet – doppelt bezahlen. Sie zahlen bewusst für die Nutzung von KI-Token, geben dabei aber unwissentlich auch wertvolle Daten preis.

„Im Grunde bezahlt man zweimal für Intelligenz: einmal mit Geld und ein weiteres Mal mit etwas noch Wertvollerem – dem firmeneigenen Wissen, das man preisgeben muss, damit diese Intelligenz nutzbar wird. Je besser die Leistung des Modells sein soll, desto mehr von diesem Wissen muss man ihm zuführen!“, schreibt er.

Am gefährlichsten sei, so argumentiert er, dass Unternehmen den Modellen im Grunde die Feinheiten ihres eigenen Geschäfts beibringen.

„Modelle lernen aus ‚Exhaust‘, den Eingabeaufforderungen, die Menschen schreiben, den Tools, die Mitarbeiter nutzen, und vor allem aus den Korrekturen, die Menschen vornehmen, wenn das Modell falsch liegt. Jede Korrektur wird zu institutionellem Know-how verdichtet“, schreibt er.

Dies ist „die Art von Wissen, die ein Wettbewerber niemals kaufen könnte“, doch Unternehmen geben es einfach so preis.

Nadella argumentiert, dass es nur fair sei, wenn Unternehmen im Gegenzug diese Modelle untersuchen – oder „destillieren“ – dürften, wenn KI-Unternehmen das Internet frei nach Daten durchsuchen dürfen, um ihre Modelle zu trainieren. „Destillation“ bezieht sich darauf, die eigenen Ausgaben eines Modells zu nutzen, um zu verstehen, wie es funktioniert, und auf der Grundlage dieser Erkenntnisse ein neues, oft kostengünstigeres Modell zu trainieren. Im Februar warf Anthropic chinesischen Open-Source-Modellen vor, Millionen von Eingabeaufforderungen an Claude gesendet zu haben, um ihre eigenen Modelle zu verbessern, und forderte die US-Regierung auf, die Exportkontrollen zu verschärfen.

Nadellas Argument lautet, dass Modellhersteller nicht beides haben können. Es sei heuchlerisch von ihnen, ihre Modelle frei mit Daten aus aller Welt zu trainieren, während sie anderen verbieten, dasselbe mit ihren Modellen zu tun.

„Zwar ist die großartige Innovation, die dadurch entsteht, dass Modellanbieter faire Nutzungsrechte haben, um Modelle anhand öffentlicher Daten zu trainieren, notwendig, doch finde ich es ironisch, dass der Status quo darin besteht, sich dann umzudrehen und restriktive Bedingungen für die Destillation aufzuerlegen“, schreibt der Microsoft-CEO.

Nadella ist besonders besorgt, wenn Modellentwickler „sich das Recht vorbehalten, aus Nutzungs- und Interaktionsdaten ihrer Kunden zu lernen“.

Nadellas Lösung ist genau das, was man von einem CEO eines großen Cloud-Anbieters erwarten würde. Er möchte, dass Unternehmen das „Eigentumsrecht“ an ihren Daten behalten, einschließlich Eingabeaufforderungen, Feedback und mehr. Daher drängt er sie dazu, ihre eigenen „proprietären Lernumgebungen“ in der Cloud aufzubauen – wo sich ihre Daten wahrscheinlich ohnehin bereits befinden, und praktischerweise könnte das die Microsoft-Cloud Azure bedeuten. Er empfiehlt Unternehmen zudem, sogenannte „Orchestrierungsschichten“ zu implementieren – im Wesentlichen eine Möglichkeit, problemlos zwischen KI-Modellen verschiedener Anbieter zu wechseln, anstatt an einen einzigen gebunden zu sein. Tools wie KI-„Gateways“, die genau dies ermöglichen, erfreuen sich zunehmender Beliebtheit.

Zwar verwendet Nadella das Wort „Open Source“ nie als Methode zur Wahrung der Eigentumsrechte, doch ist dies ein offensichtlicher Subtext. Es gibt jedoch noch einen weiteren Subtext.

Große Unternehmen, von denen viele neben der Nutzung der Cloud nach wie vor eigene Rechenzentren betreiben, bewegen sich bereits in Richtung Open-Source-Modelle, die vor Ort installiert werden („on-prem“ im Fachjargon). Idit Levine, Gründerin und CEO von Solo.io – einem Unternehmen, das Netzwerk- und Sicherheitssoftware herstellt, um Unternehmen bei der Verwaltung von KI-Systemen zu unterstützen – sagt, dass sie genau diesen Wandel bei ihren eigenen Kunden beobachtet. Nachdem sie mit proprietären Modellentwicklern experimentiert haben, fragen sie: „Kann ich ein Open-Source-Modell nehmen und es on-prem ausführen? Es wird fast 90 % dessen leisten, was die großen Anbieter leisten. Und es wird deutlich weniger kosten“, erklärt sie gegenüber TechCrunch. „Das verstehen sie, und sie haben die Kontrolle darüber.“

Die Technologie von Solo.io wurde im vergangenen Jahr als Basis für das Agentgateway-Projekt der Linux Foundation ausgewählt. Zu den Kunden ihres Unternehmens zählen Firmen wie T-Mobile, ADP und SAP. Sie beobachtet, dass Unternehmen zunehmend Open-Source-Modelle vor Ort installieren, und sieht darin die nächste große Welle bei der Nutzung von KI in Unternehmen.

Damit steht sie nicht allein da. Vercel – vor allem bekannt als Plattform zum Erstellen und Hosten von Websites, die kürzlich Tools zum Wechseln zwischen KI-Modellen hinzugefügt hat – und OpenRouter, ein Unternehmen, das Entwicklern hilft, Anfragen über verschiedene KI-Modelle zu leiten, verzeichnen beide einen Anstieg des Datenverkehrs zu Open-Source-Modellen. Tatsächlich entfielen im vergangenen Monat 29 % des gesamten über das Gateway von Vercel geleiteten Datenverkehrs auf offene Modelle.

Da der CEO von Microsoft – einem Unternehmen, das sowohl in OpenAI als auch in Anthropic investiert hat – Unternehmen nun offen dazu auffordert, bei der Nutzung proprietärer Modelle Vorsicht walten zu lassen, gehen wir davon aus, dass sich dieser Trend weiter verstärken wird. „Indem man Intelligenz nutzt, schafft man Intelligenz. Und was man schafft, sollte einem selbst gehören“, schreibt Nadella.