Wie die Regierung zu dem Schluss kam, dass das „Frontier“-Modell von OpenAI sicher genug für die Veröffentlichung sei

OpenAI hat sein neuestes fortschrittliches Sprachmodell „Sol“ vorgestellt und der breiten Öffentlichkeit zugänglich gemacht. Sol wird allgemein als dem Modell „Fable“ von Anthropic ebenbürtig angesehen – einem Modell, das so umstritten war, dass es kurzzeitig Besorgnis im Weißen Haus auslöste und zu einer vorübergehenden Einschränkung des öffentlichen Zugangs führte.

Wie kam es letztendlich zur Freigabe dieser Modelle? Die Antwort darauf bleibt unklar.

„Ehrlich gesagt habe ich keinen Einblick in diese genauen Prozesse, daher habe ich nicht das Gefühl, über genügend Informationen zu verfügen, um beurteilen zu können, ob sie angemessen sind oder nicht“, erklärte Mina Narayanan, Senior Research Analyst am Center for Security and Emerging Technology der Georgetown University, gegenüber TechCrunch. „Anthropic hat zwar erklärt, dass sie im Gespräch mit der Regierung standen und dass sie einen Klassifikator zur Erkennung von Jailbreak-Versuchen entwickelt sowie Abwehrstrategien zur Verhinderung künftiger Jailbreaks implementiert haben, aber wie genau dieser Dialog zwischen der Regierung, Anthropic und OpenAI aussah, ist unklar.“

Dean W. Ball, ein ehemaliger politischer Berater von Trump, der nun bei OpenAI tätig ist, merkte letzten Monat in seinem Newsletter an, dass „niemand weiß, welche Anforderungen für die Erteilung einer Lizenz gelten“.

Andy Konwinski, ein Informatiker, der Databricks, Perplexity und das Laude Institute mitbegründet hat, erklärte, er habe noch nie mit jemandem gesprochen, der den Prozess vollständig versteht – nicht einmal unter Mitarbeitern führender KI-Labore. „Das ist ein existenzielles Problem“, sagt er gegenüber TechCrunch. „Ob Sicherheit oder nicht – es geht darum, wer die Entscheidungsgewalt hat – wer die Kontrolle ausübt und über Genehmigungen entscheidet?“

Achtzehn Monate nach Beginn der Trump-Regierung herrscht immer noch wenig Klarheit darüber, wie es weitergehen soll – trotz oder, wie manche Kritiker behaupten, gerade wegen des Einflusses von Branchenvertretern auf die Politik. Im vergangenen Monat wurde nach wochenlangen internen Auseinandersetzungen eine Durchführungsverordnung veröffentlicht, die einen Fahrplan für die Bewertung von Pioniermodellen skizziert, doch konkrete Details fehlen nach wie vor – abgesehen davon, was es nicht geben wird. „Es wird keine FDA für KI geben“, erklärte Sriram Krishnan, ein ehemaliger Partner bei Andreessen Horowitz, der bis zum vergangenen Monat als leitender Berater für KI im Weißen Haus tätig war, gegenüber der Financial Times.

Insbesondere gibt es nach wie vor keinen Konsens darüber, welche Arten von Modellen einer staatlichen Überprüfung bedürfen oder welche Behörde bzw. welche Behörden diese Bewertungen durchführen sollen. Derzeit scheint das „Center for AI Standards and Innovation“ des Handelsministeriums die Federführung zu übernehmen, doch die Durchführungsverordnung weist sechs Ministerien an, bis Anfang August ein endgültiges Verfahren festzulegen. Was in der Zwischenzeit entstanden ist, ist bestenfalls eine Ad-hoc-Lösung.

Sam Altman, CEO von OpenAI, erklärte gegenüber CNBC, dass der Prozess Gespräche mit Beamten wie Handelsminister Howard Lutnick, Finanzminister Scott Bessent und dem US-Nationalen Cyberdirektor Sean Cairncross umfasste, doch bleibt unklar, wer die Experten waren, die die Modelle getestet haben, und wie sie diese Tests durchgeführt haben. OpenAI lehnte es ab, gegenüber TechCrunch Einzelheiten über das Verfahren der Regierung preiszugeben, und verwies stattdessen auf Ergebnisse mehrerer externer Bewertungen durch Organisationen wie UK AISI, SecureBio und Irregular, die in der Sicherheitskarte des neuesten Modells enthalten sind.

Ähnlich wie bei der Einführung von „Fable“ durch Anthropic stellte OpenAI das Modell vor der breiteren Veröffentlichung der Regierung und ausgewählten Nutzern vor; es ist jedoch nicht bekannt, wer genau diese Nutzer waren oder wie sie ausgewählt wurden. In einem Blogbeitrag von Ende Juni erklärte das Unternehmen: „Wir glauben nicht, dass diese Art von Zugangsprozess für die Regierung langfristig zur Regel werden sollte“, und fügte hinzu, dass es gemeinsam mit der Regierung einen anderen Weg für die Zukunft entwickeln werde.

Hintergrund dieser Gespräche sind Berichte, wonach Altman bis zu 5 % der Anteile an OpenAI für die sogenannten „Trump-Konten“ der Regierung angeboten habe, sowie die Rolle von OpenAI-Präsident Greg Brockman als größter öffentlich bekannter Spender für Trumps Wahlkampf zur Zwischenwahl. Für Außenstehende ist es schwierig, diese Aktivitäten von dem offenbar zurückhaltenderen Ansatz der Regierung bei der Regulierung von Sol zu trennen.

Anthropics „Fable“ hingegen wurde vorübergehend vom breiten Zugang zurückgezogen, als die US-Regierung dessen Nutzung durch ausländische Staatsangehörige untersagte – teils aufgrund echter Bedenken, dass Nutzer das Modell „jailbreaken“ könnten, um Zugriff auf Hacking-Fähigkeiten zu erhalten, teils aufgrund von Persönlichkeitskonflikten zwischen Anthropic und der Trump-Regierung. Die Androhung eines Exportverbots könnte OpenAI zudem dazu veranlasst haben, den (unbekannten) Forderungen der Regierung gegenüber kooperativer zu sein.

Aus Sicht der Branche mag ein zurückhaltender Regulierungsansatz attraktiv erscheinen, doch ein Ansatz, der auf persönlichen Verbindungen zu Regierungsbeamten beruht, schafft Unsicherheit und falsche Anreize.

Konwinski erklärte gegenüber TechCrunch, er befürchte, dass echte Experten auf diesem Gebiet – „Sicherheitsforscher, Alignment-Forscher, Forscher im Bereich der Interpretierbarkeit, aber auch Datenexperten und Fachleute aus allen Bereichen der Technologie“ – im Prozess der Modellveröffentlichung keine ausreichende Rolle spielen.

Konwinski argumentiert, dass ein „offenes Gemeingut“ der beste Weg sei, um Sicherheit und Innovation in Einklang zu bringen. Er verweist auf Modelle wie die FDA, die NIH oder nationale Forschungslabore, die Forscher, Regierungsbeamte und private Unternehmen zusammenbringen, um einen Konsens in Sicherheitsfragen zu erzielen.

Ein Teil davon hängt mit den Anreizen des Kapitalismus zusammen, die KI-Forscher seit mehr als einem Jahrzehnt motivieren und die im Gerichtssaal während Elon Musks Klage gegen die Unternehmensstruktur von OpenAI zum Tragen kamen. Ball weist darauf hin, dass die Natur des KI-Geschäfts es erfordert, dass Unternehmen einen Großteil ihrer Trainingskosten kurz nach der Veröffentlichung ihrer Modelle wieder hereinholen und der Konkurrenz einen Schritt voraus sind.

„Selbst wenn ihre Absichten gut sind, gibt es ganz klare rechtliche Verpflichtungen und treuhänderische Verantwortlichkeiten, die fest in den Betriebsabläufen verankert sind“, betont Konwinski.

Ball argumentierte in seinem Beitrag, dass der Weg in die Zukunft von staatlich zugelassenen externen Prüfstellen abhängen werde, die den Sicherheitsansatz der Pionierlabore bewerten. Auch Konwinski sieht neue institutionelle Formate wie spezialisierte Forschungsorganisationen optimistisch, die dazu beitragen könnten, dass mehr unabhängige Experten aus Wissenschaft und dem gemeinnützigen Sektor Zugang zu Pioniermodellen erhalten und diese bewerten können.

Vorerst wird die Geheimhaltung rund um die KI-Entwicklung nicht verschwinden, aber sie wird auch politische Herausforderungen für eine Branche mit sich bringen, der die Amerikaner zunehmend mit Skepsis begegnen. „Man hat nicht das Gefühl, dass verantwortungsbewusste Menschen diese Veränderungen vorantreiben“, sagte Remzi Arpaci-Dusseau, Professor für Informatik an der University of Wisconsin-Madison, letzte Woche auf der Open Frontier-Konferenz.

Bei derselben Veranstaltung forderte David Siegel, der Informatiker und Gründer von Two Sigma – einem der erfolgreichsten quantitativen Hedgefonds –, die Teilnehmer auf, sich „eine Situation vorzustellen, die meiner Meinung nach sehr schlimm wäre: [in der] eine kleine Anzahl von Unternehmen die Technologie kontrolliert; die Regierung in ihren geheimen Labors prüft, ob die Technologie für den Einsatz geeignet ist oder nicht; und die breite Öffentlichkeit sowie die wissenschaftliche Gemeinschaft haben eigentlich keinen Zugang zu all diesen Informationen.“

Es scheint, als müssten wir uns das gar nicht vorstellen.