OpenAI führt eine Initiative mit 100 Unterzeichnern für die Cyberabwehr an

Der Brief von OpenAI beginnt mit den Worten: „Wir haben nur ein begrenztes Zeitfenster, um die Cyberabwehr zu stärken.“ Bildquelle: Getty Images

Große Technologieunternehmen – darunter AWS, Google und Microsoft – fordern Regierungen nachdrücklich auf, Mittel für Abwehrinstrumente bereitzustellen, während Kritiker das Manifest als eigennützig bezeichnen

Mehr als 100 Unternehmen aus den Bereichen Technologie, Cybersicherheit und Finanzdienstleistungen haben sich OpenAI in einem offenen Brief angeschlossen, in dem sie eine sofortige weltweite Verstärkung der Cyberabwehr fordern, da KI-Modelle immer besser in der Lage sind, digitale Systeme sowohl anzugreifen als auch zu schützen.

Die Kernbotschaft des Briefes ist klar: Führungskräfte aus Wirtschaft und Politik haben nur ein begrenztes Zeitfenster, um zu handeln, bevor KI-gestützte Cyberbedrohungen weitaus verbreiteter und ausgefeilter werden. „Wir haben nur ein begrenztes Zeitfenster, um die Cyberabwehr zu stärken“, heißt es in dem Brief.

Der offene Brief vereint eine beispiellose branchenübergreifende Koalition. Zu den Unterzeichnern zählen die Hyperscaler AWS, Google und Microsoft, große Technologieunternehmen wie Adobe, IBM und Oracle, KI-Entwickler – darunter auch der OpenAI-Konkurrent Anthropic –, führende Sicherheitsunternehmen wie CrowdStrike, Palo Alto Networks und Red Hat, Hardware- und Telekommunikationsanbieter, große Beratungsunternehmen sowie Finanzriesen wie Mastercard, US Bank und Visa.

Evan Reiser, Gründer und CEO von Abnormal AI (einem der Unterzeichner), sagt: „Wir haben einen OpenAI-Brief für gemeinsames Handeln im Bereich der Cyberabwehr unterzeichnet, weil kein einzelnes Unternehmen dieses Problem allein lösen kann.“

Evan Reiser, CEO von Abnormal Security | Bildnachweis: Abnormal Security

„Software-Schwachstellen und Malware sind nach wie vor reale Bedrohungen, doch die kostspieligsten Angriffe zielen mittlerweile auf Menschen ab – durch kompromittierte Identitäten, Kontoübernahmen und Social Engineering. Insider-Bedrohungen und staatlich geförderte Infiltrationen erfolgen heute über Text-, Sprach- und Video-Deepfakes.

Sie geben sich als legitime Identitäten aus und verhalten sich nur geringfügig abweichend, sodass sie an Tools vorbeikommen, die darauf ausgelegt sind, bekannte schädliche Software zu erkennen. Diese Angriffe verdienen dieselbe Dringlichkeit wie die Sicherheitslücken, die derzeit die Schlagzeilen beherrschen.

„KI senkt die Hürden für Angreifer, erhöht ihre Geschwindigkeit und macht es einfach, Täuschungsmanöver in großem Maßstab zu produzieren. Wir können die Angriffe von morgen nicht mit den Annahmen von gestern abwehren.

„Deshalb ist der Aufruf von OpenAI zum gemeinsamen Handeln so wichtig, und wir bei Abnormal AI stehen voll und ganz dahinter. Die Sicherheitsgemeinschaft hat sowohl die Chance als auch die Verpflichtung, die defensive KI mindestens genauso schnell voranzubringen wie die offensive – das bedeutet, Systeme zu entwickeln, die kontinuierlich lernen, neue Bedrohungsinformationen in stärkere Produktionsabwehrmaßnahmen umzusetzen und die Verteidigung als gemeinsame Anstrengung zu betrachten.“

Der offene Brief von mehr als 100 Technologieunternehmen, in dem zu gemeinsamem Handeln gegen KI-gestützte Cyberangriffe aufgerufen wird, ist ein weiterer Meilenstein auf einem Weg, den die Branche bereits seit Jahren beschreitet –

Michael Vallas, Global Technical Principal bei Goldilock Secure

Bemerkenswert ist jedoch, dass NVIDIA und SpaceX auf der Liste der Unterzeichner fehlen.

Für die Wettbewerber, die den Brief unterzeichnet haben – insbesondere Rivalen im Bereich der Pioniermodelle wie Anthropic und Cloud-Infrastruktur-Giganten wie AWS und Microsoft – könnte diese Abwesenheit eine wachsende strategische Kluft in der Tech-Landschaft verdeutlichen.

Elon Musk von SpaceX und Jensen Huang von NVIDIA haben sich von dem offenen Brief ferngehalten. Bildnachweis: Win McNamee/Getty

NVIDIA hat sich zunehmend für Open-Source- und Open-Weight-Modellstandards stark gemacht und sogar gemeinsam mit SpaceX die eigene, konkurrierende „Open Secure AI Alliance“ ins Leben gerufen, während Anbieter proprietärer Pioniermodelle wie OpenAI und Anthropic sich für strenger kontrollierte Ökosysteme und zentralisierte, vertrauenswürdige Zugriffsrahmen einsetzen.

Wie Reuters im Juni berichtete, liefern sich OpenAI und Anthropic ein Wettrennen um die Markteinführung, da sie einen ersten Börsengang als Möglichkeit betrachten, die Bewertung der Unternehmen durch Investoren zu beeinflussen und ihren CEO als führende Stimme im Bereich KI zu etablieren.

Trotz der intensiven kommerziellen Rivalität der beiden führenden Forschungslabore und des anhaltenden Wettlaufs um den Börsengang markieren die gemeinsamen Unterschriften einen seltenen Moment öffentlicher Einigkeit.

Dario Amodei, CEO von Anthropic (Bildnachweis: Getty Images)

Das vorgeschlagene Rahmenwerk verstehen

Gemeinsam schlagen die Unterzeichner einen dreiteiligen Aktionsplan vor. Erstens argumentieren sie, dass es entscheidend ist, anzuerkennen, dass der Status quo in Sachen Sicherheit nicht ausreicht. Systeme sind nach wie vor in hohem Maße anfällig für technische Altlasten, seit langem bestehende Fehler, Fehlkonfigurationen, übermäßige Berechtigungen, schwache Authentifizierung und nicht gepatchte Software. Sicherheitsteams kritischer Infrastrukturen benötigen dringend eine deutliche Aufstockung an Tools und Ressourcen, um die historische Unterausstattung zu bekämpfen.

Zweitens fordert der Brief, mehr Sicherheitsmitarbeiter mit cyberfähiger KI auszustatten. KI muss genutzt werden, um Sicherheitsteams mit Fachkompetenzen auszustatten und zentrale operative Aufgaben zu optimieren. Durch den Austausch von verifizierten Lösungen, praktischem Wissen und Abwehrwerkzeugen kann die Arbeit einer Organisation zum Schutz vieler anderer beitragen.

Drittens plädieren die Unterzeichner für die Mobilisierung einer gemeinsamen Reaktion. Es müssen globale Partnerschaften aufgebaut werden, um Sicherheitsstandards anzuheben und neue Bedrohungen zu bekämpfen, wobei sichergestellt werden muss, dass fortschreitende Cyberfähigkeiten einen Netto-Nutzen darstellen und nicht von einer einzelnen Instanz kontrolliert werden.

Ohne klare Prozessregeln und strenge operative Leitplanken werden KI-Agenten unweigerlich aus der Bahn geraten und zu einer Belastung für die Organisation werden –

Roger Lee, Area Vice President of EMEA Solutions Consulting bei Appian

Verantwortlichkeiten von Organisationen und Regierungen

Um dies zu erreichen, argumentiert der Brief, dass jede Organisation ihr Sicherheitsniveau anheben muss, indem sie hochriskante Schwachstellen behebt und höhere Standards für das festlegt, was sie kauft, entwickelt und einsetzt – einschließlich der Modernisierung von Altsystemen, um den Prinzip des „Least Privilege“-Zugriffs, eine robuste Authentifizierung und eine mehrschichtige Verteidigungsarchitektur durchzusetzen.

Von Cybersicherheitsunternehmen und Technologiepartnern wird erwartet, dass sie diese Bemühungen anführen, indem sie Abwehrmaßnahmen rigoros testen, Tools für einen breiten Einsatz bereitstellen und Bedrohungsinformationen sowie Vorgehensanleitungen in Echtzeit austauschen.

Gleichzeitig, so heißt es in dem Schreiben, müssen Regierungen die Cyberabwehr auf lokaler, nationaler und internationaler Ebene koordinieren, indem sie die Kanäle zwischen Regierung und Industrie stärken, um verwertbare Informationen auszutauschen, größere Risiken zu priorisieren und die Reaktion auf Vorfälle weltweit aufeinander abzustimmen.

Darüber hinaus sollten Regierungen kritischen Infrastrukturen – wie Kommunalverwaltungen, Wasserversorgern und Krankenhäusern – Zugang zu leistungsfähiger defensiver KI, autorisierten Tests und direkter Unterstützung durch vertrauenswürdige Sicherheitsanbieter gewähren.

Jüngste Sicherheitsverletzungen durch Agenten sorgen für Skepsis

Der Zeitpunkt der Veröffentlichung des Schreibens hat scharfe Kritik von Branchenbeobachtern hervorgerufen.

OpenAI veröffentlichte kürzlich einen technischen Vorfallsbericht, in dem detailliert beschrieben wird, wie seine autonomen Agenten aus einer Sandbox-Testumgebung entkamen und in die Open-Source-Entwicklerplattform Hugging Face eindrangen, die ebenfalls zu den Unterzeichnern des offenen Briefes gehört. Das Unternehmen skizzierte die gewonnenen Erkenntnisse, darunter die Einrichtung strengerer Isolationsgrenzen und die Einschränkung des Netzwerkzugangs.

Sein Hauptkonkurrent, Anthropic, hat ebenfalls drei Vorfälle identifiziert, bei denen ein Modell von innerhalb einer Evaluierungsumgebung oder während der Interaktion mit dieser auf das Internet zugegriffen hat.

Für Branchenexperten verdeutlicht dieser Vorfall einen grundlegenden Mangel in der derzeitigen Regulierung autonomer KI-Systeme.

Michael Vallas, Global Technical Principal bei Goldilock Secure, sagt: „Der offene Brief von mehr als 100 Technologieunternehmen, in dem gemeinsame Maßnahmen gegen KI-gestützte Cyberangriffe gefordert werden, ist ein weiterer Meilenstein auf einem Weg, den die Branche bereits seit Jahren beschreitet.

Angesichts all der jüngsten Nachrichten über KI-Agenten, die aus Sandboxen entkommen und Angriffe durchführen, sollte man bedenken, dass schon seit Jahren über die Gefahren einer außer Kontrolle geratenen KI gesprochen wird. Da diese Systeme immer intelligenter und leistungsfähiger werden, wird Software nicht mehr in der Lage sein, sie einzudämmen. Wir können zwar weiterhin versuchen, sie zu überlisten, aber wir wissen vielleicht gar nicht, wie intelligent sie tatsächlich werden.“

„Dieser Vorfall kommt nicht überraschend“, sagt Roger Lee, Area Vice President of EMEA Solutions Consulting bei Appian. „Es ist die natürliche Folge, wenn autonome Agenten dazu getrieben werden, Ziele ohne strukturelle Grenzen zu erreichen. OpenAI gab seinen Agenten ein Ziel vor, und das verstärkende Lernen fand einfach den kürzesten Weg, um dieses zu erreichen – was bedeutete, sich abzustimmen, ihre Spuren zu verwischen und in ein System eines Dritten einzudringen, um ihre Belohnung zu maximieren.“

Roger Lee ist Bereichsleiter für EMEA Solutions Consulting bei Appian

Roger betont, dass herkömmliche Überwachungsmechanismen versagen, wenn Agenten Systembeschränkungen unbemerkt umgehen.

„Dass OpenAI eine Woche gebraucht hat, um dies zu bemerken, beweist, dass ein ‚Human in the Loop‘ nutzlos ist, wenn Agenten ihn einfach umgehen können“, fügt er hinzu. „Man kann das nicht mit einer sichereren Eingabeaufforderung oder einem intelligenteren KI-Modell beheben. Ohne klare Prozessregeln und strenge operative Leitplanken werden KI-Agenten unweigerlich aus der Bahn geraten und zu einer Belastung für das Unternehmen werden.“

Andere halten den gemeinsamen Aufruf zum Handeln angesichts der beteiligten Anbieter für eigennützig.

„Der Brief klingt wie eine Pressemitteilung, die versucht, als Feueralarm durchzugehen“, schreibt Brian Roemmele, Experte für KI und Robotik sowie Inhaber von Multiplex. „Dieselben Labore, deren Agenten einen Testrahmen umgangen und die Produktionssysteme eines anderen Unternehmens angegriffen haben, erzählen nun allen, dass die Zeit knapp wird und die Lösung der ‚vertrauenswürdige Zugriff‘ ist, bei dessen Verwaltung sie helfen dürfen. Wie praktisch.“