Verschlüsselung, Spyware, Mythos: Die Geschichte zeigt, dass Exportkontrollen im Cyberbereich nicht funktionieren

Am vergangenen Freitag wies das Weiße Haus unter Berufung auf nicht näher bezeichnete Bedenken hinsichtlich der nationalen Sicherheit das Unternehmen Anthropic an, den Export seiner leistungsstarken KI-Modelle „Fable“ und „Mythos“ an alle Personen außerhalb der Vereinigten Staaten einzuschränken – einschließlich ausländischer Staatsangehöriger innerhalb des Landes. Kurz darauf stellte das KI-Unternehmen den Betrieb beider Modelle ein, die nun seit einer Woche nicht mehr verfügbar sind.

Dieser Vorfall ist der erste echte Test dafür, ob die US-Regierung Exportkontrollen einsetzen kann, um bahnbrechende KI einzudämmen – ähnlich wie sie zuvor – mit gemischten Ergebnissen – versucht hatte, Verschlüsselung und Spyware zu kontrollieren. So dramatisch es auch klingen mag: Die Lösung dieses Konflikts könnte nicht nur den Zugang von Anthropic zu ausländischen Märkten beeinflussen, sondern auch die Regeln, an die sich andere KI-Labore halten müssen.

Zum Hintergrund: Seit Anthropic „Mythos“ im April auf den Markt gebracht hat, vermarktet das Unternehmen es als eine Art Cyber-Maschine des Weltuntergangs, die im Internet verheerenden Schaden anrichten könnte, wenn sie zu weit verbreitet würde. Deshalb hatten vor dem Verbot nur etwa 150 geprüfte Unternehmen und Regierungsorganisationen Zugang dazu. Das Ziel war es, Sicherheitsverantwortlichen dabei zu helfen, ihre Software und Dienste zu sichern, bevor böswillige Akteure an Mythos-ähnliche Fähigkeiten gelangen könnten.

Was hat das Verbot also ausgelöst? Berichten zufolge zwei aufeinanderfolgende Ereignisse. Erstens gewährte Anthropic einem südkoreanischen Telekommunikationsunternehmen über sein begrenztes Partnerprogramm Zugang zu Mythos. US-Behörden wurden alarmiert, nachdem sie das Unternehmen als eines identifiziert hatten, bei dem sie Verbindungen zu China vermuteten. (Das Unternehmen, bei dem es sich laut zahlreichen Berichten um SK Telecom handelt, hat jegliche Verbindung zu China bestritten.) Zweitens alarmierte Amazon-CEO Andy Jassy Berichten zufolge die Regierung, nachdem Amazons eigene Forscher, wie er behauptete, einen Weg gefunden hatten, die Sicherheitsvorkehrungen von „Fable 5“ zu umgehen. Anthropic bestreitet die Bezeichnung „Jailbreak“ und bezeichnet es als ein eng gefasstes, bereits behobenes Problem und nicht als eine umfassende Überwindung der Sicherheitsmaßnahmen des Modells.

Das Ergebnis war dasselbe: Das Handelsministerium erließ eine Exportkontrollverordnung, und Anthropic musste sich laut einigen Berichten innerhalb von etwa 90 Minuten nach der Benachrichtigung beeilen, den Zugang zu seinen Produkten einzuschränken.

All dies ist jedoch nichts Neues. Seit Jahrzehnten versuchen Regierungen, mithilfe von Exportkontrollen die Verbreitung von Cybertechnologie einzudämmen, die sie als gefährlich erachten, doch ihre Erfolgsbilanz ist bestenfalls mäßig.

Die US-Regierung war in den frühen bis mittleren 1990er Jahren für den vielleicht spektakulärsten Misserfolg dieses Ansatzes in der Geschichte verantwortlich. Zu dieser Zeit entwickelten Informatiker Verschlüsselungstechnologien, um Daten während ihrer Übertragung über das Internet zu sichern. Ein solches Verschlüsselungsprodukt war „Pretty Good Privacy“ (PGP), eine beliebte Software, die Daten verschlüsseln und deren Entschlüsselung praktisch unmöglich machen konnte – selbst wenn sie auf dem Weg zum vorgesehenen Empfänger abgefangen wurden.

Die US-Regierung betrachtete PGP zunächst als gefährliche Waffe und befürchtete, dass es Geheimdienste daran hindern würde, E-Mails abzufangen, während diese ihre Leitungen passierten. Um die Verbreitung von PGP zu unterbinden, leitete der US-Zoll eine strafrechtliche Untersuchung gegen den Entwickler von PGP, Phil Zimmermann, wegen angeblicher Verstöße gegen Waffenexportkontrollen ein. Er wehrte sich, indem er den Quellcode von PGP als gedrucktes Buch veröffentlichte, und löste damit die sogenannten „Crypto Wars“ aus.

Zimmermann gewann später eine entscheidende Schlacht, als die Ermittlungen eingestellt wurden, und ebnete damit den Weg für wichtige End-to-End-Verschlüsselungsalgorithmen wie den, der von Milliarden von Signal- und WhatsApp-Nutzern verwendet wird.

Später, Anfang der 2010er Jahre, entdeckten Forscher westlich hergestellte Spionagesoftware, die gegen Dissidenten im Nahen Osten eingesetzt wurde. Als Reaktion darauf einigten sich mehrere Regierungen darauf, das Wassenaar-Abkommen zu erweitern – einen internationalen Vertrag, der den Export von Dual-Use-Software und -Technologien einschränkt, die sowohl für zivile als auch für militärische Anwendungen genutzt werden.

Die Idee bestand darin, Überwachungs- und Hacking-Software als Dual-Use-Produkte einzustufen und damit Spionagesoftware-Hersteller zu zwingen, Ausfuhrgenehmigungen einzuholen, um ihre Produkte ins Ausland verkaufen zu können.

Kontakt

Doch das Wassenaar-Abkommen wies schon immer zwei inhärente Schwächen auf. Mehrere Länder halten sich nicht an das Abkommen, darunter Israel, wo einige der weltweit aktivsten Spyware-Hersteller ansässig sind.

Das Abkommen hängt zudem davon ab, dass die Länder es nach eigenem Ermessen auf Unternehmen innerhalb ihrer Grenzen anwenden. Eine Zeit lang erteilte die italienische Regierung einem ihrer damals führenden Spyware-Hersteller, Hacking Team, eine Lizenz für den weltweiten Export seiner Tools – und das trotz der nachweislichen Praxis des Unternehmens, Spyware an unterdrückerische Regierungen zu verkaufen, die diese zum Hacken von Journalisten und Menschenrechtsaktivisten nutzten.

Seitdem gehen andere europäische Länder ebenso nachlässig mit Spyware-Herstellern um wie Italien. Trotz zahlreicher Skandale ist es Europa – Heimat vieler Hersteller von Spyware und Hacking-Tools – immer wieder nicht gelungen, den Export von Spyware in autoritäre Regime einzudämmen. Kritiker sagen, dass die kürzlich erneuten Bemühungen innerhalb der 27 Mitgliedstaaten, das wachsende Problem der Spionagesoftware-Exporte in autoritäre Staaten anzugehen, „nicht weit genug gehen“.

Mehrere Spyware-Hersteller, wie beispielsweise Intellexa, ein mit Sanktionen belegtes Konsortium von Spyware-Unternehmen, haben ihre Geschäftstätigkeit einfach in Länder mit laxen Exportkontrollen verlagert. Andere Spyware-Hersteller versuchten aus ähnlichen Gründen, ihre Geschäftstätigkeit nach Saudi-Arabien zu verlagern.

Es gab jedoch auch einige Erfolge. Der in Deutschland ansässige Spyware-Hersteller FinFisher stellte 2022 seinen Betrieb ein, nachdem deutsche Staatsanwälte mehrere Jahre lang gegen das Unternehmen ermittelt hatten, weil es angeblich Spyware ohne Ausfuhrgenehmigung an die Türkei verkauft hatte. Ermittler hatten zuvor festgestellt, dass die FinFisher-Spyware auf den Handys von Kritikern der türkischen Regierung eingesetzt worden war.

Zum Zeitpunkt der Abfassung dieses Artikels besteht die Pattsituation zwischen Anthropic und der Trump-Regierung weiterhin. Es besteht eine begründete Chance, dass die Regierung nachgeben und die Beschränkung aufheben wird, um die Wettbewerbsfähigkeit amerikanischer KI-Unternehmen weltweit zu sichern – ein Schritt, der einem stillschweigenden Eingeständnis gleichkäme, dass KI-Labore anderswo, darunter auch in China, unabhängig von US-Beschränkungen wahrscheinlich ähnliche Fähigkeiten erreichen werden. Oder aber amerikanische KI-Unternehmen könnten letztendlich eine staatliche Genehmigung benötigen, bevor sie überhaupt ausländische Kunden bedienen dürfen – ein Compliance-Aufwand, der ihre Gewinne unweigerlich schmälern würde.

Angesichts früherer Erfahrungen mit Regierungen, die versucht haben, die Reichweite von Software zu kontrollieren, sind staatlich verordnete Exportkontrollen wahrscheinlich nicht der richtige Ansatz, um böswillige Akteure daran zu hindern, leistungsstarke Cybertechnologien mit doppeltem Verwendungszweck zu missbrauchen.