Anthropic hält neues KI-Modell zurück, nachdem Sicherheitslücken entdeckt wurden

# Nvidia # Google # Microsoft # Anthropic # agentic ai # AI cybersecurity # ai security # amazon web services # Claude Mythos # CrowdStrike # cybersecurity # open source security # Palo Alto Networks # Project Glasswing # vulnerability # zero-day

Das fortschrittlichste KI-Modell von Anthropic hat bereits Tausende von Cybersicherheitslücken in allen gängigen Betriebssystemen und Webbrowsern aufgedeckt. Das Unternehmen hat sich entschieden, es nicht öffentlich zu veröffentlichen, sondern es diskret den Organisationen zur Verfügung zu stellen, die für die Wartung kritischer Internetinfrastruktur zuständig sind.

Dieses Modell heißt „Claude Mythos Preview“, und die Initiative ist unter dem Namen „Project Glasswing“ bekannt.

Zu den Startpartnern gehören Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, die Linux Foundation, Microsoft, Nvidia und Palo Alto Networks.

Über diese Kerngruppe hinaus hat Anthropic mehr als 40 weiteren Organisationen, die wichtige Software-Infrastruktur entwickeln oder warten, Zugriff gewährt. Im Rahmen dieser Bemühungen stellt Anthropic bis zu 100 Millionen US-Dollar an Nutzungsgutschriften für Mythos Preview sowie 4 Millionen US-Dollar an direkten Spenden für Open-Source-Sicherheitsorganisationen bereit.

Ein Modell, das seine eigenen Maßstäbe übertroffen hat

Mythos Preview wurde nicht speziell für Cybersicherheitsaufgaben trainiert. Anthropic erklärte, dass sich seine Fähigkeiten „als Folge allgemeiner Verbesserungen bei Code, Schlussfolgerungsfähigkeit und Autonomie herauskristallisiert haben“, und wies darauf hin, dass dieselben Fortschritte, die das Modell beim Schließen von Sicherheitslücken verbessern, auch seine Fähigkeit verstärken, diese auszunutzen.

Dieser letzte Punkt ist von Bedeutung. Mythos Preview hat sich so weit verbessert, dass es bestehende Sicherheitsbenchmarks weitgehend ausreizt, was Anthropic dazu zwingt, seinen Fokus auf neuartige Aufgaben aus der Praxis zu verlagern – insbesondere auf Zero-Day-Schwachstellen. Dabei handelt es sich um Fehler, die den Entwicklern der Software zuvor unbekannt waren.

Zu den Entdeckungen gehört ein 27 Jahre alter Fehler in OpenBSD, einem Betriebssystem, das für seine hohe Sicherheit bekannt ist. In einem anderen Fall identifizierte und nutzte das Modell eigenständig eine 17 Jahre alte Schwachstelle zur Remote-Code-Ausführung in FreeBSD – CVE-2026-4747 –, die es einem nicht authentifizierten Benutzer an einem beliebigen Ort im Internet ermöglicht, die vollständige Kontrolle über einen Server zu erlangen, auf dem NFS läuft. Nach der anfänglichen Aufforderung, den Fehler zu finden, war kein Mensch an der Entdeckung oder Ausnutzung beteiligt.

Nicholas Carlini vom Forschungsteam von Anthropic beschrieb die Fähigkeit des Modells, Schwachstellen miteinander zu verketten: „Dieses Modell kann Exploits erstellen, indem es drei, vier oder manchmal fünf Schwachstellen nacheinander kombiniert, um ein hochkomplexes Ergebnis zu erzielen. Ich habe in den letzten paar Wochen mehr Fehler gefunden als in meiner gesamten bisherigen Karriere zusammen.“

Warum wird es nicht veröffentlicht?

„Wir planen nicht, Claude Mythos Preview allgemein verfügbar zu machen, aufgrund seiner Cybersicherheitsfähigkeiten“, sagte Newton Cheng, Frontier Red Team Cyber Lead bei Anthropic. „Angesichts des rasanten Fortschritts der KI wird es nicht lange dauern, bis sich solche Fähigkeiten verbreiten und möglicherweise Akteure erreichen, die nicht darauf bedacht sind, sie sicher einzusetzen. Die Folgen – für die Wirtschaft, die öffentliche Sicherheit und die nationale Sicherheit – könnten schwerwiegend sein.“

Diese Sorge ist nicht hypothetisch. Anthropic hatte zuvor den nach eigenen Angaben ersten dokumentierten Fall eines weitgehend von KI ausgeführten Cyberangriffs offengelegt – eine vom chinesischen Staat unterstützte Gruppe, die KI-Agenten einsetzte, um autonom etwa 30 globale Ziele zu infiltrieren, wobei die KI den Großteil der taktischen Operationen eigenständig abwickelte.

Das Unternehmen hat zudem hochrangige US-Regierungsbeamte vertraulich über die gesamten Fähigkeiten von Mythos Preview informiert. Die Geheimdienste prüfen derzeit aktiv, wie das Modell sowohl offensive als auch defensive Hacking-Operationen verändern könnte.

Das Open-Source-Problem

Ein Aspekt von Project Glasswing, der über die Schlagzeilen machende Koalition hinausgeht, ist der Fokus auf Open-Source-Software. Jim Zemlin, CEO der Linux Foundation, erklärte unumwunden: „In der Vergangenheit war Sicherheitsfachwissen ein Luxus, der Organisationen mit großen Sicherheitsteams vorbehalten war. Open-Source-Betreuer, deren Software einen Großteil der kritischen Infrastruktur der Welt stützt, mussten sich in der Vergangenheit historisch gesehen selbst um die Sicherheit kümmern.“

Anthropic hat über die Linux Foundation 2,5 Millionen US-Dollar an Alpha-Omega und OpenSSF sowie 1,5 Millionen US-Dollar an die Apache Software Foundation gespendet – und ermöglicht damit den Betreibern kritischer Open-Source-Codebasen den Zugang zu KI-gestütztem Cybersicherheits-Schwachstellenscanning in einem bisher unerreichbaren Umfang.

Was als Nächstes kommt

Anthropic gibt an, dass sein langfristiges Ziel darin besteht, Modelle der Mythos-Klasse in großem Maßstab einzusetzen, jedoch erst, wenn neue Sicherheitsvorkehrungen fest etabliert sind. Das Unternehmen plant, diese neuen Sicherheitsvorkehrungen zunächst mit einem kommenden Claude-Opus-Modell einzuführen, um sie mit einem Modell zu verfeinern, das nicht das gleiche Risikoniveau wie Mythos Preview aufweist.

Die Wettbewerbslandschaft verändert sich bereits im Zuge dieser Entwicklung. Als OpenAI im Februar GPT-5.3-Codex veröffentlichte, bezeichnete das Unternehmen es als das erste Modell, das es im Rahmen seines „Preparedness Framework“ als hochleistungsfähig für Cybersicherheitsaufgaben eingestuft hatte. Der Schritt von Anthropic mit Glasswing signalisiert, dass führende KI-Labore den kontrollierten Einsatz – und nicht die offene Veröffentlichung – als den sich abzeichnenden Standard für Modelle auf diesem Leistungsniveau betrachten.

Ob dieser Standard Bestand hat, wenn sich diese Fähigkeiten weiter verbreiten, ist zum jetzigen Zeitpunkt eine offene Frage, die keine einzelne Initiative endgültig beantworten kann.

Siehe auch: Anthropics Weigerung, KI zu bewaffnen, ist genau der Grund, warum Großbritannien sie will

Möchten Sie mehr über KI und Big Data von Branchenführern erfahren? Besuchen Sie die AI & Big Data Expo, die in Amsterdam, Kalifornien und London stattfindet. Diese umfassende Veranstaltung ist Teil der TechEx und findet gemeinsam mit anderen führenden Technologieveranstaltungen statt, darunter die Cyber Security & Cloud Expo. Klicken Sie hier für weitere Informationen.

AI News wird von TechForge Media bereitgestellt. Entdecken Sie hier weitere bevorstehende Veranstaltungen und Webinare zum Thema Unternehmenstechnologie.

Verwandter Artikel

Kommentare (1)