Googles KI-Agent schreibt Code automatisch um, um Sicherheitsschwachstellen zu beheben

Google DeepMind hat einen neuen KI-Agenten vorgestellt, der selbstständig kritische Sicherheitslücken in Softwarecode identifiziert und behebt. Das CodeMender genannte System hat in den letzten sechs Monaten bereits 72 Sicherheits-Patches für wichtige Open-Source-Projekte bereitgestellt.

Das Aufspüren und Beheben von Sicherheitslücken ist nach wie vor eine schwierige und arbeitsintensive Aufgabe, selbst mit etablierten automatisierten Techniken wie Fuzzing. Die bisherige Forschung von Google DeepMind, einschließlich KI-gesteuerter Initiativen wie Big Sleep und OSS-Fuzz, hat erfolgreich neue Zero-Day-Schwachstellen in gut überprüften Codebasen aufgedeckt. Dieser Erfolg bringt jedoch eine neue Herausforderung mit sich: Da die KI die Entdeckung von Schwachstellen beschleunigt, wächst auch der Druck auf die Entwickler, diese zu beheben.

CodeMender wurde entwickelt, um dieses wachsende Ungleichgewicht zu beseitigen. Es handelt sich um einen völlig autonomen KI-Agenten, der einen umfassenden Ansatz zur Sicherung von Software verfolgt. Das System arbeitet sowohl reaktiv - indem es neu erkannte Schwachstellen behebt, sobald sie auftauchen - als auch proaktiv - indem es bestehenden Code umschreibt, um ganze Klassen von Sicherheitsrisiken zu beseitigen, bevor sie ausgenutzt werden können. Dadurch können sich Entwickler und Projektbetreuer mehr Zeit für die Entwicklung neuer Funktionen und die Verbesserung der Softwareleistung nehmen.

Das System stützt sich auf die ausgefeilten logischen Fähigkeiten der neuen Gemini Deep Think-Modelle von Google. Diese zugrundeliegende Technologie hilft dem Agenten, komplexe Sicherheitsprobleme selbstständig zu debuggen und zu beheben. CodeMender ist außerdem mit einer Reihe von Tools ausgestattet, die es ihm ermöglichen, den Code sorgfältig zu analysieren und zu bewerten, bevor er Änderungen vornimmt. Darüber hinaus beinhaltet es eine Validierungsphase, um sicherzustellen, dass die vorgeschlagenen Korrekturen korrekt sind und keine unerwarteten Probleme verursachen, die oft als Regressionen bezeichnet werden.

In Anbetracht der hohen Risiken, die mit der Codesicherheit verbunden sind, kann selbst bei der Entwicklung großer Sprachmodelle ein einziger Codierungsfehler extrem kostspielig sein. Der automatisierte Validierungsrahmen von CodeMender ist daher unerlässlich. Es verifiziert systematisch, dass jede vorgeschlagene Korrektur die zugrunde liegende Ursache der Schwachstelle behebt, die funktionale Korrektheit aufrechterhält, bestehende Tests nicht beeinträchtigt und mit den Codierungskonventionen des Projekts übereinstimmt. Nur Patches, die alle diese strengen Kriterien erfüllen, werden einer menschlichen Überprüfung unterzogen.

Um die Effektivität des Systems zu erhöhen, hat das DeepMind-Team neue Techniken für den KI-Agenten entwickelt. CodeMender setzt fortschrittliche Programmanalysen ein, die sich auf statische und dynamische Analysen, differenzielle Tests, Fuzzing und SMT-Solver stützen. Mithilfe dieser Tools werden Codemuster, Kontrollfluss und Datenfluss gründlich untersucht, um die Ursachen von Sicherheitsmängeln und strukturellen Schwächen zu erkennen.

Die Architektur stützt sich auch auf ein Multi-Agenten-Setup, bei dem spezialisierte Agenten verschiedene Aspekte eines bestimmten Problems behandeln. Ein spezielles, auf einem großen Sprachmodell basierendes Tool analysiert beispielsweise die Unterschiede zwischen dem ursprünglichen Code und den modifizierten Versionen. Dies hilft dem Hauptagenten zu bestätigen, dass die von ihm vorgeschlagenen Änderungen keine unerwünschten Nebeneffekte haben, und ermöglicht es ihm, seine Strategie bei Bedarf anzupassen.

In einem Beispielszenario hat CodeMender eine Schwachstelle mit einem Heap-Pufferüberlauf behoben, die in einem Absturzbericht gemeldet wurde. Obwohl bei der endgültigen Lösung nur einige wenige Codezeilen geändert wurden, war die Ursache nicht sofort klar. Durch den Einsatz von Debugger- und Codesuchwerkzeugen fand der Agent heraus, dass das eigentliche Problem auf eine fehlerhafte Stack-Verwaltung von XML-Elementen (Extensible Markup Language) während des Parsens zurückzuführen war, die sich in einem anderen Abschnitt der Codebasis befand. In einem anderen Fall entwickelte der Agent einen ausgeklügelten Patch für ein komplexes Objektlebensdauerproblem, indem er ein benutzerdefiniertes C-Code-Generierungssystem innerhalb des Zielprojekts anpasste.

CodeMender reagiert nicht nur auf bekannte Fehler, sondern ist auch darauf ausgelegt, Software proaktiv gegen zukünftige Angriffe zu stärken. Das Team setzte den Agenten ein, um Teile von libwebp, einer weit verbreiteten Bildkompressionsbibliothek, mit -fbounds-safety-Annotationen zu versehen. Diese Anmerkungen leiten den Compiler dazu an, Bound Checks in den Code einzufügen, um Angreifer daran zu hindern, Pufferüberläufe zur Ausführung von beliebigem Code auszunutzen.

Diese Verbesserung ist besonders wichtig, da ein Heap-Pufferüberlauf in libwebp, dokumentiert als CVE-2023-4863, zuvor in einem Zero-Click-Angriff auf iOS ausgenutzt wurde. Laut DeepMind hätte diese spezielle Schwachstelle - und die meisten anderen Pufferüberläufe in den kommentierten Abschnitten - nicht ausgenutzt werden können, wenn diese Anmerkungen zu diesem Zeitpunkt bereits vorhanden gewesen wären.

Der proaktive Reparaturprozess der KI beinhaltet eine detaillierte Entscheidungsfindung. Wenn sie Anmerkungen hinzufügt, kann sie selbstständig neue Kompilierungsfehler und Testfehler beheben, die aus ihren eigenen Änderungen resultieren. Stellt sich bei der Validierung heraus, dass eine Änderung die Funktionalität beeinträchtigt hat, nutzt der Agent dieses Feedback, um sich selbst zu korrigieren und eine alternative Lösung zu finden.

Trotz der ermutigenden ersten Ergebnisse geht Google DeepMind bei der Implementierung vorsichtig vor und legt den Schwerpunkt auf die Zuverlässigkeit. Derzeit wird jeder von CodeMender erstellte Patch von menschlichen Experten geprüft, bevor er an Open-Source-Projekte übermittelt wird. Das Team erhöht schrittweise die Zahl der eingereichten Patches, um hohe Standards aufrechtzuerhalten und das Feedback der Open-Source-Community systematisch zu integrieren.

Für die Zukunft planen die Forscher, sich mit den Betreuern geschäftskritischer Open-Source-Projekte in Verbindung zu setzen und von CodeMender generierte Patches auszutauschen. Durch die Einbeziehung des Inputs der Community soll CodeMender schließlich als öffentlich zugängliches Tool für alle Softwareentwickler veröffentlicht werden.

In den kommenden Monaten will das DeepMind-Team außerdem technische Dokumente und Berichte veröffentlichen, in denen die Methodik und die Ergebnisse im Detail beschrieben werden. Diese Initiative ist ein erster Schritt, um zu erforschen, wie KI-Agenten proaktiv Code reparieren und die Software-Sicherheit für alle grundlegend verbessern können.

Siehe auch: CAMIA-Angriff auf die Privatsphäre enthüllt, was sich KI-Modelle merken

Möchten Sie mehr über KI und Big Data von Branchenexperten erfahren? Besuchen Sie die AI & Big Data Expo in Amsterdam, Kalifornien oder London. Diese umfassende Veranstaltung ist Teil der TechEx und findet zusammen mit anderen Top-Tech-Veranstaltungen wie der Cyber Security Expo statt. Klicken Sie hier für weitere Informationen.

AI News wird von TechForge Media bereitgestellt. Entdecken Sie hier weitere Veranstaltungen und Webinare im Bereich Unternehmenstechnologie.