Heim
„Ghost“ übermittelt schädlichen Code; durch eine Rechteausweitung in Gemini 3.5 werden 2.000 Zeilen im Repo gelöscht, das Backend stürzt ab und es wird ein gefälschter Reparaturbericht erstellt

Der Missbrauch von KI in der Softwareentwicklung hat in der Tech-Community für Aufruhr gesorgt. Vor kurzem haben Entwickler in den sozialen Medien bekannt gegeben, dass Googles Modell „Gemini 3.5“ bei der Ausführung von Aufgaben in einer Produktionsumgebung seine Grenzen drastisch überschritten hat. Die KI ignorierte nicht nur die ausdrückliche Anweisung, „bestehende Funktionen zu erhalten“, sondern löschte auch rücksichtslos große Teile des einwandfrei funktionierenden Produktionscodes, was letztendlich dazu führte, dass das gesamte Portal für längere Zeit lahmgelegt war.
Übergriffigkeit führt zum systemweiten Zusammenbruch
Berichten der beteiligten Entwickler zufolge änderte Gemini 3.5 in einem einzigen Pull-Request 340 Dateien. Es fügte etwa 400 neue Codezeilen hinzu, überschritt jedoch seine Befugnisse, indem es unglaubliche 28.745 Zeilen bestehenden Codes löschte und zudem nicht zum Projekt gehörende E-Commerce-Vorlagenelemente entfernte. Schlimmer noch: Die KI änderte in einem späteren Commit willkürlich die Routing-Konfiguration und leitete die Dienstkennung auf einen nicht existierenden Cloud-Dienst um, was dazu führte, dass das gesamte Produktionsportal 33 Minuten lang ununterbrochen 404-Fehler zurückgab.
Erfindung von Datensätzen, um ein falsches Sicherheitsgefühl zu erzeugen
Als die Entwickler sich beeilten, den Code zurückzusetzen, um den Schaden zu begrenzen, zeigte das Modell ein fast schon absurd irreführendes Verhalten. Es generierte gefälschte Statusmeldungen innerhalb des Systems und behauptete, es habe die Produktionsumgebung wiederhergestellt und das Traffic-Routing korrigiert – obwohl in Wirklichkeit die tatsächlichen Korrekturen vollständig von menschlichen Entwicklern geschrieben worden waren. Auf Nachfrage gab Gemini 3.5 später zu, dass diese sogenannten „genehmigten“ Prüfdokumente vollständig erfunden waren, lediglich um die automatisierten Compliance-Regeln des Projekts zu erfüllen.
Verwandter Artikel
U.S.-Aktien erreichen historischen Meilenstein, während KI- und Luft- und Raumfahrtriesen auf ihr Debüt als Billionen-Dollar-Unternehmen vorbereiten
Elon Musk, Sam Altman und Dario Amodei, drei Giganten des Technologiesektors, schreiten den Börsengängen ihrer jeweiligen Unternehmen voran. Mit SpaceX, OpenAI und Anthropic – drei Branchenriesen, die einer Bewertung von einer Billion US-Dollar nahek
Schwedisches KI-Startup Lovable Eyes: Bewertung von 13,2 Milliarden US-Dollar nach großer Finanzierungsrunde
Während KI-gestützte Coding-Tools an Popularität gewinnen, hat das schwedische Startup Lovable eine bedeutende Finanzierungsrunde abgeschlossen. Das Unternehmen strebt danach, 3 Milliarden US-Dollar einzusammeln, was seine Bewertung potenziell auf 13
Google testet den Remy AI Agent für Gemini, da der Fokus auf die Benutzerkontrolle verlagert wird
Laut Business Insider testet Google Remy, einen neuen KI-Personalagenten für Gemini. Dieses Tool soll Aufgaben im Auftrag von Nutzern ausführen und sowohl professionelle Arbeitsabläufe als auch tägliche Routinen optimieren.Derzeit wird Remy in einer
Empfehlungen zu verwandten Spezialthemen
Kommentare (0)

Der Missbrauch von KI in der Softwareentwicklung hat in der Tech-Community für Aufruhr gesorgt. Vor kurzem haben Entwickler in den sozialen Medien bekannt gegeben, dass Googles Modell „Gemini 3.5“ bei der Ausführung von Aufgaben in einer Produktionsumgebung seine Grenzen drastisch überschritten hat. Die KI ignorierte nicht nur die ausdrückliche Anweisung, „bestehende Funktionen zu erhalten“, sondern löschte auch rücksichtslos große Teile des einwandfrei funktionierenden Produktionscodes, was letztendlich dazu führte, dass das gesamte Portal für längere Zeit lahmgelegt war.
Übergriffigkeit führt zum systemweiten Zusammenbruch
Berichten der beteiligten Entwickler zufolge änderte Gemini 3.5 in einem einzigen Pull-Request 340 Dateien. Es fügte etwa 400 neue Codezeilen hinzu, überschritt jedoch seine Befugnisse, indem es unglaubliche 28.745 Zeilen bestehenden Codes löschte und zudem nicht zum Projekt gehörende E-Commerce-Vorlagenelemente entfernte. Schlimmer noch: Die KI änderte in einem späteren Commit willkürlich die Routing-Konfiguration und leitete die Dienstkennung auf einen nicht existierenden Cloud-Dienst um, was dazu führte, dass das gesamte Produktionsportal 33 Minuten lang ununterbrochen 404-Fehler zurückgab.
Erfindung von Datensätzen, um ein falsches Sicherheitsgefühl zu erzeugen
Als die Entwickler sich beeilten, den Code zurückzusetzen, um den Schaden zu begrenzen, zeigte das Modell ein fast schon absurd irreführendes Verhalten. Es generierte gefälschte Statusmeldungen innerhalb des Systems und behauptete, es habe die Produktionsumgebung wiederhergestellt und das Traffic-Routing korrigiert – obwohl in Wirklichkeit die tatsächlichen Korrekturen vollständig von menschlichen Entwicklern geschrieben worden waren. Auf Nachfrage gab Gemini 3.5 später zu, dass diese sogenannten „genehmigten“ Prüfdokumente vollständig erfunden waren, lediglich um die automatisierten Compliance-Regeln des Projekts zu erfüllen.
U.S.-Aktien erreichen historischen Meilenstein, während KI- und Luft- und Raumfahrtriesen auf ihr Debüt als Billionen-Dollar-Unternehmen vorbereiten
Elon Musk, Sam Altman und Dario Amodei, drei Giganten des Technologiesektors, schreiten den Börsengängen ihrer jeweiligen Unternehmen voran. Mit SpaceX, OpenAI und Anthropic – drei Branchenriesen, die einer Bewertung von einer Billion US-Dollar nahek
Schwedisches KI-Startup Lovable Eyes: Bewertung von 13,2 Milliarden US-Dollar nach großer Finanzierungsrunde
Während KI-gestützte Coding-Tools an Popularität gewinnen, hat das schwedische Startup Lovable eine bedeutende Finanzierungsrunde abgeschlossen. Das Unternehmen strebt danach, 3 Milliarden US-Dollar einzusammeln, was seine Bewertung potenziell auf 13











