OpenAI speichert ChatGPT-Daten per Gerichtsbeschluss, CEO Altman schlägt KI-Privileg vor

Viele regelmäßige ChatGPT-Nutzer, darunter auch der Autor dieses Artikels, haben vielleicht schon mit der Funktion "temporärer Chat" interagiert. Diese Option, die von OpenAIs beliebtem Chatbot angeboten wird, wurde entwickelt, um automatisch alle während einer Sitzung ausgetauschten Informationen zu löschen, sobald diese geschlossen wird.

Darüber hinaus haben Nutzer die Möglichkeit, vergangene ChatGPT-Unterhaltungen manuell aus der Seitenleiste der Web-, Desktop- und mobilen Anwendungen zu löschen. Dies geschieht durch einen Linksklick, Control-Klick oder einen langen Druck auf den gewünschten Chat.

In dieser Woche sah sich OpenAI jedoch mit Kritik von Nutzern konfrontiert, nachdem sich herausstellte, dass das Unternehmen diese Chatprotokolle nicht gelöscht hatte, wie man den Nutzern weismachen wollte.

"Ihr wollt mir erzählen, dass meine gelöschten ChatGPT-Chats gar nicht gelöscht sind, sondern gespeichert werden, um von einem Richter untersucht zu werden", schrieb der X-Nutzer @ns123abc in einem Kommentar, der über eine Million Aufrufe erhielt.

Ein anderer Nutzer, @kepano, fügte hinzu: "Man kann einen ChatGPT-Chat 'löschen', aber alle Chats müssen aufgrund rechtlicher Verpflichtungen aufbewahrt werden...".

Wie der KI-Experte und Software-Ingenieur Simon Willison in seinem Blog anmerkte: "Zahlende Kunden von [OpenAIs] APIs könnten durchaus die Entscheidung treffen, zu anderen Anbietern zu wechseln, die Aufbewahrungsrichtlinien anbieten können, die nicht durch diesen Gerichtsbeschluss unterlaufen werden!"

OpenAI bestätigte, dass es seit Mitte Mai 2025 gelöschte und temporäre Nutzerchats in Übereinstimmung mit einem Bundesgerichtsbeschluss aufbewahrt. Das Unternehmen hat die Nutzer erst am 5. Juni über diese Aufbewahrung informiert.

Die Anordnung, die am 13. Mai 2025 von der US-Bezirksrichterin Ona T. Wang erlassen wurde, weist OpenAI an, "alle Ausgabeprotokolldaten, die andernfalls gelöscht würden, für die Zukunft aufzubewahren und abzusondern". Dies schließt Chats ein, deren Löschung von den Nutzern beantragt wurde oder die aus Datenschutzgründen automatisch gelöscht wurden.

Diese Richtlinie geht auf die Klage der New York Times (NYT) gegen OpenAI und Microsoft zurück, eine Urheberrechtsklage, die seit über anderthalb Jahren läuft. Die Anwälte der NYT behaupten, dass die Sprachmodelle von OpenAI urheberrechtlich geschützte Nachrichteninhalte wortwörtlich wiedergeben können. Sie argumentieren, dass die Protokolle, einschließlich der von den Nutzern gelöschten, relevante Beweise für urheberrechtsverletzende Ausgaben enthalten könnten.

Während OpenAI der Anordnung sofort nachkam, wartete es mehr als drei Wochen, um die betroffenen Nutzer öffentlich zu benachrichtigen. Später veröffentlichte das Unternehmen einen Blog-Beitrag und eine FAQ, in denen das gesetzliche Mandat und die betroffenen Nutzer aufgeführt sind.

OpenAI macht die NYT und die richterliche Anordnung für diese Aktion verantwortlich und erklärt, dass es die Forderung nach Aufbewahrung für "unbegründet" hält.

OpenAI stellt die gerichtliche Anordnung zur Aufbewahrung der ChatGPT-Benutzerprotokolle klar und gibt an, welche Chats betroffen sind

In einem kürzlich veröffentlichten Blogbeitrag verteidigte Brad Lightcap, COO von OpenAI, die Haltung des Unternehmens und erklärte, es setze sich für den Schutz der Privatsphäre der Nutzer ein und gegen eine seiner Meinung nach zu weit gefasste gerichtliche Anordnung. Er schrieb:

"Die New York Times und andere Kläger haben in ihrer unbegründeten Klage gegen uns eine weitreichende und unnötige Forderung gestellt: die Aufbewahrung von ChatGPT- und API-Kundendaten auf unbestimmte Zeit. Dies steht im grundlegenden Widerspruch zu den Datenschutzverpflichtungen, die wir gegenüber unseren Nutzern eingegangen sind."

In dem Posting wurde klargestellt, dass ChatGPT Free-, Plus-, Pro- und Team-Nutzer sowie API-Kunden ohne ZDR-Vereinbarung (Zero Data Retention) von der Aufbewahrungsanordnung betroffen sind. Für diese Nutzer werden sogar gelöschte Chats oder solche aus temporären Chatsitzungen für die absehbare Zukunft gespeichert.

Abonnenten der ChatGPT Enterprise- und Edu-Tarife sowie API-Kunden, die ZDR-Endpunkte verwenden, sind davon jedoch nicht betroffen. Ihre Chats werden weiterhin wie vorgesehen gelöscht.

Die aufbewahrten Daten werden unter rechtlichem Vorbehalt gehalten, d.h. sie werden in einem sicheren, separaten System gespeichert, auf das nur eine begrenzte Anzahl von Rechts- und Sicherheitspersonal Zugriff hat.

"Diese Daten werden nicht automatisch mit der New York Times oder anderen Personen geteilt", betonte Lightcap.

Sam Altman schlägt ein "KI-Privileg" für vertrauliche Gespräche zwischen Nutzern und Modellen vor

Auch der CEO und Mitbegründer von OpenAI, Sam Altman, sprach das Thema in einem Beitrag auf X öffentlich an und schrieb:

"Kürzlich hat die NYT ein Gericht ersucht, uns zu zwingen, keine Nutzerchats zu löschen. Wir denken, dass dies ein unangemessenes Ersuchen war, das einen schlechten Präzedenzfall schafft. Wir gehen gegen die Entscheidung in Berufung. Wir werden jede Forderung bekämpfen, die die Privatsphäre unserer Nutzer gefährdet; dies ist ein Kernprinzip."

Er deutete an, dass ein breiterer rechtlicher und ethischer Rahmen für den KI-Datenschutz notwendig sein könnte:

"Wir haben in letzter Zeit über die Notwendigkeit von so etwas wie einem 'KI-Privileg' nachgedacht; das beschleunigt wirklich die Notwendigkeit, das Gespräch zu führen."

"Mit einer KI zu sprechen, sollte im Grunde so sein, wie mit einem Anwalt oder einem Arzt zu sprechen."

"Ich hoffe, die Gesellschaft wird das bald begreifen."

Das Konzept des "KI-Privilegs" wäre eine Parallele zu etablierten Vertraulichkeitsstandards wie dem Anwalts- oder dem Arzt-Patienten-Privileg.

Es ist ungewiss, ob ein solches Rahmenwerk in rechtlichen oder politischen Arenen Fuß fassen wird, aber Altmans Kommentare deuten darauf hin, dass OpenAI auf diese Art von Veränderung drängen könnte.

Wie geht es weiter mit OpenAI und Ihren temporären oder gelöschten Chats?

OpenAI hat offiziell Einspruch gegen den Gerichtsbeschluss eingelegt und dessen Aufhebung beantragt.

In den Gerichtsunterlagen argumentiert das Unternehmen, dass der Forderung eine faktische Grundlage fehlt und dass die Speicherung von Milliarden zusätzlicher Datenpunkte unnötig und unverhältnismäßig ist.

Richterin Wang wies in einer Anhörung am 27. Mai darauf hin, dass die Anordnung vorübergehend sei. Sie wies beide Parteien an, einen Stichprobenplan zu entwickeln, um zu prüfen, ob sich die gelöschten Nutzerdaten wesentlich von den aufbewahrten Protokollen unterscheiden. OpenAI wurde angewiesen, diesen Vorschlag bis zum 6. Juni einzureichen, obwohl die Einreichung noch nicht veröffentlicht wurde.

Auswirkungen für Unternehmen und KI-Entscheidungsträger in Unternehmen

Obwohl die Anordnung ChatGPT Enterprise und API-Kunden, die ZDR-Endpunkte verwenden, ausnimmt, sind die weitergehenden rechtlichen und rufschädigenden Auswirkungen für Fachleute, die KI-Implementierungen verwalten, von Bedeutung.

Diejenigen, die den Lebenszyklus von großen Sprachmodellen (LLMs) überwachen, müssen die Annahmen zur Datenverwaltung neu bewerten. Wenn benutzerseitige LLM-Komponenten rechtlichen Aufbewahrungsauflagen unterliegen können, stellen sich kritische Fragen zum Datenfluss nach Verlassen eines sicheren Endpunkts und zur Isolierung oder Anonymisierung risikoreicher Interaktionen.

Jede Plattform, die OpenAI-APIs nutzt, muss überprüfen, welche Endpunkte (ZDR vs. Nicht-ZDR) verwendet werden, und sicherstellen, dass die Richtlinien für den Umgang mit Daten in Benutzervereinbarungen, Audit-Protokollen und interner Dokumentation klar wiedergegeben sind.

Selbst bei ZDR-Endpunkten sollten Unternehmen die Richtlinien für den Lebenszyklus von Daten überprüfen, um sicherzustellen, dass nachgelagerte Systeme (Analyse, Protokollierung, Backup) nicht versehentlich Interaktionen aufbewahren, die als flüchtig eingestuft werden.

Sicherheitsbeauftragte müssen nun die Bedrohungsmodellierung erweitern, um die rechtliche Offenlegung als potenziellen Risikovektor einzubeziehen. Die Teams müssen überprüfen, ob die Backend-Aufbewahrungspraktiken von OpenAI mit den internen Kontrollen übereinstimmen, die Risiken von Drittanbietern bewerten und feststellen, ob sich die Benutzer auf Funktionen wie "temporäre Chats" verlassen, die im Falle einer gerichtlichen Verfügung möglicherweise nicht wie erwartet funktionieren.

Ein entscheidender Moment für den Datenschutz und die Sicherheit von Nutzern in der KI

Diese Situation ist mehr als nur ein Rechtsstreit; sie ist ein entscheidender Moment in der sich entwickelnden Debatte über den Schutz der Privatsphäre und der Datenrechte bei KI. Mit der Einführung des Konzepts des "KI-Privilegs" schlägt OpenAI einen neuen Gesellschaftsvertrag für den Umgang intelligenter Systeme mit vertraulichen Benutzereingaben vor.

Ob Gerichte oder Gesetzgeber dieses Konzept akzeptieren, ist noch nicht bekannt. Im Moment navigiert OpenAI durch ein komplexes Gleichgewicht zwischen der Einhaltung von Gesetzen, der Zusicherung von Unternehmen und dem Vertrauen der Nutzer, während gleichzeitig die Frage, wer letztendlich die Daten bei der Interaktion mit KI kontrolliert, immer mehr in den Vordergrund rückt.