Richter kritisiert Anwälte wegen fingierter KI-Forschung

Richter bestraft Anwaltskanzleien für den Einsatz von KI ohne Offenlegung
In einer kürzlich ergangenen Entscheidung verhängte der kalifornische Richter Michael Wilner gegen zwei prominente Anwaltskanzleien eine hohe Geldstrafe von 31.000 US-Dollar, weil sie heimlich künstliche Intelligenz in einem Zivilprozess einsetzten. Laut Richter Wilner reichten die Kanzleien ein Schriftstück ein, das mit „falschen, ungenauen und irreführenden juristischen Zitaten und Quellenangaben“ gefüllt war. Wie die Rechtsprofessoren Eric Goldman und Blake Reid auf Bluesky berichteten, äußerte der Richter seine Frustration über das, was er als rücksichtslosen Missbrauch professioneller Standards ansah.
„Ich habe dem Schriftstück, das ich gelesen habe, vertraut“, schrieb Richter Wilner in seiner Entscheidung. „Ich war von den zitierten Quellen überzeugt, also habe ich tiefer gegraben, um diese Fälle selbst zu prüfen. Aber sie existierten nicht. Es war erschreckend. Ich hätte beinahe eine gerichtliche Verfügung auf Basis falscher Informationen unterzeichnet.“
Laut Gerichtsdokumenten begann das Problem, als das Anwaltsteam der Klägerseite ein KI-Tool engagierte, um einen Entwurf für ein ergänzendes Schriftstück zu erstellen. Dieser Entwurf war jedoch voller erfundener Inhalte, als er an K&L Gates, eine weitere beteiligte Anwaltskanzlei, weitergegeben wurde. Leider überprüften beide Kanzleien die Informationen nicht, bevor sie sie einreichten.
Richter Wilner stellte fest, dass „mindestens zwei der zitierten Quellen völlig inexistent waren“. Auf Nachfrage reichte K&L Gates das Schriftstück erneut ein, nur um weitere erfundene Referenzen aufzudecken. Daraufhin erließ er eine Vorladung zur Klärung, die beide Seiten dazu zwang, die Wahrheit unter Eid zuzugeben. Der Anwalt, der den ursprünglichen Entwurf erstellt hatte, gestand, Google Gemini und juristische Recherchetools wie Westlaw Precision mit CoCounsel verwendet zu haben.
Ein Muster des Missbrauchs
Dies ist nicht der erste Fall, in dem Anwälte wegen Missbrauchs von KI in Schwierigkeiten geraten. Der ehemalige Trump-Anwalt Michael Cohen berief sich einmal auf nicht existierende Gerichtsfälle, nachdem er Google Gemini, damals bekannt als Bard, fälschlicherweise als reguläre Suchmaschine genutzt hatte. Ebenso stellte ein Richter in Kolumbien fest, dass Anwälte, die eine Fluggesellschaft verklagten, ihr Schriftstück mit gefälschten Fällen bestückt hatten, die von ChatGPT generiert wurden.
„Dieses ganze Ereignis war nichts weniger als alarmierend“, schloss Richter Wilner. „Die anfängliche Entscheidung, KI ohne Offenlegung zu nutzen, war inakzeptabel. Solch fehlerhaftes Material an andere Fachleute ohne Warnung über dessen fragwürdige Herkunft zu senden, brachte alle in Gefahr.“
Die größeren Auswirkungen
Die Entscheidung hebt eine wachsende Besorgnis unter Juristen über die ethischen Implikationen des Einsatzes von KI in Gerichtsdokumenten hervor. Während KI-Tools Effizienz und Genauigkeit versprechen, bergen sie auch das Risiko, Fehlinformationen zu verbreiten, wenn sie nicht richtig überprüft werden. Wie Richter Wilner betonte: „Kein vernünftig kompetenter Anwalt sollte seine Recherche oder sein Schreiben an einen Algorithmus auslagern, ohne dessen Ausgabe zu überprüfen.“
Der Fall dient als deutliche Erinnerung an die Bedeutung von Transparenz und Verantwortlichkeit in der juristischen Praxis. Da sich KI weiterentwickelt, bleibt es für Praktiker entscheidend, vorsichtig vorzugehen, um sicherzustellen, dass Technologie die Integrität des Rechtssystems stärkt – und nicht untergräbt.
Verwandter Artikel
Google testet den Remy AI Agent für Gemini, da der Fokus auf die Benutzerkontrolle verlagert wird
Laut Business Insider testet Google Remy, einen neuen KI-Personalagenten für Gemini. Dieses Tool soll Aufgaben im Auftrag von Nutzern ausführen und sowohl professionelle Arbeitsabläufe als auch tägliche Routinen optimieren.Derzeit wird Remy in einer
Ollie setzt auf Datenschutz, um das Rennen um den KI-Assistenten zu gewinnen
Um wirklich hilfreich zu sein, muss ein KI-Assistent seinen Nutzer genau verstehen. Ollie, ein für den Alltag konzipierter persönlicher Assistent, basiert auf der Prämisse, dass dies nicht mit der Wei
So wird die „AI LIVE: London“ KI und industrielle Automatisierung beleuchten
Auf dem Gipfel werden Führungskräfte der obersten Ebene aus aller Welt zusammenkommen, um dringende Herausforderungen in globalen Branchen zu erörtern – von KI-getriebenen Umbrüchen bis hin zu wirtsch
Empfehlungen zu verwandten Spezialthemen
Kommentare (4)
This AI fiasco in court is wild! Lawyers thought they could sneak in AI-generated research and not get caught? $31k fine is a wake-up call—bet they’ll think twice before pulling that stunt again. 😬

Richter bestraft Anwaltskanzleien für den Einsatz von KI ohne Offenlegung
In einer kürzlich ergangenen Entscheidung verhängte der kalifornische Richter Michael Wilner gegen zwei prominente Anwaltskanzleien eine hohe Geldstrafe von 31.000 US-Dollar, weil sie heimlich künstliche Intelligenz in einem Zivilprozess einsetzten. Laut Richter Wilner reichten die Kanzleien ein Schriftstück ein, das mit „falschen, ungenauen und irreführenden juristischen Zitaten und Quellenangaben“ gefüllt war. Wie die Rechtsprofessoren Eric Goldman und Blake Reid auf Bluesky berichteten, äußerte der Richter seine Frustration über das, was er als rücksichtslosen Missbrauch professioneller Standards ansah.
„Ich habe dem Schriftstück, das ich gelesen habe, vertraut“, schrieb Richter Wilner in seiner Entscheidung. „Ich war von den zitierten Quellen überzeugt, also habe ich tiefer gegraben, um diese Fälle selbst zu prüfen. Aber sie existierten nicht. Es war erschreckend. Ich hätte beinahe eine gerichtliche Verfügung auf Basis falscher Informationen unterzeichnet.“
Laut Gerichtsdokumenten begann das Problem, als das Anwaltsteam der Klägerseite ein KI-Tool engagierte, um einen Entwurf für ein ergänzendes Schriftstück zu erstellen. Dieser Entwurf war jedoch voller erfundener Inhalte, als er an K&L Gates, eine weitere beteiligte Anwaltskanzlei, weitergegeben wurde. Leider überprüften beide Kanzleien die Informationen nicht, bevor sie sie einreichten.
Richter Wilner stellte fest, dass „mindestens zwei der zitierten Quellen völlig inexistent waren“. Auf Nachfrage reichte K&L Gates das Schriftstück erneut ein, nur um weitere erfundene Referenzen aufzudecken. Daraufhin erließ er eine Vorladung zur Klärung, die beide Seiten dazu zwang, die Wahrheit unter Eid zuzugeben. Der Anwalt, der den ursprünglichen Entwurf erstellt hatte, gestand, Google Gemini und juristische Recherchetools wie Westlaw Precision mit CoCounsel verwendet zu haben.
Ein Muster des Missbrauchs
Dies ist nicht der erste Fall, in dem Anwälte wegen Missbrauchs von KI in Schwierigkeiten geraten. Der ehemalige Trump-Anwalt Michael Cohen berief sich einmal auf nicht existierende Gerichtsfälle, nachdem er Google Gemini, damals bekannt als Bard, fälschlicherweise als reguläre Suchmaschine genutzt hatte. Ebenso stellte ein Richter in Kolumbien fest, dass Anwälte, die eine Fluggesellschaft verklagten, ihr Schriftstück mit gefälschten Fällen bestückt hatten, die von ChatGPT generiert wurden.
„Dieses ganze Ereignis war nichts weniger als alarmierend“, schloss Richter Wilner. „Die anfängliche Entscheidung, KI ohne Offenlegung zu nutzen, war inakzeptabel. Solch fehlerhaftes Material an andere Fachleute ohne Warnung über dessen fragwürdige Herkunft zu senden, brachte alle in Gefahr.“
Die größeren Auswirkungen
Die Entscheidung hebt eine wachsende Besorgnis unter Juristen über die ethischen Implikationen des Einsatzes von KI in Gerichtsdokumenten hervor. Während KI-Tools Effizienz und Genauigkeit versprechen, bergen sie auch das Risiko, Fehlinformationen zu verbreiten, wenn sie nicht richtig überprüft werden. Wie Richter Wilner betonte: „Kein vernünftig kompetenter Anwalt sollte seine Recherche oder sein Schreiben an einen Algorithmus auslagern, ohne dessen Ausgabe zu überprüfen.“
Der Fall dient als deutliche Erinnerung an die Bedeutung von Transparenz und Verantwortlichkeit in der juristischen Praxis. Da sich KI weiterentwickelt, bleibt es für Praktiker entscheidend, vorsichtig vorzugehen, um sicherzustellen, dass Technologie die Integrität des Rechtssystems stärkt – und nicht untergräbt.
Ollie setzt auf Datenschutz, um das Rennen um den KI-Assistenten zu gewinnen
Um wirklich hilfreich zu sein, muss ein KI-Assistent seinen Nutzer genau verstehen. Ollie, ein für den Alltag konzipierter persönlicher Assistent, basiert auf der Prämisse, dass dies nicht mit der Wei
So wird die „AI LIVE: London“ KI und industrielle Automatisierung beleuchten
Auf dem Gipfel werden Führungskräfte der obersten Ebene aus aller Welt zusammenkommen, um dringende Herausforderungen in globalen Branchen zu erörtern – von KI-getriebenen Umbrüchen bis hin zu wirtsch
This AI fiasco in court is wild! Lawyers thought they could sneak in AI-generated research and not get caught? $31k fine is a wake-up call—bet they’ll think twice before pulling that stunt again. 😬





Heim






