Heim
Anthropic räumt KI-Fehler in juristischem Dossier ein und bezeichnet ihn als peinlich und unbeabsichtigt.

Anthropic hat sich zu den Vorwürfen bezüglich einer KI-generierten Quelle in seinem laufenden Rechtsstreit mit Musikverlagen geäußert und den Vorfall als einen "unbeabsichtigten Zitierfehler" seines Chatbots Claude bezeichnet.
Das umstrittene Zitat tauchte in einem von der Anthropic-Datenwissenschaftlerin Olivia Chen eingereichten Rechtsantrag vom 30. April auf, der Teil der Verteidigung des Unternehmens gegen den Vorwurf ist, dass Claude mit urheberrechtlich geschützten Songtexten trainiert wurde. Während des Gerichtsverfahrens bezeichneten die Anwälte der Universal Music Group und anderer Verleger die zitierten Quellen als potenziell gefälscht und vermuteten, dass sie von Anthropics KI-System erfunden worden sein könnten.
In einer kürzlich eingereichten Erwiderung stellte die Verteidigerin von Anthropic, Ivana Dukanovic, klar, dass das zitierte Material zwar authentisch sei, dass aber Claude eingesetzt worden sei, um die rechtlichen Zitate in dem Dokument zu formatieren. Das Unternehmen räumte ein, dass bei automatischen Überprüfungen zwar die von der künstlichen Intelligenz erzeugten ungenauen Mengen- und Seitenzahlen erkannt und korrigiert wurden, bestimmte Ungenauigkeiten in der Formulierung jedoch bei der manuellen Überprüfung unentdeckt blieben.
Dukanovic erklärte: "Das System hat den Namen der Publikation, das Jahr und den zugänglichen Link richtig erkannt, aber fälschlicherweise falsche Artikeltitel und Autoreninformationen eingefügt", und betonte, dass es sich dabei um einen ehrlichen Fehler und nicht um eine absichtliche Falschdarstellung handelte. Anthropic drückte sein Bedauern über die entstandene Verwirrung aus und bezeichnete das Versehen als "einen unglücklichen, aber unbeabsichtigten Fehler".
Dieser Fall reiht sich ein in eine wachsende Liste von Gerichtsverfahren, bei denen KI-gestützte Zitate zu Komplikationen geführt haben. Kürzlich hat ein kalifornischer Richter Anwälte gerügt, weil sie die Rolle der KI bei der Erstellung eines Schriftsatzes, der nicht existierende Rechtsverweise enthielt, nicht offengelegt hatten. Weitere Aufmerksamkeit erlangte das Thema im vergangenen Dezember, als ein Fehlinformationsforscher einräumte, dass ChatGPT in einem seiner Schriftsätze Zitate erfunden hatte.
Verwandter Artikel
Google testet den Remy AI Agent für Gemini, da der Fokus auf die Benutzerkontrolle verlagert wird
Laut Business Insider testet Google Remy, einen neuen KI-Personalagenten für Gemini. Dieses Tool soll Aufgaben im Auftrag von Nutzern ausführen und sowohl professionelle Arbeitsabläufe als auch tägliche Routinen optimieren.Derzeit wird Remy in einer
Ollie setzt auf Datenschutz, um das Rennen um den KI-Assistenten zu gewinnen
Um wirklich hilfreich zu sein, muss ein KI-Assistent seinen Nutzer genau verstehen. Ollie, ein für den Alltag konzipierter persönlicher Assistent, basiert auf der Prämisse, dass dies nicht mit der Wei
So wird die „AI LIVE: London“ KI und industrielle Automatisierung beleuchten
Auf dem Gipfel werden Führungskräfte der obersten Ebene aus aller Welt zusammenkommen, um dringende Herausforderungen in globalen Branchen zu erörtern – von KI-getriebenen Umbrüchen bis hin zu wirtsch
Empfehlungen zu verwandten Spezialthemen
Kommentare (3)
Honestly, this is a bit concerning. If even a top-tier AI like Claude can make such a 'citation error' in a legal document, how can we trust AI-generated content for serious applications? It's not just embarrassing; it raises real questions about accountability and verification processes. 🤔
Das ist echt peinlich für Anthropic... Aber mal ehrlich, wer hat denn noch nie einen Fehler gemacht? 🤷♂️ Mich interessiert mehr, wie sie solche Zitierfehler in Zukunft verhindern wollen. KI als juristisches Werkzeug ist ja super, aber wenn die Quellenangaben nicht stimmen, wird's gefährlich. Hoffentlich lernen alle Firmen daraus!

Anthropic hat sich zu den Vorwürfen bezüglich einer KI-generierten Quelle in seinem laufenden Rechtsstreit mit Musikverlagen geäußert und den Vorfall als einen "unbeabsichtigten Zitierfehler" seines Chatbots Claude bezeichnet.
Das umstrittene Zitat tauchte in einem von der Anthropic-Datenwissenschaftlerin Olivia Chen eingereichten Rechtsantrag vom 30. April auf, der Teil der Verteidigung des Unternehmens gegen den Vorwurf ist, dass Claude mit urheberrechtlich geschützten Songtexten trainiert wurde. Während des Gerichtsverfahrens bezeichneten die Anwälte der Universal Music Group und anderer Verleger die zitierten Quellen als potenziell gefälscht und vermuteten, dass sie von Anthropics KI-System erfunden worden sein könnten.
In einer kürzlich eingereichten Erwiderung stellte die Verteidigerin von Anthropic, Ivana Dukanovic, klar, dass das zitierte Material zwar authentisch sei, dass aber Claude eingesetzt worden sei, um die rechtlichen Zitate in dem Dokument zu formatieren. Das Unternehmen räumte ein, dass bei automatischen Überprüfungen zwar die von der künstlichen Intelligenz erzeugten ungenauen Mengen- und Seitenzahlen erkannt und korrigiert wurden, bestimmte Ungenauigkeiten in der Formulierung jedoch bei der manuellen Überprüfung unentdeckt blieben.
Dukanovic erklärte: "Das System hat den Namen der Publikation, das Jahr und den zugänglichen Link richtig erkannt, aber fälschlicherweise falsche Artikeltitel und Autoreninformationen eingefügt", und betonte, dass es sich dabei um einen ehrlichen Fehler und nicht um eine absichtliche Falschdarstellung handelte. Anthropic drückte sein Bedauern über die entstandene Verwirrung aus und bezeichnete das Versehen als "einen unglücklichen, aber unbeabsichtigten Fehler".
Dieser Fall reiht sich ein in eine wachsende Liste von Gerichtsverfahren, bei denen KI-gestützte Zitate zu Komplikationen geführt haben. Kürzlich hat ein kalifornischer Richter Anwälte gerügt, weil sie die Rolle der KI bei der Erstellung eines Schriftsatzes, der nicht existierende Rechtsverweise enthielt, nicht offengelegt hatten. Weitere Aufmerksamkeit erlangte das Thema im vergangenen Dezember, als ein Fehlinformationsforscher einräumte, dass ChatGPT in einem seiner Schriftsätze Zitate erfunden hatte.
Ollie setzt auf Datenschutz, um das Rennen um den KI-Assistenten zu gewinnen
Um wirklich hilfreich zu sein, muss ein KI-Assistent seinen Nutzer genau verstehen. Ollie, ein für den Alltag konzipierter persönlicher Assistent, basiert auf der Prämisse, dass dies nicht mit der Wei
So wird die „AI LIVE: London“ KI und industrielle Automatisierung beleuchten
Auf dem Gipfel werden Führungskräfte der obersten Ebene aus aller Welt zusammenkommen, um dringende Herausforderungen in globalen Branchen zu erörtern – von KI-getriebenen Umbrüchen bis hin zu wirtsch
Honestly, this is a bit concerning. If even a top-tier AI like Claude can make such a 'citation error' in a legal document, how can we trust AI-generated content for serious applications? It's not just embarrassing; it raises real questions about accountability and verification processes. 🤔
Das ist echt peinlich für Anthropic... Aber mal ehrlich, wer hat denn noch nie einen Fehler gemacht? 🤷♂️ Mich interessiert mehr, wie sie solche Zitierfehler in Zukunft verhindern wollen. KI als juristisches Werkzeug ist ja super, aber wenn die Quellenangaben nicht stimmen, wird's gefährlich. Hoffentlich lernen alle Firmen daraus!











