Юрист Anthropic извинился после того, как Клод вообразил юридическую цитату

Недавно юрист, представляющий интересы Anthropic, признал, что в ходе судебного спора с музыкальными издательствами использовал неверную цитату, сгенерированную чатботом Claude AI компании. Признание было сделано в четверг в одном из судов Северной Калифорнии.
Anthropic заявила в заявлении, о котором впервые сообщило агентство Bloomberg, что Claude сфабриковал цитату, указав неверное название и данные об авторе. Юристы компании признали, что их обычная проверка цитирования не выявила эту ошибку, а также несколько других неточностей, вызванных "галлюцинациями" Клода.
Извиняясь за оплошность, Anthropic назвала произошедшее "честной ошибкой в цитировании, а не подделкой авторитета".
Ранее на этой неделе адвокаты Universal Music Group и других музыкальных издателей обвинили эксперта Anthropic, сотрудницу Оливию Чен, в том, что она ссылалась в своих показаниях на сфабрикованные статьи, якобы использующие Клода. После этого федеральный судья Сьюзан ван Кеулен потребовала от Anthropic ответа на эти претензии.
Иск, поданный музыкальными издателями, является частью многочисленных конфликтов между владельцами авторских прав и технологическими компаниями по поводу предполагаемого неправомерного использования их контента для разработки генеративных инструментов ИИ.
Это еще один случай, когда использование ИИ в судебных разбирательствах привело к непредвиденным последствиям. Ранее на этой неделе судья из Калифорнии раскритиковал две юридические фирмы за то, что они представили в его суд "фальшивые исследования, созданные ИИ". В январе австралийский адвокат был разоблачен за использование ChatGPT при составлении судебных документов, что привело к неточному цитированию.
Несмотря на подобные инциденты, стартапы продолжают привлекать значительное финансирование для автоматизации юридических процессов. Компания Harvey, использующая генеративные модели искусственного интеллекта для помощи юристам, по сообщениям, ведет переговоры о привлечении более 250 миллионов долларов при оценке свыше 5 миллиардов долларов.
Мероприятие Techcrunch ### Присоединяйтесь к нам на TechCrunch Sessions: AI
Забронируйте свое место на нашем главном мероприятии по ИИ с участием докладчиков из OpenAI, Anthropic и Cohere. В течение ограниченного периода времени билеты стоят всего 292 доллара США за целый день экспертных презентаций, семинаров и ценных возможностей для общения.
Участвуйте в выставке TechCrunch Sessions: AI
Забронируйте свою выставку展位 на TC Sessions: AI и продемонстрируйте свои инновации 1 200 с лишним лицам, принимающим решения, не разоряясь. Доступно до 9 мая или пока есть свободные места.
Беркли, Калифорния | 5 июня ЗАРЕГИСТРИРОВАТЬСЯ СЕЙЧАС
Связанная статья
Anthropic выходит на рынок юридических технологий ИИ по мере усиления конкуренции
Anthropic unveiled a suite of new chatbot capabilities on Tuesday, aimed at delivering automated support to legal practices. Эти инструменты были представлены во вторник и направлены на предоставление автоматизированной поддержки юридическим фирмам.
Anthropic выпускает Opus 4.8 с новым инструментом для динамической организации рабочего процесса
В четверг компания Anthropic представила Opus 4.8 — новую версию своей флагманской общедоступной модели. Стоимость обновления осталась на прежнем уровне, и теперь оно доступно на всех платформах.Выпус
Anthropic представляет Claude Fable 5 — публичную версию Mythos
Компания Anthropic впервые предоставляет широкой публике доступ к своей самой мощной модели искусственного интеллекта — однако с соблюдением мер безопасности.Во вторник компания представила Claude Fa
Рекомендации по связанным специальным темам
Комментарии (3)
Claudeが法廷で出典を間違えたって、さすがにまずいよね😅 AIの過信は危険だわ。弁護士が謝罪したってことは、実害があったってことだよね。技術の進歩は速いけど、信頼性が追いついてないのが現実。もっと慎重に検証する仕組みが必要だと思う。 #Anthropic #AI
Kann jemand erklären, warum selbst Top-LLMs noch Halluzinationen produzieren? Besonders bei Rechtsthemen ist das echt kritisch. Die Entschuldigung ist ein Schritt, aber wie werden solche Fehler in Zukunft verhindert? 🤔 Bin gespannt, ob sich da bald branchenweite Standards durchsetzen.

Недавно юрист, представляющий интересы Anthropic, признал, что в ходе судебного спора с музыкальными издательствами использовал неверную цитату, сгенерированную чатботом Claude AI компании. Признание было сделано в четверг в одном из судов Северной Калифорнии.
Anthropic заявила в заявлении, о котором впервые сообщило агентство Bloomberg, что Claude сфабриковал цитату, указав неверное название и данные об авторе. Юристы компании признали, что их обычная проверка цитирования не выявила эту ошибку, а также несколько других неточностей, вызванных "галлюцинациями" Клода.
Извиняясь за оплошность, Anthropic назвала произошедшее "честной ошибкой в цитировании, а не подделкой авторитета".
Ранее на этой неделе адвокаты Universal Music Group и других музыкальных издателей обвинили эксперта Anthropic, сотрудницу Оливию Чен, в том, что она ссылалась в своих показаниях на сфабрикованные статьи, якобы использующие Клода. После этого федеральный судья Сьюзан ван Кеулен потребовала от Anthropic ответа на эти претензии.
Иск, поданный музыкальными издателями, является частью многочисленных конфликтов между владельцами авторских прав и технологическими компаниями по поводу предполагаемого неправомерного использования их контента для разработки генеративных инструментов ИИ.
Это еще один случай, когда использование ИИ в судебных разбирательствах привело к непредвиденным последствиям. Ранее на этой неделе судья из Калифорнии раскритиковал две юридические фирмы за то, что они представили в его суд "фальшивые исследования, созданные ИИ". В январе австралийский адвокат был разоблачен за использование ChatGPT при составлении судебных документов, что привело к неточному цитированию.
Несмотря на подобные инциденты, стартапы продолжают привлекать значительное финансирование для автоматизации юридических процессов. Компания Harvey, использующая генеративные модели искусственного интеллекта для помощи юристам, по сообщениям, ведет переговоры о привлечении более 250 миллионов долларов при оценке свыше 5 миллиардов долларов.
Мероприятие Techcrunch ### Присоединяйтесь к нам на TechCrunch Sessions: AI
Забронируйте свое место на нашем главном мероприятии по ИИ с участием докладчиков из OpenAI, Anthropic и Cohere. В течение ограниченного периода времени билеты стоят всего 292 доллара США за целый день экспертных презентаций, семинаров и ценных возможностей для общения.
Участвуйте в выставке TechCrunch Sessions: AI
Забронируйте свою выставку展位 на TC Sessions: AI и продемонстрируйте свои инновации 1 200 с лишним лицам, принимающим решения, не разоряясь. Доступно до 9 мая или пока есть свободные места.
Беркли, Калифорния | 5 июня ЗАРЕГИСТРИРОВАТЬСЯ СЕЙЧАС
Anthropic выходит на рынок юридических технологий ИИ по мере усиления конкуренции
Anthropic unveiled a suite of new chatbot capabilities on Tuesday, aimed at delivering automated support to legal practices. Эти инструменты были представлены во вторник и направлены на предоставление автоматизированной поддержки юридическим фирмам.
Anthropic выпускает Opus 4.8 с новым инструментом для динамической организации рабочего процесса
В четверг компания Anthropic представила Opus 4.8 — новую версию своей флагманской общедоступной модели. Стоимость обновления осталась на прежнем уровне, и теперь оно доступно на всех платформах.Выпус
Anthropic представляет Claude Fable 5 — публичную версию Mythos
Компания Anthropic впервые предоставляет широкой публике доступ к своей самой мощной модели искусственного интеллекта — однако с соблюдением мер безопасности.Во вторник компания представила Claude Fa
Claudeが法廷で出典を間違えたって、さすがにまずいよね😅 AIの過信は危険だわ。弁護士が謝罪したってことは、実害があったってことだよね。技術の進歩は速いけど、信頼性が追いついてないのが現実。もっと慎重に検証する仕組みが必要だと思う。 #Anthropic #AI
Kann jemand erklären, warum selbst Top-LLMs noch Halluzinationen produzieren? Besonders bei Rechtsthemen ist das echt kritisch. Die Entschuldigung ist ein Schritt, aber wie werden solche Fehler in Zukunft verhindert? 🤔 Bin gespannt, ob sich da bald branchenweite Standards durchsetzen.





Дом






