人类学家律师在克劳德幻觉引用法律条文后道歉

最近,Anthropic 公司的一名代表律师承认,在该公司与音乐出版商的法律纠纷中,使用了该公司的 Claude 人工智能聊天机器人生成的错误引文。周四,Anthropic 在北加州法庭提交的一份文件中承认了这一点。
Anthropic 在彭博社首次报道的这份文件中指出,Claude 捏造了标题和作者详细信息都不正确的引用。该公司的律师承认,他们的例行引文检查未能发现这一错误,以及克劳德的 "幻觉 "造成的其他一些不准确之处。
Anthropic公司对这一疏忽表示歉意,称这一事件是 "诚实的引用错误,并非捏造权威"。
本周早些时候,环球音乐集团和其他音乐出版商的律师指控Anthropic公司的专家证人、雇员奥利维亚-陈(Olivia Chen)在证词中引用了编造的文章,涉嫌利用克劳德。随后,联邦法官苏珊-范库伦(Susan van Keulen)要求 Anthropic 就这些指控做出回应。
音乐出版商提起的诉讼是版权持有者与科技公司之间因涉嫌滥用其内容开发生成式人工智能工具而发生的多起冲突的一部分。
这标志着人工智能在法律诉讼中的应用又一次导致了意想不到的后果。本周早些时候,加州一名法官批评两家律师事务所在其法庭上提交 "虚假的人工智能生成研究"。今年 1 月,一名澳大利亚律师被曝在起草法庭文件时使用了 ChatGPT,导致引文存在缺陷。
尽管发生了此类事件,初创公司仍在继续吸引大量资金,以实现法律流程自动化。据报道,采用生成式人工智能模型为律师提供帮助的哈维公司正在讨论以超过 50 亿美元的估值获得超过 2.5 亿美元的资金。
Techcrunch 活动 ### 加入我们的 TechCrunch 会议:人工智能
预订参加我们的顶级人工智能行业活动,来自 OpenAI、Anthropic 和 Cohere 的演讲者将为您带来精彩演讲。在有限的时间内,门票仅售 292 美元,可参加一整天的专家演讲、研讨会和宝贵的交流机会。
在 TechCrunch 会议上参展:人工智能
在 TechCrunch Sessions: AI 上预订您的展位:向 1200 多位决策者展示您的创新成果,而无需花费巨额资金。报名截止至 5 月 9 日,额满为止。
加利福尼亚州伯克利 | 6月5日 现在注册
相关文章
Anthropic 进入 AI 法律科技市场,竞争日益激烈
Anthropic 于周二发布了一系列新的聊天机器人功能,旨在为法律实务提供自动化支持。这些增强功能在年初推出的特定律所平台 Claude for Legal 基础上进行了扩展,增加了针对不同法律领域的专用法律插件和 MCP 连接器。随着法律人工智能领域竞争的加剧,这些工具应运而生。今年三月,利用代理式人工智能简化法律工作流的 AI 法律初创公司 Harvey 以 110 亿美元的估值获得了 2 亿美元融资。上个月,竞争对手 Legora 完成了 6 亿美元的 D 轮融资,并启动了一场由裘德·
Anthropic 推出 Opus 4.8,新增动态工作流工具
Anthropic 于周四发布了 Opus 4.8,这是其旗舰公开模型的最新版本。该版本定价与前一版本相同,目前已在所有平台上开放使用。距离 Opus 4.7 发布仅过去 41 天,Anthropic 显著加快了开发周期,远超近期 Sonnet 和 Haiku 版本三至七个月的发布间隔。此次快速更新很可能是对 Opus 4.7 反响平平的回应——该版本曾令许多用户感到失望。与此同时,OpenAI的
Anthropic 正式推出 Claude Fable 5,这是 Mythos 的公开版本
Anthropic首次向公众开放其最强大的人工智能模型——但已采取相应的安全措施。本周二,该公司推出了 Claude Fable 5,这是其 Mythos 模型的首次公开发布。 据Anthropic介绍,Fable 5在软件工程、知识工作和视觉任务方面表现优异,但附带严格的安全限制。在网络安全、生物学、化学和蒸馏等高风险领域,该模型将拒绝回答问题,转而交由Claude Opus 4.8处理。M
相关专题推荐
评论 (3)
0/500
Claudeが法廷で出典を間違えたって、さすがにまずいよね😅 AIの過信は危険だわ。弁護士が謝罪したってことは、実害があったってことだよね。技術の進歩は速いけど、信頼性が追いついてないのが現実。もっと慎重に検証する仕組みが必要だと思う。 #Anthropic #AI
Kann jemand erklären, warum selbst Top-LLMs noch Halluzinationen produzieren? Besonders bei Rechtsthemen ist das echt kritisch. Die Entschuldigung ist ein Schritt, aber wie werden solche Fehler in Zukunft verhindert? 🤔 Bin gespannt, ob sich da bald branchenweite Standards durchsetzen.

最近,Anthropic 公司的一名代表律师承认,在该公司与音乐出版商的法律纠纷中,使用了该公司的 Claude 人工智能聊天机器人生成的错误引文。周四,Anthropic 在北加州法庭提交的一份文件中承认了这一点。
Anthropic 在彭博社首次报道的这份文件中指出,Claude 捏造了标题和作者详细信息都不正确的引用。该公司的律师承认,他们的例行引文检查未能发现这一错误,以及克劳德的 "幻觉 "造成的其他一些不准确之处。
Anthropic公司对这一疏忽表示歉意,称这一事件是 "诚实的引用错误,并非捏造权威"。
本周早些时候,环球音乐集团和其他音乐出版商的律师指控Anthropic公司的专家证人、雇员奥利维亚-陈(Olivia Chen)在证词中引用了编造的文章,涉嫌利用克劳德。随后,联邦法官苏珊-范库伦(Susan van Keulen)要求 Anthropic 就这些指控做出回应。
音乐出版商提起的诉讼是版权持有者与科技公司之间因涉嫌滥用其内容开发生成式人工智能工具而发生的多起冲突的一部分。
这标志着人工智能在法律诉讼中的应用又一次导致了意想不到的后果。本周早些时候,加州一名法官批评两家律师事务所在其法庭上提交 "虚假的人工智能生成研究"。今年 1 月,一名澳大利亚律师被曝在起草法庭文件时使用了 ChatGPT,导致引文存在缺陷。
尽管发生了此类事件,初创公司仍在继续吸引大量资金,以实现法律流程自动化。据报道,采用生成式人工智能模型为律师提供帮助的哈维公司正在讨论以超过 50 亿美元的估值获得超过 2.5 亿美元的资金。
Techcrunch 活动 ### 加入我们的 TechCrunch 会议:人工智能
预订参加我们的顶级人工智能行业活动,来自 OpenAI、Anthropic 和 Cohere 的演讲者将为您带来精彩演讲。在有限的时间内,门票仅售 292 美元,可参加一整天的专家演讲、研讨会和宝贵的交流机会。
在 TechCrunch 会议上参展:人工智能
在 TechCrunch Sessions: AI 上预订您的展位:向 1200 多位决策者展示您的创新成果,而无需花费巨额资金。报名截止至 5 月 9 日,额满为止。
加利福尼亚州伯克利 | 6月5日 现在注册
Anthropic 进入 AI 法律科技市场,竞争日益激烈
Anthropic 于周二发布了一系列新的聊天机器人功能,旨在为法律实务提供自动化支持。这些增强功能在年初推出的特定律所平台 Claude for Legal 基础上进行了扩展,增加了针对不同法律领域的专用法律插件和 MCP 连接器。随着法律人工智能领域竞争的加剧,这些工具应运而生。今年三月,利用代理式人工智能简化法律工作流的 AI 法律初创公司 Harvey 以 110 亿美元的估值获得了 2 亿美元融资。上个月,竞争对手 Legora 完成了 6 亿美元的 D 轮融资,并启动了一场由裘德·
Anthropic 推出 Opus 4.8,新增动态工作流工具
Anthropic 于周四发布了 Opus 4.8,这是其旗舰公开模型的最新版本。该版本定价与前一版本相同,目前已在所有平台上开放使用。距离 Opus 4.7 发布仅过去 41 天,Anthropic 显著加快了开发周期,远超近期 Sonnet 和 Haiku 版本三至七个月的发布间隔。此次快速更新很可能是对 Opus 4.7 反响平平的回应——该版本曾令许多用户感到失望。与此同时,OpenAI的
Anthropic 正式推出 Claude Fable 5,这是 Mythos 的公开版本
Anthropic首次向公众开放其最强大的人工智能模型——但已采取相应的安全措施。本周二,该公司推出了 Claude Fable 5,这是其 Mythos 模型的首次公开发布。 据Anthropic介绍,Fable 5在软件工程、知识工作和视觉任务方面表现优异,但附带严格的安全限制。在网络安全、生物学、化学和蒸馏等高风险领域,该模型将拒绝回答问题,转而交由Claude Opus 4.8处理。M
Claudeが法廷で出典を間違えたって、さすがにまずいよね😅 AIの過信は危険だわ。弁護士が謝罪したってことは、実害があったってことだよね。技術の進歩は速いけど、信頼性が追いついてないのが現実。もっと慎重に検証する仕組みが必要だと思う。 #Anthropic #AI
Kann jemand erklären, warum selbst Top-LLMs noch Halluzinationen produzieren? Besonders bei Rechtsthemen ist das echt kritisch. Die Entschuldigung ist ein Schritt, aber wie werden solche Fehler in Zukunft verhindert? 🤔 Bin gespannt, ob sich da bald branchenweite Standards durchsetzen.





首页






