Anthropic 在法律文件中承认克劳德人工智能错误,称其 令人尴尬且非故意

Anthropic公司在与音乐出版商的法律纠纷中回应了有关人工智能生成的消息来源的指控,称该事件是其克劳德聊天机器人 "无意中的引用错误"。
有争议的引用出现在 Anthropic 数据科学家奥利维亚-陈(Olivia Chen)于 4 月 30 日提交的法律文件中,这是该公司针对克劳德使用受版权保护的歌词进行训练的指控进行辩护的一部分。在法庭审理过程中,代表环球音乐集团(Universal Music Group)和其他出版商的法律顾问指出所引用的来源可能是编造的,暗示它们可能是 Anthropic 的人工智能系统发明的。
Anthropic公司的辩护律师伊万娜-杜卡诺维奇(Ivana Dukanovic)在最近提交的答复中澄清说,虽然引用的材料是真实的,但克劳德在文件中使用了法律引文的格式。该公司承认,虽然自动检查发现并纠正了人工智能生成的不准确的卷数和页码,但人工审核时仍未发现某些措辞上的错误。
杜卡诺维奇解释说:"系统正确识别了出版物名称、年份和可访问链接,但错误地包含了错误的文章标题和作者信息。Anthropic 公司对造成的混乱表示遗憾,称这一疏忽是 "一个不幸但无意的错误"。
在越来越多的法律诉讼中,人工智能辅助引文造成的问题也越来越复杂。最近,加利福尼亚州的一名法官训斥了一名律师,因为他没有披露人工智能在准备一份包含不存在的法律参考文献的辩护状时所扮演的角色。去年 12 月,一位错误信息研究员承认 ChatGPT 在其提交的一份法律文件中编造了引文,这一问题进一步引起了关注。
相关文章
Google 测试 Remy AI 代理,以 Gemini 为重点转向用户控制
根据《商业内幕》的报道,谷歌正在测试 Remy,这是 Gemini 的一款全新 AI 个人代理工具。该工具旨在代表用户执行任务,从而简化专业工作流程和日常事务。目前,Remy 正在 Gemini 应用的内部员工专属版本中进行测试。该报告引用了一份内部文件以及对两位熟悉该项目的个人的采访。内部资料将 Remy 描述为“全天候个人代理”,将 Gemini 定位为能够代表用户行事的主动助手。接近该项目的消息人士证实,谷歌员工正在积极测试 Remy。谷歌发言人拒绝提供进一步评论。该报告未提及公开发布
奥利押注隐私保护,力争在AI助手竞争中胜出
要真正发挥帮助作用,人工智能助手必须深刻理解其用户。Ollie 是一款专为日常生活设计的个人助理,其运作理念是:实现这一点无需用户交出数据,也不会损害用户的隐私。虽然某些企业级人工智能工具提供了数据隐私保护措施,但Ollie作为首批通过SOC 2认证的主流、面向家庭的人工智能服务之一,尤为突出。该认证框架允许企业通过独立审计证明,其已建立正式的控制措施来保护客户数据,并确保系统安全运行。达成这一里
AI LIVE:伦敦将如何探讨人工智能与工业自动化
本次峰会将汇聚来自全球的高管,共同探讨全球各行业面临的紧迫挑战,涵盖从人工智能驱动的颠覆性变革到经济波动等各个方面。AI LIVE:伦敦峰会将以“技术与人类使命”为主题,汇聚2,000余位国际领袖,共同探讨人工智能的新时代。BizClik旗下品牌《AI Magazine》已公布其在“AI LIVE:伦敦峰会”上举办的关于人工智能与工业自动化的联合炉边谈话环节阵容。该专题讨论会定于10月20日在伦敦
相关专题推荐
评论 (3)
0/500
Honestly, this is a bit concerning. If even a top-tier AI like Claude can make such a 'citation error' in a legal document, how can we trust AI-generated content for serious applications? It's not just embarrassing; it raises real questions about accountability and verification processes. 🤔
Das ist echt peinlich für Anthropic... Aber mal ehrlich, wer hat denn noch nie einen Fehler gemacht? 🤷♂️ Mich interessiert mehr, wie sie solche Zitierfehler in Zukunft verhindern wollen. KI als juristisches Werkzeug ist ja super, aber wenn die Quellenangaben nicht stimmen, wird's gefährlich. Hoffentlich lernen alle Firmen daraus!

Anthropic公司在与音乐出版商的法律纠纷中回应了有关人工智能生成的消息来源的指控,称该事件是其克劳德聊天机器人 "无意中的引用错误"。
有争议的引用出现在 Anthropic 数据科学家奥利维亚-陈(Olivia Chen)于 4 月 30 日提交的法律文件中,这是该公司针对克劳德使用受版权保护的歌词进行训练的指控进行辩护的一部分。在法庭审理过程中,代表环球音乐集团(Universal Music Group)和其他出版商的法律顾问指出所引用的来源可能是编造的,暗示它们可能是 Anthropic 的人工智能系统发明的。
Anthropic公司的辩护律师伊万娜-杜卡诺维奇(Ivana Dukanovic)在最近提交的答复中澄清说,虽然引用的材料是真实的,但克劳德在文件中使用了法律引文的格式。该公司承认,虽然自动检查发现并纠正了人工智能生成的不准确的卷数和页码,但人工审核时仍未发现某些措辞上的错误。
杜卡诺维奇解释说:"系统正确识别了出版物名称、年份和可访问链接,但错误地包含了错误的文章标题和作者信息。Anthropic 公司对造成的混乱表示遗憾,称这一疏忽是 "一个不幸但无意的错误"。
在越来越多的法律诉讼中,人工智能辅助引文造成的问题也越来越复杂。最近,加利福尼亚州的一名法官训斥了一名律师,因为他没有披露人工智能在准备一份包含不存在的法律参考文献的辩护状时所扮演的角色。去年 12 月,一位错误信息研究员承认 ChatGPT 在其提交的一份法律文件中编造了引文,这一问题进一步引起了关注。
奥利押注隐私保护,力争在AI助手竞争中胜出
要真正发挥帮助作用,人工智能助手必须深刻理解其用户。Ollie 是一款专为日常生活设计的个人助理,其运作理念是:实现这一点无需用户交出数据,也不会损害用户的隐私。虽然某些企业级人工智能工具提供了数据隐私保护措施,但Ollie作为首批通过SOC 2认证的主流、面向家庭的人工智能服务之一,尤为突出。该认证框架允许企业通过独立审计证明,其已建立正式的控制措施来保护客户数据,并确保系统安全运行。达成这一里
AI LIVE:伦敦将如何探讨人工智能与工业自动化
本次峰会将汇聚来自全球的高管,共同探讨全球各行业面临的紧迫挑战,涵盖从人工智能驱动的颠覆性变革到经济波动等各个方面。AI LIVE:伦敦峰会将以“技术与人类使命”为主题,汇聚2,000余位国际领袖,共同探讨人工智能的新时代。BizClik旗下品牌《AI Magazine》已公布其在“AI LIVE:伦敦峰会”上举办的关于人工智能与工业自动化的联合炉边谈话环节阵容。该专题讨论会定于10月20日在伦敦
Honestly, this is a bit concerning. If even a top-tier AI like Claude can make such a 'citation error' in a legal document, how can we trust AI-generated content for serious applications? It's not just embarrassing; it raises real questions about accountability and verification processes. 🤔
Das ist echt peinlich für Anthropic... Aber mal ehrlich, wer hat denn noch nie einen Fehler gemacht? 🤷♂️ Mich interessiert mehr, wie sie solche Zitierfehler in Zukunft verhindern wollen. KI als juristisches Werkzeug ist ja super, aber wenn die Quellenangaben nicht stimmen, wird's gefährlich. Hoffentlich lernen alle Firmen daraus!





首页






