法官抨击律师提交虚假AI研究

法官因律师事务所未披露使用人工智能而对其进行处罚
在最近的一项裁决中,加利福尼亚法官迈克尔·威尔纳对两家知名律师事务所处以31,000美元的巨额罚款,原因是他们在民事诉讼中秘密依赖人工智能。据威尔纳法官称,这两家律所提交了一份充满“虚假、不准确且具有误导性的法律引用和引文的”诉状。据法律教授埃里克·戈德曼和布莱克·里德在Bluesky上报道,法官对这种被他认为是对职业标准鲁莽无视的行为表达了不满。
“我相信我所阅读的诉状,”威尔纳法官在裁决书中写道。“我被他们引用的权威资料说服,因此我深入研究了那些案例。但它们根本不存在。这太可怕了。我差点基于虚假信息签署了一项司法命令。”
根据法庭文件,问题始于原告的法律团队聘请了一个人工智能工具来起草补充诉状的大纲。然而,这个大纲在交给另一家涉案律师事务所K&L Gates时,充满了捏造内容。不幸的是,两家律所都没有在提交前对信息进行事实核查或验证。
威尔纳法官发现,“至少有两个引用的权威资料完全不存在。”在要求澄清时,K&L Gates重新提交了诉状,但法官发现了更多捏造的引用。作为回应,他发布了一份要求说明原因的命令,促使双方在宣誓下承认真相。负责起草原始大纲的律师承认使用了Google Gemini和Westlaw Precision与CoCounsel等法律研究工具。
滥用模式的出现
这不是律师因滥用人工智能而陷入麻烦的首次案例。前特朗普律师迈克尔·科恩曾引用不存在的法庭案例,原因是错误地将Google Gemini(当时称为Bard)视为常规搜索引擎。同样,哥伦比亚的一名法官发现,起诉一家航空公司的律师在诉状中加入了由ChatGPT生成的虚假案例。
“整个事件令人震惊,”威尔纳法官总结道。“在未披露的情况下依赖人工智能的初步决定是不可接受的。将这种有缺陷的材料发送给其他专业人士,却未警告其可疑来源,使所有人都面临风险。”
更广泛的影响
这一裁决凸显了法律专业人士对在法庭文件中使用人工智能的伦理影响日益增长的担忧。虽然人工智能工具承诺提高效率和准确性,但如果不加以适当审查,也存在传播错误信息的风险。正如威尔纳法官强调的,“任何合理称职的律师都不应在未验证其输出的情况下将研究或写作外包给算法。”
此案清楚地提醒人们在法律实践中透明度和责任感的重要性。随着人工智能的不断发展,从业者需谨慎行事,确保技术增强而非损害司法系统的完整性。
相关文章
Google 测试 Remy AI 代理,以 Gemini 为重点转向用户控制
根据《商业内幕》的报道,谷歌正在测试 Remy,这是 Gemini 的一款全新 AI 个人代理工具。该工具旨在代表用户执行任务,从而简化专业工作流程和日常事务。目前,Remy 正在 Gemini 应用的内部员工专属版本中进行测试。该报告引用了一份内部文件以及对两位熟悉该项目的个人的采访。内部资料将 Remy 描述为“全天候个人代理”,将 Gemini 定位为能够代表用户行事的主动助手。接近该项目的消息人士证实,谷歌员工正在积极测试 Remy。谷歌发言人拒绝提供进一步评论。该报告未提及公开发布
奥利押注隐私保护,力争在AI助手竞争中胜出
要真正发挥帮助作用,人工智能助手必须深刻理解其用户。Ollie 是一款专为日常生活设计的个人助理,其运作理念是:实现这一点无需用户交出数据,也不会损害用户的隐私。虽然某些企业级人工智能工具提供了数据隐私保护措施,但Ollie作为首批通过SOC 2认证的主流、面向家庭的人工智能服务之一,尤为突出。该认证框架允许企业通过独立审计证明,其已建立正式的控制措施来保护客户数据,并确保系统安全运行。达成这一里
AI LIVE:伦敦将如何探讨人工智能与工业自动化
本次峰会将汇聚来自全球的高管,共同探讨全球各行业面临的紧迫挑战,涵盖从人工智能驱动的颠覆性变革到经济波动等各个方面。AI LIVE:伦敦峰会将以“技术与人类使命”为主题,汇聚2,000余位国际领袖,共同探讨人工智能的新时代。BizClik旗下品牌《AI Magazine》已公布其在“AI LIVE:伦敦峰会”上举办的关于人工智能与工业自动化的联合炉边谈话环节阵容。该专题讨论会定于10月20日在伦敦
相关专题推荐
评论 (4)
0/500
This AI fiasco in court is wild! Lawyers thought they could sneak in AI-generated research and not get caught? $31k fine is a wake-up call—bet they’ll think twice before pulling that stunt again. 😬

法官因律师事务所未披露使用人工智能而对其进行处罚
在最近的一项裁决中,加利福尼亚法官迈克尔·威尔纳对两家知名律师事务所处以31,000美元的巨额罚款,原因是他们在民事诉讼中秘密依赖人工智能。据威尔纳法官称,这两家律所提交了一份充满“虚假、不准确且具有误导性的法律引用和引文的”诉状。据法律教授埃里克·戈德曼和布莱克·里德在Bluesky上报道,法官对这种被他认为是对职业标准鲁莽无视的行为表达了不满。
“我相信我所阅读的诉状,”威尔纳法官在裁决书中写道。“我被他们引用的权威资料说服,因此我深入研究了那些案例。但它们根本不存在。这太可怕了。我差点基于虚假信息签署了一项司法命令。”
根据法庭文件,问题始于原告的法律团队聘请了一个人工智能工具来起草补充诉状的大纲。然而,这个大纲在交给另一家涉案律师事务所K&L Gates时,充满了捏造内容。不幸的是,两家律所都没有在提交前对信息进行事实核查或验证。
威尔纳法官发现,“至少有两个引用的权威资料完全不存在。”在要求澄清时,K&L Gates重新提交了诉状,但法官发现了更多捏造的引用。作为回应,他发布了一份要求说明原因的命令,促使双方在宣誓下承认真相。负责起草原始大纲的律师承认使用了Google Gemini和Westlaw Precision与CoCounsel等法律研究工具。
滥用模式的出现
这不是律师因滥用人工智能而陷入麻烦的首次案例。前特朗普律师迈克尔·科恩曾引用不存在的法庭案例,原因是错误地将Google Gemini(当时称为Bard)视为常规搜索引擎。同样,哥伦比亚的一名法官发现,起诉一家航空公司的律师在诉状中加入了由ChatGPT生成的虚假案例。
“整个事件令人震惊,”威尔纳法官总结道。“在未披露的情况下依赖人工智能的初步决定是不可接受的。将这种有缺陷的材料发送给其他专业人士,却未警告其可疑来源,使所有人都面临风险。”
更广泛的影响
这一裁决凸显了法律专业人士对在法庭文件中使用人工智能的伦理影响日益增长的担忧。虽然人工智能工具承诺提高效率和准确性,但如果不加以适当审查,也存在传播错误信息的风险。正如威尔纳法官强调的,“任何合理称职的律师都不应在未验证其输出的情况下将研究或写作外包给算法。”
此案清楚地提醒人们在法律实践中透明度和责任感的重要性。随着人工智能的不断发展,从业者需谨慎行事,确保技术增强而非损害司法系统的完整性。
奥利押注隐私保护,力争在AI助手竞争中胜出
要真正发挥帮助作用,人工智能助手必须深刻理解其用户。Ollie 是一款专为日常生活设计的个人助理,其运作理念是:实现这一点无需用户交出数据,也不会损害用户的隐私。虽然某些企业级人工智能工具提供了数据隐私保护措施,但Ollie作为首批通过SOC 2认证的主流、面向家庭的人工智能服务之一,尤为突出。该认证框架允许企业通过独立审计证明,其已建立正式的控制措施来保护客户数据,并确保系统安全运行。达成这一里
AI LIVE:伦敦将如何探讨人工智能与工业自动化
本次峰会将汇聚来自全球的高管,共同探讨全球各行业面临的紧迫挑战,涵盖从人工智能驱动的颠覆性变革到经济波动等各个方面。AI LIVE:伦敦峰会将以“技术与人类使命”为主题,汇聚2,000余位国际领袖,共同探讨人工智能的新时代。BizClik旗下品牌《AI Magazine》已公布其在“AI LIVE:伦敦峰会”上举办的关于人工智能与工业自动化的联合炉边谈话环节阵容。该专题讨论会定于10月20日在伦敦
This AI fiasco in court is wild! Lawyers thought they could sneak in AI-generated research and not get caught? $31k fine is a wake-up call—bet they’ll think twice before pulling that stunt again. 😬





首页






