法官抨擊律師提交偽造AI研究

法官因律師事務所未披露使用AI而處以罰款
在最近的一項裁決中,加州法官邁克爾·威尔纳(Michael Wilner)對兩家知名律師事務所處以31,000美元的巨額罰款,原因是他們在民事訴訟中秘密依賴人工智能。根據威尔纳法官的說法,這些事務所提交了一份充滿“虛假、不準確且具有誤導性的法律引證和引用”的訴狀。據法律教授埃里克·戈德曼(Eric Goldman)和布雷克·里德(Blake Reid)在Bluesky上報導,法官對於他認為是對職業標準的魯莽漠視表示沮喪。
“我信任我閱讀的訴狀,”威尔纳法官在裁決中寫道。“我被他們引用的權威說服,因此我深入研究這些案例。但這些案例根本不存在。這太可怕了。我差點根據虛假信息簽署了一份司法命令。”
根據法庭文件,問題始於原告的法律團隊聘請了一款AI工具來為補充訴狀起草大綱。然而,這份大綱在交給另一家參與案件的律師事務所K&L Gates時,充斥著捏造的內容。不幸的是,兩家事務所都沒有在提交前對信息進行事實核查或驗證。
威尔纳法官發現,“至少有兩項引用的權威完全不存在。”在要求澄清時,K&L Gates重新提交了訴狀,但法官發現了更多捏造的參考資料。作為回應,他發出了顯示原因命令,促使雙方在宣誓下承認真相。負責創建原始大綱的律師承認使用了Google Gemini和Westlaw Precision with CoCounsel等法律研究工具。
濫用模式的出現
這並非律師因濫用AI而惹上麻煩的首例。前川普律師邁克爾·科恩(Michael Cohen)曾因誤將Google Gemini(當時稱為Bard)當作普通搜索引擎,而引用了不存在的法庭案例。同樣,哥倫比亞的一名法官發現,起訴一家航空公司的律師在訴狀中引用了由ChatGPT生成的虛假案例。
“整個事件令人震驚,”威尔纳法官總結道。“在未披露的情況下決定依賴AI是不可接受的。將如此有缺陷的材料發送給其他專業人士,卻未警告其來源可疑,這讓所有人都面臨風險。”
更廣泛的影響
這項裁決凸顯了法律專業人士對在法庭文件中使用AI的倫理影響日益增長的擔憂。雖然AI工具承諾提高效率和準確性,但如果未經適當審查,也存在傳播錯誤信息的風險。正如威尔纳法官強調,“任何合理稱職的律師都不應在未驗證其輸出的情況下,將研究或寫作外包給算法。”
此案是一個鮮明的提醒,強調法律實務中透明度和問責制的重要性。隨著AI的不斷發展,對於從業者來說,謹慎行事至關重要,確保技術能夠增強而非損害司法系統的完整性。
相關文章
Google 測試 Remy AI 代理,以 Gemini 為重點轉向使用者控制
根據《商業內幕》的報道,谷歌正在測試 Remy,這是 Gemini 的一款全新 AI 個人代理工具。該工具旨在代表使用者執行任務,從而簡化專業工作流程和日常事務。目前,Remy 正在 Gemini 應用的內部員工專屬版本中進行測試。該報告引用了一份內部檔案以及對兩位熟悉該專案的個人的採訪。內部資料將 Remy 描述為“全天候個人代理”,將 Gemini 定位為能夠代表使用者行事的主動助手。接近該專案的訊息人士證實,谷歌員工正在積極測試 Remy。谷歌發言人拒絕提供進一步評論。該報告未提及公開發布
奧利押注隱私保護,力爭在 AI 助理競賽中勝出
要真正發揮實用價值,人工智慧助理必須深入了解其使用者。Ollie 是一款專為日常生活設計的個人助理,其運作前提是:這無需您交出個人資料,亦不會損害您的隱私。雖然某些企業級 AI 工具提供資料隱私保障,但 Ollie 作為首批獲得 SOC 2 合規認證的主流、以家庭為導向的 AI 服務之一,顯得格外突出。此框架允許企業透過獨立稽核證明,其已建立正式的管控措施來保護客戶資料,並確保系統運作的安全性。達
「AI LIVE:倫敦」將如何探討人工智慧與工業自動化
本次峰會將匯聚來自全球的高階主管,共同探討全球產業面臨的迫切挑戰,涵蓋範圍從人工智慧驅動的顛覆性變革到經濟波動。AI LIVE:倫敦峰會將以「科技+人類使命」為主題,匯聚逾 2,000 位國際領袖,共同探討人工智慧新興時代的發展。隸屬於 BizClik 旗下的《AI Magazine》已公佈其於「AI LIVE:倫敦峰會」上舉辦的「人工智慧與工業自動化」聯合爐邊談話的與會陣容。該座談會定於 10
相關專題推薦
評論 (4)
0/500
This AI fiasco in court is wild! Lawyers thought they could sneak in AI-generated research and not get caught? $31k fine is a wake-up call—bet they’ll think twice before pulling that stunt again. 😬

法官因律師事務所未披露使用AI而處以罰款
在最近的一項裁決中,加州法官邁克爾·威尔纳(Michael Wilner)對兩家知名律師事務所處以31,000美元的巨額罰款,原因是他們在民事訴訟中秘密依賴人工智能。根據威尔纳法官的說法,這些事務所提交了一份充滿“虛假、不準確且具有誤導性的法律引證和引用”的訴狀。據法律教授埃里克·戈德曼(Eric Goldman)和布雷克·里德(Blake Reid)在Bluesky上報導,法官對於他認為是對職業標準的魯莽漠視表示沮喪。
“我信任我閱讀的訴狀,”威尔纳法官在裁決中寫道。“我被他們引用的權威說服,因此我深入研究這些案例。但這些案例根本不存在。這太可怕了。我差點根據虛假信息簽署了一份司法命令。”
根據法庭文件,問題始於原告的法律團隊聘請了一款AI工具來為補充訴狀起草大綱。然而,這份大綱在交給另一家參與案件的律師事務所K&L Gates時,充斥著捏造的內容。不幸的是,兩家事務所都沒有在提交前對信息進行事實核查或驗證。
威尔纳法官發現,“至少有兩項引用的權威完全不存在。”在要求澄清時,K&L Gates重新提交了訴狀,但法官發現了更多捏造的參考資料。作為回應,他發出了顯示原因命令,促使雙方在宣誓下承認真相。負責創建原始大綱的律師承認使用了Google Gemini和Westlaw Precision with CoCounsel等法律研究工具。
濫用模式的出現
這並非律師因濫用AI而惹上麻煩的首例。前川普律師邁克爾·科恩(Michael Cohen)曾因誤將Google Gemini(當時稱為Bard)當作普通搜索引擎,而引用了不存在的法庭案例。同樣,哥倫比亞的一名法官發現,起訴一家航空公司的律師在訴狀中引用了由ChatGPT生成的虛假案例。
“整個事件令人震驚,”威尔纳法官總結道。“在未披露的情況下決定依賴AI是不可接受的。將如此有缺陷的材料發送給其他專業人士,卻未警告其來源可疑,這讓所有人都面臨風險。”
更廣泛的影響
這項裁決凸顯了法律專業人士對在法庭文件中使用AI的倫理影響日益增長的擔憂。雖然AI工具承諾提高效率和準確性,但如果未經適當審查,也存在傳播錯誤信息的風險。正如威尔纳法官強調,“任何合理稱職的律師都不應在未驗證其輸出的情況下,將研究或寫作外包給算法。”
此案是一個鮮明的提醒,強調法律實務中透明度和問責制的重要性。隨著AI的不斷發展,對於從業者來說,謹慎行事至關重要,確保技術能夠增強而非損害司法系統的完整性。
奧利押注隱私保護,力爭在 AI 助理競賽中勝出
要真正發揮實用價值,人工智慧助理必須深入了解其使用者。Ollie 是一款專為日常生活設計的個人助理,其運作前提是:這無需您交出個人資料,亦不會損害您的隱私。雖然某些企業級 AI 工具提供資料隱私保障,但 Ollie 作為首批獲得 SOC 2 合規認證的主流、以家庭為導向的 AI 服務之一,顯得格外突出。此框架允許企業透過獨立稽核證明,其已建立正式的管控措施來保護客戶資料,並確保系統運作的安全性。達
「AI LIVE:倫敦」將如何探討人工智慧與工業自動化
本次峰會將匯聚來自全球的高階主管,共同探討全球產業面臨的迫切挑戰,涵蓋範圍從人工智慧驅動的顛覆性變革到經濟波動。AI LIVE:倫敦峰會將以「科技+人類使命」為主題,匯聚逾 2,000 位國際領袖,共同探討人工智慧新興時代的發展。隸屬於 BizClik 旗下的《AI Magazine》已公佈其於「AI LIVE:倫敦峰會」上舉辦的「人工智慧與工業自動化」聯合爐邊談話的與會陣容。該座談會定於 10
This AI fiasco in court is wild! Lawyers thought they could sneak in AI-generated research and not get caught? $31k fine is a wake-up call—bet they’ll think twice before pulling that stunt again. 😬





首頁






