人類學家律師在克勞德幻覺引用法律條文後道歉

Anthropic 的代表律師承認,在該公司與音樂出版商的法律爭議中,使用了該公司的 Claude AI 聊天機器人所產生的錯誤引文。這一承認是透過週四在北加州法庭提交的一份法庭文件作出的。
Anthropic 在彭博社率先報導的文件中表示,Claude 捏造了錯誤的標題和作者詳細資料。該公司的律師承認,他們的例行引文檢查未能發現該錯誤,以及 Claude 的「幻覺」所導致的其他幾個不準確的地方。
Anthropic對於這個疏失表示歉意,並形容這次事件是 「誠實的引用錯誤,而非捏造權威」。
本周早些時候,環球音樂集團和其他音樂出版商的律師指控 Anthropic 的專家證人、員工 Olivia Chen 在證詞中引用了捏造的文章,涉嫌使用 Claude。之後,聯邦法官 Susan van Keulen 要求 Anthropic 就這些指控作出回應。
音樂出版商提出的訴訟,是著作權人與科技公司之間多項衝突的一部分,原因是科技公司涉嫌濫用著作權人的內容來開發人工智能生成工具。
這標誌著在法律訴訟中使用 AI 導致意想不到後果的另一個例子。本周早些時候,一位加州法官批評兩家律師事務所在他的法庭上提交了「虛假的 AI 生成研究」。今年 1 月,一名澳洲律師被揭發利用 ChatGPT 草擬法庭文件,導致引文有瑕疵。
儘管發生了這些事件,初創公司仍繼續吸引大量資金,以實現法律流程自動化。據報導,採用生成式 AI 模型協助律師的 Harvey 正在洽談中,將以超過 50 億美元的估值獲得超過 2.5 億美元的資金。
Techcrunch 活動 ### 加入我們 TechCrunch Sessions:人工智能
預留您的位子,參加我們首屈一指的 AI 產業活動,邀請 OpenAI、Anthropic 和 Cohere 的講者。在有限的時間內,門票價格僅需 292 美元,即可參加一整天的專家演講、研討會和寶貴的交流機會。
在 TechCrunch Sessions 上參展:人工智能
在 TechCrunch Sessions: AI 預訂您的展位:AI 的展位,向 1200 多位決策者展示您的創新成果,而不用破費。報名截止至 5 月 9 日,額滿即止。
加州柏克萊市 | 6月5日 立即報名
相關文章
Anthropic 進入 AI 法律科技市場,競爭日益激烈
Anthropic 於週二釋出了一系列新的聊天機器人功能,旨在為法律實務提供自動化支援。這些增強功能在年初推出的特定律所平臺 Claude for Legal 基礎上進行了擴充套件,增加了針對不同法律領域的專用法律外掛和 MCP 聯結器。隨著法律人工智慧領域競爭的加劇,這些工具應運而生。今年三月,利用代理式人工智慧簡化法律工作流的 AI 法律初創公司 Harvey 以 110 億美元的估值獲得了 2 億美元融資。上個月,競爭對手 Legora 完成了 6 億美元的 D 輪融資,並啟動了一場由裘德·
Anthropic 推出 Opus 4.8,搭載全新的動態工作流程工具
Anthropic 於週四正式推出 Opus 4.8,這是其旗艦級公開模型的最新版本。此版本定價與前一版本相同,現已於所有平台上線。距離 Opus 4.7 發布僅隔 41 天,Anthropic 顯著加快了開發週期,遠快於近期 Sonnet 和 Haiku 版本所見的三個月及七個月間隔。此次快速更新很可能是為了回應 Opus 4.7 所獲得的冷淡反響,該版本曾讓許多使用者感到失望。與此同時,Ope
Anthropic 推出 Claude Fable 5,這是 Mythos 的公開版本
Anthropic 首次向大眾開放其最強大的 AI 模型——但同時也採取了安全措施。週二,該公司推出了「Claude Fable 5」,這是其 Mythos 模型的首個公開版本。 據 Anthropic 表示,Fable 5 在軟體工程、知識工作及視覺任務方面表現優異,但設有嚴格的安全限制。在網路安全、生物學、化學及蒸餾等高風險領域,該模型將拒絕回答問題,並轉而交由 Claude Opus 4.
相關專題推薦
評論 (3)
0/500
Claudeが法廷で出典を間違えたって、さすがにまずいよね😅 AIの過信は危険だわ。弁護士が謝罪したってことは、実害があったってことだよね。技術の進歩は速いけど、信頼性が追いついてないのが現実。もっと慎重に検証する仕組みが必要だと思う。 #Anthropic #AI
Kann jemand erklären, warum selbst Top-LLMs noch Halluzinationen produzieren? Besonders bei Rechtsthemen ist das echt kritisch. Die Entschuldigung ist ein Schritt, aber wie werden solche Fehler in Zukunft verhindert? 🤔 Bin gespannt, ob sich da bald branchenweite Standards durchsetzen.

Anthropic 的代表律師承認,在該公司與音樂出版商的法律爭議中,使用了該公司的 Claude AI 聊天機器人所產生的錯誤引文。這一承認是透過週四在北加州法庭提交的一份法庭文件作出的。
Anthropic 在彭博社率先報導的文件中表示,Claude 捏造了錯誤的標題和作者詳細資料。該公司的律師承認,他們的例行引文檢查未能發現該錯誤,以及 Claude 的「幻覺」所導致的其他幾個不準確的地方。
Anthropic對於這個疏失表示歉意,並形容這次事件是 「誠實的引用錯誤,而非捏造權威」。
本周早些時候,環球音樂集團和其他音樂出版商的律師指控 Anthropic 的專家證人、員工 Olivia Chen 在證詞中引用了捏造的文章,涉嫌使用 Claude。之後,聯邦法官 Susan van Keulen 要求 Anthropic 就這些指控作出回應。
音樂出版商提出的訴訟,是著作權人與科技公司之間多項衝突的一部分,原因是科技公司涉嫌濫用著作權人的內容來開發人工智能生成工具。
這標誌著在法律訴訟中使用 AI 導致意想不到後果的另一個例子。本周早些時候,一位加州法官批評兩家律師事務所在他的法庭上提交了「虛假的 AI 生成研究」。今年 1 月,一名澳洲律師被揭發利用 ChatGPT 草擬法庭文件,導致引文有瑕疵。
儘管發生了這些事件,初創公司仍繼續吸引大量資金,以實現法律流程自動化。據報導,採用生成式 AI 模型協助律師的 Harvey 正在洽談中,將以超過 50 億美元的估值獲得超過 2.5 億美元的資金。
Techcrunch 活動 ### 加入我們 TechCrunch Sessions:人工智能
預留您的位子,參加我們首屈一指的 AI 產業活動,邀請 OpenAI、Anthropic 和 Cohere 的講者。在有限的時間內,門票價格僅需 292 美元,即可參加一整天的專家演講、研討會和寶貴的交流機會。
在 TechCrunch Sessions 上參展:人工智能
在 TechCrunch Sessions: AI 預訂您的展位:AI 的展位,向 1200 多位決策者展示您的創新成果,而不用破費。報名截止至 5 月 9 日,額滿即止。
加州柏克萊市 | 6月5日 立即報名
Anthropic 進入 AI 法律科技市場,競爭日益激烈
Anthropic 於週二釋出了一系列新的聊天機器人功能,旨在為法律實務提供自動化支援。這些增強功能在年初推出的特定律所平臺 Claude for Legal 基礎上進行了擴充套件,增加了針對不同法律領域的專用法律外掛和 MCP 聯結器。隨著法律人工智慧領域競爭的加劇,這些工具應運而生。今年三月,利用代理式人工智慧簡化法律工作流的 AI 法律初創公司 Harvey 以 110 億美元的估值獲得了 2 億美元融資。上個月,競爭對手 Legora 完成了 6 億美元的 D 輪融資,並啟動了一場由裘德·
Anthropic 推出 Opus 4.8,搭載全新的動態工作流程工具
Anthropic 於週四正式推出 Opus 4.8,這是其旗艦級公開模型的最新版本。此版本定價與前一版本相同,現已於所有平台上線。距離 Opus 4.7 發布僅隔 41 天,Anthropic 顯著加快了開發週期,遠快於近期 Sonnet 和 Haiku 版本所見的三個月及七個月間隔。此次快速更新很可能是為了回應 Opus 4.7 所獲得的冷淡反響,該版本曾讓許多使用者感到失望。與此同時,Ope
Anthropic 推出 Claude Fable 5,這是 Mythos 的公開版本
Anthropic 首次向大眾開放其最強大的 AI 模型——但同時也採取了安全措施。週二,該公司推出了「Claude Fable 5」,這是其 Mythos 模型的首個公開版本。 據 Anthropic 表示,Fable 5 在軟體工程、知識工作及視覺任務方面表現優異,但設有嚴格的安全限制。在網路安全、生物學、化學及蒸餾等高風險領域,該模型將拒絕回答問題,並轉而交由 Claude Opus 4.
Claudeが法廷で出典を間違えたって、さすがにまずいよね😅 AIの過信は危険だわ。弁護士が謝罪したってことは、実害があったってことだよね。技術の進歩は速いけど、信頼性が追いついてないのが現実。もっと慎重に検証する仕組みが必要だと思う。 #Anthropic #AI
Kann jemand erklären, warum selbst Top-LLMs noch Halluzinationen produzieren? Besonders bei Rechtsthemen ist das echt kritisch. Die Entschuldigung ist ein Schritt, aber wie werden solche Fehler in Zukunft verhindert? 🤔 Bin gespannt, ob sich da bald branchenweite Standards durchsetzen.





首頁






