Anthropic 在法律文件中承認 Claude AI 錯誤,稱其為「尷尬且非故意」。

Anthropic 在與音樂出版商的法律爭議中,回應了有關人工智慧產生來源的指控,並將此事件定性為其 Claude 聊天機器人「無意的引文錯誤」。
該有爭議的引文出現在 Anthropic 資料科學家 Olivia Chen 於 4 月 30 日提交的法律文件中,這是該公司針對 Claude 被指使用受版權保護的歌詞進行訓練的辯護。在法院審理過程中,代表環球音樂集團和其他出版商的法律顧問指出所引用的來源可能是虛構的,暗示它們可能是 Anthropic 的 AI 系統所發明的。
Anthropic 的辯護律師 Ivana Dukanovic 在最近提交的回應中澄清,雖然所引用的資料是真實的,但文件中的法律引文格式採用了 Claude。該公司承認,雖然自動檢查發現並糾正了人工智能產生的不準確的卷數和頁碼,但某些措辭不準確的地方在人工審查時仍未發現。
Dukanovic 解釋:「系統正確辨識出出版品名稱、年份和可存取連結,但卻錯誤地包含不正確的文章標題和作者資訊,」他強調這是一個誠實的錯誤,而非蓄意歪曲。Anthropic 對於造成的混亂表示遺憾,將這個疏失形容為「一個不幸但非故意的錯誤」。
此案加入了人工智能輔助引文造成複雜問題的法律訴訟的行列。最近,一位加州法官譴責律師沒有揭露 AI 在準備一份包含不存在的法律參考資料的簡報時所扮演的角色。去年 12 月,一位錯誤資訊研究員承認 ChatGPT 在他的一份法律意見書中編造了引文,這一問題獲得了進一步的關注。
相關文章
Google 測試 Remy AI 代理,以 Gemini 為重點轉向使用者控制
根據《商業內幕》的報道,谷歌正在測試 Remy,這是 Gemini 的一款全新 AI 個人代理工具。該工具旨在代表使用者執行任務,從而簡化專業工作流程和日常事務。目前,Remy 正在 Gemini 應用的內部員工專屬版本中進行測試。該報告引用了一份內部檔案以及對兩位熟悉該專案的個人的採訪。內部資料將 Remy 描述為“全天候個人代理”,將 Gemini 定位為能夠代表使用者行事的主動助手。接近該專案的訊息人士證實,谷歌員工正在積極測試 Remy。谷歌發言人拒絕提供進一步評論。該報告未提及公開發布
奧利押注隱私保護,力爭在 AI 助理競賽中勝出
要真正發揮實用價值,人工智慧助理必須深入了解其使用者。Ollie 是一款專為日常生活設計的個人助理,其運作前提是:這無需您交出個人資料,亦不會損害您的隱私。雖然某些企業級 AI 工具提供資料隱私保障,但 Ollie 作為首批獲得 SOC 2 合規認證的主流、以家庭為導向的 AI 服務之一,顯得格外突出。此框架允許企業透過獨立稽核證明,其已建立正式的管控措施來保護客戶資料,並確保系統運作的安全性。達
「AI LIVE:倫敦」將如何探討人工智慧與工業自動化
本次峰會將匯聚來自全球的高階主管,共同探討全球產業面臨的迫切挑戰,涵蓋範圍從人工智慧驅動的顛覆性變革到經濟波動。AI LIVE:倫敦峰會將以「科技+人類使命」為主題,匯聚逾 2,000 位國際領袖,共同探討人工智慧新興時代的發展。隸屬於 BizClik 旗下的《AI Magazine》已公佈其於「AI LIVE:倫敦峰會」上舉辦的「人工智慧與工業自動化」聯合爐邊談話的與會陣容。該座談會定於 10
相關專題推薦
評論 (3)
0/500
Honestly, this is a bit concerning. If even a top-tier AI like Claude can make such a 'citation error' in a legal document, how can we trust AI-generated content for serious applications? It's not just embarrassing; it raises real questions about accountability and verification processes. 🤔
Das ist echt peinlich für Anthropic... Aber mal ehrlich, wer hat denn noch nie einen Fehler gemacht? 🤷♂️ Mich interessiert mehr, wie sie solche Zitierfehler in Zukunft verhindern wollen. KI als juristisches Werkzeug ist ja super, aber wenn die Quellenangaben nicht stimmen, wird's gefährlich. Hoffentlich lernen alle Firmen daraus!

Anthropic 在與音樂出版商的法律爭議中,回應了有關人工智慧產生來源的指控,並將此事件定性為其 Claude 聊天機器人「無意的引文錯誤」。
該有爭議的引文出現在 Anthropic 資料科學家 Olivia Chen 於 4 月 30 日提交的法律文件中,這是該公司針對 Claude 被指使用受版權保護的歌詞進行訓練的辯護。在法院審理過程中,代表環球音樂集團和其他出版商的法律顧問指出所引用的來源可能是虛構的,暗示它們可能是 Anthropic 的 AI 系統所發明的。
Anthropic 的辯護律師 Ivana Dukanovic 在最近提交的回應中澄清,雖然所引用的資料是真實的,但文件中的法律引文格式採用了 Claude。該公司承認,雖然自動檢查發現並糾正了人工智能產生的不準確的卷數和頁碼,但某些措辭不準確的地方在人工審查時仍未發現。
Dukanovic 解釋:「系統正確辨識出出版品名稱、年份和可存取連結,但卻錯誤地包含不正確的文章標題和作者資訊,」他強調這是一個誠實的錯誤,而非蓄意歪曲。Anthropic 對於造成的混亂表示遺憾,將這個疏失形容為「一個不幸但非故意的錯誤」。
此案加入了人工智能輔助引文造成複雜問題的法律訴訟的行列。最近,一位加州法官譴責律師沒有揭露 AI 在準備一份包含不存在的法律參考資料的簡報時所扮演的角色。去年 12 月,一位錯誤資訊研究員承認 ChatGPT 在他的一份法律意見書中編造了引文,這一問題獲得了進一步的關注。
奧利押注隱私保護,力爭在 AI 助理競賽中勝出
要真正發揮實用價值,人工智慧助理必須深入了解其使用者。Ollie 是一款專為日常生活設計的個人助理,其運作前提是:這無需您交出個人資料,亦不會損害您的隱私。雖然某些企業級 AI 工具提供資料隱私保障,但 Ollie 作為首批獲得 SOC 2 合規認證的主流、以家庭為導向的 AI 服務之一,顯得格外突出。此框架允許企業透過獨立稽核證明,其已建立正式的管控措施來保護客戶資料,並確保系統運作的安全性。達
「AI LIVE:倫敦」將如何探討人工智慧與工業自動化
本次峰會將匯聚來自全球的高階主管,共同探討全球產業面臨的迫切挑戰,涵蓋範圍從人工智慧驅動的顛覆性變革到經濟波動。AI LIVE:倫敦峰會將以「科技+人類使命」為主題,匯聚逾 2,000 位國際領袖,共同探討人工智慧新興時代的發展。隸屬於 BizClik 旗下的《AI Magazine》已公佈其於「AI LIVE:倫敦峰會」上舉辦的「人工智慧與工業自動化」聯合爐邊談話的與會陣容。該座談會定於 10
Honestly, this is a bit concerning. If even a top-tier AI like Claude can make such a 'citation error' in a legal document, how can we trust AI-generated content for serious applications? It's not just embarrassing; it raises real questions about accountability and verification processes. 🤔
Das ist echt peinlich für Anthropic... Aber mal ehrlich, wer hat denn noch nie einen Fehler gemacht? 🤷♂️ Mich interessiert mehr, wie sie solche Zitierfehler in Zukunft verhindern wollen. KI als juristisches Werkzeug ist ja super, aber wenn die Quellenangaben nicht stimmen, wird's gefährlich. Hoffentlich lernen alle Firmen daraus!





首頁






