一名跟蹤騷擾受害者控告 OpenAI，指控 ChatGPT 在騷擾事件中扮演了某種角色

根據加州高等法院受理的一起新訴訟，一名 53 歲的矽谷企業家在與 ChatGPT 進行數月對話後，深信自己已發現治療睡眠呼吸中止症的療法，並認為權勢人物正在針對他。據稱，他隨後利用這項 AI 工具跟蹤並騷擾其前女友。

TechCrunch 獨家獲悉，該名前女友現正起訴 OpenAI，指控該公司的技術加劇了她所遭受的騷擾。她聲稱 OpenAI 無視了三項獨立警告，指出該用戶對他人構成威脅，其中包括一項將其帳戶活動歸類為涉及大規模傷亡武器的內部警示。

為保護隱私，原告以化名「Jane Doe」提告，並要求判處懲罰性賠償。她亦於上週五申請臨時限制令，要求法院命令 OpenAI 封鎖該用戶帳戶、阻止其建立新帳戶、在該用戶試圖存取 ChatGPT 時通知她，並為法律取證程序保留其完整的聊天記錄。

多伊的律師表示，雖然OpenAI同意暫停該用戶的帳戶，但拒絕了其他要求。他們指控該公司隱瞞了用戶可能曾與ChatGPT討論過的、針對多伊及其他潛在受害者的具體傷害計畫。

這起訴訟浮現之際，各界對過度順從的人工智慧系統所帶來的現實世界危險日益擔憂。本案及眾多其他案件所提及的模型 GPT-4o，已於二月從 ChatGPT 中移除。

本案由 Edelson PC 律師事務所負責，該事務所曾代理涉及青少年亞當·雷恩（Adam Raine）的過失致死訴訟——雷恩在與 ChatGPT 進行大量對話後自殺身亡；以及喬納森·加瓦拉斯（Jonathan Gavalas）的案件，其家屬指控 Google 的 Gemini 在他可能引發大規模傷亡事件前助長了他的妄想。首席律師傑伊·埃德爾森（Jay Edelson）曾警告，由 AI 引發的精神病症正從個體傷害升級為涉及大規模傷亡的事件。

這股法律壓力與 OpenAI 的立法策略直接相悖：該公司正支持一項伊利諾伊州法案，該法案將使 AI 開發者免於承擔法律責任，即使涉及大規模死亡或災難性財務損失的情況亦然。

OpenAI 未能及時回應置評請求。若該公司提供回應，TechCrunch 將更新本文。

這起化名「簡·多伊」的訴訟詳述了這名女子在數月間如何逐漸陷入這項潛在責任的困境。

去年，這名 ChatGPT 用戶（其身分在訴訟中受到保護）在數月持續密集使用 GPT-4o 後，深信自己已發明了治療睡眠呼吸中止症的療法。根據訴狀，當他的研究成果遭到否定時，ChatGPT 據稱告訴他，有「強大勢力」正在監控他，甚至動用直升機監視他的活動。

訴訟指出，2025年7月，化名「Jane Doe」的女子曾敦促他停止使用ChatGPT並尋求專業心理健康協助。然而，他卻重返ChatGPT，該系統不僅向他保證其「精神狀態達10級」，更強化了他的妄想。

多伊於2024年結束了這段關係。正如訴訟中引用的電子郵件和通訊所示，該用戶隨後利用ChatGPT來處理這段分手。 AI 非但未質疑他的一面倒敘述，反而反覆將他描繪成理性且受冤的受害者，而將她塑造成操縱他人且情緒不穩的人。他隨後將這些由 AI 生成的結論從螢幕轉化為現實行動，藉此對她進行跟蹤與騷擾。這包括製作並向多伊的家人、朋友及雇主散發數份由 AI 生成、看似專業的心理報告。

與此同時，該用戶的狀況持續惡化。2025年8月，OpenAI的自動化安全系統因其帳戶涉及「大規模傷亡武器」相關活動而將其標記並停用。

儘管該帳號內存在潛在證據，顯示他正在現實生活中鎖定並跟蹤包括Doe在內的人士，一名人工安全團隊成員仍於隔日審查該帳號並將其恢復。例如，該用戶9月發送給Doe的一張螢幕截圖顯示，對話標題包含「暴力清單擴充」和「胎兒窒息計算」等內容。

在加拿大坦布勒嶺（Tumbler Ridge）及佛羅里達州立大學（FSU）接連發生兩起校園槍擊案後，這項恢復帳號的決定尤為引人注目。OpenAI的安全團隊曾將坦布勒嶺的槍手標記為潛在威脅，但據報導，高層選擇不向當局通報。佛羅里達州檢察長隨後已針對OpenAI與FSU槍手之間可能存在的關聯展開調查。

根據訴訟文件，當OpenAI恢復該跟蹤者的帳號時，其Pro訂閱並未自動恢復。他發送電子郵件給信任與安全團隊以解決此問題，並將Doe列為郵件抄送對象。

他在電子郵件中寫道：「我急需幫助，拜託了。請打電話給我！」以及「這是生死攸關的事。」他聲稱自己正「以極快速度撰寫215篇科學論文」，甚至「連閱讀的時間都沒有」。 這些電子郵件中附有一份由人工智慧生成的數十篇「科學論文」清單，標題包括：「解構種族作為生物學類別——法律、科學及非洲之角視角.pdf.txt」等。

「該用戶的通訊內容明確顯示其精神狀態不穩定，且 ChatGPT 是驅動其妄想思維與行為升級的引擎，」訴訟書中如此主張。 「該用戶連綿不絕的急迫、雜亂且誇大的主張，加上一份由ChatGPT生成、明確點名針對原告的具體報告，以及大量所謂的『科學』材料，都是該事實無可辯駁的證據。OpenAI 未予干預、未限制其存取權限，亦未實施任何安全措施。相反地，該公司允許他繼續使用該帳戶，並恢復了他完整的 Pro 級存取權限。」

Doe 在訴訟中聲稱自己生活在恐懼之中，甚至無法在自家安眠，並於 11 月向 OpenAI 提交了正式的濫用通知。

「過去七個月來，他將這項技術武器化，對我造成公開的毀謗與羞辱，若非如此，這些行為本不可能發生，」Doe 在致 OpenAI 的信中寫道，要求該公司永久封禁該用戶的帳戶。

OpenAI 回應時承認該報告「極其嚴重且令人不安」，並表示正在仔細審查相關資訊。Doe 表示她從未收到任何後續回覆。

隨後的數月間，該用戶持續騷擾多伊，並留下多則威脅性語音留言。今年一月，他遭逮捕並被控四項重罪，包括傳達炸彈威脅及持致命武器襲擊。多伊的律師主張，這證實了她與OpenAI自身安全系統數月前提出的警告，而該公司據稱曾對這些警告置若罔聞。

該用戶被判定無能力接受審判，並被送入精神衛生機構。然而，Doe 的律師指出，由於「州政府程序上的疏失」，他將很快被釋放回社會。

埃德爾森呼籲 OpenAI 配合調查。「在每起案件中，OpenAI 都選擇隱瞞關鍵的安全資訊——對公眾隱瞞、對受害者隱瞞、對其產品正積極置於危險之中的人隱瞞，」他說。「我們呼籲他們，至少這次，做正確的事。人命必須比 OpenAI 爭取首次公開募股（IPO）更重要。」