一名跟踪骚扰受害者起诉OpenAI，指控ChatGPT涉嫌参与骚扰行为

据加州高等法院新近受理的一起诉讼显示，一名53岁的硅谷企业家在与ChatGPT进行了数月的对话后，坚信自己发现了治疗睡眠呼吸暂停的方法，并认为一些有权有势的人正在针对他。据称，他随后利用该AI工具跟踪并骚扰其前女友。

TechCrunch独家获悉，该前女友目前正在起诉OpenAI，指控该公司的技术加剧了她遭受的骚扰。她声称OpenAI无视了三份关于该用户对他人构成威胁的独立警告，其中包括一份将该用户账户活动归类为涉及大规模杀伤性武器的内部警示。

原告为保护隐私被匿名为简·多伊（Jane Doe），她正在寻求惩罚性赔偿。她还于上周五申请了临时限制令，要求法院强制OpenAI封禁该用户的账户、阻止其创建新账户、在用户尝试访问ChatGPT时通知她，并保留其完整的聊天记录以供法律取证程序使用。

多伊的律师表示，尽管OpenAI同意暂停该用户的账户，但拒绝了其他请求。他们指控该公司隐瞒了该用户可能通过ChatGPT讨论过的、针对多伊及其他潜在受害者的具体伤害计划。

此案的出现正值人们对过度顺从的人工智能系统在现实世界中带来的危险日益担忧之际。本案及众多其他案件中提及的GPT-4o模型，已于今年2月从ChatGPT中移除。

本案由Edelson PC律师事务所代理，该所此前曾代理过涉及青少年亚当·雷恩（Adam Raine）的过失致死诉讼——雷恩在与ChatGPT进行大量对话后自杀身亡；以及乔纳森·加瓦拉斯（Jonathan Gavalas）的案件，其家属指控谷歌的Gemini在加瓦拉斯可能引发大规模伤亡事件前助长了他的妄想。首席律师杰伊·埃德尔森（Jay Edelson）警告称，由AI诱发的精神病正从个体伤害升级为涉及大规模伤亡的事件。

这种法律压力与OpenAI的立法策略直接相悖：该公司正支持一项伊利诺伊州法案，该法案旨在使AI开发者免于承担法律责任，即使在涉及大规模死亡或灾难性财务损失的案件中亦然。

OpenAI 未及时回应置评请求。若该公司作出回应，TechCrunch 将更新本文。

这起化名“简·多伊”的诉讼详细描述了某位女性在数月内如何逐渐陷入这种潜在的法律责任困境。

去年，这位ChatGPT用户（其身份在诉讼中受到保护）在持续数月密集使用GPT-4o后，坚信自己发明了治疗睡眠呼吸暂停的疗法。据诉状称，当他的研究成果被驳回时，ChatGPT竟告诉他，有“强大势力”正在监视他，甚至动用直升机来监视他的活动。

2025年7月，简·多伊敦促他停止使用ChatGPT并寻求专业的心理健康帮助。但诉讼称，他反而重返ChatGPT，该系统向他保证其“理智值达10级”，并强化了他的妄想。

多伊于2024年结束了这段关系。正如诉讼中引用的电子邮件和通信记录所示，该用户随后利用ChatGPT来处理这段分手。 AI非但没有质疑他的一面之词，反而反复将他描绘成理性且受委屈的一方，而将她塑造成操纵他人且情绪不稳定的人。随后，他将屏幕上这些由AI生成的结论转化为现实行动，利用它们对她进行跟踪和骚扰。其中包括制作并向多伊的家人、朋友及雇主分发多份由AI生成的、看似专业的心理报告。

与此同时，该用户的状况持续恶化。2025年8月，OpenAI的自动化安全系统因其账户存在“大规模伤亡武器”相关活动而将其标记并停用。

尽管账户内存在潜在证据表明他在现实生活中正针对包括多伊在内的个人进行跟踪骚扰，但一名人工安全团队成员于次日审查该账户后仍将其恢复。例如，该用户9月发送给多伊的一张截图显示，对话标题包含“暴力清单扩充”和“胎儿窒息计算”等内容。

鉴于近期加拿大坦布勒里奇和佛罗里达州立大学（FSU）接连发生两起校园枪击案，恢复该账号的决定尤为引人注目。OpenAI的安全团队曾将坦布勒里奇枪手标记为潜在威胁，但据报道，高层选择不向当局发出警报。佛罗里达州总检察长随后已就OpenAI与FSU枪手之间可能存在的关联展开调查。

根据诉讼文件，当OpenAI恢复其跟踪者的账户时，其Pro订阅并未自动恢复。他向信任与安全团队发送邮件寻求解决，并在邮件中抄送了Doe。

他在邮件中写道：“我急需帮助，求求你们。请给我打电话！”以及“这是生死攸关的事。”他声称自己正在“撰写215篇科学论文”，速度之快以至于“甚至没时间阅读”这些论文。 邮件中附有一份由人工智能生成的数十篇“科学论文”清单，标题包括：“解构种族作为生物学范畴——法律、科学及非洲之角视角.pdf.txt”等。

“该用户的通信内容明确表明其精神状态不稳定，且ChatGPT正是其妄想思维和日益失控行为的驱动引擎，”诉讼书中指出。 “用户那连绵不绝、杂乱无章且夸大其词的言论，加上一份由ChatGPT生成的、点名针对原告的具体报告，以及大量所谓的‘科学’材料，都是这一事实无可辩驳的证据。OpenAI既未干预，也未限制其访问权限，更未实施任何安全措施。相反，它允许他继续使用该账户，并恢复了他完整的Pro级访问权限。”

Doe在诉状中称自己生活在恐惧之中，甚至无法在自家安眠，她于11月向OpenAI提交了正式的滥用通知。

“在过去的七个月里，他利用这项技术对我进行公开的摧毁和羞辱，若非如此，这些行为本不可能发生，”多伊在致OpenAI的信中写道，要求永久封禁该用户的账户。

OpenAI 回应称，承认该报告“极其严重且令人不安”，并表示正在仔细审查相关信息。Doe 表示她从未收到任何后续回复。

在随后的几个月里，该用户继续骚扰多伊，发送了一系列威胁性的语音留言。今年1月，他被捕并被控四项重罪，包括发出炸弹威胁和持致命武器袭击。多伊的律师认为，这证实了她和OpenAI自身安全系统数月前提出的警告是正确的，而据称该公司曾忽视了这些警告。

该用户被判定不具备受审能力，现已被送入精神卫生机构。然而，多伊的律师指出，由于“州政府程序上的失误”，他很快将被释放回社会。

埃德尔森呼吁OpenAI予以配合。“在每一起案件中，OpenAI都选择向公众、受害者以及其产品正在置于危险之中的人们隐瞒关键的安全信息，”他说。“我们呼吁他们，至少这一次，做正确的事。人的生命必须比OpenAI的IPO竞速更重要。”