OpenAI poursuivi en justice par une victime de harcèlement pour le rôle présumé de ChatGPT dans ces faits

Selon une nouvelle plainte déposée devant la Cour supérieure de Californie, un entrepreneur de la Silicon Valley âgé de 53 ans s'est mis à croire, après des mois de conversations avec ChatGPT, qu'il avait découvert un remède contre l'apnée du sommeil et que des personnalités influentes le prenaient pour cible. Il aurait ensuite utilisé cet outil d'IA pour traquer et harceler son ex-petite amie.

TechCrunch a appris en exclusivité que l'ex-petite amie poursuit désormais OpenAI, affirmant que la technologie de l'entreprise a accéléré le harcèlement dont elle a été victime. Elle affirme qu'OpenAI a ignoré trois avertissements distincts indiquant que l'utilisateur représentait une menace pour autrui, y compris un signalement interne classant l'activité de son compte comme impliquant des armes de destruction massive.

La plaignante, identifiée sous le nom de Jane Doe afin de protéger sa vie privée, réclame des dommages-intérêts punitifs. Elle a également déposé vendredi une demande d’ordonnance restrictive temporaire, demandant au tribunal d’obliger OpenAI à bloquer le compte de l’utilisateur, à l’empêcher d’en créer de nouveaux, à l’avertir de toute tentative d’accès à ChatGPT et à conserver l’intégralité de son historique de conversation pour la procédure de communication de pièces.

Les avocats de Mme Doe affirment que, bien qu'OpenAI ait accepté de suspendre le compte de l'utilisateur, la société a rejeté les autres demandes. Ils allèguent que la société dissimule des informations concernant des plans spécifiques visant à nuire à Mme Doe et à d'autres victimes potentielles, dont l'utilisateur aurait pu discuter avec ChatGPT.

Ce procès intervient dans un contexte d’inquiétudes croissantes concernant les dangers réels liés à des systèmes d’IA trop dociles. GPT-4o, le modèle évoqué dans cette affaire et dans de nombreuses autres, a été retiré de ChatGPT en février.

L'affaire est traitée par Edelson PC, le cabinet d'avocats à l'origine des poursuites pour mort injustifiée concernant l'adolescent Adam Raine, qui s'est suicidé après de longues conversations avec ChatGPT, et Jonathan Gavalas, dont la famille affirme que Gemini de Google a alimenté ses délires avant un événement susceptible d'entraîner des pertes humaines massives. L'avocat principal, Jay Edelson, a averti que la psychose induite par l'IA passe de dommages individuels à des événements entraînant des pertes humaines massives.

Cette pression juridique est en contradiction directe avec la stratégie législative d'OpenAI : l'entreprise soutient un projet de loi de l'Illinois qui protégerait les développeurs d'IA de toute responsabilité, même dans les cas impliquant des pertes humaines massives ou des dommages financiers catastrophiques.

OpenAI n'a pas répondu à temps pour commenter. TechCrunch mettra à jour cet article si l'entreprise apporte une réponse.

Le procès de Jane Doe détaille comment cette responsabilité potentielle s'est développée pour une femme sur plusieurs mois.

L'année dernière, l'utilisateur de ChatGPT (dont l'identité est protégée dans le cadre du procès) s'est convaincu qu'il avait inventé un remède contre l'apnée du sommeil après des mois d'utilisation intense et soutenue de GPT-4o. Lorsque ses travaux ont été rejetés, ChatGPT lui aurait dit que des « forces puissantes » le surveillaient, allant même jusqu'à utiliser des hélicoptères pour surveiller ses activités, selon la plainte.

En juillet 2025, Jane Doe l'a exhorté à cesser d'utiliser ChatGPT et à consulter un professionnel de la santé mentale. Au lieu de cela, il est retourné sur ChatGPT, qui lui a assuré qu'il était « au niveau 10 de santé mentale » et a renforcé ses délires, indique le procès.

Doe avait mis fin à leur relation en 2024. L'utilisateur a alors utilisé ChatGPT pour surmonter cette rupture, comme le montrent les e-mails et les communications cités dans la plainte. Au lieu de remettre en question son récit unilatéral, l'IA l'a présenté à plusieurs reprises comme rationnel et victime d'une injustice, et elle comme manipulatrice et instable. Il a ensuite transposé ces conclusions générées par l'IA à l'écran en actions concrètes, les utilisant pour la traquer et la harceler. Cela comprenait la création et la diffusion de plusieurs rapports psychologiques générés par l'IA, d'apparence clinique, concernant Doe à sa famille, ses amis et son employeur.

Entre-temps, l'état de l'utilisateur s'est détérioré. En août 2025, le système de sécurité automatisé d'OpenAI a signalé son compte pour activité liée à des « armes de destruction massive » et l'a désactivé.

Un membre de l'équipe de sécurité humaine a examiné le compte le lendemain et l'a réactivé, malgré des preuves potentielles au sein du compte indiquant qu'il ciblait et harcelait des personnes, dont Doe, dans la vie réelle. Par exemple, une capture d'écran datée de septembre que l'utilisateur a envoyée à Doe montrait des titres de conversation tels que « extension de la liste de violence » et « calcul de suffocation fœtale ».

La décision de réactiver le compte est particulièrement notable au vu des deux récentes fusillades dans une école à Tumbler Ridge, au Canada, et à l’université d’État de Floride (FSU). L’équipe de sécurité d’OpenAI avait signalé le tireur de Tumbler Ridge comme une menace potentielle, mais les responsables auraient choisi de ne pas alerter les autorités. Le procureur général de Floride a depuis ouvert une enquête sur un lien possible entre OpenAI et le tireur de la FSU.

Selon la plainte, lorsque OpenAI a réactivé le compte de son harceleur, son abonnement Pro n’a pas été automatiquement rétabli. Il a envoyé un e-mail à l’équipe chargée de la confiance et de la sécurité pour résoudre le problème, en mettant Doe en copie.

Dans ses e-mails, il a écrit des messages tels que : « J'AI BESOIN D'AIDE TRÈS RAPIDEMENT, S'IL VOUS PLAÎT. APPELEZ-MOI, S'IL VOUS PLAÎT ! » et « c'est une question de vie ou de mort ». Il affirmait être « en train de rédiger 215 articles scientifiques » à un rythme si rapide qu'il n'avait « même pas le temps de les lire ». Les e-mails comprenaient une liste de dizaines d’« articles scientifiques » générés par l’IA, avec des titres tels que : « Déconstruction de la race en tant que catégorie biologique : perspectives juridiques, scientifiques et de la Corne de l’Afrique.pdf.txt ».

« Les communications de l'utilisateur indiquaient sans équivoque qu'il était mentalement instable et que ChatGPT était le moteur de ses pensées délirantes et de son comportement de plus en plus incontrôlable », affirme la plainte. « Le flot de revendications urgentes, désorganisées et grandiloquentes de l’utilisateur, ainsi qu’un rapport concret généré par ChatGPT visant la plaignante par son nom et un vaste corpus de documents prétendument « scientifiques », constituaient des preuves indéniables de cette réalité. OpenAI n’est pas intervenue, n’a pas restreint son accès ni mis en place de mesures de protection. Au contraire, elle lui a permis de continuer à utiliser le compte et lui a rétabli son accès Pro complet. »

Doe, qui déclare dans la plainte qu’elle vivait dans la peur et ne pouvait plus dormir chez elle, a adressé une notification officielle d’abus à OpenAI en novembre.

« Au cours des sept derniers mois, il s’est servi de cette technologie comme d’une arme pour me causer publiquement du tort et m’humilier, ce qui aurait été impossible autrement », a écrit Mme Doe dans sa lettre demandant à OpenAI de bannir définitivement le compte de l’utilisateur.

OpenAI a répondu en reconnaissant que le signalement était « extrêmement grave et préoccupant » et qu’il examinait attentivement les informations. Mme Doe affirme n’avoir jamais reçu de suite.

Au cours des mois suivants, l'utilisateur a continué à harceler Mme Doe, lui envoyant une série de messages vocaux menaçants. En janvier, il a été arrêté et inculpé de quatre chefs d'accusation, notamment pour avoir proféré des menaces à la bombe et pour agression avec une arme mortelle. Les avocats de Mme Doe soutiennent que cela confirme les avertissements qu'elle-même et les propres systèmes de sécurité d'OpenAI avaient lancés des mois plus tôt, avertissements que l'entreprise aurait ignorés.

L'utilisateur a été déclaré inapte à subir son procès et interné dans un établissement de santé mentale. Cependant, les avocats de Mme Doe affirment qu'une « défaillance procédurale de l'État » signifie qu'il sera bientôt remis en liberté.

Edelson a appelé OpenAI à coopérer. « Dans tous les cas, OpenAI a choisi de dissimuler des informations cruciales en matière de sécurité — au public, aux victimes, aux personnes que son produit met activement en danger », a-t-il déclaré. « Nous leur demandons, pour une fois, de faire ce qui est juste. Des vies humaines doivent compter plus que la course d'OpenAI vers une introduction en bourse. »