Maison
xAI d’Elon Musk confronté à une action en justice pour pornographie infantile ; des mineurs affirment que Grok les a déshabillés.

Trois plaignants anonymes ont affirmé dans une action en justice déposée lundi devant un tribunal fédéral de Californie que la société d’Elon Musk, xAI, devrait être tenue pour responsable d’avoir permis à ses modèles d’intelligence artificielle de générer des images sexuellement explicites mettant en scène des mineurs identifiables.
Ces trois plaignants, qui souhaitent transformer cette affaire en action collective, entendent représenter toute personne dont des photos réelles datant de son enfance ont été modifiées par Grok pour en faire du contenu sexuel. Ils allèguent que xAI n’a pas adopté les précautions de base mises en œuvre par d’autres laboratoires de pointe afin d’empêcher leurs modèles d’image de générer de la pornographie représentant des personnes réelles et des mineurs. L’affaire, intitulée Jane Doe 1, Jane Doe 2 (mineure) et Jane Doe 3 (mineure) contre X.AI Corp et X.AI LLC, a été déposée devant le tribunal fédéral du district nord de Californie.
D’autres générateurs d’images à apprentissage profond utilisent diverses techniques pour empêcher la création de pornographie infantile à partir de photographies ordinaires. L’accusation selon laquelle xAI n’a pas adopté ces normes est avancée dans cette action en justice.
Il convient de noter que si un modèle permet la génération de contenu nu ou érotique à partir d’images réelles, il devient presque impossible d’empêcher sa création de contenus sexuels impliquant des enfants. La promotion publique par Musk des capacités de Grok à générer des images sexuelles et à représenter des personnes réelles vêtues de manière légère joue un rôle important dans cette affaire.
La société n’a pas répondu à la demande de commentaire formulée par TechCrunch.
L’une des plaignantes, Jane Doe 1, a vu ses photos prises lors de la fête de rentrée de son lycée ainsi que celles du yearbook modifiées par Grok pour la montrer nue. Un informateur anonyme qui l’a contactée sur Instagram lui a indiqué que ces photos circulaient en ligne et lui a envoyé un lien vers un serveur Discord contenant des images sexuellement explicites d’elle ainsi que d’autres mineurs qu’elle reconnaissait de son école.
Une deuxième plaignante, Jane Doe 2, a été informée par des enquêteurs criminels de l’existence d’images modifiées et sexualisées d’elle créées par une application mobile tierce utilisant des modèles Grok. Une troisième plaignante, Jane Doe 3, a également reçu une notification de la part d’enquêteurs criminels qui ont découvert sur le téléphone d’une personne interpellée une image pornographique la montrant sous un aspect modifié. Les avocats des plaignantes affirment que, puisque l’utilisation par des tiers nécessite encore le code et les serveurs de xAI, la société doit être tenue pour responsable.
Toutes les trois plaignantes, dont deux sont encore mineures, déclarent éprouver une détresse extrême face à la diffusion de ces images et aux conséquences potentielles sur leur réputation et leur vie sociale. Elles demandent des sanctions civiles au titre d’une série de lois visant à protéger les enfants exploités et à prévenir la négligence des entreprises.
Article connexe
Suno appose des filigranes aux chansons dans le cadre de batailles juridiques
Suno, la plateforme permettant aux utilisateurs de générer de la musique créée par l’intelligence artificielle, a dévoilé de nouvelles fonctionnalités pour étiqueter les titres produits sur la plateforme, restreindre les téléchargements et mettre à j
Musk admet que la construction de Grok a divulgué le code utilisateur, promet d’effacer toutes les données historiques
Elon Musk a abordé directement la controverse sur la vie privée concernant Grok Build, en commençant par un simple « Vrai » pour confirmer la validité de l’incident. Il s’est engagé à ce que toutes les données utilisateur précédemment téléchargées su
Les actions américaines atteignent un jalon historique alors que les géants de l'IA et de l'aérospatiale se préparent pour leur entrée boursière à la valeur du trillion de dollars.
Elon Musk, Sam Altman et Dario Amodei, trois titans du secteur technologique, s’approchent des introductions en bourse de leurs entreprises respectives. Avec SpaceX, OpenAI et Anthropic – trois géants de l’industrie dont les valorisations approchent
Recommandations de sujets spéciaux liés
commentaires (0)

Trois plaignants anonymes ont affirmé dans une action en justice déposée lundi devant un tribunal fédéral de Californie que la société d’Elon Musk, xAI, devrait être tenue pour responsable d’avoir permis à ses modèles d’intelligence artificielle de générer des images sexuellement explicites mettant en scène des mineurs identifiables.
Ces trois plaignants, qui souhaitent transformer cette affaire en action collective, entendent représenter toute personne dont des photos réelles datant de son enfance ont été modifiées par Grok pour en faire du contenu sexuel. Ils allèguent que xAI n’a pas adopté les précautions de base mises en œuvre par d’autres laboratoires de pointe afin d’empêcher leurs modèles d’image de générer de la pornographie représentant des personnes réelles et des mineurs. L’affaire, intitulée Jane Doe 1, Jane Doe 2 (mineure) et Jane Doe 3 (mineure) contre X.AI Corp et X.AI LLC, a été déposée devant le tribunal fédéral du district nord de Californie.
D’autres générateurs d’images à apprentissage profond utilisent diverses techniques pour empêcher la création de pornographie infantile à partir de photographies ordinaires. L’accusation selon laquelle xAI n’a pas adopté ces normes est avancée dans cette action en justice.
Il convient de noter que si un modèle permet la génération de contenu nu ou érotique à partir d’images réelles, il devient presque impossible d’empêcher sa création de contenus sexuels impliquant des enfants. La promotion publique par Musk des capacités de Grok à générer des images sexuelles et à représenter des personnes réelles vêtues de manière légère joue un rôle important dans cette affaire.
La société n’a pas répondu à la demande de commentaire formulée par TechCrunch.
L’une des plaignantes, Jane Doe 1, a vu ses photos prises lors de la fête de rentrée de son lycée ainsi que celles du yearbook modifiées par Grok pour la montrer nue. Un informateur anonyme qui l’a contactée sur Instagram lui a indiqué que ces photos circulaient en ligne et lui a envoyé un lien vers un serveur Discord contenant des images sexuellement explicites d’elle ainsi que d’autres mineurs qu’elle reconnaissait de son école.
Une deuxième plaignante, Jane Doe 2, a été informée par des enquêteurs criminels de l’existence d’images modifiées et sexualisées d’elle créées par une application mobile tierce utilisant des modèles Grok. Une troisième plaignante, Jane Doe 3, a également reçu une notification de la part d’enquêteurs criminels qui ont découvert sur le téléphone d’une personne interpellée une image pornographique la montrant sous un aspect modifié. Les avocats des plaignantes affirment que, puisque l’utilisation par des tiers nécessite encore le code et les serveurs de xAI, la société doit être tenue pour responsable.
Toutes les trois plaignantes, dont deux sont encore mineures, déclarent éprouver une détresse extrême face à la diffusion de ces images et aux conséquences potentielles sur leur réputation et leur vie sociale. Elles demandent des sanctions civiles au titre d’une série de lois visant à protéger les enfants exploités et à prévenir la négligence des entreprises.
Suno appose des filigranes aux chansons dans le cadre de batailles juridiques
Suno, la plateforme permettant aux utilisateurs de générer de la musique créée par l’intelligence artificielle, a dévoilé de nouvelles fonctionnalités pour étiqueter les titres produits sur la plateforme, restreindre les téléchargements et mettre à j
Musk admet que la construction de Grok a divulgué le code utilisateur, promet d’effacer toutes les données historiques
Elon Musk a abordé directement la controverse sur la vie privée concernant Grok Build, en commençant par un simple « Vrai » pour confirmer la validité de l’incident. Il s’est engagé à ce que toutes les données utilisateur précédemment téléchargées su
Les actions américaines atteignent un jalon historique alors que les géants de l'IA et de l'aérospatiale se préparent pour leur entrée boursière à la valeur du trillion de dollars.
Elon Musk, Sam Altman et Dario Amodei, trois titans du secteur technologique, s’approchent des introductions en bourse de leurs entreprises respectives. Avec SpaceX, OpenAI et Anthropic – trois géants de l’industrie dont les valorisations approchent











