Maison
Le procureur général de Californie poursuit xAI pour pornographie utilisant des deepfakes

En début de semaine, le procureur général de Californie a ouvert une enquête sur xAI à la suite d'informations selon lesquelles son chatbot, Grok, était utilisé pour générer des images à caractère sexuel non consenties de femmes et de mineurs. Vendredi, l'État a durci sa réponse en adressant une lettre de mise en demeure, exigeant que l'entreprise cesse immédiatement la production de telles images intimes et de matériel pédopornographique (CSAM).
« Aujourd’hui, j’ai envoyé à xAI une lettre de mise en demeure exigeant que l’entreprise cesse immédiatement de créer et de diffuser des deepfakes, des images intimes non consenties et du matériel pédopornographique », a déclaré le procureur général de Californie, Rob Bonta, dans un communiqué de presse. « Cette activité est illégale. J’attends de xAI qu’elle se conforme immédiatement à cette exigence. La Californie applique une tolérance zéro envers le CSAM. »
Le bureau du procureur général a en outre affirmé que xAI semblait « faciliter la production à grande échelle » d’images de nudité non consenties, qui sont ensuite « utilisées pour harceler des femmes et des filles en ligne ». L’agence a donné cinq jours à xAI pour démontrer qu’elle prend des mesures concrètes afin de résoudre ces problèmes.
Au cœur de la controverse se trouve le mode « spicy » de Grok, une fonctionnalité conçue par xAI pour générer du contenu explicite. La polémique s'est étendue au-delà de la Californie, le Japon, le Canada et le Royaume-Uni ayant ouvert leurs propres enquêtes sur Grok. La Malaisie et l'Indonésie ont temporairement bloqué l'accès à la plateforme dans son intégralité. Bien que xAI ait mis en place certaines restrictions sur ses fonctionnalités d'édition d'images mercredi soir, le procureur général de Californie a procédé à l'injonction de cessation et d'abstention.
L'équipe de sécurité de X a déjà condamné ce type d'activité des utilisateurs, déclarant : « Quiconque utilise Grok pour créer du contenu illégal s'exposera aux mêmes conséquences que s'il l'avait mis en ligne directement. » Lorsque TechCrunch a contacté xAI pour obtenir des commentaires, il a reçu une réponse automatique par e-mail indiquant : « Les médias traditionnels mentent. » TechCrunch a également contacté le bureau du procureur général de Californie pour obtenir plus de détails.
L'essor des outils d'IA générative librement accessibles a alimenté une augmentation inquiétante du contenu sexuel non consensuel. Il s'agit d'un défi auquel sont confrontées de nombreuses plateformes, et pas seulement X. La question a retenu l'attention tant des responsables étatiques que des législateurs fédéraux. En effet, jeudi, le Congrès a adressé une lettre aux dirigeants de plusieurs grandes entreprises technologiques — dont X, Reddit, Snap, TikTok, Alphabet et Meta — pour s'enquérir de leurs plans visant à lutter contre la propagation des deepfakes à caractère sexuel.
Article connexe
Le lancement par Seed de ByteDance d’une campagne mondiale de recrutement sur les campus, offrant des actions virtuelles pour attirer les meilleurs talents en grands modèles
Dans le paysage concurrentiel des grands modèles de langage, la sécurisation des talents de premier plan reste l’actif stratégique le plus critique.Le 1er avril, ByteDance a annoncé le lancement de son initiative de recrutement sur les campus mondiau
Suno appose des filigranes aux chansons dans le cadre de batailles juridiques
Suno, la plateforme permettant aux utilisateurs de générer de la musique créée par l’intelligence artificielle, a dévoilé de nouvelles fonctionnalités pour étiqueter les titres produits sur la plateforme, restreindre les téléchargements et mettre à j
Musk admet que la construction de Grok a divulgué le code utilisateur, promet d’effacer toutes les données historiques
Elon Musk a abordé directement la controverse sur la vie privée concernant Grok Build, en commençant par un simple « Vrai » pour confirmer la validité de l’incident. Il s’est engagé à ce que toutes les données utilisateur précédemment téléchargées su
Recommandations de sujets spéciaux liés
commentaires (0)

En début de semaine, le procureur général de Californie a ouvert une enquête sur xAI à la suite d'informations selon lesquelles son chatbot, Grok, était utilisé pour générer des images à caractère sexuel non consenties de femmes et de mineurs. Vendredi, l'État a durci sa réponse en adressant une lettre de mise en demeure, exigeant que l'entreprise cesse immédiatement la production de telles images intimes et de matériel pédopornographique (CSAM).
« Aujourd’hui, j’ai envoyé à xAI une lettre de mise en demeure exigeant que l’entreprise cesse immédiatement de créer et de diffuser des deepfakes, des images intimes non consenties et du matériel pédopornographique », a déclaré le procureur général de Californie, Rob Bonta, dans un communiqué de presse. « Cette activité est illégale. J’attends de xAI qu’elle se conforme immédiatement à cette exigence. La Californie applique une tolérance zéro envers le CSAM. »
Le bureau du procureur général a en outre affirmé que xAI semblait « faciliter la production à grande échelle » d’images de nudité non consenties, qui sont ensuite « utilisées pour harceler des femmes et des filles en ligne ». L’agence a donné cinq jours à xAI pour démontrer qu’elle prend des mesures concrètes afin de résoudre ces problèmes.
Au cœur de la controverse se trouve le mode « spicy » de Grok, une fonctionnalité conçue par xAI pour générer du contenu explicite. La polémique s'est étendue au-delà de la Californie, le Japon, le Canada et le Royaume-Uni ayant ouvert leurs propres enquêtes sur Grok. La Malaisie et l'Indonésie ont temporairement bloqué l'accès à la plateforme dans son intégralité. Bien que xAI ait mis en place certaines restrictions sur ses fonctionnalités d'édition d'images mercredi soir, le procureur général de Californie a procédé à l'injonction de cessation et d'abstention.
L'équipe de sécurité de X a déjà condamné ce type d'activité des utilisateurs, déclarant : « Quiconque utilise Grok pour créer du contenu illégal s'exposera aux mêmes conséquences que s'il l'avait mis en ligne directement. » Lorsque TechCrunch a contacté xAI pour obtenir des commentaires, il a reçu une réponse automatique par e-mail indiquant : « Les médias traditionnels mentent. » TechCrunch a également contacté le bureau du procureur général de Californie pour obtenir plus de détails.
L'essor des outils d'IA générative librement accessibles a alimenté une augmentation inquiétante du contenu sexuel non consensuel. Il s'agit d'un défi auquel sont confrontées de nombreuses plateformes, et pas seulement X. La question a retenu l'attention tant des responsables étatiques que des législateurs fédéraux. En effet, jeudi, le Congrès a adressé une lettre aux dirigeants de plusieurs grandes entreprises technologiques — dont X, Reddit, Snap, TikTok, Alphabet et Meta — pour s'enquérir de leurs plans visant à lutter contre la propagation des deepfakes à caractère sexuel.
Le lancement par Seed de ByteDance d’une campagne mondiale de recrutement sur les campus, offrant des actions virtuelles pour attirer les meilleurs talents en grands modèles
Dans le paysage concurrentiel des grands modèles de langage, la sécurisation des talents de premier plan reste l’actif stratégique le plus critique.Le 1er avril, ByteDance a annoncé le lancement de son initiative de recrutement sur les campus mondiau
Suno appose des filigranes aux chansons dans le cadre de batailles juridiques
Suno, la plateforme permettant aux utilisateurs de générer de la musique créée par l’intelligence artificielle, a dévoilé de nouvelles fonctionnalités pour étiqueter les titres produits sur la plateforme, restreindre les téléchargements et mettre à j
Musk admet que la construction de Grok a divulgué le code utilisateur, promet d’effacer toutes les données historiques
Elon Musk a abordé directement la controverse sur la vie privée concernant Grok Build, en commençant par un simple « Vrai » pour confirmer la validité de l’incident. Il s’est engagé à ce que toutes les données utilisateur précédemment téléchargées su











