L'Inde ordonne à X's Grok AI de se conformer après un litige concernant du contenu « obscène »

L'Inde a demandé à X, la société d'Elon Musk, d'apporter immédiatement des modifications techniques et procédurales à son chatbot IA Grok. Cette décision fait suite à des signalements d'utilisateurs et de législateurs concernant la génération de contenus « obscènes », notamment des images de femmes modifiées par l'IA et créées à l'aide de cet outil.

Vendredi, le ministère indien des Technologies de l'information a publié une directive ordonnant à X de prendre des mesures correctives concernant Grok. Cela inclut la restriction de la génération de contenus impliquant des images « de nudité, de sexualisation, sexuellement explicites ou autrement illégales ». Le ministère a également donné à la plateforme 72 heures pour soumettre un rapport détaillant les mesures prises pour empêcher l'hébergement ou la diffusion de contenus jugés « obscènes, pornographiques, vulgaires, indécents, sexuellement explicites, pédophiles ou autrement illégaux ».

L'ordre, examiné par TechCrunch, avertissait que le non-respect de cette directive pourrait entraîner la perte des protections « safe harbor » de X. Ce bouclier juridique accorde généralement l'immunité de responsabilité pour les contenus générés par les utilisateurs en vertu de la loi indienne.

L'action de l'Inde fait suite au partage par des utilisateurs d'exemples montrant que Grok était invité à modifier des images de personnes, principalement des femmes, pour leur faire porter des bikinis. Cela a donné lieu à une plainte officielle de la part de la parlementaire indienne Priyanka Chaturvedi. Par ailleurs, des rapports récents ont mis en évidence des cas où le chatbot IA a généré des images à caractère sexuel impliquant des mineurs. X a reconnu vendredi que ces défaillances étaient dues à des mesures de sécurité défaillantes, et les images ont ensuite été supprimées.

Cependant, TechCrunch a constaté que les images modifiées par l'IA donnant l'impression que les femmes portaient des bikinis, générées par Grok, étaient toujours accessibles sur X au moment de la publication.

Cette dernière directive fait suite à un avis plus général publié lundi par le ministère indien des Technologies de l'information à l'intention des plateformes de réseaux sociaux. Cet avis, également examiné par TechCrunch, rappelait aux entreprises que le respect des lois contre les contenus obscènes et sexuellement explicites est une condition préalable au maintien de l'immunité juridique pour les publications des utilisateurs. Il exhortait les plateformes à renforcer leurs mesures de protection internes, les avertissant que tout manquement pourrait entraîner des poursuites judiciaires en vertu des lois indiennes sur les technologies de l'information et du droit pénal.

« Il est rappelé que le non-respect des exigences ci-dessus sera considéré comme grave et pourra entraîner des conséquences juridiques sévères à l'encontre de votre plateforme, de ses responsables et des utilisateurs de la plateforme qui enfreignent la loi, sans autre préavis », stipule l'ordonnance.

Inscrivez-vous sur la liste d'attente Disrupt 2026

Réservez votre place sur la liste d'attente Disrupt 2026 pour être parmi les premiers à accéder aux billets Early Bird dès leur mise en vente. Les précédents événements Disrupt ont réuni des leaders du secteur tels que Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil et Vinod Khosla, parmi plus de 250 experts animant plus de 200 sessions axées sur la croissance. Vous aurez également l'occasion de rencontrer des centaines de start-ups innovantes issues de tous les secteurs.

Inscrivez-vous sur la liste d'attente Disrupt 2026

Réservez votre place sur la liste d'attente Disrupt 2026 pour être parmi les premiers à accéder aux billets Early Bird dès leur mise en vente. Les éditions précédentes de Disrupt ont accueilli des leaders du secteur tels que Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil et Vinod Khosla, parmi plus de 250 experts animant plus de 200 sessions axées sur la croissance. Vous aurez également l'occasion de rencontrer des centaines de start-ups innovantes issues de tous les secteurs.

Le gouvernement indien a déclaré que le non-respect de cette obligation pourrait entraîner des poursuites judiciaires contre X en vertu de la loi sur les technologies de l'information et du droit pénal du pays.

En tant que l'un des plus grands marchés numériques au monde, l'Inde est devenue un cas d'école pour la manière dont les gouvernements réglementent les contenus générés par l'IA. Une application plus stricte de la loi dans ce pays pourrait créer un précédent ayant des implications mondiales pour les entreprises technologiques opérant dans plusieurs juridictions.

Cette décision intervient alors que X continue de contester juridiquement certains aspects des règles indiennes en matière de modération des contenus, arguant que les pouvoirs de suppression dont dispose le gouvernement risquent d'être abusifs. La plateforme s'est conformée à la plupart des ordonnances de blocage tout en contestant les autres. Parallèlement, Grok est de plus en plus utilisé par les utilisateurs de X pour vérifier les faits en temps réel et commenter l'actualité, ce qui rend ses résultats plus visibles — et politiquement sensibles — que les outils d'IA autonomes.

X et xAI n'ont pas immédiatement répondu aux demandes de commentaires concernant l'ordonnance du gouvernement indien.