Indonesien blockiert Elon Musks Grok AI wegen nicht einvernehmlicher expliziter Deepfakes

Die indonesischen Behörden gaben am Samstag bekannt, dass sie den Zugang zum Chatbot Grok von xAI vorübergehend einschränken.

Dies ist eine der strengsten Maßnahmen, die eine Regierung als Reaktion auf eine Flut sexualisierter, KI-generierter Bilder ergriffen hat – viele davon zeigen echte Frauen und Minderjährige, einige stellen Übergriffe und Missbrauch dar –, die Grok auf Grundlage von Nutzeranfragen auf der sozialen Plattform X erstellt hat. (X und xAI sind verbundene Unternehmen.)

In einer Erklärung gegenüber dem Guardian und anderen Medien erklärte die indonesische Ministerin für Kommunikation und Digitales, Meutya Hafid: „Die Regierung betrachtet die Erstellung von nicht einvernehmlichen sexuellen Deepfakes als schwerwiegende Verletzung der Menschenrechte, der persönlichen Würde und der Sicherheit der Bürger im digitalen Bereich.“

Berichten zufolge hat das Ministerium auch Vertreter von X zu sich bestellt, um die Angelegenheit zu klären.

Zu den jüngsten Maßnahmen der Regierung gehören die Anweisung des indischen IT-Ministeriums an xAI, Grok daran zu hindern, explizite Inhalte zu produzieren, sowie die Anweisung der Europäischen Kommission an das Unternehmen, alle Grok-bezogenen Dokumente aufzubewahren, was möglicherweise den Grundstein für eine Untersuchung legt.

Im Vereinigten Königreich erklärte die Kommunikationsaufsichtsbehörde Ofcom, sie werde „eine rasche Überprüfung durchführen, um etwaige Compliance-Probleme zu identifizieren, die eine Untersuchung erfordern könnten“. Premierminister Keir Starmer bekräftigte in einem Interview, dass Ofcom seine „volle Unterstützung hat, um die notwendigen Schritte zu unternehmen“.

Während sich die Trump-Regierung in den Vereinigten Staaten zu diesem Thema bislang zurückhält – xAI-CEO Elon Musk ist ein wichtiger Geldgeber von Trump und leitete zuvor das umstrittene Ministerium für Regierungseffizienz –, haben demokratische Senatoren Apple und Google aufgefordert, X aus ihren App-Stores zu entfernen.

Tragen Sie sich in die Warteliste für Disrupt 2026 ein

Sichern Sie sich Ihren Platz auf der Warteliste für Disrupt 2026, um bei der Veröffentlichung der Early-Bird-Tickets vorrangigen Zugang zu erhalten. An früheren Disrupt-Veranstaltungen nahmen Branchenriesen wie Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil und Vinod Khosla teil – zusammen mit über 250 Führungskräften, die mehr als 200 Vorträge gehalten haben, um Ihr Wachstum zu beschleunigen und Ihren Wettbewerbsvorteil zu steigern. Außerdem haben Sie die Möglichkeit, mit Hunderten von Startups in Kontakt zu treten, die Innovationen in verschiedenen Branchen vorantreiben.

Tragen Sie sich in die Warteliste für Disrupt 2026 ein

Sichern Sie sich Ihren Platz auf der Warteliste für Disrupt 2026, um bei der Veröffentlichung der Early-Bird-Tickets bevorzugten Zugang zu erhalten. An früheren Disrupt-Veranstaltungen nahmen Branchenriesen wie Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil und Vinod Khosla teil – zusammen mit über 250 Führungskräften, die mehr als 200 Vorträge gehalten haben, um Ihr Wachstum zu beschleunigen und Ihren Wettbewerbsvorteil zu verbessern. Außerdem haben Sie die Möglichkeit, mit Hunderten von Start-ups in Kontakt zu treten, die Innovationen in verschiedenen Branchen vorantreiben.

xAI reagierte zunächst mit einer Entschuldigung über den Grok-Account und räumte ein, dass ein Beitrag „gegen ethische Richtlinien und möglicherweise gegen US-Gesetze“ in Bezug auf Material über sexuellen Kindesmissbrauch verstoßen habe. Später beschränkte das Unternehmen die KI-Bildgenerierungsfunktion auf zahlende Abonnenten von X, obwohl diese Änderung offenbar nicht für die Grok-App galt, die es allgemeinen Nutzern weiterhin ermöglichte, Bilder zu erstellen.

Auf die Frage nach der Untätigkeit der britischen Regierung gegenüber anderen KI-Bildbearbeitungsprogrammen antwortete Musk: „Sie suchen nach jedem Vorwand für Zensur.”