Indonesien und Malaysia verbieten Grok, da das KI-Tool unerlaubt explizite Deepfakes verbreitet.

Die Behörden Indonesiens und Malaysias haben vorübergehende Beschränkungen für den Zugriff auf den Chatbot „Grok“ von xAI angekündigt.

Diese Maßnahmen stellen die bislang strengste Reaktion der Regierung auf eine Flut sexualisierter, KI-generierter Inhalte dar, die häufig echte Frauen und Minderjährige zeigen, manchmal sogar in gewalttätigen Darstellungen, und die Grok als Antwort auf Nutzeranfragen auf der sozialen Plattform X veröffentlicht hat. (X und xAI operieren unter demselben Unternehmensdach.)

In einer Erklärung, die am Samstag gegenüber The Guardian und anderen Medien abgegeben wurde, erklärte die indonesische Ministerin für Kommunikation und Digitales, Meutya Hafid: „Die Regierung betrachtet nicht einvernehmliche sexuelle Deepfakes als schwerwiegende Verletzung der Menschenrechte, der persönlichen Würde und der Sicherheit der Bürger im digitalen Bereich.“

Das Ministerium hat Berichten zufolge auch Vertreter von X zu sich gebeten, um die Angelegenheit zu klären.

Laut The New York Times hat die malaysische Regierung am Sonntag ein vergleichbares Verbot angekündigt.

Zu den jüngsten Maßnahmen der Regierung gehört, dass das indische IT-Ministerium xAI angewiesen hat, Grok daran zu hindern, explizites Material zu produzieren, während die Europäische Kommission das Unternehmen aufgefordert hat, alle Grok-bezogenen Dokumente aufzubewahren, was möglicherweise den Weg für eine offizielle Untersuchung ebnet.

Im Vereinigten Königreich erklärte die Kommunikationsaufsichtsbehörde Ofcom, sie werde „eine schnelle Bewertung durchführen, um potenzielle Compliance-Probleme zu identifizieren, die einer Untersuchung bedürfen“. Premierminister Keir Starmer bekräftigte in einem Interview, dass Ofcom seine „volle Unterstützung für die Ergreifung der notwendigen Maßnahmen“ habe.

Tragen Sie sich in die Warteliste für Disrupt 2026 ein

Sichern Sie sich Ihren Platz auf der Warteliste für Disrupt 2026, um vorrangigen Zugang zu erhalten, sobald Early-Bird-Tickets verfügbar sind. An früheren Disrupt-Konferenzen nahmen Branchenpioniere von Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil und Vinod Khosla teil – zusammen mit über 250 Vordenkern in mehr als 200 Sessions, die darauf ausgerichtet waren, Ihr Wachstum und Ihren Wettbewerbsvorteil zu beschleunigen. Entdecken Sie Hunderte von bahnbrechenden Startups, die weltweit ganze Branchen verändern.

Tragen Sie sich in die Warteliste für Disrupt 2026 ein.

Sichern Sie sich Ihren Platz auf der Warteliste für Disrupt 2026, um vorrangigen Zugang zu erhalten, sobald Early-Bird-Tickets verfügbar sind. An früheren Disrupt-Konferenzen nahmen Branchenpioniere von Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil und Vinod Khosla teil – zusammen mit über 250 Vordenkern in mehr als 200 Sessions, die darauf ausgerichtet waren, Ihr Wachstum und Ihren Wettbewerbsvorteil zu beschleunigen. Entdecken Sie Hunderte von bahnbrechenden Startups, die weltweit Branchen verändern.

In den Vereinigten Staaten hat sich die Trump-Regierung bislang nicht zu der Kontroverse geäußert (xAI-CEO Elon Musk ist ein bedeutender Trump-Unterstützer und leitete zuvor das umstrittene Department of Government Efficiency der Regierung), obwohl demokratische Senatoren Apple und Google aufgefordert haben, X aus ihren App-Marktplätzen zu entfernen.

Die erste Reaktion von xAI umfasste eine offensichtliche Entschuldigung in der ersten Person aus dem Grok-Konto, in der eingeräumt wurde, dass ein Beitrag „gegen ethische Normen und möglicherweise gegen US-Gesetze“ in Bezug auf Material über sexuellen Kindesmissbrauch verstoßen habe. Das Unternehmen beschränkte später die KI-Bildgenerierung auf Premium-Abonnenten von X, wobei diese Einschränkung jedoch nicht für die eigenständige Grok-App galt, die weiterhin für die Bilderstellung zugänglich blieb.

Auf die Frage, warum die britischen Behörden nicht auch andere KI-Bildgeneratoren ins Visier nehmen, antwortete Musk: „Sie suchen nach Vorwänden für Zensur.”

Dieser Artikel wurde aktualisiert, um das Verbot von Grok in Malaysia zu berücksichtigen.