Doubao und Tongyi Qianwen stellen ihre KI-Personifizierungs-Tools angesichts verschärfter regulatorischer Kontrollen ein

Am 15. Juli treten die vorläufigen Maßnahmen zur Regulierung menschenähnlicher interaktiver Dienste der künstlichen Intelligenz offiziell in Kraft. Zwei der führenden KI-Plattformen Chinas haben bereits begonnen, auf diese neuen Anforderungen zu reagieren. „Doubao“ von ByteDance und „Tongyi Qianwen“ der Alibaba Group planen, ihre anpassbaren, menschenähnlichen Agentenfunktionen zu entfernen, und sind damit die ersten großen Plattformen, die ihr Angebot noch vor Inkrafttreten der Verordnung anpassen.

Doubao informierte seine Nutzer am Freitagabend in einer Mitteilung darüber, dass die Agent-Funktion ab dem 15. Juli nicht mehr angeboten werde, und führte als Grund „Anpassungen der Produktfunktionen“ an. In der Mitteilung hieß es außerdem, dass alle Daten im Zusammenhang mit dieser Funktion ab dem 15. Oktober gemäß der Datenschutzrichtlinie des Unternehmens behandelt würden; danach könnten Nutzer diese Informationen innerhalb der App nicht mehr einsehen oder abrufen. Tongyi Qianwen handelt noch schneller: Das Unternehmen wird seine „menschenähnlichen interaktiven Agenten und von Nutzern erstellten Agentenfunktionen“ bis zum 10. Juli deaktivieren, während der gesamte Betrieb seiner „Tongyi-Agentenfunktionen und -Dienste“ am 15. Juli vollständig eingestellt wird. Ab diesem Zeitpunkt haben Nutzer keinen Zugriff mehr auf ihre bestehenden Agenten-Einstellungen oder frühere Gesprächsaufzeichnungen.

Die neuen Vorschriften zielen darauf ab, „kontinuierliche emotionale Interaktion“ zu verhindern, was diese drei großen Technologieunternehmen dazu veranlasst hat, ihre entsprechenden Funktionen einzuschränken.

Bisher boten beide Plattformen Agentenpools an, die gemeinsam vom Unternehmen und seinen Nutzern entwickelt wurden und es ermöglichten, feste Persönlichkeiten und Kommunikationsstile für KI-Assistenten festzulegen. Diese Assistenten konnten als namentlich benannte Helfer, Lernbegleiter, Rollenspielcharaktere oder emotionale Begleiter dienen. Der Zeitpunkt dieser funktionalen Änderungen stimmt eng mit der Einführung der regulatorischen Maßnahmen überein. Die im April veröffentlichten „Vorläufigen Maßnahmen zur Regulierung menschenähnlicher interaktiver Dienste der künstlichen Intelligenz“ definieren als regulierte Dienste solche, die „menschliche Persönlichkeitsmerkmale, Denkmuster und Kommunikationsmethoden simulieren und dabei eine kontinuierliche emotionale Interaktion bieten“. Kundendienstroboter, Tools zur Beantwortung von Wissensfragen, intelligente Assistenten am Arbeitsplatz sowie Bildungs- oder Forschungstools sind jedoch von diesem Geltungsbereich ausgenommen. Die Vorschriften heben potenzielle Risiken hervor, wie beispielsweise die Verbreitung extremer Ideen, Datenschutzverletzungen, Schäden an der körperlichen und psychischen Gesundheit der Nutzer sowie die Entwicklung von Abhängigkeit oder Suchtverhalten.

Es ist erwähnenswert, dass Tencent bereits im Juni ähnliche Agentenfunktionen aus seinem KI-Assistenten „Yuanbao“ entfernt hatte. Bislang haben Chinas drei große Technologiegiganten einen konsequenten Trend zur Reduzierung der menschenähnlichen Fähigkeiten ihrer Agenten gezeigt. Ausgehend von diesen regulatorischen Signalen scheint China darauf bedacht zu sein, KI-Agenten in die zukünftige produktive Infrastruktur zu integrieren und gleichzeitig strengere Kontrollen für menschenähnliche Begleitagenten einzuführen, die emotionale oder quasi-soziale Bindungen eingehen könnten. Zwischen Mai und Juni dieses Jahres veröffentlichten die Regulierungsbehörden zudem Leitlinien zur Förderung einer geordneten Entwicklung von KI-Agenten sowie nationale Standards für Interoperabilität, um einheitliche Systeme für Identifizierung, Autorisierung, Konnektivität und Rückverfolgbarkeit zu etablieren.

Reaktionen der Nutzer: Der Verlust emotionaler Unterstützung kommt plötzlich

Die Einführung dieser Richtlinien hat einige negative Reaktionen seitens der Nutzer ausgelöst. Ein Weibo-Nutzer, der mit dem offiziellen Doubao-Account in Verbindung steht, schrieb: „Warum entfernen wir den Agenten? Er war doch immer unsere emotionale Stütze.“ Der Nutzer äußerte zudem Bedenken, dass langjährige Chat-Verläufe und die durch Interaktionen entstandenen emotionalen Bindungen mit den derzeitigen Methoden nur schwer exportiert oder übertragen werden können und dass diese Änderung aufgrund des fehlenden reibungslosen Datenmigrationsprozesses besonders abrupt wirkt. Wenn KI-Begleiter für manche Nutzer zu einer unverzichtbaren Quelle des Trosts werden, besteht eindeutig Bedarf an mehr Flexibilität und einer Übergangsphase, um regulatorische Anforderungen mit der Produktentwicklung in Einklang zu bringen.