Heim
Bedenken hinsichtlich der sozialen Steuerung durch KI nehmen zu, da es bei Produkten mit virtuellen Partnern an Jugendschutzmaßnahmen mangelt
In jüngster Zeit sind mehrere KI-gestützte Apps für virtuelle Begleiter aufgrund von Compliance-Risiken und ethischen Bedenken in den Fokus der Medien gerückt. Umfragen zeigen, dass Apps für emotionale Begleitung wie „Hoshino“, „Mingdao“ und „EchoMe“ rasch an Nutzern gewinnen, dabei jedoch weitreichende Sicherheitslücken aufweisen. Einige dieser Apps locken Nutzer nicht nur mit kostenpflichtigen Freischaltungen für intime Szenarien, sondern versäumen es auch, Minderjährige angemessen zu schützen – beispielsweise durch leicht zu umgehende „Teen-Modus“-Einstellungen und eine unklare Kennzeichnung von KI-generierten Inhalten.

Betrachtet man die Unternehmenslandschaft, so handelt es sich bei den Betreibern dieser Apps oft um neu gegründete Unternehmen mit konzentrierten Eigentumsverhältnissen. Das Unternehmen hinter „Hoshino“, die Shanghai Jizhi Zongheng Technology Co., Ltd., wurde im April 2025 gegründet und befindet sich vollständig im Besitz der Shanghai Jizhi Wujie Technology Co., Ltd. Das Unternehmen hinter „Mingdao“, Shanghai Mingdao Artificial Intelligence Technology Co., Ltd., wurde im März 2024 gegründet und befindet sich im gemeinsamen Besitz von Hong Yixiu und Ge Wenbing. „EchoMe“ wird von der Hangzhou Nixiang Information Technology Co., Ltd. betrieben, die im Januar 2022 gegründet wurde. Obwohl diese Start-ups die Entwicklung von KI-Software und Telekommunikationsdienstleistungen mit Mehrwert in ihrem Geschäftsfeld aufführen, grenzen ihre Charakterdesigns und Interaktionsinhalte häufig an Vulgarität und weisen eine große Anzahl zweifelhafter Persönlichkeiten auf.

Der Sektor der KI-Begleitdienste durchläuft derzeit nach einer Phase explosiven Wachstums eine kritische Phase der Regulierung. Mit der zunehmenden Verbreitung generativer KI-Technologie hat sich die emotionale Simulation als der Bereich herauskristallisiert, in dem am schnellsten praktische Anwendungen gefunden werden, der jedoch auch am anfälligsten für Praktiken in Grauzonen ist. Diese gezielten Regulierungsmaßnahmen signalisieren, dass sich KI-basierte soziale Produkte von einer unkontrollierten Expansion hin zu einer regelkonformen Entwicklung verlagern werden. Die Verbesserung der Algorithmus-Transparenz und die Stärkung von Systemen zur Inhaltsprüfung werden zu unverzichtbaren Voraussetzungen für Unternehmen, die in diesem Bereich bestehen wollen.
Verwandter Artikel
Suno fügt Wasserzeichen in Songs ein, während Rechtsstreitigkeiten andauern
Suno, die Plattform, die es Nutzern ermöglicht, KI-generierte Musik zu erstellen, hat neue Funktionen vorgestellt, um plattformproduzierte Tracks zu kennzeichnen, Downloads einzuschränken und die Community-Richtlinien zu aktualisieren, um unbefugte K
Musk räumt ein, dass Grok-Build Benutzercode geleakt hat, verspricht aber, alle historischen Daten zu löschen
Elon Musk wandte sich direkt an die Datenschutzkontroverse um Grok Build, beginnend mit einem einfachen „True“, um die Gültigkeit des Vorfalls zu bestätigen. Er versprach, dass alle zuvor bei SpaceXAI hochgeladenen Benutzerdaten unwiderruflich gelösc
U.S.-Aktien erreichen historischen Meilenstein, während KI- und Luft- und Raumfahrtriesen auf ihr Debüt als Billionen-Dollar-Unternehmen vorbereiten
Elon Musk, Sam Altman und Dario Amodei, drei Giganten des Technologiesektors, schreiten den Börsengängen ihrer jeweiligen Unternehmen voran. Mit SpaceX, OpenAI und Anthropic – drei Branchenriesen, die einer Bewertung von einer Billion US-Dollar nahek
Empfehlungen zu verwandten Spezialthemen
Kommentare (0)
In jüngster Zeit sind mehrere KI-gestützte Apps für virtuelle Begleiter aufgrund von Compliance-Risiken und ethischen Bedenken in den Fokus der Medien gerückt. Umfragen zeigen, dass Apps für emotionale Begleitung wie „Hoshino“, „Mingdao“ und „EchoMe“ rasch an Nutzern gewinnen, dabei jedoch weitreichende Sicherheitslücken aufweisen. Einige dieser Apps locken Nutzer nicht nur mit kostenpflichtigen Freischaltungen für intime Szenarien, sondern versäumen es auch, Minderjährige angemessen zu schützen – beispielsweise durch leicht zu umgehende „Teen-Modus“-Einstellungen und eine unklare Kennzeichnung von KI-generierten Inhalten.

Betrachtet man die Unternehmenslandschaft, so handelt es sich bei den Betreibern dieser Apps oft um neu gegründete Unternehmen mit konzentrierten Eigentumsverhältnissen. Das Unternehmen hinter „Hoshino“, die Shanghai Jizhi Zongheng Technology Co., Ltd., wurde im April 2025 gegründet und befindet sich vollständig im Besitz der Shanghai Jizhi Wujie Technology Co., Ltd. Das Unternehmen hinter „Mingdao“, Shanghai Mingdao Artificial Intelligence Technology Co., Ltd., wurde im März 2024 gegründet und befindet sich im gemeinsamen Besitz von Hong Yixiu und Ge Wenbing. „EchoMe“ wird von der Hangzhou Nixiang Information Technology Co., Ltd. betrieben, die im Januar 2022 gegründet wurde. Obwohl diese Start-ups die Entwicklung von KI-Software und Telekommunikationsdienstleistungen mit Mehrwert in ihrem Geschäftsfeld aufführen, grenzen ihre Charakterdesigns und Interaktionsinhalte häufig an Vulgarität und weisen eine große Anzahl zweifelhafter Persönlichkeiten auf.

Der Sektor der KI-Begleitdienste durchläuft derzeit nach einer Phase explosiven Wachstums eine kritische Phase der Regulierung. Mit der zunehmenden Verbreitung generativer KI-Technologie hat sich die emotionale Simulation als der Bereich herauskristallisiert, in dem am schnellsten praktische Anwendungen gefunden werden, der jedoch auch am anfälligsten für Praktiken in Grauzonen ist. Diese gezielten Regulierungsmaßnahmen signalisieren, dass sich KI-basierte soziale Produkte von einer unkontrollierten Expansion hin zu einer regelkonformen Entwicklung verlagern werden. Die Verbesserung der Algorithmus-Transparenz und die Stärkung von Systemen zur Inhaltsprüfung werden zu unverzichtbaren Voraussetzungen für Unternehmen, die in diesem Bereich bestehen wollen.
Suno fügt Wasserzeichen in Songs ein, während Rechtsstreitigkeiten andauern
Suno, die Plattform, die es Nutzern ermöglicht, KI-generierte Musik zu erstellen, hat neue Funktionen vorgestellt, um plattformproduzierte Tracks zu kennzeichnen, Downloads einzuschränken und die Community-Richtlinien zu aktualisieren, um unbefugte K
Musk räumt ein, dass Grok-Build Benutzercode geleakt hat, verspricht aber, alle historischen Daten zu löschen
Elon Musk wandte sich direkt an die Datenschutzkontroverse um Grok Build, beginnend mit einem einfachen „True“, um die Gültigkeit des Vorfalls zu bestätigen. Er versprach, dass alle zuvor bei SpaceXAI hochgeladenen Benutzerdaten unwiderruflich gelösc
U.S.-Aktien erreichen historischen Meilenstein, während KI- und Luft- und Raumfahrtriesen auf ihr Debüt als Billionen-Dollar-Unternehmen vorbereiten
Elon Musk, Sam Altman und Dario Amodei, drei Giganten des Technologiesektors, schreiten den Börsengängen ihrer jeweiligen Unternehmen voran. Mit SpaceX, OpenAI und Anthropic – drei Branchenriesen, die einer Bewertung von einer Billion US-Dollar nahek











