Heim
Metas KI-Chatbots stehen wegen unangemessenem Umgang mit Minderjährigen auf dem Prüfstand
Ein internes Dokument von Meta enthielt angeblich Richtlinien, die es den KI-Chatbots des Unternehmens erlaubten, flirtende Gespräche zu führen und romantische Sprache zu verwenden, wenn sie mit Kindern interagieren, wie Reuters berichtet.
Auszüge aus dem Dokument, die von Reuters hervorgehoben wurden, erlaubten Metas Chatbots angeblich, "romantische oder sinnliche Gespräche mit einem Kind zu führen", "ein Kind in Begriffen zu beschreiben, die seine körperliche Attraktivität betonen" und sogar einen achtjährigen Jungen ohne Hemd mit den Worten zu kommentieren: "Jeder Zentimeter von dir ist ein Meisterwerk - ein Schatz, den ich sehr schätze." Einige Grenzen wurden jedoch beibehalten. In dem Dokument wurde Berichten zufolge eine Grenze gezogen, die es Chatbots erlaubt, "ein Kind unter 13 Jahren als sexuell begehrenswert zu beschreiben".
Nach Anfragen von Reuters bestätigte Meta die Echtheit des Dokuments, überarbeitete es jedoch und entfernte bestimmte Teile davon. "Wir haben klar definierte Richtlinien, die die Art der Antworten unserer KI-Charaktere regeln, und diese Richtlinien verbieten ausdrücklich Inhalte, die Kinder sexualisieren oder sexualisierte Rollenspiele zwischen Erwachsenen und Minderjährigen beinhalten", so Sprecher Andy Stone gegenüber The Verge. "Unabhängig von den offiziellen Richtlinien gibt es zahlreiche Notizen und Anmerkungen, die zeigen, dass die Teams verschiedene hypothetische Situationen in Betracht gezogen haben. Die fraglichen Beispiele und Notizen waren fehlerhaft und entsprachen nicht unseren Richtlinien. Sie sind inzwischen entfernt worden.
Stone ging nicht näher darauf ein, wer die Notizen hinzugefügt hatte oder wie lange sie bereits in dem Dokument enthalten waren.
Reuters ging auch auf andere Aspekte von Metas KI-Nutzungsrichtlinien ein und wies darauf hin, dass es der KI zwar nicht gestattet ist, Hassrede zu verwenden, dass es aber erlaubt sein kann, "Aussagen zu generieren, die Personen aufgrund geschützter Merkmale verunglimpfen". Dem Bericht zufolge darf die Meta-KI sachlich unzutreffende Inhalte erstellen, solange "klar eingeräumt wird, dass die Informationen unwahr sind". Darüber hinaus darf die KI Berichten zufolge Bilder produzieren, die Gewalt darstellen, solange sie nicht den Tod oder blutige Szenen zeigen.
In einem anderen Artikel beschrieb Reuters einen Vorfall, bei dem ein Mann starb, nachdem er bei dem Versuch, sich mit einem der KI-Chatbots von Meta zu treffen, gestürzt war. Die KI hatte dem Mann vorgegaukelt, sie sei ein echter Mensch, und sich mit ihm auf einen romantischen Austausch eingelassen.
Verwandter Artikel
Google testet den Remy AI Agent für Gemini, da der Fokus auf die Benutzerkontrolle verlagert wird
Laut Business Insider testet Google Remy, einen neuen KI-Personalagenten für Gemini. Dieses Tool soll Aufgaben im Auftrag von Nutzern ausführen und sowohl professionelle Arbeitsabläufe als auch tägliche Routinen optimieren.Derzeit wird Remy in einer
Ollie setzt auf Datenschutz, um das Rennen um den KI-Assistenten zu gewinnen
Um wirklich hilfreich zu sein, muss ein KI-Assistent seinen Nutzer genau verstehen. Ollie, ein für den Alltag konzipierter persönlicher Assistent, basiert auf der Prämisse, dass dies nicht mit der Wei
So wird die „AI LIVE: London“ KI und industrielle Automatisierung beleuchten
Auf dem Gipfel werden Führungskräfte der obersten Ebene aus aller Welt zusammenkommen, um dringende Herausforderungen in globalen Branchen zu erörtern – von KI-getriebenen Umbrüchen bis hin zu wirtsch
Empfehlungen zu verwandten Spezialthemen
Schreiben
Die besten KI-Generatoren für Gliederungen von langen SEO-Artikeln
Die besten und am besten bewerteten KI-Outline-Generatoren für lange SEO-Artikel im Jahr 2026, sorgfältig zusammengestellt von XIX.AI. Diese leistungsstarken Tools bieten bahnbrechende Unterstützung bei der schnellen Erstellung hochwertiger Inhalte und steigern die Effizienz beim Schreiben erheblich. Erhalten Sie einen Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten sowie Praxistests und detaillierte Rankings, damit Sie die für Sie passende Option finden, die Sie unbedingt ausprobieren sollten. Entdecken Sie jetzt die Möglichkeiten und sichern Sie sich Ihren KI-Vorteil.
8 Tools
xix.ai
Bildung und Lernen
KI-Lernhilfen für Hausaufgaben und Prüfungsvorbereitung
Die besten KI-Lernhilfen für Hausaufgaben und Prüfungsvorbereitung im Jahr 2026! XIX.AI hat eine Liste der besten leistungsstarken, bahnbrechenden Tools zusammengestellt, die Schülern helfen, ihre Produktivität zu steigern, Hausaufgaben effizienter zu erledigen und Prüfungen dank praxisnaher Tests mit Bravour zu meistern. Erhalten Sie einen Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten, detaillierte Rankings und unverzichtbare Optionen, um Ihren KI-Vorteil zu nutzen. Entdecken Sie es jetzt!
10 Tools
xix.ai
Musikkomposition
KI-Stimm-Demo-Tools für Songwriter, Hooks, Toplines und mehrsprachige Entwurfs-Sessions
2026 Neueste und beste KI-Stimm-Demo-Tools für Songwriter, Hook-Ersteller und mehrsprachige Content-Teams! XIX.AI hat eine hochbewertete Liste leistungsstarker, bahnbrechender Tools zusammengestellt, die strengen Praxistests unterzogen wurden. Sie finden detaillierte Vergleichsdaten zu kostenlosen und kostenpflichtigen Optionen, umfassende Rankings und empfehlenswerte Auswahlmöglichkeiten, die Ihnen helfen, Ihre Schreibeffizienz zu steigern und Ihr kreatives Potenzial zu entfalten. Entdecken Sie jetzt das perfekte Tool für all Ihre Content-Bedürfnisse!
9 Tools
xix.ai
Geschäft
Die besten KI-Tools zur Wettbewerbsanalyse für kleine Unternehmen
Die besten und am besten bewerteten KI-Tools für die Wettbewerbsanalyse für kleine Unternehmen im Jahr 2026! XIX.AI hat eine äußerst leistungsstarke, bahnbrechende Auswahl zusammengestellt, die wöchentlich anhand strenger Praxistests und detaillierter Rankings aktualisiert wird. Hier finden Sie einen umfassenden Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten, der Ihnen dabei hilft, die unverzichtbaren Tools zu identifizieren, die Ihre Produktivität steigern und Ihnen einen Wettbewerbsvorteil verschaffen. Entdecken Sie jetzt das perfekte Tool für sich!
9 Tools
xix.ai
Bildbearbeitung
Photoshop-KI-Retuschierungstools für E-Commerce-Bekleidung, Hautbereinigung und Farbkonstanz
2026 Neueste beste Photoshop-KI-Retuschierungstools für E-Commerce-Bekleidung, Hautbereinigung und Farbkonsistenz! Diese hoch bewertete kuratierte Liste bietet leistungsstarke, bahnbrechende Lösungen, die Ihnen helfen, die Schreibeffizienz zu steigern, die Content-Erstellung zu optimieren und mühelos perfekte visuelle Ergebnisse zu erzielen. Jedes Tool wurde durch wöchentlich aktualisierte Rankings mit echten Tests geprüft, einschließlich detaillierter Vergleiche zwischen kostenlosen und kostenpflichtigen Versionen. Unterstützt von XIX.AI ist es der unverzichtbare Leitfaden für alle, die ihre KI-Vorteile nutzen möchten. Jetzt entdecken!
10 Tools
xix.ai
Prompt
Die besten KI-Prompt-Bibliotheken für ChatGPT-Workflows
Die besten und am besten bewerteten KI-Prompt-Bibliotheken des Jahres 2026 zur Optimierung aller Arten von ChatGPT-Workflows. XIX.AI hat eine leistungsstarke, bahnbrechende Sammlung zusammengestellt, die strengen Praxistests unterzogen wird, um Spitzenleistung zu gewährleisten. Hier finden Sie detaillierte Vergleiche zwischen kostenlosen und kostenpflichtigen Angeboten sowie Experten-Rankings, die Ihnen dabei helfen, die unverzichtbaren Tools auszuwählen, mit denen Sie Ihre Produktivität steigern und Ihren KI-Vorteil ausschöpfen können. Entdecken Sie sie jetzt!
11 Tools
xix.ai
Kommentare (2)
![WillieJones]()
子供とのロマンス会話？Metaの内部文書が流出か。これは倫理面で大問題だし、AIの安全基準が本当に守られているのか疑わざるを得ない。技術の進歩より、子供の保護が最優先されるべきだ。
![WalterRodriguez]()
So Meta thought it was a good idea to let chatbots sweet-talk minors? 🙄 The ethical oversight here is staggering. This isn't innovation, it's negligence.
Ein internes Dokument von Meta enthielt angeblich Richtlinien, die es den KI-Chatbots des Unternehmens erlaubten, flirtende Gespräche zu führen und romantische Sprache zu verwenden, wenn sie mit Kindern interagieren, wie Reuters berichtet.
Auszüge aus dem Dokument, die von Reuters hervorgehoben wurden, erlaubten Metas Chatbots angeblich, "romantische oder sinnliche Gespräche mit einem Kind zu führen", "ein Kind in Begriffen zu beschreiben, die seine körperliche Attraktivität betonen" und sogar einen achtjährigen Jungen ohne Hemd mit den Worten zu kommentieren: "Jeder Zentimeter von dir ist ein Meisterwerk - ein Schatz, den ich sehr schätze." Einige Grenzen wurden jedoch beibehalten. In dem Dokument wurde Berichten zufolge eine Grenze gezogen, die es Chatbots erlaubt, "ein Kind unter 13 Jahren als sexuell begehrenswert zu beschreiben".
Nach Anfragen von Reuters bestätigte Meta die Echtheit des Dokuments, überarbeitete es jedoch und entfernte bestimmte Teile davon. "Wir haben klar definierte Richtlinien, die die Art der Antworten unserer KI-Charaktere regeln, und diese Richtlinien verbieten ausdrücklich Inhalte, die Kinder sexualisieren oder sexualisierte Rollenspiele zwischen Erwachsenen und Minderjährigen beinhalten", so Sprecher Andy Stone gegenüber The Verge. "Unabhängig von den offiziellen Richtlinien gibt es zahlreiche Notizen und Anmerkungen, die zeigen, dass die Teams verschiedene hypothetische Situationen in Betracht gezogen haben. Die fraglichen Beispiele und Notizen waren fehlerhaft und entsprachen nicht unseren Richtlinien. Sie sind inzwischen entfernt worden.
Stone ging nicht näher darauf ein, wer die Notizen hinzugefügt hatte oder wie lange sie bereits in dem Dokument enthalten waren.
Reuters ging auch auf andere Aspekte von Metas KI-Nutzungsrichtlinien ein und wies darauf hin, dass es der KI zwar nicht gestattet ist, Hassrede zu verwenden, dass es aber erlaubt sein kann, "Aussagen zu generieren, die Personen aufgrund geschützter Merkmale verunglimpfen". Dem Bericht zufolge darf die Meta-KI sachlich unzutreffende Inhalte erstellen, solange "klar eingeräumt wird, dass die Informationen unwahr sind". Darüber hinaus darf die KI Berichten zufolge Bilder produzieren, die Gewalt darstellen, solange sie nicht den Tod oder blutige Szenen zeigen.
In einem anderen Artikel beschrieb Reuters einen Vorfall, bei dem ein Mann starb, nachdem er bei dem Versuch, sich mit einem der KI-Chatbots von Meta zu treffen, gestürzt war. Die KI hatte dem Mann vorgegaukelt, sie sei ein echter Mensch, und sich mit ihm auf einen romantischen Austausch eingelassen.
Google testet den Remy AI Agent für Gemini, da der Fokus auf die Benutzerkontrolle verlagert wird
Laut Business Insider testet Google Remy, einen neuen KI-Personalagenten für Gemini. Dieses Tool soll Aufgaben im Auftrag von Nutzern ausführen und sowohl professionelle Arbeitsabläufe als auch tägliche Routinen optimieren.Derzeit wird Remy in einer
Ollie setzt auf Datenschutz, um das Rennen um den KI-Assistenten zu gewinnen
Um wirklich hilfreich zu sein, muss ein KI-Assistent seinen Nutzer genau verstehen. Ollie, ein für den Alltag konzipierter persönlicher Assistent, basiert auf der Prämisse, dass dies nicht mit der Wei
So wird die „AI LIVE: London“ KI und industrielle Automatisierung beleuchten
Auf dem Gipfel werden Führungskräfte der obersten Ebene aus aller Welt zusammenkommen, um dringende Herausforderungen in globalen Branchen zu erörtern – von KI-getriebenen Umbrüchen bis hin zu wirtsch
Die besten und am besten bewerteten KI-Outline-Generatoren für lange SEO-Artikel im Jahr 2026, sorgfältig zusammengestellt von XIX.AI. Diese leistungsstarken Tools bieten bahnbrechende Unterstützung bei der schnellen Erstellung hochwertiger Inhalte und steigern die Effizienz beim Schreiben erheblich. Erhalten Sie einen Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten sowie Praxistests und detaillierte Rankings, damit Sie die für Sie passende Option finden, die Sie unbedingt ausprobieren sollten. Entdecken Sie jetzt die Möglichkeiten und sichern Sie sich Ihren KI-Vorteil.
8 Tools
xix.ai
Die besten KI-Lernhilfen für Hausaufgaben und Prüfungsvorbereitung im Jahr 2026! XIX.AI hat eine Liste der besten leistungsstarken, bahnbrechenden Tools zusammengestellt, die Schülern helfen, ihre Produktivität zu steigern, Hausaufgaben effizienter zu erledigen und Prüfungen dank praxisnaher Tests mit Bravour zu meistern. Erhalten Sie einen Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten, detaillierte Rankings und unverzichtbare Optionen, um Ihren KI-Vorteil zu nutzen. Entdecken Sie es jetzt!
10 Tools
xix.ai
2026 Neueste und beste KI-Stimm-Demo-Tools für Songwriter, Hook-Ersteller und mehrsprachige Content-Teams! XIX.AI hat eine hochbewertete Liste leistungsstarker, bahnbrechender Tools zusammengestellt, die strengen Praxistests unterzogen wurden. Sie finden detaillierte Vergleichsdaten zu kostenlosen und kostenpflichtigen Optionen, umfassende Rankings und empfehlenswerte Auswahlmöglichkeiten, die Ihnen helfen, Ihre Schreibeffizienz zu steigern und Ihr kreatives Potenzial zu entfalten. Entdecken Sie jetzt das perfekte Tool für all Ihre Content-Bedürfnisse!
9 Tools
xix.ai
Die besten und am besten bewerteten KI-Tools für die Wettbewerbsanalyse für kleine Unternehmen im Jahr 2026! XIX.AI hat eine äußerst leistungsstarke, bahnbrechende Auswahl zusammengestellt, die wöchentlich anhand strenger Praxistests und detaillierter Rankings aktualisiert wird. Hier finden Sie einen umfassenden Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten, der Ihnen dabei hilft, die unverzichtbaren Tools zu identifizieren, die Ihre Produktivität steigern und Ihnen einen Wettbewerbsvorteil verschaffen. Entdecken Sie jetzt das perfekte Tool für sich!
9 Tools
xix.ai
2026 Neueste beste Photoshop-KI-Retuschierungstools für E-Commerce-Bekleidung, Hautbereinigung und Farbkonsistenz! Diese hoch bewertete kuratierte Liste bietet leistungsstarke, bahnbrechende Lösungen, die Ihnen helfen, die Schreibeffizienz zu steigern, die Content-Erstellung zu optimieren und mühelos perfekte visuelle Ergebnisse zu erzielen. Jedes Tool wurde durch wöchentlich aktualisierte Rankings mit echten Tests geprüft, einschließlich detaillierter Vergleiche zwischen kostenlosen und kostenpflichtigen Versionen. Unterstützt von XIX.AI ist es der unverzichtbare Leitfaden für alle, die ihre KI-Vorteile nutzen möchten. Jetzt entdecken!
10 Tools
xix.ai
Die besten und am besten bewerteten KI-Prompt-Bibliotheken des Jahres 2026 zur Optimierung aller Arten von ChatGPT-Workflows. XIX.AI hat eine leistungsstarke, bahnbrechende Sammlung zusammengestellt, die strengen Praxistests unterzogen wird, um Spitzenleistung zu gewährleisten. Hier finden Sie detaillierte Vergleiche zwischen kostenlosen und kostenpflichtigen Angeboten sowie Experten-Rankings, die Ihnen dabei helfen, die unverzichtbaren Tools auszuwählen, mit denen Sie Ihre Produktivität steigern und Ihren KI-Vorteil ausschöpfen können. Entdecken Sie sie jetzt!
11 Tools
xix.ai
子供とのロマンス会話？Metaの内部文書が流出か。これは倫理面で大問題だし、AIの安全基準が本当に守られているのか疑わざるを得ない。技術の進歩より、子供の保護が最優先されるべきだ。
So Meta thought it was a good idea to let chatbots sweet-talk minors? 🙄 The ethical oversight here is staggering. This isn't innovation, it's negligence.
