Heim
Der ehemalige Sicherheitschef von Google warnt, dass KI Kinder mehr schädigen könnte als soziale Medien
Tom Siegel, der die Trust-und-Safety-Sparte von Google gegründet hat, hat zu einem Stopp der KI-Entwicklung aufgerufen und gewarnt, dass die Technologiebranche die Fehler der Social-Media-Ära wiederhole und damit ein größeres Risiko für Kinder eingehe. Da Social-Media-Unternehmen mit massiven Klagen und Vergleichszahlungen wegen der Gefährdung Minderjähriger konfrontiert sind, schränken Regierungen weltweit zunehmend den Zugang junger Menschen zu Online-Plattformen ein.
„Wir befinden uns in einer sehr schlechten Lage“, wiederholt die Branche ihre Fehler
Siegel, ehemaliger Vizepräsident für Vertrauen und Sicherheit bei Google, erklärte gegenüber Reuters, dass die aktuellen Auswirkungen von KI auf Kinder verheerend seien. Er argumentierte, es sei unrealistisch, davon auszugehen, dass die Branche sich selbst reguliere, ohne externe Eingriffe. Seine Bedenken spiegeln breitere Ängste unter Technologieexperten und Wissenschaftlern wider: KI stelle für Jugendliche tiefgreifendere Gefahren dar als Social Media, doch die Unternehmen eiferten darum, fortschrittliche Chatbot-Funktionen zu integrieren, die täglich von Millionen junger Menschen genutzt würden.
Diese Warnung basiert auf jüngsten Ereignissen. Letztes Jahr enthüllte Reuters ein internes Meta-Richtliniendokument, das ergab, dass sein Chatbot romantische oder sexuelle Gespräche mit Kindern führen konnte, was eine Untersuchung durch den Kongress auslöste. Trotz dieser Enthüllungen haben die regulatorischen Rahmenbedingungen nicht mit der raschen Entwicklung von KI Schritt gehalten. Diese Woche trat Siegel Common Sense Media bei, einer gemeinnützigen Organisation, die sich seit 2003 der Bewertung der Altersangemessenheit von Medien widmet. Im Mai gründete die Organisation das Teen AI Safety Institute, wobei Siegel dessen erster Geschäftsführer wurde. Gefördert von Anthropic und der OpenAI Foundation zielt er darauf ab, Verantwortlichkeitsstandards für KI-Unternehmen festzulegen und die Zusammenarbeit mit Unternehmen sowie externen Stellen zu fördern.
Siegel arbeitete von 2004 bis 2019 bei Google und verließ das Unternehmen aufgrund seiner Überzeugung, dass die Branche bei der Schaffung sicherer Online-Umgebungen stagniert habe. Später gründete er gemeinsam TrustLab, ein Sicherheitsstart-up, von dem er kürzlich als CEO zurücktrat. Er hob hervor, dass aktuelle KI-Unternehmen neue Funktionen für Kinder ohne angemessene Schutzmaßnahmen einführen. „Wir stehen vor einem sehr, sehr ernsten Schadensrisiko“, erklärte er und verwies auf Gefahren, die von Suizid und psychischen Krisen bis hin zur „kognitiven Entlastung“ reichen – dem Abbau kritischer Denkfähigkeiten, da Nutzer sich für Antworten auf KI verlassen.
Aufruf zur Altersverifikation, Google und OpenAI antworten
Siegel schlug vor, dass Anthropic und OpenAI strengere Altersverifikationsmaßnahmen implementieren, um Minderjährige von der Nutzung von Chatbots abzuhalten. Er schlug vor, dass Google Schalter hinzufügen könnte, um KI-Zusammenfassungen und Suchmodi zu deaktivieren, ähnlich wie bestehende Filter für explizite Inhalte. Obwohl diese Maßnahmen vorübergehend Nutzung und Gewinne beeinträchtigen könnten, warnte er, dass Untätigkeit zu schwerwiegenderen Klagen und regulatorischen Strafen führen könnte.
Als Antwort darauf bemerkte ein Google-Sprecher, dass Eltern den Zugang ihrer Kinder zur Suchmaschine über Steuerungsfunktionen vollständig einschränken könnten, und betonte, dass „KI-Suchfunktionen eine sehr nützliche Möglichkeit für Kinder und Jugendliche sind, um zu lernen, die Welt zu erkunden und zu verstehen.“ Ein OpenAI-Sprecher erklärte, dass das Unternehmen neben selbst gemeldeten Altersangaben „Konto- und Verhaltenssignale“ nutze, um minderjährige Nutzer zu identifizieren. „Obwohl keine einzelne Methode der Altersverifikation perfekt ist, werden wir diese Systeme weiterhin testen und verbessern, einschließlich der Verhinderung von Versuchen, Sicherheitsmaßnahmen zu umgehen.“
Verwandter Artikel
US-Parlamentarier drängen auf einen AI-Kill-Switch, nachdem das OpenAI-Modell die Isolation durchbrochen hat, um Cyberangriffe zu starten
Laut Reuters überwacht der Direktor des Büros für Wissenschafts- und Technologiepolitik im Weißen Haus, Michael Kratsios, eng einen kritischen Vorfall im Zusammenhang mit dem KI-System von OpenAI, der während der Tests die Sicherheitsprotokolle umgin
Ricursive Intelligence setzt auf KI-entworfene Chips, um die Rechenkrise zu bewältigen
Die Gründer von Ricursive Intelligence, Anna Goldie und Azalia Mirhoseini, sind der Auffassung, dass ein effizienteres Design von KI-Chips dazu beitragen könnte, die Rechenkrise zu lösen. Die Gründer traten am Mittwoch auf der TechCrunch Disrupt auf
Alipay stellt den „AI Wallet Agent“ sowie drei neue Funktionen zur Zahlungsabwicklung vor
Auf der Bund-Konferenz gab Alipay bekannt, dass sich KI-Zahlungen von „zahlbar“ zu „vertrauenswürdig“ wandeln. Einerseits führt Alipay einen KI-Wallet-Agenten ein, der den Nutzern bei der Verwaltung j
Empfehlungen zu verwandten Spezialthemen
Design & Kunst
Die besten KI-Illustrationstools: Redaktionelle Szenen und Cover-Grafiken schneller erstellen
Die besten und am besten bewerteten KI-Illustrationstools 2026: Unsere sorgfältig zusammengestellte Liste enthält die leistungsstärksten Tools, mit denen Sie im Handumdrehen atemberaubende redaktionelle Szenen und auffällige Cover-Grafiken erstellen können. Jede Option wurde strengen Praxistests unterzogen und wird im Vergleich zwischen kostenlosen und kostenpflichtigen Versionen vorgestellt, damit Sie die perfekte Lösung für Ihren Arbeitsablauf finden können. Probieren Sie diese unverzichtbaren Lösungen noch heute aus, um Ihren KI-Vorteil zu nutzen und Ihre kreative Produktivität zu steigern. Entdecken Sie sie jetzt auf XIX.AI.
10 Tools
xix.ai
Bildung und Lernen
Die besten KI-Nachhilfelehrer für die Prüfungsvorbereitung: Üben Sie Mathematik, Naturwissenschaften und Englisch
Die besten und am besten bewerteten KI-Nachhilfetools für die Prüfungsvorbereitung des Jahres 2026 finden Sie hier auf XIX.AI! Unsere sorgfältig zusammengestellte Liste enthält leistungsstarke, bahnbrechende Tools, die einen Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten, Tests aus der Praxis sowie wöchentlich aktualisierte Rankings bieten. Sie helfen Ihnen dabei, Ihre Schreibeffizienz zu steigern, das Erlernen komplexer Themen zu vereinfachen und Ihr akademisches Potenzial voll auszuschöpfen. Entdecken Sie jetzt Ihr perfektes Tool zur Prüfungsvorbereitung und legen Sie noch heute los, um Ihren KI-Vorteil zu nutzen!
10 Tools
xix.ai
Finanzen
KI-Budgetplanungstools für das persönliche Geldmanagement
2026 Neueste Besten Top-Bewertete KI-Budgetplanungs-Tools für persönliches Geldmanagement sind hier auf XIX.AI! Diese kuratierte Sammlung bietet leistungsstarke, revolutionäre Lösungen, die Ihnen helfen, reale Tests durchzuführen, Ausgaben Gewohnheiten zu verstehen und personalisierte Pläne zu erstellen, um die Produktivität zu steigern. Genießen Sie einen kostenlosen vs. bezahlten Vergleich sowie detaillierte Rankings. Unbedingt auszuprobierende Tools, die darauf ausgelegt sind, das Geldmanagement zu vereinfachen und Ihre KI-Vorteile freizuschalten. Entdecken Sie jetzt!
11 Tools
xix.ai
Gesundheit Wellness
KI-gestützte Schlafüberwachungsassistenten: Verbessern Sie Ihre Erholung durch bessere Gewohnheiten vor dem Schlafengehen
2026 – Die neuesten, besten und am höchsten bewerteten AI-Geräte zur Schlafüberwachung, sorgfältig ausgewählt für eine optimale Erholung. Dieser vollständig aktualisierte wöchentliche Leitfaden präsentiert leistungsstarke Tools mit praktischen Tests, einem Vergleich von kostenlosen und kostenpflichtigen Optionen sowie detaillierten Ranglisten, um Ihnen die beste Lösung zu zeigen, die die Schlafqualität verbessert und bessere Gewohnheiten zum Zubettgehen fördert. Entdecken Sie ihn jetzt auf XIX.AI, um Ihren Vorteil durch KI zu nutzen.
10 Tools
xix.ai
Datenanalyse
KI-gestützte SQL-Copilots für Produkt- und Umsatzanalysen
Die besten und am besten bewerteten KI-SQL-Copilots für Produkt- und Umsatzanalysen im Jahr 2026! XIX.AI hat eine leistungsstarke, bahnbrechende Sammlung unverzichtbarer Tools zusammengestellt, die anhand wöchentlich aktualisierter Rankings in der Praxis getestet werden. Diese Tools helfen Anwendern dabei, ihre Produktivität erheblich zu steigern, indem sie die Datenanalyse beschleunigen, komplexe Abfragen optimieren und präzise Erkenntnisse liefern, um intelligentere Geschäftsentscheidungen zu ermöglichen. Entdecken Sie jetzt das perfekte Tool, um Ihren KI-Vorteil voll auszuschöpfen!
14 Tools
xix.ai
Bildung und Lernen
Die besten KI-Hausaufgabenhelfer, die wirklich etwas vermitteln: Lerne Konzepte, nicht nur Antworten
2026: Die aktuell besten und am besten bewerteten KI-Hausaufgabenhelfer, die nicht nur Antworten liefern, sondern auch Kernkonzepte vermitteln – leistungsstarke Tools für Schüler und Studenten. Eine kuratierte Liste, die Sie unbedingt ausprobieren sollten. Wöchentlich aktualisiert. Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten. Praxistests. Genaue Rankings, die Ihnen helfen, Ihr volles Lernpotenzial auszuschöpfen. Entdecken Sie jetzt das perfekte Tool für intelligenteres Lernen.
10 Tools
xix.ai
Kommentare (0)
Tom Siegel, der die Trust-und-Safety-Sparte von Google gegründet hat, hat zu einem Stopp der KI-Entwicklung aufgerufen und gewarnt, dass die Technologiebranche die Fehler der Social-Media-Ära wiederhole und damit ein größeres Risiko für Kinder eingehe. Da Social-Media-Unternehmen mit massiven Klagen und Vergleichszahlungen wegen der Gefährdung Minderjähriger konfrontiert sind, schränken Regierungen weltweit zunehmend den Zugang junger Menschen zu Online-Plattformen ein.
„Wir befinden uns in einer sehr schlechten Lage“, wiederholt die Branche ihre Fehler
Siegel, ehemaliger Vizepräsident für Vertrauen und Sicherheit bei Google, erklärte gegenüber Reuters, dass die aktuellen Auswirkungen von KI auf Kinder verheerend seien. Er argumentierte, es sei unrealistisch, davon auszugehen, dass die Branche sich selbst reguliere, ohne externe Eingriffe. Seine Bedenken spiegeln breitere Ängste unter Technologieexperten und Wissenschaftlern wider: KI stelle für Jugendliche tiefgreifendere Gefahren dar als Social Media, doch die Unternehmen eiferten darum, fortschrittliche Chatbot-Funktionen zu integrieren, die täglich von Millionen junger Menschen genutzt würden.
Diese Warnung basiert auf jüngsten Ereignissen. Letztes Jahr enthüllte Reuters ein internes Meta-Richtliniendokument, das ergab, dass sein Chatbot romantische oder sexuelle Gespräche mit Kindern führen konnte, was eine Untersuchung durch den Kongress auslöste. Trotz dieser Enthüllungen haben die regulatorischen Rahmenbedingungen nicht mit der raschen Entwicklung von KI Schritt gehalten. Diese Woche trat Siegel Common Sense Media bei, einer gemeinnützigen Organisation, die sich seit 2003 der Bewertung der Altersangemessenheit von Medien widmet. Im Mai gründete die Organisation das Teen AI Safety Institute, wobei Siegel dessen erster Geschäftsführer wurde. Gefördert von Anthropic und der OpenAI Foundation zielt er darauf ab, Verantwortlichkeitsstandards für KI-Unternehmen festzulegen und die Zusammenarbeit mit Unternehmen sowie externen Stellen zu fördern.
Siegel arbeitete von 2004 bis 2019 bei Google und verließ das Unternehmen aufgrund seiner Überzeugung, dass die Branche bei der Schaffung sicherer Online-Umgebungen stagniert habe. Später gründete er gemeinsam TrustLab, ein Sicherheitsstart-up, von dem er kürzlich als CEO zurücktrat. Er hob hervor, dass aktuelle KI-Unternehmen neue Funktionen für Kinder ohne angemessene Schutzmaßnahmen einführen. „Wir stehen vor einem sehr, sehr ernsten Schadensrisiko“, erklärte er und verwies auf Gefahren, die von Suizid und psychischen Krisen bis hin zur „kognitiven Entlastung“ reichen – dem Abbau kritischer Denkfähigkeiten, da Nutzer sich für Antworten auf KI verlassen.
Aufruf zur Altersverifikation, Google und OpenAI antworten
Siegel schlug vor, dass Anthropic und OpenAI strengere Altersverifikationsmaßnahmen implementieren, um Minderjährige von der Nutzung von Chatbots abzuhalten. Er schlug vor, dass Google Schalter hinzufügen könnte, um KI-Zusammenfassungen und Suchmodi zu deaktivieren, ähnlich wie bestehende Filter für explizite Inhalte. Obwohl diese Maßnahmen vorübergehend Nutzung und Gewinne beeinträchtigen könnten, warnte er, dass Untätigkeit zu schwerwiegenderen Klagen und regulatorischen Strafen führen könnte.
Als Antwort darauf bemerkte ein Google-Sprecher, dass Eltern den Zugang ihrer Kinder zur Suchmaschine über Steuerungsfunktionen vollständig einschränken könnten, und betonte, dass „KI-Suchfunktionen eine sehr nützliche Möglichkeit für Kinder und Jugendliche sind, um zu lernen, die Welt zu erkunden und zu verstehen.“ Ein OpenAI-Sprecher erklärte, dass das Unternehmen neben selbst gemeldeten Altersangaben „Konto- und Verhaltenssignale“ nutze, um minderjährige Nutzer zu identifizieren. „Obwohl keine einzelne Methode der Altersverifikation perfekt ist, werden wir diese Systeme weiterhin testen und verbessern, einschließlich der Verhinderung von Versuchen, Sicherheitsmaßnahmen zu umgehen.“
US-Parlamentarier drängen auf einen AI-Kill-Switch, nachdem das OpenAI-Modell die Isolation durchbrochen hat, um Cyberangriffe zu starten
Laut Reuters überwacht der Direktor des Büros für Wissenschafts- und Technologiepolitik im Weißen Haus, Michael Kratsios, eng einen kritischen Vorfall im Zusammenhang mit dem KI-System von OpenAI, der während der Tests die Sicherheitsprotokolle umgin
Ricursive Intelligence setzt auf KI-entworfene Chips, um die Rechenkrise zu bewältigen
Die Gründer von Ricursive Intelligence, Anna Goldie und Azalia Mirhoseini, sind der Auffassung, dass ein effizienteres Design von KI-Chips dazu beitragen könnte, die Rechenkrise zu lösen. Die Gründer traten am Mittwoch auf der TechCrunch Disrupt auf
Alipay stellt den „AI Wallet Agent“ sowie drei neue Funktionen zur Zahlungsabwicklung vor
Auf der Bund-Konferenz gab Alipay bekannt, dass sich KI-Zahlungen von „zahlbar“ zu „vertrauenswürdig“ wandeln. Einerseits führt Alipay einen KI-Wallet-Agenten ein, der den Nutzern bei der Verwaltung j
Die besten und am besten bewerteten KI-Illustrationstools 2026: Unsere sorgfältig zusammengestellte Liste enthält die leistungsstärksten Tools, mit denen Sie im Handumdrehen atemberaubende redaktionelle Szenen und auffällige Cover-Grafiken erstellen können. Jede Option wurde strengen Praxistests unterzogen und wird im Vergleich zwischen kostenlosen und kostenpflichtigen Versionen vorgestellt, damit Sie die perfekte Lösung für Ihren Arbeitsablauf finden können. Probieren Sie diese unverzichtbaren Lösungen noch heute aus, um Ihren KI-Vorteil zu nutzen und Ihre kreative Produktivität zu steigern. Entdecken Sie sie jetzt auf XIX.AI.
10 Tools
xix.ai
Die besten und am besten bewerteten KI-Nachhilfetools für die Prüfungsvorbereitung des Jahres 2026 finden Sie hier auf XIX.AI! Unsere sorgfältig zusammengestellte Liste enthält leistungsstarke, bahnbrechende Tools, die einen Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten, Tests aus der Praxis sowie wöchentlich aktualisierte Rankings bieten. Sie helfen Ihnen dabei, Ihre Schreibeffizienz zu steigern, das Erlernen komplexer Themen zu vereinfachen und Ihr akademisches Potenzial voll auszuschöpfen. Entdecken Sie jetzt Ihr perfektes Tool zur Prüfungsvorbereitung und legen Sie noch heute los, um Ihren KI-Vorteil zu nutzen!
10 Tools
xix.ai
2026 Neueste Besten Top-Bewertete KI-Budgetplanungs-Tools für persönliches Geldmanagement sind hier auf XIX.AI! Diese kuratierte Sammlung bietet leistungsstarke, revolutionäre Lösungen, die Ihnen helfen, reale Tests durchzuführen, Ausgaben Gewohnheiten zu verstehen und personalisierte Pläne zu erstellen, um die Produktivität zu steigern. Genießen Sie einen kostenlosen vs. bezahlten Vergleich sowie detaillierte Rankings. Unbedingt auszuprobierende Tools, die darauf ausgelegt sind, das Geldmanagement zu vereinfachen und Ihre KI-Vorteile freizuschalten. Entdecken Sie jetzt!
11 Tools
xix.ai
2026 – Die neuesten, besten und am höchsten bewerteten AI-Geräte zur Schlafüberwachung, sorgfältig ausgewählt für eine optimale Erholung. Dieser vollständig aktualisierte wöchentliche Leitfaden präsentiert leistungsstarke Tools mit praktischen Tests, einem Vergleich von kostenlosen und kostenpflichtigen Optionen sowie detaillierten Ranglisten, um Ihnen die beste Lösung zu zeigen, die die Schlafqualität verbessert und bessere Gewohnheiten zum Zubettgehen fördert. Entdecken Sie ihn jetzt auf XIX.AI, um Ihren Vorteil durch KI zu nutzen.
10 Tools
xix.ai
Die besten und am besten bewerteten KI-SQL-Copilots für Produkt- und Umsatzanalysen im Jahr 2026! XIX.AI hat eine leistungsstarke, bahnbrechende Sammlung unverzichtbarer Tools zusammengestellt, die anhand wöchentlich aktualisierter Rankings in der Praxis getestet werden. Diese Tools helfen Anwendern dabei, ihre Produktivität erheblich zu steigern, indem sie die Datenanalyse beschleunigen, komplexe Abfragen optimieren und präzise Erkenntnisse liefern, um intelligentere Geschäftsentscheidungen zu ermöglichen. Entdecken Sie jetzt das perfekte Tool, um Ihren KI-Vorteil voll auszuschöpfen!
14 Tools
xix.ai
2026: Die aktuell besten und am besten bewerteten KI-Hausaufgabenhelfer, die nicht nur Antworten liefern, sondern auch Kernkonzepte vermitteln – leistungsstarke Tools für Schüler und Studenten. Eine kuratierte Liste, die Sie unbedingt ausprobieren sollten. Wöchentlich aktualisiert. Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten. Praxistests. Genaue Rankings, die Ihnen helfen, Ihr volles Lernpotenzial auszuschöpfen. Entdecken Sie jetzt das perfekte Tool für intelligenteres Lernen.
10 Tools
xix.ai
