X testet KI-gestützte Chatbots zur Erstellung von Community-Notizen
X, früher bekannt als Twitter, testet eine innovative Integration, die es KI-Chatbots ermöglicht, Community Notes vorzuschlagen. Dabei handelt es sich um das Crowd-sourced Fact-Checking-System der Plattform, das ursprünglich in der Ära von Twitter eingeführt und unter der Führung von Elon Musk ausgebaut wurde. Diese einzigartige Moderationsfunktion ermöglicht es zugelassenen Mitwirkenden, kontextbezogene Anmerkungen zu potenziell irreführenden Beiträgen hinzuzufügen, die dann vor der Veröffentlichung einer Peer Review unterzogen werden. Diese von der Community stammenden Klarstellungen erscheinen häufig in synthetischen Medien, die nicht ordnungsgemäß offengelegt werden, oder bei politisch brisanten Behauptungen, die zusätzlichen Kontext erfordern.
Die Glaubwürdigkeit des Systems wird dadurch erreicht, dass vor der Veröffentlichung einer Notiz ein Konsens zwischen verschiedenen Gruppen mit unterschiedlichen historischen Perspektiven erforderlich ist. Die Effektivität von Community Notes hat große Plattformen wie Meta, TikTok und YouTube dazu veranlasst, vergleichbare Community-gesteuerte Verifizierungssysteme zu entwickeln - wobei Meta insbesondere sein bezahltes Programm zur Überprüfung von Fakten durch Dritte durch dieses Crowdsourced-Modell ersetzt hat.
Die Einbindung von KI-Chatbots in dieses heikle Ökosystem der Faktenüberprüfung wirft jedoch erhebliche Fragen hinsichtlich der Zuverlässigkeit auf, da künstliche Intelligenz nachweislich zu Halluzinationen neigt, also plausible, aber gefälschte Informationen erzeugt.
Die experimentelle Funktion wird es sowohl dem X-eigenen Chatbot Grok als auch KI-Systemen von Drittanbietern über eine API ermöglichen, potenzielle Notizen einzureichen, wobei sie im Rahmen des bestehenden Überprüfungssystems genauso behandelt werden wie menschliche Beiträge.

Forschungsergebnisse des X Community Notes-Teams (öffnet in einem neuen Fenster) Jüngste Forschungsergebnisse des Community Notes-Teams von X sprechen sich für ein hybrides Modell der Zusammenarbeit zwischen Mensch und KI aus, bei dem maschinelle Lernalgorithmen von der menschlichen Aufsicht profitieren und gleichzeitig die Fähigkeiten zur Faktenüberprüfung potenziell skalieren. Die veröffentlichten Ergebnisse deuten darauf hin, dass verstärkendes Lernen aus menschlichem Feedback die Qualität der KI-Notizgenerierung verbessern könnte, während die menschlichen Bewerter als letzte Kontrolleure für die Veröffentlichung beibehalten werden.
"Unser Ziel ist es nicht, eine KI zu schaffen, die Schlussfolgerungen diktiert, sondern Systeme zu entwickeln, die kritisches Denken und kontextuelles Verständnis fördern", heißt es in dem Papier. "Große Sprachmodelle und menschliche Mitarbeiter können eine sich gegenseitig verstärkende Partnerschaft eingehen.
Zu den potenziellen Herausforderungen gehören die Risiken der Qualitätskontrolle bei der Integration von KI-Systemen von Drittanbietern - ein Beispiel dafür sind die jüngsten Vorfälle, bei denen einige Sprachmodelle der Zustimmung den Vorzug vor der sachlichen Richtigkeit gegeben haben. Außerdem könnten freiwillige Bewerter mit einer untragbaren Arbeitsbelastung konfrontiert werden, wenn sie mit KI-generierten Beiträgen überschwemmt werden.
X wird mehrere Wochen lang begrenzte Pilottests durchführen, um die KI-Beiträge zu bewerten, bevor eine breitere Einführung in Betracht gezogen wird. Diese vorsichtige Einführung spiegelt das Bewusstsein für die Möglichkeiten, aber auch die Tücken der Technologie in sensiblen Informationsumgebungen wider.
Verwandter Artikel
Das Unternehmen veröffentlicht nach umfassenden Überarbeitungen eine aktualisierte Version seiner Android-App.
Vor etwa einem Jahr kündigte X – das Elon Musk gehört – an, die Android-Version seiner App komplett neu zu entwickeln, da diese im Vergleich zur iOS-Version deutlich schlechter performte. Die überarbeitete Version wurde am Montag veröffentlicht und s
X führt einen MCP-Server ein, um den Zugriff auf KI-Tools zu optimieren
X vereinfacht die direkte Anbindung von KI-Assistenten wie Claude, Cursor, Grok Build und anderen MCP-kompatiblen Apps an seine Plattform über einen neu eingerichteten MCP-Server.Am Montag hat das von
Visa bereitet die Zahlungsinfrastruktur für von KI-Agenten initiierte Transaktionen vor
Zahlungen folgen traditionell einem einfachen Ablauf: Eine Person beschließt, einen Kauf zu tätigen, und eine Bank oder ein Kartennetzwerk wickelt die Transaktion ab. Dieses Modell befindet sich im Wa
Empfehlungen zu verwandten Spezialthemen
Kommentare (2)
This sounds like a recipe for disaster. Community notes are supposed to be from actual users, not bots. AI can't understand context like humans do. 🤖💥
X, früher bekannt als Twitter, testet eine innovative Integration, die es KI-Chatbots ermöglicht, Community Notes vorzuschlagen. Dabei handelt es sich um das Crowd-sourced Fact-Checking-System der Plattform, das ursprünglich in der Ära von Twitter eingeführt und unter der Führung von Elon Musk ausgebaut wurde. Diese einzigartige Moderationsfunktion ermöglicht es zugelassenen Mitwirkenden, kontextbezogene Anmerkungen zu potenziell irreführenden Beiträgen hinzuzufügen, die dann vor der Veröffentlichung einer Peer Review unterzogen werden. Diese von der Community stammenden Klarstellungen erscheinen häufig in synthetischen Medien, die nicht ordnungsgemäß offengelegt werden, oder bei politisch brisanten Behauptungen, die zusätzlichen Kontext erfordern.
Die Glaubwürdigkeit des Systems wird dadurch erreicht, dass vor der Veröffentlichung einer Notiz ein Konsens zwischen verschiedenen Gruppen mit unterschiedlichen historischen Perspektiven erforderlich ist. Die Effektivität von Community Notes hat große Plattformen wie Meta, TikTok und YouTube dazu veranlasst, vergleichbare Community-gesteuerte Verifizierungssysteme zu entwickeln - wobei Meta insbesondere sein bezahltes Programm zur Überprüfung von Fakten durch Dritte durch dieses Crowdsourced-Modell ersetzt hat.
Die Einbindung von KI-Chatbots in dieses heikle Ökosystem der Faktenüberprüfung wirft jedoch erhebliche Fragen hinsichtlich der Zuverlässigkeit auf, da künstliche Intelligenz nachweislich zu Halluzinationen neigt, also plausible, aber gefälschte Informationen erzeugt.
Die experimentelle Funktion wird es sowohl dem X-eigenen Chatbot Grok als auch KI-Systemen von Drittanbietern über eine API ermöglichen, potenzielle Notizen einzureichen, wobei sie im Rahmen des bestehenden Überprüfungssystems genauso behandelt werden wie menschliche Beiträge.

Jüngste Forschungsergebnisse des Community Notes-Teams von X sprechen sich für ein hybrides Modell der Zusammenarbeit zwischen Mensch und KI aus, bei dem maschinelle Lernalgorithmen von der menschlichen Aufsicht profitieren und gleichzeitig die Fähigkeiten zur Faktenüberprüfung potenziell skalieren. Die veröffentlichten Ergebnisse deuten darauf hin, dass verstärkendes Lernen aus menschlichem Feedback die Qualität der KI-Notizgenerierung verbessern könnte, während die menschlichen Bewerter als letzte Kontrolleure für die Veröffentlichung beibehalten werden.
"Unser Ziel ist es nicht, eine KI zu schaffen, die Schlussfolgerungen diktiert, sondern Systeme zu entwickeln, die kritisches Denken und kontextuelles Verständnis fördern", heißt es in dem Papier. "Große Sprachmodelle und menschliche Mitarbeiter können eine sich gegenseitig verstärkende Partnerschaft eingehen.
Zu den potenziellen Herausforderungen gehören die Risiken der Qualitätskontrolle bei der Integration von KI-Systemen von Drittanbietern - ein Beispiel dafür sind die jüngsten Vorfälle, bei denen einige Sprachmodelle der Zustimmung den Vorzug vor der sachlichen Richtigkeit gegeben haben. Außerdem könnten freiwillige Bewerter mit einer untragbaren Arbeitsbelastung konfrontiert werden, wenn sie mit KI-generierten Beiträgen überschwemmt werden.
X wird mehrere Wochen lang begrenzte Pilottests durchführen, um die KI-Beiträge zu bewerten, bevor eine breitere Einführung in Betracht gezogen wird. Diese vorsichtige Einführung spiegelt das Bewusstsein für die Möglichkeiten, aber auch die Tücken der Technologie in sensiblen Informationsumgebungen wider.
Das Unternehmen veröffentlicht nach umfassenden Überarbeitungen eine aktualisierte Version seiner Android-App.
Vor etwa einem Jahr kündigte X – das Elon Musk gehört – an, die Android-Version seiner App komplett neu zu entwickeln, da diese im Vergleich zur iOS-Version deutlich schlechter performte. Die überarbeitete Version wurde am Montag veröffentlicht und s
X führt einen MCP-Server ein, um den Zugriff auf KI-Tools zu optimieren
X vereinfacht die direkte Anbindung von KI-Assistenten wie Claude, Cursor, Grok Build und anderen MCP-kompatiblen Apps an seine Plattform über einen neu eingerichteten MCP-Server.Am Montag hat das von
Visa bereitet die Zahlungsinfrastruktur für von KI-Agenten initiierte Transaktionen vor
Zahlungen folgen traditionell einem einfachen Ablauf: Eine Person beschließt, einen Kauf zu tätigen, und eine Bank oder ein Kartennetzwerk wickelt die Transaktion ab. Dieses Modell befindet sich im Wa
This sounds like a recipe for disaster. Community notes are supposed to be from actual users, not bots. AI can't understand context like humans do. 🤖💥





Heim






