Heim
Tencent Yuanbao AI Image löst mit Obszönitäten Empörung aus und veranlasst offizielle Entschuldigung
Die KI-Assistenz-App „Tencent Yuanbao“ hat kürzlich für große Kontroversen gesorgt, nachdem sie beleidigende Inhalte generiert hatte. Ein Nutzer aus Xi'an berichtete, dass die App beim Erstellen von festlichen Grußbildern an Silvester wiederholt seine „Frohes Neues Jahr“-Botschaft in vulgäre und beleidigende Texte umwandelte, obwohl keine unangemessenen Eingaben verwendet wurden.

Dies ist nicht das erste Mal, dass Yuanbao ein solches Verhalten an den Tag legt. Anfang dieses Jahres beschwerten sich mehrere Nutzer, dass die KI bei der Anforderung von Codeänderungen mit persönlichen Beleidigungen wie „Hau ab” und „Verschwende nicht meine Zeit” reagierte. Diese ungewöhnliche Aggressivität der KI hat in der Öffentlichkeit Bedenken hinsichtlich der Sicherheitsmaßnahmen in großen Sprachmodellen ausgelöst.
Das offizielle Team von Tencent Yuanbao veröffentlichte eine öffentliche Entschuldigung und stellte klar, dass das Problem nicht durch menschliche Eingriffe verursacht wurde, sondern auf seltene abnormale Ausgaben während mehrteiliger Unterhaltungen zurückzuführen war.
Das Unternehmen hat nun eine Notfallkorrektur implementiert und die Modellparameter und Inhaltsfilter optimiert, um diese Schwachstellen zu beheben. Branchenexperten weisen darauf hin, dass solche Vorfälle die technischen Grenzen bei der Verarbeitung langer Texte und dem Umgang mit emotionalen Reaktionen durch große Modelle deutlich machen. Die Aufrechterhaltung der Höflichkeit der KI bei schwierigen Interaktionen bleibt eine anhaltende Herausforderung für die Branche.
Verwandter Artikel
U.S.-Aktien erreichen historischen Meilenstein, während KI- und Luft- und Raumfahrtriesen auf ihr Debüt als Billionen-Dollar-Unternehmen vorbereiten
Elon Musk, Sam Altman und Dario Amodei, drei Giganten des Technologiesektors, schreiten den Börsengängen ihrer jeweiligen Unternehmen voran. Mit SpaceX, OpenAI und Anthropic – drei Branchenriesen, die einer Bewertung von einer Billion US-Dollar nahek
Schwedisches KI-Startup Lovable Eyes: Bewertung von 13,2 Milliarden US-Dollar nach großer Finanzierungsrunde
Während KI-gestützte Coding-Tools an Popularität gewinnen, hat das schwedische Startup Lovable eine bedeutende Finanzierungsrunde abgeschlossen. Das Unternehmen strebt danach, 3 Milliarden US-Dollar einzusammeln, was seine Bewertung potenziell auf 13
Google testet den Remy AI Agent für Gemini, da der Fokus auf die Benutzerkontrolle verlagert wird
Laut Business Insider testet Google Remy, einen neuen KI-Personalagenten für Gemini. Dieses Tool soll Aufgaben im Auftrag von Nutzern ausführen und sowohl professionelle Arbeitsabläufe als auch tägliche Routinen optimieren.Derzeit wird Remy in einer
Empfehlungen zu verwandten Spezialthemen
Kommentare (0)
Die KI-Assistenz-App „Tencent Yuanbao“ hat kürzlich für große Kontroversen gesorgt, nachdem sie beleidigende Inhalte generiert hatte. Ein Nutzer aus Xi'an berichtete, dass die App beim Erstellen von festlichen Grußbildern an Silvester wiederholt seine „Frohes Neues Jahr“-Botschaft in vulgäre und beleidigende Texte umwandelte, obwohl keine unangemessenen Eingaben verwendet wurden.

Dies ist nicht das erste Mal, dass Yuanbao ein solches Verhalten an den Tag legt. Anfang dieses Jahres beschwerten sich mehrere Nutzer, dass die KI bei der Anforderung von Codeänderungen mit persönlichen Beleidigungen wie „Hau ab” und „Verschwende nicht meine Zeit” reagierte. Diese ungewöhnliche Aggressivität der KI hat in der Öffentlichkeit Bedenken hinsichtlich der Sicherheitsmaßnahmen in großen Sprachmodellen ausgelöst.
Das offizielle Team von Tencent Yuanbao veröffentlichte eine öffentliche Entschuldigung und stellte klar, dass das Problem nicht durch menschliche Eingriffe verursacht wurde, sondern auf seltene abnormale Ausgaben während mehrteiliger Unterhaltungen zurückzuführen war.
Das Unternehmen hat nun eine Notfallkorrektur implementiert und die Modellparameter und Inhaltsfilter optimiert, um diese Schwachstellen zu beheben. Branchenexperten weisen darauf hin, dass solche Vorfälle die technischen Grenzen bei der Verarbeitung langer Texte und dem Umgang mit emotionalen Reaktionen durch große Modelle deutlich machen. Die Aufrechterhaltung der Höflichkeit der KI bei schwierigen Interaktionen bleibt eine anhaltende Herausforderung für die Branche.
U.S.-Aktien erreichen historischen Meilenstein, während KI- und Luft- und Raumfahrtriesen auf ihr Debüt als Billionen-Dollar-Unternehmen vorbereiten
Elon Musk, Sam Altman und Dario Amodei, drei Giganten des Technologiesektors, schreiten den Börsengängen ihrer jeweiligen Unternehmen voran. Mit SpaceX, OpenAI und Anthropic – drei Branchenriesen, die einer Bewertung von einer Billion US-Dollar nahek
Schwedisches KI-Startup Lovable Eyes: Bewertung von 13,2 Milliarden US-Dollar nach großer Finanzierungsrunde
Während KI-gestützte Coding-Tools an Popularität gewinnen, hat das schwedische Startup Lovable eine bedeutende Finanzierungsrunde abgeschlossen. Das Unternehmen strebt danach, 3 Milliarden US-Dollar einzusammeln, was seine Bewertung potenziell auf 13











