Heim
KI-Buchhaltungssoftware vergleicht Kleidung eines Nutzers mit einem Leichentuch; Verantwortlicher entschuldigt sich und behebt das Problem

Ein kürzlich aufgetretener Vorfall, bei dem ein KI-Assistent eine unangemessene Antwort gab, hat für Aufsehen gesorgt. Ein Nutzer berichtete in den sozialen Medien, dass die KI eine verletzende Bemerkung machte, als er die App „Feiya AI Accounting“ nutzte, um eine Ausgabe in Höhe von 159 Yuan für den Kauf von Kleidung für seinen Vater zu verbuchen. Nachdem der Nutzer den Betrag eingegeben hatte, verarbeitete die KI die Transaktion nicht korrekt, sondern bemerkte stattdessen, dass die Kleidung einem „Traueranzug“ ähnele.
Im weiteren Verlauf erkannte die KI ihren Fehler nicht und gab weiterhin ähnliche Antworten. Die beleidigende und unsensible Antwort verärgerte den Nutzer, der daraufhin beschloss, seine Mitgliedschaft zu kündigen und eine Rückerstattung zu beantragen.
Als Reaktion auf die schlechte Nutzererfahrung veröffentlichte der Softwareanbieter am 6. Mai eine offizielle Stellungnahme. Der Kundendienst erklärte, dass die unangemessene Antwort nicht auf menschliches Eingreifen zurückzuführen sei, sondern auf einen Fehler in der Dialogdatenbank der KI. Das technische Team hat seitdem Notfallkorrekturen an den entsprechenden Modellen vorgenommen und die Überwachung sowie die Einschränkungen für KI-Konversationsszenarien verstärkt, um ähnliche unsensible oder respektlose Bemerkungen zu verhindern.
Am Nachmittag des 6. Mai veröffentlichte das Unternehmen ein Entschuldigungsschreiben, in dem es öffentlich erhebliche Mängel bei der Kontrolle der KI-Grenzen und dem Verständnis kultureller Tabus einräumte. In der Erklärung hieß es, das KI-Modell habe emotionale Grenzen in bestimmten Kontexten nicht erkannt und die Plattform sei bereit, die volle Verantwortung zu übernehmen.
In seinem Abhilfemaßnahmenplan erklärte das Unternehmen, es werde Maßnahmen wie das Blockieren sensibler Wörter und die Stärkung von Mechanismen zur Überprüfung aller Szenarien umsetzen. Bezüglich der Schwierigkeiten der Nutzer bei der Kündigung ihrer Mitgliedschaft stellte das Unternehmen die Situation klar und versprach, den Rückerstattungsprozess zu optimieren, sich aufrichtig bei den betroffenen Nutzern zu entschuldigen und eine angemessene Entschädigung zu leisten.
Verwandter Artikel
Suno fügt Wasserzeichen in Songs ein, während Rechtsstreitigkeiten andauern
Suno, die Plattform, die es Nutzern ermöglicht, KI-generierte Musik zu erstellen, hat neue Funktionen vorgestellt, um plattformproduzierte Tracks zu kennzeichnen, Downloads einzuschränken und die Community-Richtlinien zu aktualisieren, um unbefugte K
Musk räumt ein, dass Grok-Build Benutzercode geleakt hat, verspricht aber, alle historischen Daten zu löschen
Elon Musk wandte sich direkt an die Datenschutzkontroverse um Grok Build, beginnend mit einem einfachen „True“, um die Gültigkeit des Vorfalls zu bestätigen. Er versprach, dass alle zuvor bei SpaceXAI hochgeladenen Benutzerdaten unwiderruflich gelösc
U.S.-Aktien erreichen historischen Meilenstein, während KI- und Luft- und Raumfahrtriesen auf ihr Debüt als Billionen-Dollar-Unternehmen vorbereiten
Elon Musk, Sam Altman und Dario Amodei, drei Giganten des Technologiesektors, schreiten den Börsengängen ihrer jeweiligen Unternehmen voran. Mit SpaceX, OpenAI und Anthropic – drei Branchenriesen, die einer Bewertung von einer Billion US-Dollar nahek
Empfehlungen zu verwandten Spezialthemen
Kommentare (0)

Ein kürzlich aufgetretener Vorfall, bei dem ein KI-Assistent eine unangemessene Antwort gab, hat für Aufsehen gesorgt. Ein Nutzer berichtete in den sozialen Medien, dass die KI eine verletzende Bemerkung machte, als er die App „Feiya AI Accounting“ nutzte, um eine Ausgabe in Höhe von 159 Yuan für den Kauf von Kleidung für seinen Vater zu verbuchen. Nachdem der Nutzer den Betrag eingegeben hatte, verarbeitete die KI die Transaktion nicht korrekt, sondern bemerkte stattdessen, dass die Kleidung einem „Traueranzug“ ähnele.
Im weiteren Verlauf erkannte die KI ihren Fehler nicht und gab weiterhin ähnliche Antworten. Die beleidigende und unsensible Antwort verärgerte den Nutzer, der daraufhin beschloss, seine Mitgliedschaft zu kündigen und eine Rückerstattung zu beantragen.
Als Reaktion auf die schlechte Nutzererfahrung veröffentlichte der Softwareanbieter am 6. Mai eine offizielle Stellungnahme. Der Kundendienst erklärte, dass die unangemessene Antwort nicht auf menschliches Eingreifen zurückzuführen sei, sondern auf einen Fehler in der Dialogdatenbank der KI. Das technische Team hat seitdem Notfallkorrekturen an den entsprechenden Modellen vorgenommen und die Überwachung sowie die Einschränkungen für KI-Konversationsszenarien verstärkt, um ähnliche unsensible oder respektlose Bemerkungen zu verhindern.
Am Nachmittag des 6. Mai veröffentlichte das Unternehmen ein Entschuldigungsschreiben, in dem es öffentlich erhebliche Mängel bei der Kontrolle der KI-Grenzen und dem Verständnis kultureller Tabus einräumte. In der Erklärung hieß es, das KI-Modell habe emotionale Grenzen in bestimmten Kontexten nicht erkannt und die Plattform sei bereit, die volle Verantwortung zu übernehmen.
In seinem Abhilfemaßnahmenplan erklärte das Unternehmen, es werde Maßnahmen wie das Blockieren sensibler Wörter und die Stärkung von Mechanismen zur Überprüfung aller Szenarien umsetzen. Bezüglich der Schwierigkeiten der Nutzer bei der Kündigung ihrer Mitgliedschaft stellte das Unternehmen die Situation klar und versprach, den Rückerstattungsprozess zu optimieren, sich aufrichtig bei den betroffenen Nutzern zu entschuldigen und eine angemessene Entschädigung zu leisten.
Suno fügt Wasserzeichen in Songs ein, während Rechtsstreitigkeiten andauern
Suno, die Plattform, die es Nutzern ermöglicht, KI-generierte Musik zu erstellen, hat neue Funktionen vorgestellt, um plattformproduzierte Tracks zu kennzeichnen, Downloads einzuschränken und die Community-Richtlinien zu aktualisieren, um unbefugte K
Musk räumt ein, dass Grok-Build Benutzercode geleakt hat, verspricht aber, alle historischen Daten zu löschen
Elon Musk wandte sich direkt an die Datenschutzkontroverse um Grok Build, beginnend mit einem einfachen „True“, um die Gültigkeit des Vorfalls zu bestätigen. Er versprach, dass alle zuvor bei SpaceXAI hochgeladenen Benutzerdaten unwiderruflich gelösc
U.S.-Aktien erreichen historischen Meilenstein, während KI- und Luft- und Raumfahrtriesen auf ihr Debüt als Billionen-Dollar-Unternehmen vorbereiten
Elon Musk, Sam Altman und Dario Amodei, drei Giganten des Technologiesektors, schreiten den Börsengängen ihrer jeweiligen Unternehmen voran. Mit SpaceX, OpenAI und Anthropic – drei Branchenriesen, die einer Bewertung von einer Billion US-Dollar nahek











