AI 회계 소프트웨어, 사용자의 옷차림을 장례용 수의로 비유해 조롱… 관계자 사과 및 문제 시정

최근 AI 비서의 부적절한 답변과 관련된 사건이 주목을 받고 있다. 한 소셜 미디어 사용자는 ‘Feiya AI Accounting’ 앱을 통해 아버지 옷 구입비 159위안을 기록하던 중, AI가 상처를 주는 발언을 했다고 밝혔다. 사용자가 금액을 입력한 후, AI는 거래를 제대로 처리하지 못했을 뿐만 아니라 해당 옷이 “장례복”을 닮았다고 언급했다.
이어진 대화에서도 AI는 자신의 실수를 깨닫지 못하고 비슷한 반응을 이어갔다. 모욕적이고 공감 없는 답변에 화가 난 사용자는 멤버십을 해지하고 환불을 요청하기로 했다.
이러한 불만족스러운 사용자 경험에 대해 소프트웨어 제공사는 5월 6일 공식 성명을 발표했다. 고객 서비스 측은 부적절한 답변이 사람의 개입 때문이 아니라 AI 대화 데이터베이스의 결함 때문이라고 설명했다. 기술팀은 이후 관련 모델에 긴급 수정 조치를 적용하고, 유사한 무감각하거나 무례한 발언을 방지하기 위해 AI 대화 시나리오에 대한 감독과 제한을 강화했다.
5월 6일 오후, 해당 기업은 사과문을 발표하며 AI의 경계 설정 및 문화적 금기에 대한 이해에 중대한 미흡함이 있었음을 공개적으로 인정했다. 성명서는 AI 모델이 특정 맥락에서 감정적 한계를 인식하지 못했으며, 플랫폼 측이 이에 대한 전적인 책임을 지겠다고 밝혔다.
시정 계획에서 회사는 민감한 단어 차단 및 전 시나리오 검토 메커니즘 강화 등의 조치를 시행하겠다고 밝혔다. 또한 회원 탈퇴 과정에서 사용자가 겪은 불편에 대해 상황을 명확히 설명하고, 환불 절차를 개선하며, 피해를 입은 사용자에게 진심으로 사과하고 적절한 보상을 제공하겠다고 약속했다.
관련 기사
구글, 사용자 제어 강화에 맞춰 제미니용 레미 AI 에이전트 테스트
비즈니스 인사이더에 따르면, 구글은 제미나이를 위한 새로운 AI 개인 에이전트인 레미를 테스트하고 있습니다. 이 도구는 사용자를 대신하여 작업을 실행하여 전문적인 워크플로우와 일상적인 루틴을 모두 간소화하는 것을 목표로 합니다.현재 레미는 제미나이 애플리케이션의 내부 직원 전용 버전에서 테스트 중입니다. 이 보고서는 내부 문서와 프로젝트에 정통한 두 명의 인물과의 인터뷰를 인용합니다. 내부 자료는 레미를 “24/7 개인 에이전트”로 묘사하며,
Core Web Vitals를 수정하여 SEO 순위 향상을 위한 방법
AI 도구를 활용한 성적표 코멘트 작성 간소화서론성적표 코멘트 생성을 위한 AI 도구매직 스쿨(Magic School)알마낙 AI(Almanac AI)챗 GPT(Chat GPT)매직 스쿨을 사용하여 성적표 코멘트 생성하기매직 스쿨 로그인성적표 코멘트 도구 선택학생별 코멘트 맞춤 설정알마낙 AI를 사용하여 성적표 코멘트 생성하기과정 및 평가 체계 설정성적표 분량 및 학생 정보 구성알마낙 AI를 통한 코멘트 생성매직 스쿨과
Slackbot이 AI 에이전트가 됩니다
Salesforce의 기업용 메시징 플랫폼인 Slack에 내장된 자동 비서 Slackbot이 AI 에이전트로 진화하고 있습니다. Salesforce의 CTO인 Parker Harris는 이것이 OpenAI의 ChatGPT에 버금가는 바이럴 현상을 달성할 것으로 전망합니다.클라우드 소프트웨어 거대 기업인 Salesforce는 화요일 업데이트된 Slackbot을 출시했습니다. Business+ 및 Enterprise+ 고객에게 제공되는 이 새로운
관련 특별 주제 추천
의견 (0)
0/500

최근 AI 비서의 부적절한 답변과 관련된 사건이 주목을 받고 있다. 한 소셜 미디어 사용자는 ‘Feiya AI Accounting’ 앱을 통해 아버지 옷 구입비 159위안을 기록하던 중, AI가 상처를 주는 발언을 했다고 밝혔다. 사용자가 금액을 입력한 후, AI는 거래를 제대로 처리하지 못했을 뿐만 아니라 해당 옷이 “장례복”을 닮았다고 언급했다.
이어진 대화에서도 AI는 자신의 실수를 깨닫지 못하고 비슷한 반응을 이어갔다. 모욕적이고 공감 없는 답변에 화가 난 사용자는 멤버십을 해지하고 환불을 요청하기로 했다.
이러한 불만족스러운 사용자 경험에 대해 소프트웨어 제공사는 5월 6일 공식 성명을 발표했다. 고객 서비스 측은 부적절한 답변이 사람의 개입 때문이 아니라 AI 대화 데이터베이스의 결함 때문이라고 설명했다. 기술팀은 이후 관련 모델에 긴급 수정 조치를 적용하고, 유사한 무감각하거나 무례한 발언을 방지하기 위해 AI 대화 시나리오에 대한 감독과 제한을 강화했다.
5월 6일 오후, 해당 기업은 사과문을 발표하며 AI의 경계 설정 및 문화적 금기에 대한 이해에 중대한 미흡함이 있었음을 공개적으로 인정했다. 성명서는 AI 모델이 특정 맥락에서 감정적 한계를 인식하지 못했으며, 플랫폼 측이 이에 대한 전적인 책임을 지겠다고 밝혔다.
시정 계획에서 회사는 민감한 단어 차단 및 전 시나리오 검토 메커니즘 강화 등의 조치를 시행하겠다고 밝혔다. 또한 회원 탈퇴 과정에서 사용자가 겪은 불편에 대해 상황을 명확히 설명하고, 환불 절차를 개선하며, 피해를 입은 사용자에게 진심으로 사과하고 적절한 보상을 제공하겠다고 약속했다.
Core Web Vitals를 수정하여 SEO 순위 향상을 위한 방법
AI 도구를 활용한 성적표 코멘트 작성 간소화서론성적표 코멘트 생성을 위한 AI 도구매직 스쿨(Magic School)알마낙 AI(Almanac AI)챗 GPT(Chat GPT)매직 스쿨을 사용하여 성적표 코멘트 생성하기매직 스쿨 로그인성적표 코멘트 도구 선택학생별 코멘트 맞춤 설정알마낙 AI를 사용하여 성적표 코멘트 생성하기과정 및 평가 체계 설정성적표 분량 및 학생 정보 구성알마낙 AI를 통한 코멘트 생성매직 스쿨과
Slackbot이 AI 에이전트가 됩니다
Salesforce의 기업용 메시징 플랫폼인 Slack에 내장된 자동 비서 Slackbot이 AI 에이전트로 진화하고 있습니다. Salesforce의 CTO인 Parker Harris는 이것이 OpenAI의 ChatGPT에 버금가는 바이럴 현상을 달성할 것으로 전망합니다.클라우드 소프트웨어 거대 기업인 Salesforce는 화요일 업데이트된 Slackbot을 출시했습니다. Business+ 및 Enterprise+ 고객에게 제공되는 이 새로운





집






