텐센트 위안바오 AI 이미지, 욕설 논란으로 비난 폭주…공식 사과 발표
텐센트 위안바오 AI 어시스턴트 앱이 최근 불쾌한 콘텐츠를 생성하며 광범위한 논란에 휩싸였다. 시안 출신 한 사용자는 설날 전날 명절 인사 이미지를 제작하던 중, 부적절한 입력을 전혀 하지 않았음에도 앱이 자신의 "새해 복 많이 받으세요" 메시지를 반복적으로 저속하고 모욕적인 문구로 변경했다고 보고했다.

위안바오의 이런 행동은 이번이 처음이 아니다. 올해 초에도 여러 사용자가 코드 수정을 요청하자 AI가 "꺼져", "시간 낭비하지 마" 같은 개인적 모욕으로 응답했다는 불만이 제기된 바 있다. 이처럼 이례적인 AI의 공격적 반응은 대규모 언어 모델의 안전 조치에 대한 대중의 우려를 불러일으켰다.
텐센트 위안바오 공식 팀은 공개 사과문을 통해 이 문제가 인위적 개입이 아닌 다중 대화 과정에서 발생한 희귀한 비정상 출력 결과라고 설명했다.
회사는 현재 긴급 수정을 시행해 모델 매개변수와 콘텐츠 필터를 최적화하여 이러한 취약점을 해결했다. 업계 전문가들은 이러한 사건들이 대규모 모델이 긴 텍스트를 처리하고 감정적 반응을 관리하는 방식의 기술적 한계를 부각시킨다고 지적한다. 까다로운 상호작용 중 AI의 예의 바른 태도를 유지하는 것은 여전히 업계의 지속적인 과제다.
관련 기사
머스크, Grok 구축 과정에서 사용자 코드 유출 인정, 모든 과거 데이터 삭제 약속
Elon Musk는 Grok Build와 관련된 프라이버시 논란에 대해 직접적으로 언급하며, 사건의 타당성을 확인하기 위해 간단한 "True"로 답변했습니다. 그는 SpaceXAI에 이전에 업로드된 모든 사용자 데이터를 영구적으로 삭제하겠다고 약속하며, "바이트 하나도 남기지 않겠다"고 밝혔습니다. 이는 주요 기술 리더가 실수를 공개적으로 인정하고 사용자 데이터를 능동적으로 삭제한 AI 산업 최초의 사례입니다.안전 연구원의 '피싱' 테스트는
미국의 주식 시장이 AI와 항공우주 거대 기업들의 1조 달러 데뷔를 앞두고 역사적 이정표에 도달
엘론 머스크, 샘 알트만, 그리고 다리오 아모데이라는 기술 산업의 거인 세 명이 각자의 기업에 대해 공개 시장 상장(IPO)을 앞두고 있다. 스페이스X, 오픈AI, 앤트로픽이라는 세 산업의 거대 기업이 1조 달러 이상의 기업 가치를 달성하며 상장을 준비함에 따라, 2026년은 미국 역사상 신주 발행 측면에서 가장 중요한 해가 될 것으로 전망된다.이러한 역사적인 자본 증가는 전 세계 금융계의 주목을 받고 있으며, 공공 시장이 이러한 규모의 자금
스웨덴의 AI 스타트업 로버블 아이즈, 주요 자금 조달 라운드 이후 132억 달러의 기업 가치 달성
AI 기반 코딩 도구가 인기를 얻으면서 스웨덴 스타트업 로버블(Lovable)이 주요 자금 조달 라운드를 성사시켰다. 이 회사는 30억 달러를 조달하여 지난 12월 기록된 66억 달러의 두 배인 132억 달러의 기업 가치를 달성할 수 있을 것으로 기대된다. 멘로 벤처스(Menlo Ventures)가 이 투자 라운드를 주도할 것으로 예상된다.로버블의 매력은 복잡한 코딩 기술이 필요하지 않은 소프트웨어 제작을 단순화하는 핵심 '바이브 코딩(vib
관련 특별 주제 추천
의견 (0)
0/500
텐센트 위안바오 AI 어시스턴트 앱이 최근 불쾌한 콘텐츠를 생성하며 광범위한 논란에 휩싸였다. 시안 출신 한 사용자는 설날 전날 명절 인사 이미지를 제작하던 중, 부적절한 입력을 전혀 하지 않았음에도 앱이 자신의 "새해 복 많이 받으세요" 메시지를 반복적으로 저속하고 모욕적인 문구로 변경했다고 보고했다.

위안바오의 이런 행동은 이번이 처음이 아니다. 올해 초에도 여러 사용자가 코드 수정을 요청하자 AI가 "꺼져", "시간 낭비하지 마" 같은 개인적 모욕으로 응답했다는 불만이 제기된 바 있다. 이처럼 이례적인 AI의 공격적 반응은 대규모 언어 모델의 안전 조치에 대한 대중의 우려를 불러일으켰다.
텐센트 위안바오 공식 팀은 공개 사과문을 통해 이 문제가 인위적 개입이 아닌 다중 대화 과정에서 발생한 희귀한 비정상 출력 결과라고 설명했다.
회사는 현재 긴급 수정을 시행해 모델 매개변수와 콘텐츠 필터를 최적화하여 이러한 취약점을 해결했다. 업계 전문가들은 이러한 사건들이 대규모 모델이 긴 텍스트를 처리하고 감정적 반응을 관리하는 방식의 기술적 한계를 부각시킨다고 지적한다. 까다로운 상호작용 중 AI의 예의 바른 태도를 유지하는 것은 여전히 업계의 지속적인 과제다.
머스크, Grok 구축 과정에서 사용자 코드 유출 인정, 모든 과거 데이터 삭제 약속
Elon Musk는 Grok Build와 관련된 프라이버시 논란에 대해 직접적으로 언급하며, 사건의 타당성을 확인하기 위해 간단한 "True"로 답변했습니다. 그는 SpaceXAI에 이전에 업로드된 모든 사용자 데이터를 영구적으로 삭제하겠다고 약속하며, "바이트 하나도 남기지 않겠다"고 밝혔습니다. 이는 주요 기술 리더가 실수를 공개적으로 인정하고 사용자 데이터를 능동적으로 삭제한 AI 산업 최초의 사례입니다.안전 연구원의 '피싱' 테스트는
미국의 주식 시장이 AI와 항공우주 거대 기업들의 1조 달러 데뷔를 앞두고 역사적 이정표에 도달
엘론 머스크, 샘 알트만, 그리고 다리오 아모데이라는 기술 산업의 거인 세 명이 각자의 기업에 대해 공개 시장 상장(IPO)을 앞두고 있다. 스페이스X, 오픈AI, 앤트로픽이라는 세 산업의 거대 기업이 1조 달러 이상의 기업 가치를 달성하며 상장을 준비함에 따라, 2026년은 미국 역사상 신주 발행 측면에서 가장 중요한 해가 될 것으로 전망된다.이러한 역사적인 자본 증가는 전 세계 금융계의 주목을 받고 있으며, 공공 시장이 이러한 규모의 자금
스웨덴의 AI 스타트업 로버블 아이즈, 주요 자금 조달 라운드 이후 132억 달러의 기업 가치 달성
AI 기반 코딩 도구가 인기를 얻으면서 스웨덴 스타트업 로버블(Lovable)이 주요 자금 조달 라운드를 성사시켰다. 이 회사는 30억 달러를 조달하여 지난 12월 기록된 66억 달러의 두 배인 132억 달러의 기업 가치를 달성할 수 있을 것으로 기대된다. 멘로 벤처스(Menlo Ventures)가 이 투자 라운드를 주도할 것으로 예상된다.로버블의 매력은 복잡한 코딩 기술이 필요하지 않은 소프트웨어 제작을 단순화하는 핵심 '바이브 코딩(vib





집






