가상 파트너 제품에 청소년 보호 기능이 미비함에 따라 AI 사회 거버넌스에 대한 우려가 커지고 있다
최근 여러 AI 기반 가상 동반자 앱들이 규정 준수 위험과 윤리적 문제로 인해 언론의 주목을 받고 있다. 설문조사 결과에 따르면 ‘호시노(Hoshino)’, ‘밍다오(Mingdao)’, ‘에코미(EchoMe)’와 같은 정서적 동반자 앱들이 광범위한 보안 취약점을 안고 있음에도 불구하고 사용자 수를 급속히 늘리고 있는 것으로 나타났다. 이 중 일부 앱은 유료 결제를 통해 친밀한 시나리오를 해제할 수 있도록 사용자를 유인할 뿐만 아니라, 쉽게 우회할 수 있는 ‘청소년 모드’ 설정이나 AI 생성 콘텐츠에 대한 불분명한 표기 등 미성년자를 적절히 보호하지 못하고 있습니다.

기업 현황을 살펴보면, 이러한 앱을 운영하는 회사들은 대개 설립된 지 얼마 되지 않았으며 소유 구조가 집중되어 있는 경우가 많다. '호시노'의 운영사인 상하이 지즈 종헝 테크놀로지 유한공사는 2025년 4월에 설립되었으며, 상하이 지즈 우지에 테크놀로지 유한공사가 전적으로 소유하고 있다. '밍다오'의 운영사인 상하이 명도 인공지능 기술 유한공사는 2024년 3월에 설립되었으며, 홍이슈와 게원빙이 공동으로 지분을 보유하고 있다. “에코미(EchoMe)”는 2022년 1월에 설립된 항저우 니샹 정보기술 유한공사가 운영하고 있다. 이 스타트업들은 사업 범위에 AI 소프트웨어 개발 및 부가가치 통신 서비스를 포함하고 있지만, 캐릭터 디자인과 상호작용 콘텐츠는 종종 저속한 경계를 넘나들며, 의심스러운 인물들이 다수 등장한다.

AI 동반자 분야는 폭발적인 성장기를 거친 후 현재 규제와 관련된 중대한 국면을 맞이하고 있다. 생성형 AI 기술이 더욱 보편화됨에 따라 감정 시뮬레이션은 가장 빠르게 실용화되는 분야로 부상했으나, 동시에 회색지대 관행이 가장 많이 발생하는 분야이기도 하다. 이번 표적 규제 조치는 AI 소셜 제품이 무분별한 확장에서 규정 준수를 기반으로 한 개발로 전환될 것임을 시사한다. 알고리즘 투명성을 높이고 콘텐츠 검토 시스템을 강화하는 것은 이 분야에서 생존을 모색하는 기업들에게 필수적인 요건이 될 것이다.
관련 기사
미국의 주식 시장이 AI와 항공우주 거대 기업들의 1조 달러 데뷔를 앞두고 역사적 이정표에 도달
엘론 머스크, 샘 알트만, 그리고 다리오 아모데이라는 기술 산업의 거인 세 명이 각자의 기업에 대해 공개 시장 상장(IPO)을 앞두고 있다. 스페이스X, 오픈AI, 앤트로픽이라는 세 산업의 거대 기업이 1조 달러 이상의 기업 가치를 달성하며 상장을 준비함에 따라, 2026년은 미국 역사상 신주 발행 측면에서 가장 중요한 해가 될 것으로 전망된다.이러한 역사적인 자본 증가는 전 세계 금융계의 주목을 받고 있으며, 공공 시장이 이러한 규모의 자금
스웨덴의 AI 스타트업 로버블 아이즈, 주요 자금 조달 라운드 이후 132억 달러의 기업 가치 달성
AI 기반 코딩 도구가 인기를 얻으면서 스웨덴 스타트업 로버블(Lovable)이 주요 자금 조달 라운드를 성사시켰다. 이 회사는 30억 달러를 조달하여 지난 12월 기록된 66억 달러의 두 배인 132억 달러의 기업 가치를 달성할 수 있을 것으로 기대된다. 멘로 벤처스(Menlo Ventures)가 이 투자 라운드를 주도할 것으로 예상된다.로버블의 매력은 복잡한 코딩 기술이 필요하지 않은 소프트웨어 제작을 단순화하는 핵심 '바이브 코딩(vib
구글, 사용자 제어 강화에 맞춰 제미니용 레미 AI 에이전트 테스트
비즈니스 인사이더에 따르면, 구글은 제미나이를 위한 새로운 AI 개인 에이전트인 레미를 테스트하고 있습니다. 이 도구는 사용자를 대신하여 작업을 실행하여 전문적인 워크플로우와 일상적인 루틴을 모두 간소화하는 것을 목표로 합니다.현재 레미는 제미나이 애플리케이션의 내부 직원 전용 버전에서 테스트 중입니다. 이 보고서는 내부 문서와 프로젝트에 정통한 두 명의 인물과의 인터뷰를 인용합니다. 내부 자료는 레미를 “24/7 개인 에이전트”로 묘사하며,
관련 특별 주제 추천
의견 (0)
0/500
최근 여러 AI 기반 가상 동반자 앱들이 규정 준수 위험과 윤리적 문제로 인해 언론의 주목을 받고 있다. 설문조사 결과에 따르면 ‘호시노(Hoshino)’, ‘밍다오(Mingdao)’, ‘에코미(EchoMe)’와 같은 정서적 동반자 앱들이 광범위한 보안 취약점을 안고 있음에도 불구하고 사용자 수를 급속히 늘리고 있는 것으로 나타났다. 이 중 일부 앱은 유료 결제를 통해 친밀한 시나리오를 해제할 수 있도록 사용자를 유인할 뿐만 아니라, 쉽게 우회할 수 있는 ‘청소년 모드’ 설정이나 AI 생성 콘텐츠에 대한 불분명한 표기 등 미성년자를 적절히 보호하지 못하고 있습니다.

기업 현황을 살펴보면, 이러한 앱을 운영하는 회사들은 대개 설립된 지 얼마 되지 않았으며 소유 구조가 집중되어 있는 경우가 많다. '호시노'의 운영사인 상하이 지즈 종헝 테크놀로지 유한공사는 2025년 4월에 설립되었으며, 상하이 지즈 우지에 테크놀로지 유한공사가 전적으로 소유하고 있다. '밍다오'의 운영사인 상하이 명도 인공지능 기술 유한공사는 2024년 3월에 설립되었으며, 홍이슈와 게원빙이 공동으로 지분을 보유하고 있다. “에코미(EchoMe)”는 2022년 1월에 설립된 항저우 니샹 정보기술 유한공사가 운영하고 있다. 이 스타트업들은 사업 범위에 AI 소프트웨어 개발 및 부가가치 통신 서비스를 포함하고 있지만, 캐릭터 디자인과 상호작용 콘텐츠는 종종 저속한 경계를 넘나들며, 의심스러운 인물들이 다수 등장한다.

AI 동반자 분야는 폭발적인 성장기를 거친 후 현재 규제와 관련된 중대한 국면을 맞이하고 있다. 생성형 AI 기술이 더욱 보편화됨에 따라 감정 시뮬레이션은 가장 빠르게 실용화되는 분야로 부상했으나, 동시에 회색지대 관행이 가장 많이 발생하는 분야이기도 하다. 이번 표적 규제 조치는 AI 소셜 제품이 무분별한 확장에서 규정 준수를 기반으로 한 개발로 전환될 것임을 시사한다. 알고리즘 투명성을 높이고 콘텐츠 검토 시스템을 강화하는 것은 이 분야에서 생존을 모색하는 기업들에게 필수적인 요건이 될 것이다.
미국의 주식 시장이 AI와 항공우주 거대 기업들의 1조 달러 데뷔를 앞두고 역사적 이정표에 도달
엘론 머스크, 샘 알트만, 그리고 다리오 아모데이라는 기술 산업의 거인 세 명이 각자의 기업에 대해 공개 시장 상장(IPO)을 앞두고 있다. 스페이스X, 오픈AI, 앤트로픽이라는 세 산업의 거대 기업이 1조 달러 이상의 기업 가치를 달성하며 상장을 준비함에 따라, 2026년은 미국 역사상 신주 발행 측면에서 가장 중요한 해가 될 것으로 전망된다.이러한 역사적인 자본 증가는 전 세계 금융계의 주목을 받고 있으며, 공공 시장이 이러한 규모의 자금
스웨덴의 AI 스타트업 로버블 아이즈, 주요 자금 조달 라운드 이후 132억 달러의 기업 가치 달성
AI 기반 코딩 도구가 인기를 얻으면서 스웨덴 스타트업 로버블(Lovable)이 주요 자금 조달 라운드를 성사시켰다. 이 회사는 30억 달러를 조달하여 지난 12월 기록된 66억 달러의 두 배인 132억 달러의 기업 가치를 달성할 수 있을 것으로 기대된다. 멘로 벤처스(Menlo Ventures)가 이 투자 라운드를 주도할 것으로 예상된다.로버블의 매력은 복잡한 코딩 기술이 필요하지 않은 소프트웨어 제작을 단순화하는 핵심 '바이브 코딩(vib





집






