메타, 플랫폼 광고로 AI '누디파이' 앱 크러시 AI를 고소하다

메타는 널리 사용되는 AI '누드화' 애플리케이션인 Crush AI의 제작자를 상대로 소송을 제기했으며, 이 앱은 메타의 플랫폼에 수천 개의 광고를 게재한 것으로 알려졌습니다. 법적 조치와 함께 Meta는 Crush AI와 같은 유사한 앱에 대응하기 위한 새로운 조치를 시행한다고 발표했습니다.

메타는 홍콩에서 제기한 소송에서 Crush AI의 배후에 있는 조이 타임라인 HK가 광고 심의 시스템을 우회하여 AI 누드화 서비스를 홍보하려 했다고 비난했습니다. 메타 블로그 게시물에 따르면, 정책 위반을 이유로 해당 업체의 광고를 반복적으로 삭제했지만 Joy Timeline HK는 계속해서 새로운 광고를 만들었습니다.

페이크 업 뉴스레터의 저자 알렉시오스 만차리스(Alexios Mantzarlis)가 보고한 바에 따르면, 크러시 AI는 생성 AI를 사용하여 실제 인물의 합의되지 않은 성적으로 노골적인 딥페이크를 제작했습니다. 이 서비스는 2025년 1월 초 메타의 플랫폼에 8,000개 이상의 'AI 옷 벗기기' 도구 광고를 게재한 것으로 알려졌습니다. 만차리스의 1월 분석에 따르면 크러시 AI 웹사이트 트래픽의 거의 90%가 페이스북이나 인스타그램에서 발생했으며, 그는 이러한 사이트 중 몇 개를 메타에 직접 신고했습니다.

크러시 AI는 메타의 광고 안전장치를 피하기 위해 수십 개의 광고주 계정을 만들고 도메인 이름을 정기적으로 변경한 것으로 추정됩니다. 만차리스는 많은 계정에 '지우개 애니원의 옷'이라는 이름과 함께 숫자가 변형된 라벨이 붙어 있었다고 지적했습니다. 한때 이 서비스는 자사 제품을 홍보하는 페이스북 페이지를 운영하기도 했습니다.

이러한 문제에 직면한 것은 페이스북과 인스타그램만이 아닙니다. X와 Meta와 같은 플랫폼은 제너레이티브 AI 기능을 빠르게 통합하면서 이러한 기술이 특히 젊은 사용자들에게 안전하지 않은 환경을 조성하는 것을 방지하는 데 고심하고 있습니다.

연구에 따르면 2024년 한 해 동안 X와 Reddit을 비롯한 플랫폼에서 AI 옷을 벗기는 애플리케이션에 대한 링크가 급격히 증가한 것으로 나타났습니다. 또한 YouTube는 이러한 앱의 광고를 수백만 명의 시청자에게 표시한 것으로 알려졌습니다. 이에 따라 Meta와 TikTok은 AI 누드 도구와 관련된 검색어를 차단했지만, 이러한 서비스를 완전히 없애는 것은 여전히 어렵습니다.

메타는 블로그 게시물에서 광고에 노골적인 이미지가 포함되어 있지 않더라도 AI 누드 또는 옷을 벗기는 서비스 광고를 탐지하는 특수 기술을 개발했다고 밝혔습니다. 이 회사는 현재 패턴 매칭 시스템을 사용하여 중복 광고를 신속하게 식별하고 제거하는 동시에 플래그가 지정된 용어, 문구 및 이모티콘의 어휘를 확장하고 있습니다.

테크크런치 올 스테이지 패스를 $200 이상 할인된 가격에 만나보세요.

더 스마트하게 구축하세요. 더 빠르게 확장하세요. 더 깊이 연결하세요. 프레커서 벤처스, NEA, 인덱스 벤처스, 언더스코어 VC 등의 업계 리더와 함께 전략 세션, 워크샵, 귀중한 네트워킹을 하루 동안 즐겨보세요.

테크크런치 올 스테이지 패스를 $200 이상 할인된 가격에 구매하세요.

더 스마트하게 구축하세요. 더 빠르게 확장하세요. 더 깊이 연결하세요. 프레커서 벤처스, NEA, 인덱스 벤처스, 언더스코어 VC 등의 업계 리더들과 함께 전략 세션, 워크샵, 귀중한 네트워킹의 하루를 보내세요.

메타는 AI 누드화 서비스를 홍보하는 새로운 계정 클러스터에 악의적인 행위자 네트워크를 방해하는 기존 기술을 적용하고 있다고 밝혔습니다. 2025년 1월부터 이 회사는 이러한 도구를 광고하는 4개의 네트워크를 해체했습니다.

Meta는 자체 플랫폼 외에도 온라인 아동 성 착취에 대응하기 위해 Google, Snap 및 기타 기술 기업들과 협력하는 Tech Coalition의 Lantern 프로그램을 통해 AI 누드 애플리케이션에 대한 정보를 공유하기 시작할 것입니다. 메타는 3월 이후 이 네트워크를 통해 3,800개 이상의 고유 URL을 공유했다고 보고했습니다.

법안과 관련해서는 부모가 자녀의 앱 다운로드를 모니터링하고 승인할 수 있도록 하는 법안을 지속적으로 지지하기로 약속했습니다. 메타는 이전에 미국 테이크 잇 다운 법안을 지지한 바 있으며, 현재 입법자들과 법안 시행을 위해 협력하고 있습니다.