유튜브, 정치인·공직자·언론인을 대상으로 AI 딥페이크 탐지 기능 확대

화요일, 유튜브는 딥페이크 탐지 기술을 일부 정부 관계자, 정치 후보자 및 언론인 대상으로 확대한다고 발표했다. 이 도구는 AI로 생성된 유사 영상을 식별하며, 시범 운영 참여자들은 유튜브 정책을 위반한다고 판단되는 무단 콘텐츠의 삭제를 요청할 수 있다.

이 탐지 시스템은 초기 테스트 단계를 거친 후, 작년 유튜브 파트너 프로그램에 가입된 약 400만 명의 크리에이터를 대상으로 처음 출시되었습니다.

저작권이 있는 자료를 위한 유튜브의 기존 콘텐츠 ID 시스템과 마찬가지로, 이 유사성 탐지 기능은 AI로 시뮬레이션된 얼굴을 식별합니다. 이러한 합성 이미지는 때때로 유명 인사들이 실제 생활에서는 결코 하지 않았던 말이나 행동을 하는 것처럼 보이게 함으로써 허위 정보를 유포하고 현실을 왜곡하는 데 사용되기도 합니다.

이번 시범 프로그램을 통해 유튜브는 공인의 모습을 매우 사실적으로 재현할 수 있는 AI 기술의 위험성과 표현의 자유 사이에서 균형을 맞추고자 합니다.

화요일 발표에 앞서 열린 기자 간담회에서 유튜브의 정부 업무 및 공공 정책 담당 부사장 레슬리 밀러는 “이번 확대 조치는 공공 토론의 건전성을 보호하기 위한 것”이라고 말했습니다. 그녀는 “우리는 AI 사칭이 시민 사회 활동가들에게 특히 큰 위험을 초래한다는 점을 인식하고 있습니다. 하지만 이 새로운 안전 장치를 제공하는 동시에 신중하게 적용하고 있습니다”라고 덧붙였습니다.

이미지 출처: YouTube

밀러는 탐지된 모든 일치 항목이 요청에 따라 삭제되는 것은 아니라고 설명했다. 대신 유튜브는 기존 개인정보 보호정책에 따라 각 요청을 평가하여 해당 콘텐츠가 패러디나 정치적 비판에 해당하는지 판단할 것이며, 이 두 가지는 모두 보호받는 표현의 자유 형태에 속한다.

또한 유튜브는 워싱턴 D.C.에서 논의 중인 ‘NO FAKES 법안’을 지지하며 연방 차원의 보호 조치를 촉구하고 있다. 이 법안은 AI를 통해 생성된 개인의 목소리 및 외모의 무단 재현을 규제하는 내용을 담고 있다.

시범 테스트 참여 자격을 갖춘 사용자는 도구를 사용하기 전에 셀카와 정부 발급 신분증을 업로드하여 신원을 확인해야 한다. 승인되면 프로필을 생성하고, 탐지된 일치 항목을 검토하며, 필요한 경우 삭제를 요청할 수 있다. 유튜브는 향후 콘텐츠 ID와 유사한 방식으로, 사용자가 위반 콘텐츠가 게시되기 전에 차단하거나 해당 동영상으로 수익을 창출할 수 있도록 할 계획이다.

유튜브는 초기 테스트 그룹에 포함된 구체적인 정치인이나 공직자의 이름을 밝히지는 않았으나, 시간이 지남에 따라 이 기술을 널리 보급하는 것이 목표라고 밝혔다.

이미지 출처: YouTube

AI로 생성된 동영상에는 합성된 콘텐츠임을 나타내는 라벨이 표시되지만, 위치에 따라 차이가 있습니다. 대부분의 콘텐츠에서는 동영상 설명란에 라벨이 표시됩니다. 민감한 주제의 경우, 동영상이 재생되기 전에 라벨이 눈에 잘 띄는 곳에 표시됩니다. 이러한 접근 방식은 모든 AI 생성 콘텐츠에 대한 유튜브의 광범위한 정책을 반영한 것입니다.

라벨 배치와 관련해 유튜브 크리에이터 제품 담당 부사장인 암자드 하니프(Amjad Hanif)는 “많은 콘텐츠가 AI로 제작되지만, 그 구분이 콘텐츠 자체에 항상 중요한 것은 아니다”라고 설명했다. 그는 “예를 들어 AI로 생성된 만화는 더 눈에 띄는 경고 문구가 필요한 콘텐츠와는 다르다. 맥락이 중요하다”고 말했다.

유튜브는 크리에이터용 도구를 통해 처리된 딥페이크 삭제 건수를 공개하지는 않았으나, 현재까지의 건수는 “매우 적다”고 언급했다.

“대부분의 크리에이터에게 이 도구는 주로 어떤 콘텐츠가 제작되고 있는지에 대한 인식을 높여주었습니다. 실제로 삭제 요청이 들어오는 경우는 극히 드문데, 이는 탐지된 콘텐츠 대부분이 무해하거나 오히려 크리에이터의 비즈니스에 도움이 되는 것으로 판명되기 때문입니다,”라고 하니프는 말했습니다.

하지만 정부 고위 관료, 정치인, 언론인을 대상으로 한 딥페이크의 경우 사정이 다를 수 있다.

향후 유튜브는 딥페이크 탐지 기술을 인식 가능한 음성 및 인기 캐릭터와 같은 지적 재산권을 포함한 추가 영역으로 확대할 계획이다.