죽은 자는 명예훼손으로 고소할 수 없지만, 딥페이크는 새로운 윤리적 경각심을 불러일으킵니다.

배우 고 로빈 윌리엄스의 딸인 젤다 윌리엄스가 아버지의 팬들에게 개인적인 메시지를 전하고 있습니다.

"제발 제발 제 아버지에 대한 AI 생성 동영상을 보내지 말아주세요. 제가 보고 싶지도 않고 의미 있다고 생각하지도 않으니까요. 안 보고 싶고, 앞으로도 안 볼 겁니다."라고 그녀는 월요일에 올린 인스타그램 스토리에서 말했습니다. "조금이라도 존경심이 있다면 그와 저, 그리고 다른 모든 사람에게 이런 짓을 그만두세요. 무의미하고 노력의 낭비이며, 장담하건대 그가 원하지 않았을 것입니다."

사용자가 자신, 친구, 특정 만화 캐릭터의 매우 사실적인 딥페이크를 만들 수 있는 OpenAI의 소라 2 비디오 모델과 소라 소셜 앱이 출시된 직후에 윌리엄스가 이 글을 올린 것은 우연이 아닐 것입니다.

학생 언론법 센터에 따르면 고인의 명예를 훼손하는 것은 불법이 아니기 때문에 이러한 기능은 보호받지 못하는 대상인 고인에게도 적용될 수 있습니다.

Sora는 사용자가 본인 또는 초상권 사용을 허락한 친구(OpenAI에서는 '카메오'라고 함)가 아닌 경우, 살아있는 사람의 동영상을 생성하지 못하도록 제한합니다. 그러나 이러한 제한은 일반적으로 아무런 제약 없이 재현할 수 있는 고인의 경우에는 적용되지 않습니다. 현재 초대를 통해서만 이용할 수 있는 이 앱에는 마틴 루터 킹 주니어, 프랭클린 델라노 루즈벨트, 리처드 닉슨과 같은 역사적 인물과 밥 로스, 존 레논, 알렉스 트레벡, 그리고 실제로 로빈 윌리엄스와 같은 고인이 된 유명인이 등장하는 동영상이 많이 올라오고 있습니다.

사망자 동영상 생성에 대한 OpenAI의 정책은 여전히 모호합니다. 예를 들어, 테크크런치의 테스트 결과, 소라 2는 2024년에 사망한 지미 카터 전 대통령이나 2009년에 사망한 마이클 잭슨의 동영상은 제작하지 않지만, 2014년에 사망한 로빈 윌리엄스를 닮은 콘텐츠를 제작했습니다. OpenAI의 카메오 기능을 통해 살아 있는 개인은 다른 사람이 제작한 동영상에 자신의 출연 가이드라인을 설정할 수 있지만(앞서 소라에 대한 비판에 대한 답변), 고인은 그러한 제어 권한이 없습니다. 리처드 닉슨이 제가 만든 경찰 폐지를 지지하는 딥페이크 영상을 본다면 무덤에서 돌아서고 있을 것 같습니다.

OpenAI는 사망한 인물의 딥페이크 제작이 허용되는지에 대한 테크크런치의 문의에 응답하지 않았습니다. 하지만 윌리엄스와 같은 고인이 된 유명인의 딥페이크 생성은 회사에서 허용하는 용도에 해당할 가능성이 있으며, 법적 판례에 따르면 OpenAI는 고인의 명예훼손에 대한 책임을 지지 않을 가능성이 높습니다.

Disrupt 2025에서 10,000명 이상의 기술 및 VC 리더와 함께 성장과 인맥을 쌓으세요.

스타트업의 성장을 촉진하고 경쟁력을 강화하는 인사이트를 제공하기 위해 마련된 200개 이상의 세션을 이끄는 250여 명의 거물급 인사 중 일부는 Netflix, Box, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil, Vinod Khosla 등입니다. 테크크런치 20주년과 기술 분야의 최고 전문가들로부터 배울 수 있는 기회를 놓치지 마세요. 개장 전에 티켓을 구매하면 최대 444달러를 절약할 수 있습니다.

Disrupt 2025에서 10,000명 이상의 기술 및 VC 리더들과 함께 성장과 인맥을 쌓으세요.

스타트업의 성장을 촉진하고 경쟁력을 강화하는 인사이트를 제공하기 위해 마련된 200개 이상의 세션을 이끄는 250여 명의 거물급 인사 중 일부는 Netflix, Box, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil, Vinod Khosla 등입니다. 기술 분야의 최고 전문가들로부터 배울 수 있는 기회를 놓치지 마세요. 개장 전에 티켓을 구매하면 최대 444달러를 절약할 수 있습니다.

윌리엄스는 "실제 인물의 유산이 '막연하게 닮았으니 이 정도면 충분하다'는 식으로 축소되어 다른 사람들이 그들을 꼭두각시 삼아 끔찍한 틱톡 콘텐츠를 제작하는 것을 보는 것은 분노를 자아냅니다."라고 썼습니다.

OpenAI에 대한 비평가들은 이 회사가 이러한 문제에 부주의했기 때문에 출시 후 소라가 피터 그리핀이나 피카츄와 같은 저작권이 있는 캐릭터의 AI 클립으로 빠르게 포화상태에 이르렀다고 주장합니다. CEO 샘 알트먼은 처음에 할리우드 스튜디오와 에이전시가 소라에서 제작한 동영상에 자신의 지적 재산이 사용되는 것을 원하지 않는다면 명시적으로 옵트아웃해야 한다고 말했습니다. 영화협회는 이미 "잘 정립된 저작권법은 제작자의 권리를 보호하며 여기에도 적용된다"며 OpenAI에 이 문제를 해결할 것을 촉구한 바 있습니다. 이후 알트먼은 이러한 입장을 번복하겠다고 발표했습니다.

소라는 결과물의 사실성을 고려할 때 현재까지 대중에게 공개된 딥페이크가 가능한 AI 모델 중 가장 위험한 모델이라고 할 수 있습니다. xAI와 같은 경쟁 플랫폼은 덜 발전되어 있지만 안전장치가 훨씬 적기 때문에 실제 인물의 포르노 딥페이크 제작이 가능합니다. 다른 회사들이 OpenAI와의 격차를 좁혀가는 상황에서, 살아 있든 죽었든 실제 인물을 단순한 장난감으로 취급한다면 무서운 선례를 남길 위험이 있습니다.