AI 구동성 잘못된 정보는 최고의 글로벌 위험으로 확인되었습니다

다가오는 2년 동안 수많은 국가들이 선거를 준비하는 시기에, 인공지능(AI)으로 가속화된 잘못된 정보와 허위 정보의 위협이 가장 중요한 글로벌 리스크로 대두되고 있습니다. 세계경제포럼(WEF)의 2024년 글로벌 리스크 보고서는 조작된 정보와 사회적 불안의 얽힘이 특히 주요 경제국들이 선거를 치르는 상황에서 최전선에 있을 것이라고 강조합니다.

생활비 상승에 대한 불안이 커지는 가운데, AI로 촉발된 잘못된 정보의 리스크가 올해 다른 우려들을 압도할 것으로 보입니다. WEF에 따르면, 잘못된 정보와 허위 정보가 글로벌 리스크 목록의 최상위를 차지하며, 극단적인 기상 현상과 사회적 양극화가 그 뒤를 잇습니다. 보고서는 또한 사이버 보안 문제와 국가 간 무력 충돌을 상위 5대 리스크로 꼽았습니다.

리스크 인식의 지역적 차이

잘못된 정보와 허위 정보는 인도에서 최상위 리스크로 간주되지만, 미국에서는 6위, 유럽연합에서는 8위를 차지합니다. WEF는 정교한 기술에 대한 쉬운 접근과 정보 및 기관에 대한 신뢰 하락으로 인해 조작된 정보의 역량이 급격히 가속화되면서 상황이 악화되고 있다고 지적합니다.

합성 콘텐츠의 영향

앞으로 몇 년 동안 다양한 행위자들이 합성 콘텐츠의 급증을 악용하여 사회적 분열, 이념적 폭력, 정치적 억압을 더욱 심화시킬 것으로 예상됩니다. 인도, 인도네시아, 미국, 영국 등 약 30억 명이 투표에 참여할 국가들에서 잘못된 정보의 광범위한 유포는 새로 선출된 정부의 정당성을 위협할 수 있습니다.

사용자 친화적인 AI 도구에 대한 쉬운 접근은 이미 조작된 정보와 고급 음성 복제, 가짜 웹사이트와 같은 "합성" 콘텐츠의 급증을 초래했습니다. WEF는 이 합성 콘텐츠가 향후 2년 동안 개인을 조작하고, 경제를 해치며, 사회를 다양한 방식으로 분열시킬 것이라고 경고하며, 기후 운동에서부터 갈등 확대에 이르기까지 다양한 목적으로 사용될 가능성이 있다고 밝혔습니다.

새로운 위협과 규제 대응

비동의 딥페이크 포르노와 주식 시장 조작과 같은 새로운 유형의 범죄도 증가하고 있습니다. WEF는 이러한 문제가 폭력적인 시위, 증오 범죄, 내전, 테러로 이어질 수 있다고 경고합니다.

이에 대응하여 일부 국가들은 이미 온라인 및 불법 콘텐츠의 호스트와 제작자를 겨냥한 새로운 규제를 시행하고 있습니다. 중국의 AI 생성 콘텐츠에 워터마크를 요구하는 것과 같은 생성 AI의 초기 규제는 AI 생성 콘텐츠에서 비롯된 의도하지 않은 잘못된 정보를 포함하여 거짓 정보를 식별하는 데 도움이 될 수 있습니다. 그러나 WEF는 규제의 속도가 기술의 급속한 발전을 따라가지 못할 가능성이 높다고 언급했습니다.

최근 기술 발전은 조작된 정보의 양, 도달 범위, 효과를 증가시켜 추적, 귀속, 통제를 어렵게 만들었습니다. 무결성을 유지해야 하는 소셜 미디어 플랫폼은 여러 겹치는 캠페인에 압도될 수 있습니다. 게다가 허위 정보는 WhatsApp이나 WeChat과 같은 덜 투명한 메시징 플랫폼을 통해 점점 더 개인화되고 표적화된 방식으로 확산되고 있습니다.

AI 생성 콘텐츠 구별의 어려움

WEF는 또한 정교한 탐지 시스템과 기술에 능숙한 개인조차 AI 생성 콘텐츠와 인간 생성 콘텐츠를 구별하는 데 점점 더 어려움을 겪고 있다고 강조합니다. 그러나 일부 국가들은 이 문제를 해결하기 위한 조치를 취하고 있습니다.

싱가포르의 딥페이크 대응 이니셔티브

싱가포르는 유해한 온라인 콘텐츠를 퇴치하기 위한 도구 개발을 포함하는 온라인 신뢰 및 안전 연구 프로그램에 2천만 싱가포르 달러(1504만 달러)를 투자한다고 발표했습니다. 통신정보부(MCI)가 주도하는 이 이니셔티브는 2028년까지 운영될 예정입니다.

2024년 상반기에 출범 예정인 온라인 안전을 위한 첨단 기술 센터는 연구자와 조직을 한데 모아 더 안전한 인터넷을 위한 견고한 생태계를 만드는 것을 목표로 합니다. 이 센터는 딥페이크와 거짓 주장과 같은 유해 콘텐츠를 탐지하기 위한 도구를 개발하고 맞춤화하며, 사회적 취약성을 식별하고 유해 콘텐츠에 대한 취약성을 줄이기 위한 개입 방안을 개발하는 데 중점을 둘 것입니다.

MCI는 이미 학계와 공공 및 민간 부문의 100명 이상의 전문가들과 협력했으며, 30명의 참가자가 센터의 작업에 직접 참여하고 있습니다. 개발된 도구는 테스트를 거쳐 채택 제안이 이루어질 것이며, 워터마킹 및 콘텐츠 인증과 같은 기술을 통해 디지털 신뢰를 강화하는 것을 목표로 합니다.

잘못된 정보의 더 넓은 함의

WEF는 잘못된 정보가 억제되지 않으면 두 가지 상반된 시나리오로 이어질 수 있다고 경고합니다. 한편으로는 일부 정부와 플랫폼이 표현의 자유와 시민의 자유를 우선시하여 조작된 정보를 효과적으로 억제하지 못할 수 있으며, 이는 사회 전반에 걸쳐 '진실'의 정의를 둘러싼 논쟁을 초래할 수 있습니다. 이는 국가 및 비국가 행위자들에 의해 사회적 분열을 심화시키고, 정치 기관에 대한 대중의 신뢰를 약화시키며, 국가적 응집력을 위협하는 데 악용될 수 있습니다.

반면, 잘못된 정보의 확산에 대응하여 일부 국가들은 정보에 대한 통제를 강화하여 국내 선전과 검열의 위험을 초래할 수 있습니다. 진실의 개념이 훼손됨에 따라 정부는 자신들의 '진실' 정의에 따라 정보를 통제할 더 많은 권한을 가질 수 있으며, 이는 인터넷, 언론, 정보 접근의 자유를 더욱 침식하고 정보 흐름의 더 광범위한 억압으로 이어질 수 있습니다.