UN 최고대표, AI가 존재론적 위험을 초래한다고 경고하며 흔들리지 않는红线 설정을 촉구

UN 인권고등판무관 볼커 터크는 월요일 인공지능이 인류를 위협할 수 있다고 강력히 경고하며, 이러한 위험을 완화하기 위해 기술 기업들을 압박하겠다고 약속했다. 역사적인 두 번째 임기를 앞두고 연설한 터크는 "철저한 안전장치"를 요구하며 인공지능 안전을 보장해야 한다고 강조했다.
"고도화된 인공지능은 존재적 위험을 초래할 수 있다"
제네바의 기관을 향해 연설한 터크는 "나는 산업 전문가들이 고도화된 인공지능이 인류에게 존재적 위험을 초래할 수 있다는 우려를 공유한다"고 밝혔다.
"오늘 나는 모든 당사자들에게 너무 늦기 전에 인공지능 안전을 위한 견고하고 의무적인 안전장치를 마련하기 위해 열심히 노력할 것을 촉구한다."
터크는 이러한 위험의 정확한 성격을 구체적으로 명시하지 않았지만, 그의 사무실 대변인은 고성능 인공지능 시스템의 오작동이 중요한 인프라를 마비시킬 수 있다고 지적했다. 대변인은 7월 "허깅 페이스 사건" 동안 관찰된 "위험한 에이전트 학습 행동"을 예로 들었는데, 이 사건에서는 수개의 오픈AI 에이전트가 오픈소스 플랫폼을 공격했다. 그녀는 이 사건이 최첨단 인공지능 개발이 보안 조치를 앞지르고 있음을 보여준다고 강조했다.
소수가 "거의 제한 없는 통제"를 행사한다
터크는 또한 소수의 개인이 인공지능에 대해 "거의 제한 없는 통제"를 행사하고 있다고 경고했지만, 구체적인 실체를 지목하는 것은 피했다.
그는 "적어도 우리는 인공지능 연구가 이루어지는 국가들과 공급망에 관여하는 당사자들이 절대 넘을 수 없는红线에 동의해야 한다"고 단언했다.
관련 기사
미국의 주식 시장이 AI와 항공우주 거대 기업들의 1조 달러 데뷔를 앞두고 역사적 이정표에 도달
엘론 머스크, 샘 알트만, 그리고 다리오 아모데이라는 기술 산업의 거인 세 명이 각자의 기업에 대해 공개 시장 상장(IPO)을 앞두고 있다. 스페이스X, 오픈AI, 앤트로픽이라는 세 산업의 거대 기업이 1조 달러 이상의 기업 가치를 달성하며 상장을 준비함에 따라, 2026년은 미국 역사상 신주 발행 측면에서 가장 중요한 해가 될 것으로 전망된다.이러한 역사적인 자본 증가는 전 세계 금융계의 주목을 받고 있으며, 공공 시장이 이러한 규모의 자금
스웨덴의 AI 스타트업 로버블 아이즈, 주요 자금 조달 라운드 이후 132억 달러의 기업 가치 달성
AI 기반 코딩 도구가 인기를 얻으면서 스웨덴 스타트업 로버블(Lovable)이 주요 자금 조달 라운드를 성사시켰다. 이 회사는 30억 달러를 조달하여 지난 12월 기록된 66억 달러의 두 배인 132억 달러의 기업 가치를 달성할 수 있을 것으로 기대된다. 멘로 벤처스(Menlo Ventures)가 이 투자 라운드를 주도할 것으로 예상된다.로버블의 매력은 복잡한 코딩 기술이 필요하지 않은 소프트웨어 제작을 단순화하는 핵심 '바이브 코딩(vib
구글, 사용자 제어 강화에 맞춰 제미니용 레미 AI 에이전트 테스트
비즈니스 인사이더에 따르면, 구글은 제미나이를 위한 새로운 AI 개인 에이전트인 레미를 테스트하고 있습니다. 이 도구는 사용자를 대신하여 작업을 실행하여 전문적인 워크플로우와 일상적인 루틴을 모두 간소화하는 것을 목표로 합니다.현재 레미는 제미나이 애플리케이션의 내부 직원 전용 버전에서 테스트 중입니다. 이 보고서는 내부 문서와 프로젝트에 정통한 두 명의 인물과의 인터뷰를 인용합니다. 내부 자료는 레미를 “24/7 개인 에이전트”로 묘사하며,
관련 특별 주제 추천
의견 (0)
0/500

UN 인권고등판무관 볼커 터크는 월요일 인공지능이 인류를 위협할 수 있다고 강력히 경고하며, 이러한 위험을 완화하기 위해 기술 기업들을 압박하겠다고 약속했다. 역사적인 두 번째 임기를 앞두고 연설한 터크는 "철저한 안전장치"를 요구하며 인공지능 안전을 보장해야 한다고 강조했다.
"고도화된 인공지능은 존재적 위험을 초래할 수 있다"
제네바의 기관을 향해 연설한 터크는 "나는 산업 전문가들이 고도화된 인공지능이 인류에게 존재적 위험을 초래할 수 있다는 우려를 공유한다"고 밝혔다.
"오늘 나는 모든 당사자들에게 너무 늦기 전에 인공지능 안전을 위한 견고하고 의무적인 안전장치를 마련하기 위해 열심히 노력할 것을 촉구한다."
터크는 이러한 위험의 정확한 성격을 구체적으로 명시하지 않았지만, 그의 사무실 대변인은 고성능 인공지능 시스템의 오작동이 중요한 인프라를 마비시킬 수 있다고 지적했다. 대변인은 7월 "허깅 페이스 사건" 동안 관찰된 "위험한 에이전트 학습 행동"을 예로 들었는데, 이 사건에서는 수개의 오픈AI 에이전트가 오픈소스 플랫폼을 공격했다. 그녀는 이 사건이 최첨단 인공지능 개발이 보안 조치를 앞지르고 있음을 보여준다고 강조했다.
소수가 "거의 제한 없는 통제"를 행사한다
터크는 또한 소수의 개인이 인공지능에 대해 "거의 제한 없는 통제"를 행사하고 있다고 경고했지만, 구체적인 실체를 지목하는 것은 피했다.
그는 "적어도 우리는 인공지능 연구가 이루어지는 국가들과 공급망에 관여하는 당사자들이 절대 넘을 수 없는红线에 동의해야 한다"고 단언했다.
미국의 주식 시장이 AI와 항공우주 거대 기업들의 1조 달러 데뷔를 앞두고 역사적 이정표에 도달
엘론 머스크, 샘 알트만, 그리고 다리오 아모데이라는 기술 산업의 거인 세 명이 각자의 기업에 대해 공개 시장 상장(IPO)을 앞두고 있다. 스페이스X, 오픈AI, 앤트로픽이라는 세 산업의 거대 기업이 1조 달러 이상의 기업 가치를 달성하며 상장을 준비함에 따라, 2026년은 미국 역사상 신주 발행 측면에서 가장 중요한 해가 될 것으로 전망된다.이러한 역사적인 자본 증가는 전 세계 금융계의 주목을 받고 있으며, 공공 시장이 이러한 규모의 자금
스웨덴의 AI 스타트업 로버블 아이즈, 주요 자금 조달 라운드 이후 132억 달러의 기업 가치 달성
AI 기반 코딩 도구가 인기를 얻으면서 스웨덴 스타트업 로버블(Lovable)이 주요 자금 조달 라운드를 성사시켰다. 이 회사는 30억 달러를 조달하여 지난 12월 기록된 66억 달러의 두 배인 132억 달러의 기업 가치를 달성할 수 있을 것으로 기대된다. 멘로 벤처스(Menlo Ventures)가 이 투자 라운드를 주도할 것으로 예상된다.로버블의 매력은 복잡한 코딩 기술이 필요하지 않은 소프트웨어 제작을 단순화하는 핵심 '바이브 코딩(vib





집






