오픈AI 재판에서 머스크의 유일한 증인이 다가오는 AGI军備경쟁에 경고

우리는 언제 AI 파국주의자들을 진지하게 받아들여야 하는가?
이 질문은 일론 머스크가 오픈AI의 영리 목적 AI 사업을 제한하려는 노력의 핵심에 자리 잡고 있다. 그의 법률 팀은 이 조직이 원래 AI 안전을 목표로 하는 자선 단체로 설립되었으나, 이익 추구를 위해 사명을 벗어났다고 주장한다. 이러한 주장을 뒷받침하기 위해 그들은 설립자들의 초기 이메일과 성명서를 인용했으며, 이들은 구글 딥마인드에 대한 공공 이익의 균형을 필요로 한다고 강조한 바 있다.
오늘 방어 측의 유일한 전문가 증인으로 피터 러셀이 출석했다. 그는 캘리포니아 대학교 버클리의 컴퓨터 과학 교수로, 수십 년간의 AI 연구 경력을 보유하고 있다. 그의 역할은 AI에 대한 맥락을 제공하고, 해당 기술이 우려할 만한 상당한 위험을 초래한다는 점을 입증하는 것이었다.
러셀은 2023년 3월 AI 연구에 6개월간의 유예 기간을 요구하는 공개 서한에 서명한 인물 중 한 명이었다. 흥미로운 모순으로, 머스크 또한 동일한 서한에 서명하면서도 동시에 자신의 영리 목적 AI 연구소인 xAI를 출범시켰다.
러셀은 배심원과 요번 곤살레스 로저스 판사 앞에서 AI 개발에는 사이버 보안 위협, 정렬 문제, 그리고 인공 일반 지능(AGI)의 승자독식 역학과 같은 다양한 위험이 수반된다고 증언했다. 그는 AGI 추구와 안전 보장 사이에는 본질적인 긴장 관계가 존재한다고 결론 내렸다.
러셀이 규제되지 않은 AI가 가져올 수 있는 존재론적 위협에 대해 더 광범위하게 우려한 점은 오픈AI 측 변호인들의 이의 제기로 법정 공개 증언에서 완전히 제시되지 않았으며, 이에 따라 판사가 그의 증언을 제한했다. 그러나 러셀은 전 세계 최전선 연구소들이 AGI 달성 경쟁을 벌이는 과정에서 발생하는 경쟁적 군비 경쟁을 오랫동안 비판해 왔으며, 이 분야에 대한 정부의 엄격한 규제를 주장해 왔다.
오픈AI의 법률 팀은 반대 심문을 통해 러셀이 해당 조직의 기업 구조나 구체적인 안전 프로토콜을 직접 평가하지 않았음을 입증하려 했다.
그럼에도 불구하고 이 기자는 물론 판사와 배심원들은 기업 이익 동기와 AI 안전 우려 간의 관계에 얼마나 큰 무게를 두어야 할지 결정해야 한다. 오픈AI의 거의 모든 설립자들은 AI 위험에 대해 강력히 경고하면서도 동시에 그 이점을 강조했고, 가능한 한 빠르게 AI를 구축하며 자신이 통제할 영리 목적 AI 사업을 위한 계획을 수립해 왔다.
외부에서 바라볼 때 명확한 문제가 하나 드러난다: 오픈AI의 설립자들은 조직 창립 이후 성공에 훨씬 더 많은 컴퓨팅 파워가 필요하다는 사실을 깨달았다. 이러한 자금은 오직 영리 목적 투자자들로부터만 조달될 수 있었다. AGI가 단일 실체의 손에 들어가는 것을 두려워한 설립 팀은 자본을 모색했고, 이는 결국 팀을 분열시키고 현재의 경쟁 구도를 형성하며 이번 소송으로 이어지게 했다.
이와 동일한 역학 관계가 국가 차원에서도 전개되고 있다. 버니 샌더스 상원의원이 데이터 센터 건설에 대한 모라토리엄을 부과하는 법안안을 제시했는데, 이는 머스크, 샘 알트만, 제프리 힌튼 등 여러 인사가 표현한 AI에 대한 우려를 인용한 것이다. 무역 단체인 데이터 혁신 센터에서 근무하는 호덴 오마르는 샌더스가 이러한 우려를 인용하면서도 그들의 희망을 인정하지 않는 것에 대해 이의를 제기하며, TechCrunch에 “기술 재벌들이 말하는 모든 것을 공공의 이익을 위해 무시해야 하는 이유, 특히 그들의 발언이 취약한 논거의 공백을 메우는 데 동원될 수 있을 때만 예외적으로 인정해야 하는 이유”가 불명확하다고 밝혔다.
이제 소송의 양측 모두 법원에 정확히 그 같은 행위를 요청하고 있다: 알트만과 머스크의 주장 중 자신의 법적 입장에 유용한 부분은 진지하게 받아들여야 하지만, 그렇지 않은 부분은 무시해야 한다는 것이다.
관련 기사
미국의 주식 시장이 AI와 항공우주 거대 기업들의 1조 달러 데뷔를 앞두고 역사적 이정표에 도달
엘론 머스크, 샘 알트만, 그리고 다리오 아모데이라는 기술 산업의 거인 세 명이 각자의 기업에 대해 공개 시장 상장(IPO)을 앞두고 있다. 스페이스X, 오픈AI, 앤트로픽이라는 세 산업의 거대 기업이 1조 달러 이상의 기업 가치를 달성하며 상장을 준비함에 따라, 2026년은 미국 역사상 신주 발행 측면에서 가장 중요한 해가 될 것으로 전망된다.이러한 역사적인 자본 증가는 전 세계 금융계의 주목을 받고 있으며, 공공 시장이 이러한 규모의 자금
스웨덴의 AI 스타트업 로버블 아이즈, 주요 자금 조달 라운드 이후 132억 달러의 기업 가치 달성
AI 기반 코딩 도구가 인기를 얻으면서 스웨덴 스타트업 로버블(Lovable)이 주요 자금 조달 라운드를 성사시켰다. 이 회사는 30억 달러를 조달하여 지난 12월 기록된 66억 달러의 두 배인 132억 달러의 기업 가치를 달성할 수 있을 것으로 기대된다. 멘로 벤처스(Menlo Ventures)가 이 투자 라운드를 주도할 것으로 예상된다.로버블의 매력은 복잡한 코딩 기술이 필요하지 않은 소프트웨어 제작을 단순화하는 핵심 '바이브 코딩(vib
구글, 사용자 제어 강화에 맞춰 제미니용 레미 AI 에이전트 테스트
비즈니스 인사이더에 따르면, 구글은 제미나이를 위한 새로운 AI 개인 에이전트인 레미를 테스트하고 있습니다. 이 도구는 사용자를 대신하여 작업을 실행하여 전문적인 워크플로우와 일상적인 루틴을 모두 간소화하는 것을 목표로 합니다.현재 레미는 제미나이 애플리케이션의 내부 직원 전용 버전에서 테스트 중입니다. 이 보고서는 내부 문서와 프로젝트에 정통한 두 명의 인물과의 인터뷰를 인용합니다. 내부 자료는 레미를 “24/7 개인 에이전트”로 묘사하며,
관련 특별 주제 추천
의견 (0)
0/500

우리는 언제 AI 파국주의자들을 진지하게 받아들여야 하는가?
이 질문은 일론 머스크가 오픈AI의 영리 목적 AI 사업을 제한하려는 노력의 핵심에 자리 잡고 있다. 그의 법률 팀은 이 조직이 원래 AI 안전을 목표로 하는 자선 단체로 설립되었으나, 이익 추구를 위해 사명을 벗어났다고 주장한다. 이러한 주장을 뒷받침하기 위해 그들은 설립자들의 초기 이메일과 성명서를 인용했으며, 이들은 구글 딥마인드에 대한 공공 이익의 균형을 필요로 한다고 강조한 바 있다.
오늘 방어 측의 유일한 전문가 증인으로 피터 러셀이 출석했다. 그는 캘리포니아 대학교 버클리의 컴퓨터 과학 교수로, 수십 년간의 AI 연구 경력을 보유하고 있다. 그의 역할은 AI에 대한 맥락을 제공하고, 해당 기술이 우려할 만한 상당한 위험을 초래한다는 점을 입증하는 것이었다.
러셀은 2023년 3월 AI 연구에 6개월간의 유예 기간을 요구하는 공개 서한에 서명한 인물 중 한 명이었다. 흥미로운 모순으로, 머스크 또한 동일한 서한에 서명하면서도 동시에 자신의 영리 목적 AI 연구소인 xAI를 출범시켰다.
러셀은 배심원과 요번 곤살레스 로저스 판사 앞에서 AI 개발에는 사이버 보안 위협, 정렬 문제, 그리고 인공 일반 지능(AGI)의 승자독식 역학과 같은 다양한 위험이 수반된다고 증언했다. 그는 AGI 추구와 안전 보장 사이에는 본질적인 긴장 관계가 존재한다고 결론 내렸다.
러셀이 규제되지 않은 AI가 가져올 수 있는 존재론적 위협에 대해 더 광범위하게 우려한 점은 오픈AI 측 변호인들의 이의 제기로 법정 공개 증언에서 완전히 제시되지 않았으며, 이에 따라 판사가 그의 증언을 제한했다. 그러나 러셀은 전 세계 최전선 연구소들이 AGI 달성 경쟁을 벌이는 과정에서 발생하는 경쟁적 군비 경쟁을 오랫동안 비판해 왔으며, 이 분야에 대한 정부의 엄격한 규제를 주장해 왔다.
오픈AI의 법률 팀은 반대 심문을 통해 러셀이 해당 조직의 기업 구조나 구체적인 안전 프로토콜을 직접 평가하지 않았음을 입증하려 했다.
그럼에도 불구하고 이 기자는 물론 판사와 배심원들은 기업 이익 동기와 AI 안전 우려 간의 관계에 얼마나 큰 무게를 두어야 할지 결정해야 한다. 오픈AI의 거의 모든 설립자들은 AI 위험에 대해 강력히 경고하면서도 동시에 그 이점을 강조했고, 가능한 한 빠르게 AI를 구축하며 자신이 통제할 영리 목적 AI 사업을 위한 계획을 수립해 왔다.
외부에서 바라볼 때 명확한 문제가 하나 드러난다: 오픈AI의 설립자들은 조직 창립 이후 성공에 훨씬 더 많은 컴퓨팅 파워가 필요하다는 사실을 깨달았다. 이러한 자금은 오직 영리 목적 투자자들로부터만 조달될 수 있었다. AGI가 단일 실체의 손에 들어가는 것을 두려워한 설립 팀은 자본을 모색했고, 이는 결국 팀을 분열시키고 현재의 경쟁 구도를 형성하며 이번 소송으로 이어지게 했다.
이와 동일한 역학 관계가 국가 차원에서도 전개되고 있다. 버니 샌더스 상원의원이 데이터 센터 건설에 대한 모라토리엄을 부과하는 법안안을 제시했는데, 이는 머스크, 샘 알트만, 제프리 힌튼 등 여러 인사가 표현한 AI에 대한 우려를 인용한 것이다. 무역 단체인 데이터 혁신 센터에서 근무하는 호덴 오마르는 샌더스가 이러한 우려를 인용하면서도 그들의 희망을 인정하지 않는 것에 대해 이의를 제기하며, TechCrunch에 “기술 재벌들이 말하는 모든 것을 공공의 이익을 위해 무시해야 하는 이유, 특히 그들의 발언이 취약한 논거의 공백을 메우는 데 동원될 수 있을 때만 예외적으로 인정해야 하는 이유”가 불명확하다고 밝혔다.
이제 소송의 양측 모두 법원에 정확히 그 같은 행위를 요청하고 있다: 알트만과 머스크의 주장 중 자신의 법적 입장에 유용한 부분은 진지하게 받아들여야 하지만, 그렇지 않은 부분은 무시해야 한다는 것이다.
미국의 주식 시장이 AI와 항공우주 거대 기업들의 1조 달러 데뷔를 앞두고 역사적 이정표에 도달
엘론 머스크, 샘 알트만, 그리고 다리오 아모데이라는 기술 산업의 거인 세 명이 각자의 기업에 대해 공개 시장 상장(IPO)을 앞두고 있다. 스페이스X, 오픈AI, 앤트로픽이라는 세 산업의 거대 기업이 1조 달러 이상의 기업 가치를 달성하며 상장을 준비함에 따라, 2026년은 미국 역사상 신주 발행 측면에서 가장 중요한 해가 될 것으로 전망된다.이러한 역사적인 자본 증가는 전 세계 금융계의 주목을 받고 있으며, 공공 시장이 이러한 규모의 자금
스웨덴의 AI 스타트업 로버블 아이즈, 주요 자금 조달 라운드 이후 132억 달러의 기업 가치 달성
AI 기반 코딩 도구가 인기를 얻으면서 스웨덴 스타트업 로버블(Lovable)이 주요 자금 조달 라운드를 성사시켰다. 이 회사는 30억 달러를 조달하여 지난 12월 기록된 66억 달러의 두 배인 132억 달러의 기업 가치를 달성할 수 있을 것으로 기대된다. 멘로 벤처스(Menlo Ventures)가 이 투자 라운드를 주도할 것으로 예상된다.로버블의 매력은 복잡한 코딩 기술이 필요하지 않은 소프트웨어 제작을 단순화하는 핵심 '바이브 코딩(vib





집






