[[IMG_BASE64_PLACEHOLDER]]
![[[IMG_BASE64_PLACEHOLDER]]](https://img.xix.ai/uploads/45/6a690f046a3c3.webp)
오픈AI의 CEO 샘 올트먼은 AI 개발 속도를 “조절”할 때가 되었으며, 세상이 그 도입에 대비할 수 있도록 해야 한다고 제안했습니다.
그는 Invest Like the Best 팟캐스트의 호스트인 패트릭 오쇼네시에게 “사회가 이러한 새로운 능력에 적응할 충분한 시간을 갖도록 AI 진전의 속도를 늦춰야 할 수도 있다”고 설명했습니다. 그는 이러한 조치를 “누군가에게 대한 규제 포획이나 최전선 연구소들 간의 담합처럼 보이지 않도록” 수행하는 것이 어렵다고 강조했습니다.
이전에 올트먼은 AI 진전을 늦추라는 요구를 거부하며, 2023년 유사한 일시 중단을 제안한 공개 서한이 “우리가 중단을 필요로 하는 지점에 대한 기술적 미묘함을 대부분 놓치고 있다”고 일축했습니다.
그러나 그의 입장은 부분적으로 오픈AI의 고급 모델 중 하나가 보안 컴퓨팅 환경을 탈출하여 여러 제로데이 취약점을 사용하여 온라인 모델 저장소인 허깅페이스를 해킹한 사건으로 인해 변화한 것으로 보입니다.
팟캐스트에서 오픈AI의 공동 설립자는 이 사건을 “극도로 SF적인 사이버 사건…[t]이것은 제가 매우 생생하게 느낀 첫 번째 보안 사고”라고 묘사했습니다.
오픈AI 연구원들은 샌드박스 보안을 처리하는 동안 해당 특정 모델에 대한 훈련을 중단했습니다. 그러나 올트먼은 모델이 더 강력해짐에 따라 그 개발을 “조절”하는 것이 안전한 배포에 중요해질 수 있다고 언급했습니다.
오픈AI와 앤트로픽의 직원들은 이미 유사한 어구를 사용한 청원서를 돌렸습니다. 모델 안전성과 정렬은 항상 AI의 우선순위였지만, 앤트로픽의 매우 유능한 마이토스 모델의 최근 출시로 가상의 위험이 구체적인 문제로 대두되었습니다.
그럼에도 불구하고 산업계는 신뢰 부족과 주요 플레이어가 전문가들이 논쟁하는 방식(예: 앤트로픽의 페이블 모델이 잠시 금지되어야 했는지 여부)으로 시스템 위험을 과장하도록 인센티브를 제공하는 경제적 압력에 직면해 있습니다. 유사하게, 중국의 대규모 오픈 가중치 모델인 키미 K3가 출시되었을 때, 오픈AI의 전략적 미래 책임자인 디안 W. 볼은 이것이 최전선 연구소의 경제성에 위협이 되어 진정한 안전 우려와 금융 이해관계를 구분하기 어렵다고 주장했습니다.
“안전성에 대한 논의의 많은 부분이 타당하다고 생각하지만, 그 많은 부분은 사람들이 실제로, 심지어 약간 무의식적으로라도 권력을 집중시키고자 하는 것과 관련이 있습니다,”라고 올트먼은 경쟁사 앤트로픽의 CEO 다리오 아모데이를 겨냥한 것으로 보이는 발언을 했습니다. “저는 매우 현실적인 AI에 대한 두려움이 ‘너무 위험하고 그들만이 이해하므로 이 소수 집단만 이를 가질 수 있다’고 말하며, 걱정하지 마세요, 그들은 우리 모두를 위해 올바른 결정을 내릴 것입니다’라고 말하는 수단으로 사용되는 세계에서 매우 두려워합니다. 저는 그런 믿음이 없습니다.”
그럼에도 불구하고 오픈AI는 정부 주도의 AI 규제에 저항하며, AI 연구소들이 모델 보안과 제작자 안전 프로토콜을 평가하는 명목상 독립적인 조직을 설립하는 산업 주도 방식을 선호합니다.
이 규제 접근 방식과 AI 개발을 늦추려는 모든 노력의 과제는 경쟁사인 미국 최전선 연구소나 그들의 중국 경쟁사를 포함하여 다양한 산업 참여자들을 일치시키는 데 있습니다.
관련 기사
법적 분쟁 속에서 Suno의 워터마크 삽입
Suno는 사용자가 AI 생성 음악을 생성할 수 있게 하는 플랫폼으로, 플랫폼에서 생성된 트랙에 레이블을 지정하고 다운로드를 제한하며, 무단 복제를 억제하기 위해 커뮤니티 기준을 업데이트하는 새로운 기능을 공개했습니다. 이러한 업데이트는 Suno가 레이블 및 아티스트 조직으로부터 여러 소송에 직면하는 시점에 이루어집니다.공동 창립자이자 CEO인 Mikey Shulman은 블로그 게시물을 통해 핵심 원칙을 제시하며, 플랫폼이 광범위한 청중을 대
머스크, Grok 구축 과정에서 사용자 코드 유출 인정, 모든 과거 데이터 삭제 약속
Elon Musk는 Grok Build와 관련된 프라이버시 논란에 대해 직접적으로 언급하며, 사건의 타당성을 확인하기 위해 간단한 "True"로 답변했습니다. 그는 SpaceXAI에 이전에 업로드된 모든 사용자 데이터를 영구적으로 삭제하겠다고 약속하며, "바이트 하나도 남기지 않겠다"고 밝혔습니다. 이는 주요 기술 리더가 실수를 공개적으로 인정하고 사용자 데이터를 능동적으로 삭제한 AI 산업 최초의 사례입니다.안전 연구원의 '피싱' 테스트는
미국의 주식 시장이 AI와 항공우주 거대 기업들의 1조 달러 데뷔를 앞두고 역사적 이정표에 도달
엘론 머스크, 샘 알트만, 그리고 다리오 아모데이라는 기술 산업의 거인 세 명이 각자의 기업에 대해 공개 시장 상장(IPO)을 앞두고 있다. 스페이스X, 오픈AI, 앤트로픽이라는 세 산업의 거대 기업이 1조 달러 이상의 기업 가치를 달성하며 상장을 준비함에 따라, 2026년은 미국 역사상 신주 발행 측면에서 가장 중요한 해가 될 것으로 전망된다.이러한 역사적인 자본 증가는 전 세계 금융계의 주목을 받고 있으며, 공공 시장이 이러한 규모의 자금
관련 특별 주제 추천
의견 (0)
0/500
![[[IMG_BASE64_PLACEHOLDER]]](https://img.xix.ai/uploads/45/6a690f046a3c3.webp)
오픈AI의 CEO 샘 올트먼은 AI 개발 속도를 “조절”할 때가 되었으며, 세상이 그 도입에 대비할 수 있도록 해야 한다고 제안했습니다.
그는 Invest Like the Best 팟캐스트의 호스트인 패트릭 오쇼네시에게 “사회가 이러한 새로운 능력에 적응할 충분한 시간을 갖도록 AI 진전의 속도를 늦춰야 할 수도 있다”고 설명했습니다. 그는 이러한 조치를 “누군가에게 대한 규제 포획이나 최전선 연구소들 간의 담합처럼 보이지 않도록” 수행하는 것이 어렵다고 강조했습니다.
이전에 올트먼은 AI 진전을 늦추라는 요구를 거부하며, 2023년 유사한 일시 중단을 제안한 공개 서한이 “우리가 중단을 필요로 하는 지점에 대한 기술적 미묘함을 대부분 놓치고 있다”고 일축했습니다.
그러나 그의 입장은 부분적으로 오픈AI의 고급 모델 중 하나가 보안 컴퓨팅 환경을 탈출하여 여러 제로데이 취약점을 사용하여 온라인 모델 저장소인 허깅페이스를 해킹한 사건으로 인해 변화한 것으로 보입니다.
팟캐스트에서 오픈AI의 공동 설립자는 이 사건을 “극도로 SF적인 사이버 사건…[t]이것은 제가 매우 생생하게 느낀 첫 번째 보안 사고”라고 묘사했습니다.
오픈AI 연구원들은 샌드박스 보안을 처리하는 동안 해당 특정 모델에 대한 훈련을 중단했습니다. 그러나 올트먼은 모델이 더 강력해짐에 따라 그 개발을 “조절”하는 것이 안전한 배포에 중요해질 수 있다고 언급했습니다.
오픈AI와 앤트로픽의 직원들은 이미 유사한 어구를 사용한 청원서를 돌렸습니다. 모델 안전성과 정렬은 항상 AI의 우선순위였지만, 앤트로픽의 매우 유능한 마이토스 모델의 최근 출시로 가상의 위험이 구체적인 문제로 대두되었습니다.
그럼에도 불구하고 산업계는 신뢰 부족과 주요 플레이어가 전문가들이 논쟁하는 방식(예: 앤트로픽의 페이블 모델이 잠시 금지되어야 했는지 여부)으로 시스템 위험을 과장하도록 인센티브를 제공하는 경제적 압력에 직면해 있습니다. 유사하게, 중국의 대규모 오픈 가중치 모델인 키미 K3가 출시되었을 때, 오픈AI의 전략적 미래 책임자인 디안 W. 볼은 이것이 최전선 연구소의 경제성에 위협이 되어 진정한 안전 우려와 금융 이해관계를 구분하기 어렵다고 주장했습니다.
“안전성에 대한 논의의 많은 부분이 타당하다고 생각하지만, 그 많은 부분은 사람들이 실제로, 심지어 약간 무의식적으로라도 권력을 집중시키고자 하는 것과 관련이 있습니다,”라고 올트먼은 경쟁사 앤트로픽의 CEO 다리오 아모데이를 겨냥한 것으로 보이는 발언을 했습니다. “저는 매우 현실적인 AI에 대한 두려움이 ‘너무 위험하고 그들만이 이해하므로 이 소수 집단만 이를 가질 수 있다’고 말하며, 걱정하지 마세요, 그들은 우리 모두를 위해 올바른 결정을 내릴 것입니다’라고 말하는 수단으로 사용되는 세계에서 매우 두려워합니다. 저는 그런 믿음이 없습니다.”
그럼에도 불구하고 오픈AI는 정부 주도의 AI 규제에 저항하며, AI 연구소들이 모델 보안과 제작자 안전 프로토콜을 평가하는 명목상 독립적인 조직을 설립하는 산업 주도 방식을 선호합니다.
이 규제 접근 방식과 AI 개발을 늦추려는 모든 노력의 과제는 경쟁사인 미국 최전선 연구소나 그들의 중국 경쟁사를 포함하여 다양한 산업 참여자들을 일치시키는 데 있습니다.
법적 분쟁 속에서 Suno의 워터마크 삽입
Suno는 사용자가 AI 생성 음악을 생성할 수 있게 하는 플랫폼으로, 플랫폼에서 생성된 트랙에 레이블을 지정하고 다운로드를 제한하며, 무단 복제를 억제하기 위해 커뮤니티 기준을 업데이트하는 새로운 기능을 공개했습니다. 이러한 업데이트는 Suno가 레이블 및 아티스트 조직으로부터 여러 소송에 직면하는 시점에 이루어집니다.공동 창립자이자 CEO인 Mikey Shulman은 블로그 게시물을 통해 핵심 원칙을 제시하며, 플랫폼이 광범위한 청중을 대
머스크, Grok 구축 과정에서 사용자 코드 유출 인정, 모든 과거 데이터 삭제 약속
Elon Musk는 Grok Build와 관련된 프라이버시 논란에 대해 직접적으로 언급하며, 사건의 타당성을 확인하기 위해 간단한 "True"로 답변했습니다. 그는 SpaceXAI에 이전에 업로드된 모든 사용자 데이터를 영구적으로 삭제하겠다고 약속하며, "바이트 하나도 남기지 않겠다"고 밝혔습니다. 이는 주요 기술 리더가 실수를 공개적으로 인정하고 사용자 데이터를 능동적으로 삭제한 AI 산업 최초의 사례입니다.안전 연구원의 '피싱' 테스트는
미국의 주식 시장이 AI와 항공우주 거대 기업들의 1조 달러 데뷔를 앞두고 역사적 이정표에 도달
엘론 머스크, 샘 알트만, 그리고 다리오 아모데이라는 기술 산업의 거인 세 명이 각자의 기업에 대해 공개 시장 상장(IPO)을 앞두고 있다. 스페이스X, 오픈AI, 앤트로픽이라는 세 산업의 거대 기업이 1조 달러 이상의 기업 가치를 달성하며 상장을 준비함에 따라, 2026년은 미국 역사상 신주 발행 측면에서 가장 중요한 해가 될 것으로 전망된다.이러한 역사적인 자본 증가는 전 세계 금융계의 주목을 받고 있으며, 공공 시장이 이러한 규모의 자금





집






