암 AI와 지능형 에이전트들은 NVIDIA와 Cisco가 오픈소스로 공개한 OpenShell 덕분에 투명성을 얻게 되었습니다.

기업용 AI 에이전트들이 개발 실험실에서 실제 비즈니스 운영으로 전환함에 따라, AI ‘반란’이나 데이터 유출을 초래할 수 있는 프롬프트 주입 공격을 방지하는 것이 개발자들에게 가장 중요한 과제가 되었습니다.
3월 17일, NVIDIA와 Cisco는 강력한 해결책을 발표했습니다. 바로 AI 에이전트 런타임인 OpenShell의 공식 오픈소스 배포입니다. 이 시스템은 장시간 실행되는 AI 에이전트들에게 ‘방화벽’ 역할을 하여, 기업들이 모든 AI 작업을 정확하게 제어할 수 있게 해주며 대규모 자동화 배포도 가능하게 합니다.
OpenShell의 핵심 설계는 매우 견고합니다. 각 AI 에이전트에게는 기본 권한이 없는 물리적으로 격리된 샌드박스 환경이 할당되며, 모든 외부 접근, 도구 호출, 클라우드 모델의 개인정보 민감도 조정 등은 세밀한 정책 승인을 거쳐야 합니다.
이를 보완하는 것이 Cisco의 AI Defense 보안 플랫폼입니다. OpenShell이 에이전트가 어떤 작업을 할 수 있는지 정의한다면, AI Defense는 실제로 그 작업이 제대로 이루어지고 있는지를 확인합니다. AI Defense는 에이전트의 추론 과정과 의사결정 과정을 지속적으로 기록하며, 각 기능 호출이 공급망 보안 검토를 통과하는지를 확인합니다.
이러한 계층화된 보안 아키텍처는 실제 상황에서 매우 효과적입니다. 예를 들어, 기업이 새로운 제로데이 취약점 공격에 직면했을 때:
내부 AI 에이전트들은 자동으로 보안 경고를 분석하고 네트워크 지식 그래프를 사용하여 영향을 받은 장치를 식별합니다.
모든 복잡한 분석 및 수정 과정은 OpenShell 샌드박스 내에서 이루어집니다.
만약 에이전트가 수정 과정 중 악성 명령어 주입을 시도하여 민감한 설정 정보를 유출하려 한다면, AI Defense 게이트웨이는 즉시 의심스러운 요청을 차단합니다.
NVIDIA 는 이러한 아키텍처가 AI의 ‘블랙박스’ 성격을 종식시키기 위한 것이라고 밝혔습니다. 인프라 수준의 보안 검증을 통해 기업들은 시스템 제어를 잃을 걱정 없이 더 복잡한 자동화 작업을 AI 에이전트에게 맡길 수 있습니다. **OpenShell**의 오픈소스 배포는 대규모 기업용 AI 에이전트 배포가 ‘명확한 규칙을 따르는’ 새로운 단계를 의미합니다.
관련 기사
리눅스 재단에 6대 기술 거대기업이 1250만 달러를 지원해 AI 취약성 소음 문제 해결에 나서다
AI 자동화 도구가 생성한 저품질 보안 보고서의 홍수를 처리하기 위해, 앤트로픽(Anthropic), 아마존(AWS), 깃허브(GitHub), 구글(Google), 마이크로소프트(Microsoft), 오픈AI(OpenAI) 등 6대 주요 기술 기업은 리눅스 재단(Linux Foundation) 이니셔티브에 총 1,250만 달러의 자금을 공동으로 기부했습니다. 이 투자는 오픈 소스 소프트웨어(FOSS) 유지 관리자가 수동 선별의 부담에서 벗어나
[[IMG_BASE64_PLACEHOLDER]] 머스크, 오픈AI를 자녀들에게 넘길 가능성 고려… 알트만 증언
오늘 아침, 오픈에이아이(OpenAI)의 샘 알트만(Sam Altman) 최고경영자(CEO)는 회사의 기업 구조에 이의를 제기한 전 공동 창업자 일론 머스크(Elon Musk)의 소송에 대응하기 위해 증언대에 섰습니다.머스크가 비영리 자선단체를 사적 이익을 추구하는 자회사로 전환하여 AI 기반 제품을 마케팅한 다른 창업자들이 “자선단체를 훔쳤다”고 주장한 것과 관련해 질문을 받자, 알트만은 뚜렷한 망설임으로 응답했습니다.“그런 프레임으로 받
관련 특별 주제 추천
의견 (0)
0/500

기업용 AI 에이전트들이 개발 실험실에서 실제 비즈니스 운영으로 전환함에 따라, AI ‘반란’이나 데이터 유출을 초래할 수 있는 프롬프트 주입 공격을 방지하는 것이 개발자들에게 가장 중요한 과제가 되었습니다.
3월 17일, NVIDIA와 Cisco는 강력한 해결책을 발표했습니다. 바로 AI 에이전트 런타임인 OpenShell의 공식 오픈소스 배포입니다. 이 시스템은 장시간 실행되는 AI 에이전트들에게 ‘방화벽’ 역할을 하여, 기업들이 모든 AI 작업을 정확하게 제어할 수 있게 해주며 대규모 자동화 배포도 가능하게 합니다.
OpenShell의 핵심 설계는 매우 견고합니다. 각 AI 에이전트에게는 기본 권한이 없는 물리적으로 격리된 샌드박스 환경이 할당되며, 모든 외부 접근, 도구 호출, 클라우드 모델의 개인정보 민감도 조정 등은 세밀한 정책 승인을 거쳐야 합니다.
이를 보완하는 것이 Cisco의 AI Defense 보안 플랫폼입니다. OpenShell이 에이전트가 어떤 작업을 할 수 있는지 정의한다면, AI Defense는 실제로 그 작업이 제대로 이루어지고 있는지를 확인합니다. AI Defense는 에이전트의 추론 과정과 의사결정 과정을 지속적으로 기록하며, 각 기능 호출이 공급망 보안 검토를 통과하는지를 확인합니다.
이러한 계층화된 보안 아키텍처는 실제 상황에서 매우 효과적입니다. 예를 들어, 기업이 새로운 제로데이 취약점 공격에 직면했을 때:
내부 AI 에이전트들은 자동으로 보안 경고를 분석하고 네트워크 지식 그래프를 사용하여 영향을 받은 장치를 식별합니다.
모든 복잡한 분석 및 수정 과정은 OpenShell 샌드박스 내에서 이루어집니다.
만약 에이전트가 수정 과정 중 악성 명령어 주입을 시도하여 민감한 설정 정보를 유출하려 한다면, AI Defense 게이트웨이는 즉시 의심스러운 요청을 차단합니다.
리눅스 재단에 6대 기술 거대기업이 1250만 달러를 지원해 AI 취약성 소음 문제 해결에 나서다
AI 자동화 도구가 생성한 저품질 보안 보고서의 홍수를 처리하기 위해, 앤트로픽(Anthropic), 아마존(AWS), 깃허브(GitHub), 구글(Google), 마이크로소프트(Microsoft), 오픈AI(OpenAI) 등 6대 주요 기술 기업은 리눅스 재단(Linux Foundation) 이니셔티브에 총 1,250만 달러의 자금을 공동으로 기부했습니다. 이 투자는 오픈 소스 소프트웨어(FOSS) 유지 관리자가 수동 선별의 부담에서 벗어나
[[IMG_BASE64_PLACEHOLDER]] 머스크, 오픈AI를 자녀들에게 넘길 가능성 고려… 알트만 증언
오늘 아침, 오픈에이아이(OpenAI)의 샘 알트만(Sam Altman) 최고경영자(CEO)는 회사의 기업 구조에 이의를 제기한 전 공동 창업자 일론 머스크(Elon Musk)의 소송에 대응하기 위해 증언대에 섰습니다.머스크가 비영리 자선단체를 사적 이익을 추구하는 자회사로 전환하여 AI 기반 제품을 마케팅한 다른 창업자들이 “자선단체를 훔쳤다”고 주장한 것과 관련해 질문을 받자, 알트만은 뚜렷한 망설임으로 응답했습니다.“그런 프레임으로 받





집







