Дом
AI от Arm и интеллектуальные агенты обретают прозрачность благодаря проектам NVIDIA и Cisco OpenShell с открытым исходным кодом.

По мере того как корпоративные ИИ-агенты переходят из лабораторий разработки в основную бизнес-деятельность, предотвращение атак типа вставки команд, которые могут привести к «бунту» ИИ или утечке данных, становится одной из главных задач для разработчиков.
17 марта NVIDIA и Cisco объявили о создании мощного решения: официальном выпуске открытого исходного кода среды выполнения ИИ-агентов OpenShell. Эта система действует как «брандмауэр» для долгосрочно работающих ИИ-агентов, обеспечивая предприятиям точный контроль над каждым их действием и возможность масштабного внедрения автоматизации.
Основная конструкция OpenShell отличается высокой надежностью: каждому ИИ-агенту предоставляется физически изолированная среда выполнения без предустановленных прав. Любой внешний доступ, вызов инструментов или обработка конфиденциальных данных для облачных моделей требуют детальной проверки политик безопасности.
Дополнением к этому является платформа безопасности AI Defense от Cisco. В то время как OpenShell определяет, что может делать ИИ-агент, AI Defense контролирует, на самом деле выполняет ли он эти действия. Система постоянно ведет журнал этапов обработки информации и процессов принятия решений агентом, проверяя, соответствуют ли каждые его действия требованиям безопасности цепочки поставок.
Такая многоуровневая архитектура безопасности демонстрирует свою эффективность в реальных сценариях. Например, когда компания сталкивается с новой уязвимостью типа «нулевого дня»:
Внутренние ИИ-агенты автоматически анализируют предупреждения о безопасности и определяют пострадавшие устройства с помощью сетевых графов знаний.
Вся сложная процедура анализа и устранения проблем выполняется внутри среды выполнения OpenShell.
Если во время устранения проблемы ИИ-агент сталкивается с попыткой вставки вредоносных команд, направленных на выведение конфиденциальной информации, брандмауэр AI Defense немедленно блокирует подозрительный запрос.
Компания NVIDIA отметила, что такая архитектура направлена на преодоление «черного ящика» ИИ. Благодаря проверкам безопасности на уровне инфраструктуры предприятия могут с уверенностью поручать ИИ-агентам более сложные задачи автоматизации, не опасаясь потери контроля над системой. Официальный выпуск OpenShell в формате открытого исходного кода означает начало нового этапа развития корпоративных ИИ-агентов, когда их внедрение осуществляется в рамках четко определенных правил.
Связанная статья
ByteDance’s Seed запускает глобальную кампанию по набору сотрудников в кампусах, предлагая виртуальные акции для привлечения лучших специалистов по крупным языковым моделям
В условиях конкурентной борьбы крупных языковых моделей привлечение высококвалифицированных специалистов остается самым важным стратегическим активом.1 апреля ByteDance объявил о запуске глобальной программы набора на кампусы Seed, являющейся частью
Suno добавляет водяные знаки на песни в ходе судебных разбирательств
Suno, платформа, позволяющая пользователям создавать музыку с помощью искусственного интеллекта, представила новые функции для маркировки треков, созданных на платформе, ограничения на скачивание и обновления стандартов сообщества для борьбы с несанк
Маск признал, что утечка кода Grok привела к раскрытию пользовательских данных, и пообещал стереть всю историческую информацию.
Илон Маск напрямую отреагировал на скандал с конфиденциальностью вокруг Grok Build, начав с простого «Да», чтобы подтвердить достоверность инцидента. Он пообещал, что все данные пользователей, ранее загруженные в SpaceXAI, будут безвозвратно удалены,
Рекомендации по связанным специальным темам
Комментарии (0)

По мере того как корпоративные ИИ-агенты переходят из лабораторий разработки в основную бизнес-деятельность, предотвращение атак типа вставки команд, которые могут привести к «бунту» ИИ или утечке данных, становится одной из главных задач для разработчиков.
17 марта NVIDIA и Cisco объявили о создании мощного решения: официальном выпуске открытого исходного кода среды выполнения ИИ-агентов OpenShell. Эта система действует как «брандмауэр» для долгосрочно работающих ИИ-агентов, обеспечивая предприятиям точный контроль над каждым их действием и возможность масштабного внедрения автоматизации.
Основная конструкция OpenShell отличается высокой надежностью: каждому ИИ-агенту предоставляется физически изолированная среда выполнения без предустановленных прав. Любой внешний доступ, вызов инструментов или обработка конфиденциальных данных для облачных моделей требуют детальной проверки политик безопасности.
Дополнением к этому является платформа безопасности AI Defense от Cisco. В то время как OpenShell определяет, что может делать ИИ-агент, AI Defense контролирует, на самом деле выполняет ли он эти действия. Система постоянно ведет журнал этапов обработки информации и процессов принятия решений агентом, проверяя, соответствуют ли каждые его действия требованиям безопасности цепочки поставок.
Такая многоуровневая архитектура безопасности демонстрирует свою эффективность в реальных сценариях. Например, когда компания сталкивается с новой уязвимостью типа «нулевого дня»:
Внутренние ИИ-агенты автоматически анализируют предупреждения о безопасности и определяют пострадавшие устройства с помощью сетевых графов знаний.
Вся сложная процедура анализа и устранения проблем выполняется внутри среды выполнения OpenShell.
Если во время устранения проблемы ИИ-агент сталкивается с попыткой вставки вредоносных команд, направленных на выведение конфиденциальной информации, брандмауэр AI Defense немедленно блокирует подозрительный запрос.
Компания NVIDIA отметила, что такая архитектура направлена на преодоление «черного ящика» ИИ. Благодаря проверкам безопасности на уровне инфраструктуры предприятия могут с уверенностью поручать ИИ-агентам более сложные задачи автоматизации, не опасаясь потери контроля над системой. Официальный выпуск OpenShell в формате открытого исходного кода означает начало нового этапа развития корпоративных ИИ-агентов, когда их внедрение осуществляется в рамках четко определенных правил.
ByteDance’s Seed запускает глобальную кампанию по набору сотрудников в кампусах, предлагая виртуальные акции для привлечения лучших специалистов по крупным языковым моделям
В условиях конкурентной борьбы крупных языковых моделей привлечение высококвалифицированных специалистов остается самым важным стратегическим активом.1 апреля ByteDance объявил о запуске глобальной программы набора на кампусы Seed, являющейся частью
Suno добавляет водяные знаки на песни в ходе судебных разбирательств
Suno, платформа, позволяющая пользователям создавать музыку с помощью искусственного интеллекта, представила новые функции для маркировки треков, созданных на платформе, ограничения на скачивание и обновления стандартов сообщества для борьбы с несанк
Маск признал, что утечка кода Grok привела к раскрытию пользовательских данных, и пообещал стереть всю историческую информацию.
Илон Маск напрямую отреагировал на скандал с конфиденциальностью вокруг Grok Build, начав с простого «Да», чтобы подтвердить достоверность инцидента. Он пообещал, что все данные пользователей, ранее загруженные в SpaceXAI, будут безвозвратно удалены,











