Maison
L'IA d'Arm et les agents intelligents gagnent en transparence grâce à NVIDIA et Cisco qui ont rendu OpenShell open-source.

À mesure que les agents d'intelligence artificielle d'entreprise passent des laboratoires de développement aux opérations commerciales essentielles, la prévention des attaques par injection de commandes – qui peuvent entraîner des “mutineries” de l'intelligence artificielle ou des fuites de données – est devenue une préoccupation majeure pour les développeurs.
Le 17 mars, NVIDIA et Cisco ont annoncé une solution puissante : la sortie officielle en open-source du runtime d'agent d'intelligence artificielle OpenShell. Ce système agit comme un “pare-feu” pour les agents d'intelligence artificielle fonctionnant sur de longues périodes, permettant aux entreprises de contrôler précisément chaque action de l'intelligence artificielle tout en facilitant le déploiement d'automatisations à grande échelle.
La conception fondamentale de OpenShell est particulièrement robuste : elle attribue à chaque agent d'intelligence artificielle un environnement sandbox physiquement isolé, sans autorisations prédefinies. Chaque accès externe, appel d'outil et désensibilisation des données privées pour les modèles cloud nécessitent une autorisation détaillée basée sur des politiques précises.
Complétant cela, il y a la plateforme de sécurité AI Defense de Cisco. Alors que OpenShell définit ce qu'un agent peut faire, AI Defense s'assure que celui-ci le fait réellement. Elle enregistre continuellement les étapes de raisonnement et les processus de décision de l'agent, vérifiant que chaque appel de compétence passe une évaluation de sécurité de la chaîne d'approvisionnement.
Cette architecture de sécurité à plusieurs niveaux s'est avérée très efficace dans des scénarios réels. Par exemple, lorsque une entreprise fait face à une nouvelle attaque basée sur une vulnérabilité zéro jour :
Les agents d'intelligence artificielle internes analysent automatiquement les avertissements de sécurité et identifient les appareils affectés à l'aide de graphes de connaissances réseau.
L'ensemble du processus complexe d'analyse et de remédiation se déroule à l'intérieur du sandbox OpenShell.
Si l'agent rencontre une tentative d'injection de commandes malveillantes pendant le processus de remédiation – tentant d'exfiltrer des configurations sensibles – le gateway AI Defense bloque immédiatement la demande suspecte.
NVIDIA a déclaré que cette architecture vise à mettre fin à la nature “boîte noire” de l'intelligence artificielle. Avec une vérification de sécurité au niveau de l'infrastructure, les entreprises peuvent confier sans crainte des tâches d'automatisation plus complexes aux agents d'intelligence artificielle, sans risque de perdre le contrôle du système. La sortie en open-source de OpenShell marque une nouvelle étape où le déploiement à grande échelle d'agents d'intelligence artificielle d'entreprise “obéit à des règles bien définies”.
Article connexe
Les actions américaines atteignent un jalon historique alors que les géants de l'IA et de l'aérospatiale se préparent pour leur entrée boursière à la valeur du trillion de dollars.
Elon Musk, Sam Altman et Dario Amodei, trois titans du secteur technologique, s’approchent des introductions en bourse de leurs entreprises respectives. Avec SpaceX, OpenAI et Anthropic – trois géants de l’industrie dont les valorisations approchent
La startup suédoise en intelligence artificielle Lovable Eyes atteint une valorisation de 13,2 milliards de dollars après un tour de table majeur
Alors que les outils de codage alimentés par l’intelligence artificielle gagnent en popularité, la startup suédoise Lovable a levé des fonds lors d’un tour de table majeur. L’entreprise vise à collecter 3 milliards de dollars, ce qui pourrait porter
Google teste l'agent IA Remy pour Gemini à mesure que l'accent se déplace vers le contrôle utilisateur
Selon Business Insider, Google teste Remy, un nouvel agent personnel d’IA pour Gemini. Cet outil vise à exécuter des tâches au nom des utilisateurs, rationalisant ainsi les flux de travail professionnels et les routines quotidiennes.Actuellement, Re
Recommandations de sujets spéciaux liés
commentaires (0)

À mesure que les agents d'intelligence artificielle d'entreprise passent des laboratoires de développement aux opérations commerciales essentielles, la prévention des attaques par injection de commandes – qui peuvent entraîner des “mutineries” de l'intelligence artificielle ou des fuites de données – est devenue une préoccupation majeure pour les développeurs.
Le 17 mars, NVIDIA et Cisco ont annoncé une solution puissante : la sortie officielle en open-source du runtime d'agent d'intelligence artificielle OpenShell. Ce système agit comme un “pare-feu” pour les agents d'intelligence artificielle fonctionnant sur de longues périodes, permettant aux entreprises de contrôler précisément chaque action de l'intelligence artificielle tout en facilitant le déploiement d'automatisations à grande échelle.
La conception fondamentale de OpenShell est particulièrement robuste : elle attribue à chaque agent d'intelligence artificielle un environnement sandbox physiquement isolé, sans autorisations prédefinies. Chaque accès externe, appel d'outil et désensibilisation des données privées pour les modèles cloud nécessitent une autorisation détaillée basée sur des politiques précises.
Complétant cela, il y a la plateforme de sécurité AI Defense de Cisco. Alors que OpenShell définit ce qu'un agent peut faire, AI Defense s'assure que celui-ci le fait réellement. Elle enregistre continuellement les étapes de raisonnement et les processus de décision de l'agent, vérifiant que chaque appel de compétence passe une évaluation de sécurité de la chaîne d'approvisionnement.
Cette architecture de sécurité à plusieurs niveaux s'est avérée très efficace dans des scénarios réels. Par exemple, lorsque une entreprise fait face à une nouvelle attaque basée sur une vulnérabilité zéro jour :
Les agents d'intelligence artificielle internes analysent automatiquement les avertissements de sécurité et identifient les appareils affectés à l'aide de graphes de connaissances réseau.
L'ensemble du processus complexe d'analyse et de remédiation se déroule à l'intérieur du sandbox OpenShell.
Si l'agent rencontre une tentative d'injection de commandes malveillantes pendant le processus de remédiation – tentant d'exfiltrer des configurations sensibles – le gateway AI Defense bloque immédiatement la demande suspecte.
NVIDIA a déclaré que cette architecture vise à mettre fin à la nature “boîte noire” de l'intelligence artificielle. Avec une vérification de sécurité au niveau de l'infrastructure, les entreprises peuvent confier sans crainte des tâches d'automatisation plus complexes aux agents d'intelligence artificielle, sans risque de perdre le contrôle du système. La sortie en open-source de OpenShell marque une nouvelle étape où le déploiement à grande échelle d'agents d'intelligence artificielle d'entreprise “obéit à des règles bien définies”.
Les actions américaines atteignent un jalon historique alors que les géants de l'IA et de l'aérospatiale se préparent pour leur entrée boursière à la valeur du trillion de dollars.
Elon Musk, Sam Altman et Dario Amodei, trois titans du secteur technologique, s’approchent des introductions en bourse de leurs entreprises respectives. Avec SpaceX, OpenAI et Anthropic – trois géants de l’industrie dont les valorisations approchent
La startup suédoise en intelligence artificielle Lovable Eyes atteint une valorisation de 13,2 milliards de dollars après un tour de table majeur
Alors que les outils de codage alimentés par l’intelligence artificielle gagnent en popularité, la startup suédoise Lovable a levé des fonds lors d’un tour de table majeur. L’entreprise vise à collecter 3 milliards de dollars, ce qui pourrait porter











