Maison
NVIDIA prend la tête de la création du groupe de travail SAFE au sein de l'OSAA afin de renforcer le partage d'informations en matière de sécurité de l'IA et la collaboration open source
L'Open Security AI Alliance (OSAA), lancée par NVIDIA il y a un peu plus d'une semaine, fait rapidement évoluer le paysage de la sécurité de l'IA. Elle compte déjà plus de 120 entreprises membres et a annoncé la création du groupe de travail « Shared AI Findings Exchange » (SAFE), qui recueille désormais des propositions pour la gestion des incidents liés à la sécurité de l'IA. La Linux Foundation supervise cette initiative.
Lors de la conférence Black Hat qui s’est tenue cette semaine, l’alliance a affiné sa stratégie, en mettant l’accent sur le signalement confidentiel des incidents de cybersécurité liés à l’IA, les protocoles de notification des parties concernées et les analyses rétrospectives sans reproche. Ces mesures visent à encourager le partage, à l’échelle du secteur, des connaissances en matière de sécurité et des meilleures pratiques.

Parallèlement à l’élaboration de normes de collaboration, les membres de l’OSAA apportent des capacités de sécurité open source, avec pour objectif de mettre en place une chaîne d’outils open source complète dédiée à la sécurité de l’IA pour un déploiement en entreprise. Cela permettra de protéger les agents IA et de se défendre contre les attaques malveillantes visant l’IA. NVIDIA apporte des modèles ouverts et le scanner de vulnérabilités LLM open source Garak. Okta fait progresser la technologie d’identité des agents, Red Hat développe des solutions de gouvernance des agents, et Amazon contribue à des projets tels que Strands Agents et le langage d’autorisation Cedar.
Parmi les membres de l’alliance figurent Adobe, BlackRock, Cisco, Intel, Microsoft et Visa. En revanche, OpenAI, Anthropic et Google n’y ont pas encore adhéré. Malgré cela, OpenAI et Google ont tous deux signé une lettre ouverte lancée précédemment par NVIDIA, soutenue par plus de 200 entreprises technologiques plaidant en faveur de l’IA open source.
La formation rapide de cette alliance est étroitement liée aux discussions en cours aux États-Unis sur les politiques de régulation de l’IA open source. Les experts du secteur estiment que les efforts accélérés de l’OSAA pour promouvoir la collaboration ouverte et les normes de sécurité pourraient renforcer davantage l’écosystème américain de l’IA open source, améliorant ainsi les capacités de sécurité de l’IA et la compétitivité industrielle grâce au partage ouvert.
Article connexe
Les actions américaines atteignent un jalon historique alors que les géants de l'IA et de l'aérospatiale se préparent pour leur entrée boursière à la valeur du trillion de dollars.
Elon Musk, Sam Altman et Dario Amodei, trois titans du secteur technologique, s’approchent des introductions en bourse de leurs entreprises respectives. Avec SpaceX, OpenAI et Anthropic – trois géants de l’industrie dont les valorisations approchent
La startup suédoise en intelligence artificielle Lovable Eyes atteint une valorisation de 13,2 milliards de dollars après un tour de table majeur
Alors que les outils de codage alimentés par l’intelligence artificielle gagnent en popularité, la startup suédoise Lovable a levé des fonds lors d’un tour de table majeur. L’entreprise vise à collecter 3 milliards de dollars, ce qui pourrait porter
Google teste l'agent IA Remy pour Gemini à mesure que l'accent se déplace vers le contrôle utilisateur
Selon Business Insider, Google teste Remy, un nouvel agent personnel d’IA pour Gemini. Cet outil vise à exécuter des tâches au nom des utilisateurs, rationalisant ainsi les flux de travail professionnels et les routines quotidiennes.Actuellement, Re
Recommandations de sujets spéciaux liés
commentaires (0)
L'Open Security AI Alliance (OSAA), lancée par NVIDIA il y a un peu plus d'une semaine, fait rapidement évoluer le paysage de la sécurité de l'IA. Elle compte déjà plus de 120 entreprises membres et a annoncé la création du groupe de travail « Shared AI Findings Exchange » (SAFE), qui recueille désormais des propositions pour la gestion des incidents liés à la sécurité de l'IA. La Linux Foundation supervise cette initiative.
Lors de la conférence Black Hat qui s’est tenue cette semaine, l’alliance a affiné sa stratégie, en mettant l’accent sur le signalement confidentiel des incidents de cybersécurité liés à l’IA, les protocoles de notification des parties concernées et les analyses rétrospectives sans reproche. Ces mesures visent à encourager le partage, à l’échelle du secteur, des connaissances en matière de sécurité et des meilleures pratiques.

Parallèlement à l’élaboration de normes de collaboration, les membres de l’OSAA apportent des capacités de sécurité open source, avec pour objectif de mettre en place une chaîne d’outils open source complète dédiée à la sécurité de l’IA pour un déploiement en entreprise. Cela permettra de protéger les agents IA et de se défendre contre les attaques malveillantes visant l’IA. NVIDIA apporte des modèles ouverts et le scanner de vulnérabilités LLM open source Garak. Okta fait progresser la technologie d’identité des agents, Red Hat développe des solutions de gouvernance des agents, et Amazon contribue à des projets tels que Strands Agents et le langage d’autorisation Cedar.
Parmi les membres de l’alliance figurent Adobe, BlackRock, Cisco, Intel, Microsoft et Visa. En revanche, OpenAI, Anthropic et Google n’y ont pas encore adhéré. Malgré cela, OpenAI et Google ont tous deux signé une lettre ouverte lancée précédemment par NVIDIA, soutenue par plus de 200 entreprises technologiques plaidant en faveur de l’IA open source.
La formation rapide de cette alliance est étroitement liée aux discussions en cours aux États-Unis sur les politiques de régulation de l’IA open source. Les experts du secteur estiment que les efforts accélérés de l’OSAA pour promouvoir la collaboration ouverte et les normes de sécurité pourraient renforcer davantage l’écosystème américain de l’IA open source, améliorant ainsi les capacités de sécurité de l’IA et la compétitivité industrielle grâce au partage ouvert.
Les actions américaines atteignent un jalon historique alors que les géants de l'IA et de l'aérospatiale se préparent pour leur entrée boursière à la valeur du trillion de dollars.
Elon Musk, Sam Altman et Dario Amodei, trois titans du secteur technologique, s’approchent des introductions en bourse de leurs entreprises respectives. Avec SpaceX, OpenAI et Anthropic – trois géants de l’industrie dont les valorisations approchent
La startup suédoise en intelligence artificielle Lovable Eyes atteint une valorisation de 13,2 milliards de dollars après un tour de table majeur
Alors que les outils de codage alimentés par l’intelligence artificielle gagnent en popularité, la startup suédoise Lovable a levé des fonds lors d’un tour de table majeur. L’entreprise vise à collecter 3 milliards de dollars, ce qui pourrait porter











