Дом
Компания NVIDIA возглавила создание рабочей группы SAFE в рамках OSAA с целью активизации обмена информацией по вопросам безопасности ИИ и сотрудничества в сфере открытого исходного кода
Альянс Open Security AI Alliance (OSAA), созданный компанией NVIDIA чуть более недели назад, стремительно развивает сферу безопасности искусственного интеллекта. Число участников альянса уже превысило 120 компаний, и альянс объявил о создании рабочей группы Shared AI Findings Exchange (SAFE), которая в настоящее время принимает предложения по управлению инцидентами в сфере безопасности искусственного интеллекта. Курирует эту инициативу Linux Foundation.
На прошедшей на этой неделе конференции Black Hat альянс уточнил свою стратегию, сделав акцент на конфиденциальном сообщении об инцидентах кибербезопасности, связанных с ИИ, протоколах уведомления затронутых сторон и беспристрастном анализе причин инцидентов. Эти шаги направлены на поощрение обмена знаниями и передовым опытом в области безопасности в масштабах всей отрасли.

Наряду с разработкой стандартов сотрудничества члены OSAA предоставляют средства безопасности с открытым исходным кодом и планируют создать комплексный набор инструментов безопасности ИИ с открытым исходным кодом для внедрения в корпоративной среде. Это поможет защитить агенты ИИ и противостоять злонамеренным атакам с использованием ИИ. NVIDIA предоставляет открытые модели и сканер уязвимостей LLM с открытым исходным кодом Garak. Okta развивает технологии идентификации агентов, Red Hat разрабатывает решения по управлению агентами, а Amazon вносит вклад в такие проекты, как Strands Agents и язык авторизации Cedar.
В число членов альянса входят Adobe, BlackRock, Cisco, Intel, Microsoft и Visa. Однако OpenAI, Anthropic и Google пока не присоединились к альянсу. Несмотря на это, и OpenAI, и Google подписали ранее открытое письмо, инициированное NVIDIA, которое поддержали более 200 технологических компаний, выступающих за ИИ с открытым исходным кодом.
Быстрое формирование этого альянса тесно связано с продолжающимися в США дискуссиями о политике регулирования ИИ с открытым исходным кодом. Отраслевые эксперты полагают, что активизация усилий OSAA по продвижению открытого сотрудничества и стандартов безопасности может еще больше укрепить экосистему ИИ с открытым исходным кодом в США, повысив возможности ИИ в области безопасности и конкурентоспособность отрасли за счет открытого обмена информацией.
Связанная статья
Шведский стартап в области искусственного интеллекта Lovable Eyes достиг оценки в 13,2 миллиарда долларов после крупного раунда финансирования
По мере того как инструменты для программирования на основе искусственного интеллекта набирают популярность, шведский стартап Lovable привлек крупный раунд финансирования. Компания нацелена на привлечение $3 млрд, что потенциально может увеличить её
Google тестирует агента Remy AI для Gemini по мере смещения фокуса на управление пользователями
Согласно Business Insider, Google тестирует Remy, нового ИИ-персонального агента для Gemini. Этот инструмент предназначен для выполнения задач от имени пользователей, упрощая как профессиональные рабочие процессы, так и повседневные рутины.В настоящ
Как исправить Core Web Vitals для улучшения позиций в поисковой выдаче
Оптимизация написания комментариев в отчетных карточках с помощью ИИ-инструментовВведениеИИ-инструменты для генерации комментариев в отчетных карточкахMagic SchoolAlmanac AIChat GPTИспользование Magic School для генерации комментариев в отчетны
Рекомендации по связанным специальным темам
Комментарии (0)
Альянс Open Security AI Alliance (OSAA), созданный компанией NVIDIA чуть более недели назад, стремительно развивает сферу безопасности искусственного интеллекта. Число участников альянса уже превысило 120 компаний, и альянс объявил о создании рабочей группы Shared AI Findings Exchange (SAFE), которая в настоящее время принимает предложения по управлению инцидентами в сфере безопасности искусственного интеллекта. Курирует эту инициативу Linux Foundation.
На прошедшей на этой неделе конференции Black Hat альянс уточнил свою стратегию, сделав акцент на конфиденциальном сообщении об инцидентах кибербезопасности, связанных с ИИ, протоколах уведомления затронутых сторон и беспристрастном анализе причин инцидентов. Эти шаги направлены на поощрение обмена знаниями и передовым опытом в области безопасности в масштабах всей отрасли.

Наряду с разработкой стандартов сотрудничества члены OSAA предоставляют средства безопасности с открытым исходным кодом и планируют создать комплексный набор инструментов безопасности ИИ с открытым исходным кодом для внедрения в корпоративной среде. Это поможет защитить агенты ИИ и противостоять злонамеренным атакам с использованием ИИ. NVIDIA предоставляет открытые модели и сканер уязвимостей LLM с открытым исходным кодом Garak. Okta развивает технологии идентификации агентов, Red Hat разрабатывает решения по управлению агентами, а Amazon вносит вклад в такие проекты, как Strands Agents и язык авторизации Cedar.
В число членов альянса входят Adobe, BlackRock, Cisco, Intel, Microsoft и Visa. Однако OpenAI, Anthropic и Google пока не присоединились к альянсу. Несмотря на это, и OpenAI, и Google подписали ранее открытое письмо, инициированное NVIDIA, которое поддержали более 200 технологических компаний, выступающих за ИИ с открытым исходным кодом.
Быстрое формирование этого альянса тесно связано с продолжающимися в США дискуссиями о политике регулирования ИИ с открытым исходным кодом. Отраслевые эксперты полагают, что активизация усилий OSAA по продвижению открытого сотрудничества и стандартов безопасности может еще больше укрепить экосистему ИИ с открытым исходным кодом в США, повысив возможности ИИ в области безопасности и конкурентоспособность отрасли за счет открытого обмена информацией.
Шведский стартап в области искусственного интеллекта Lovable Eyes достиг оценки в 13,2 миллиарда долларов после крупного раунда финансирования
По мере того как инструменты для программирования на основе искусственного интеллекта набирают популярность, шведский стартап Lovable привлек крупный раунд финансирования. Компания нацелена на привлечение $3 млрд, что потенциально может увеличить её
Как исправить Core Web Vitals для улучшения позиций в поисковой выдаче
Оптимизация написания комментариев в отчетных карточках с помощью ИИ-инструментовВведениеИИ-инструменты для генерации комментариев в отчетных карточкахMagic SchoolAlmanac AIChat GPTИспользование Magic School для генерации комментариев в отчетны











