Дом
Во многих странах предусмотрено обязательное проведение оценки безопасности крупных моделей перед их запуском.

По мере стремительного распространения ИИ по всему миру контроль за крупными языковыми моделями переходит от общих принципов к конкретному применению нормативных требований. Правительства Великобритании, США и Австралии недавно ввели новые меры, согласно которым перед официальным запуском передовые системы ИИ обязаны пройти проверки на уязвимости безопасности и оценку рисков под контролем государства.
Подход Великобритании становится образцом глобальной политики
В рамках этого изменения в регулировании система тестирования на проникновение и оценка рисков, разработанная Британским институтом безопасности ИИ (AISI), выступает эталоном для других стран. Недавно британское правительство объявило о формальном партнерстве с Австралийским институтом безопасности ИИ с целью совместного мониторинга потенциальных рисков, связанных с использованием передовых технологий ИИ в кибератаках и защите, а также обмена информацией о ключевых возможностях в этой сфере.
Эта новая модель отходит от прежней практики, основанной на добровольных обязательствах компаний, и вовлекает государство непосредственно в процесс тестирования. В будущем крупные языковые модели ИИ будут вынуждены пройти процедуру соответствия, аналогичную «проверке безопасности перед запуском», при одновременной конкуренции на рынке; способность к тестированию безопасности все чаще становится важным фактором конкурентоспособности продуктов.
Технологические гиганты США присоединяются к оценкам национальной безопасности
Тем временем Центр стандартов и инноваций в области ИИ (CAISI), входящий в состав Министерства торговли США, развивает аналогичные механизмы оценки национальной безопасности. Несколько ведущих компаний в сфере ИИ, включая Google DeepMind, Microsoft и xAI Элона Муска, заключили с этим центром ключевые соглашения о предоставлении соответствующих материалов и прохождении тщательных проверок безопасности перед публичным выпуском своих моделей.
В этот период Microsoft также подтвердила намерение усилить сотрудничество с американскими и британскими организациями по тестированию с целью совместного снижения рисков для общественной безопасности, связанных с использованием передовых моделей. Эти быстрые международные партнерства четко демонстрируют: будущее регулирование ИИ будет сосредотачиваться не только на том, подготовили ли компании документы с обязательствами по безопасности, но и на том, действительно ли эти обязательства были проверены на практике.
Связанная статья
MiniMax представляет программу Team Program с 10-кратным вознаграждением для стимулирования глобальных экспертов в области ИИ
Компания MiniMax (Xiyu Technology), Лаборатория общего искусственного интеллекта, официально запустила инициативу по глобальному сотрудничеству с талантами «Команда 10x». Эта программа направлена на привлечение ведущих экспертов из различных отраслей
Южная Корея начала строительство национального центра вычислений на базе искусственного интеллекта, инвестируя 2,5 триллиона вон с целевым сроком завершения к 2028 году
Южнокорейское издание EtNews сообщает, что 3 августа в парке дата-центров Solar City в Сунане (провинция Чолла-Намдо) состоялась церемония закладки первого камня в основание Центра вычислений ИИ Кореи (KOACC). При общем объеме инвестиций в 2,5 трлн в
Шесть технологических гигантов поддерживают Linux Foundation с суммой $12,5 млн для борьбы с шумом уязвимостей в ИИ
Для борьбы с потоком низкокачественных отчетов о безопасности, генерируемых инструментами автоматизации на базе ИИ, шесть крупных технологических компаний — Anthropic, Amazon (AWS), GitHub, Google, Microsoft и OpenAI — совместно выделили 12,5 млн дол
Рекомендации по связанным специальным темам
Комментарии (0)

По мере стремительного распространения ИИ по всему миру контроль за крупными языковыми моделями переходит от общих принципов к конкретному применению нормативных требований. Правительства Великобритании, США и Австралии недавно ввели новые меры, согласно которым перед официальным запуском передовые системы ИИ обязаны пройти проверки на уязвимости безопасности и оценку рисков под контролем государства.
Подход Великобритании становится образцом глобальной политики
В рамках этого изменения в регулировании система тестирования на проникновение и оценка рисков, разработанная Британским институтом безопасности ИИ (AISI), выступает эталоном для других стран. Недавно британское правительство объявило о формальном партнерстве с Австралийским институтом безопасности ИИ с целью совместного мониторинга потенциальных рисков, связанных с использованием передовых технологий ИИ в кибератаках и защите, а также обмена информацией о ключевых возможностях в этой сфере.
Эта новая модель отходит от прежней практики, основанной на добровольных обязательствах компаний, и вовлекает государство непосредственно в процесс тестирования. В будущем крупные языковые модели ИИ будут вынуждены пройти процедуру соответствия, аналогичную «проверке безопасности перед запуском», при одновременной конкуренции на рынке; способность к тестированию безопасности все чаще становится важным фактором конкурентоспособности продуктов.
Технологические гиганты США присоединяются к оценкам национальной безопасности
Тем временем Центр стандартов и инноваций в области ИИ (CAISI), входящий в состав Министерства торговли США, развивает аналогичные механизмы оценки национальной безопасности. Несколько ведущих компаний в сфере ИИ, включая Google DeepMind, Microsoft и xAI Элона Муска, заключили с этим центром ключевые соглашения о предоставлении соответствующих материалов и прохождении тщательных проверок безопасности перед публичным выпуском своих моделей.
В этот период Microsoft также подтвердила намерение усилить сотрудничество с американскими и британскими организациями по тестированию с целью совместного снижения рисков для общественной безопасности, связанных с использованием передовых моделей. Эти быстрые международные партнерства четко демонстрируют: будущее регулирование ИИ будет сосредотачиваться не только на том, подготовили ли компании документы с обязательствами по безопасности, но и на том, действительно ли эти обязательства были проверены на практике.
MiniMax представляет программу Team Program с 10-кратным вознаграждением для стимулирования глобальных экспертов в области ИИ
Компания MiniMax (Xiyu Technology), Лаборатория общего искусственного интеллекта, официально запустила инициативу по глобальному сотрудничеству с талантами «Команда 10x». Эта программа направлена на привлечение ведущих экспертов из различных отраслей
Южная Корея начала строительство национального центра вычислений на базе искусственного интеллекта, инвестируя 2,5 триллиона вон с целевым сроком завершения к 2028 году
Южнокорейское издание EtNews сообщает, что 3 августа в парке дата-центров Solar City в Сунане (провинция Чолла-Намдо) состоялась церемония закладки первого камня в основание Центра вычислений ИИ Кореи (KOACC). При общем объеме инвестиций в 2,5 трлн в
Шесть технологических гигантов поддерживают Linux Foundation с суммой $12,5 млн для борьбы с шумом уязвимостей в ИИ
Для борьбы с потоком низкокачественных отчетов о безопасности, генерируемых инструментами автоматизации на базе ИИ, шесть крупных технологических компаний — Anthropic, Amazon (AWS), GitHub, Google, Microsoft и OpenAI — совместно выделили 12,5 млн дол











