Anthropic приостановила выпуск новой модели ИИ после обнаружения уязвимостей в системе безопасности

# Nvidia # Google # Microsoft # Anthropic # agentic ai # AI cybersecurity # ai security # amazon web services # Claude Mythos # CrowdStrike # cybersecurity # open source security # Palo Alto Networks # Project Glasswing # vulnerability # zero-day

Самая передовая модель искусственного интеллекта компании Anthropic уже выявила тысячи уязвимостей в сфере кибербезопасности во всех основных операционных системах и веб-браузерах. Компания решила не обнародовать эту информацию, а незаметно предоставила ее организациям, отвечающим за поддержание критически важной интернет-инфраструктуры.

Эта модель называется Claude Mythos Preview, а инициатива известна как Project Glasswing.

В число партнеров по запуску входят Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Linux Foundation, Microsoft, Nvidia и Palo Alto Networks.

Помимо этой основной группы, Anthropic предоставила доступ более чем 40 дополнительным организациям, которые разрабатывают или обслуживают важную программную инфраструктуру. В рамках этой инициативы Anthropic выделяет до 100 миллионов долларов в виде кредитов на использование Mythos Preview, а также 4 миллиона долларов в виде прямых пожертвований организациям, занимающимся безопасностью открытого исходного кода.

Модель, превзошедшая собственные тесты

Mythos Preview не был специально обучен для задач кибербезопасности. Anthropic заявила, что его возможности «появились как косвенное следствие общих улучшений в коде, рассуждениях и автономности», отметив, что те же самые усовершенствования, которые делают модель лучше в исправлении уязвимостей, также усиливают ее способность их эксплуатировать.

Этот последний момент имеет большое значение. Mythos Preview усовершенствовался до такой степени, что в значительной мере исчерпал существующие тесты безопасности, что вынудило Anthropic перенести акцент на новые реальные задачи — в частности, уязвимости «нулевого дня». Это недостатки, ранее неизвестные разработчикам программного обеспечения.

Среди обнаруженных уязвимостей — 27-летняя ошибка в OpenBSD, операционной системе, известной своей высокой безопасностью. В другом случае модель самостоятельно обнаружила и эксплуатировала 17-летнюю уязвимость удаленного выполнения кода в FreeBSD — CVE-2026-4747 — которая позволяет неавторизованному пользователю из любой точки Интернета получить полный контроль над сервером, работающим под управлением NFS. Ни один человек не участвовал в обнаружении или эксплуатации после первоначального запроса на поиск ошибки.

Николас Карлини из исследовательской группы Anthropic описал способность модели объединять уязвимости в цепочку: «Эта модель может создавать эксплойты, комбинируя три, четыре, а иногда и пять уязвимостей последовательно, чтобы добиться очень сложного результата. За последние пару недель я нашел больше ошибок, чем за всю остальную свою карьеру».

Почему она не выпускается?

«Мы не планируем делать Claude Mythos Preview общедоступным из-за его возможностей в области кибербезопасности», — сказал Ньютон Ченг, руководитель киберкоманды Frontier Red Team в Anthropic. «Учитывая быстрые темпы развития ИИ, не пройдет много времени, прежде чем такие возможности станут широко доступными и потенциально попадут в руки тех, кто не стремится использовать их безопасно. Последствия для экономики, общественной безопасности и национальной безопасности могут быть серьезными».

Эта обеспокоенность не является гипотетической. Ранее компания Anthropic раскрыла информацию о том, что она описала как первый задокументированный случай кибератаки, в значительной степени осуществленной ИИ — китайская группа, спонсируемая государством, использовала ИИ-агентов для автономного проникновения примерно в 30 глобальных целей, при этом ИИ самостоятельно выполнял большую часть тактических операций.

Компания также в частном порядке проинформировала высокопоставленных чиновников правительства США о полных возможностях Mythos Preview. Разведывательное сообщество в настоящее время активно оценивает, как эта модель может изменить как наступательные, так и оборонительные хакерские операции.

Проблема открытого исходного кода

Одним из аспектов Project Glasswing, выходящим за рамки основной коалиции, является его фокус на программном обеспечении с открытым исходным кодом. Джим Землин, генеральный директор Linux Foundation, прямо заявил: «В прошлом экспертиза в области безопасности была роскошью, доступной только организациям с большими командами по безопасности. Разработчики программного обеспечения с открытым исходным кодом, чье программное обеспечение лежит в основе большей части критически важной инфраструктуры мира, исторически были вынуждены самостоятельно решать вопросы безопасности».

Anthropic пожертвовала 2,5 миллиона долларов Alpha-Omega и OpenSSF через Linux Foundation, а также 1,5 миллиона долларов Apache Software Foundation, предоставив разработчикам критически важных кодовых баз с открытым исходным кодом доступ к сканированию уязвимостей кибербезопасности на основе искусственного интеллекта в масштабах, которые ранее были недостижимы.

Что будет дальше

Anthropic заявляет, что ее долгосрочной целью является масштабное внедрение моделей класса Mythos, но только после того, как будут надежно внедрены новые меры безопасности. Компания планирует впервые внедрить эти новые меры безопасности в предстоящей модели Claude Opus, что позволит ей доработать их с помощью модели, не представляющей такого же уровня риска, как Mythos Preview.

Конкурентная среда уже меняется в связи с этим событием. Когда в феврале OpenAI выпустила GPT-5.3-Codex, компания назвала ее первой моделью, которую она классифицировала как обладающую высокими возможностями для задач кибербезопасности в рамках своей системы оценки готовности (Preparedness Framework). Шаг Anthropic с Glasswing сигнализирует о том, что ведущие лаборатории ИИ рассматривают контролируемое развертывание — а не открытый выпуск — как формирующийся стандарт для моделей данного уровня возможностей.

Сохранится ли этот стандарт по мере того, как эти возможности станут более распространенными, на данный момент остается открытым вопросом, на который ни одна отдельная инициатива не может дать однозначного ответа.

См. также: Отказ Anthropic вооружать ИИ — именно то, что нужно Великобритании

Хотите узнать больше об ИИ и больших данных от лидеров отрасли? Посетите выставку AI & Big Data Expo, которая пройдет в Амстердаме, Калифорнии и Лондоне. Это комплексное мероприятие является частью TechEx и проходит одновременно с другими ведущими технологическими мероприятиями, включая Cyber Security & Cloud Expo. Нажмите здесь для получения дополнительной информации.

AI News поддерживается TechForge Media. Узнайте о других предстоящих мероприятиях и вебинарах по корпоративным технологиям здесь.

Связанная статья

Комментарии (1)