Предупреждения компании Anthropic о безопасности обернулись против неё: правительство приостановило работу её самого мощного ИИ

В пятницу правительство США обязало компанию Anthropic немедленно заблокировать доступ к двум своим самым передовым системам искусственного интеллекта — Claude Fable 5 и Claude Mythos 5 — сославшись на угрозы национальной безопасности. Anthropic подтвердила выполнение требования через X, но заявила, что считает решение правительства ошибочным.

По данным Anthropic, распоряжение поступило в пятницу в 17:21 по восточному времени и обязывало компанию заблокировать доступ к обеим моделям для всех пользователей по всему миру, а не только для иностранных граждан, на которых изначально был направлен приказ об экспортном контроле. Остальные модели Anthropic не затронуты.

Почему это важно? Mythos — самая мощная система искусственного интеллекта компании Anthropic, предварительная версия которой была представлена в начале апреля и которая находилась под строгим ограничением из-за своей исключительной способности выявлять уязвимости в безопасности программного обеспечения. В компании Anthropic сообщают, что Mythos обнаружил уязвимости во всех протестированных основных операционных системах и веб-браузерах. В результате, вместо широкого выпуска компания запустила Project Glasswing — контролируемую программу, предоставляющую доступ примерно 50 проверенным организациям, включая Amazon, Apple, Google, Microsoft и CrowdStrike, для целей защитной кибербезопасности.

Fable 5, запущенная всего три дня назад, учитывает коммерческое давление, предлагая версию Mythos с ограничителями, блокирующими ответы в секторах с высоким риском, таких как кибербезопасность и биология. Anthropic утверждает, что это делает модель безопасной для общего использования, а тесты Vals AI, отслеживающие производительность ИИ, подтверждают, что на данный момент это самая мощная общедоступная модель искусственного интеллекта.

Источник изображения:Vals AI /

Хотя правительство представляет это как меру экспортного контроля, ограничивающую доступ из-за рубежа, компания Anthropic в подробном посте в блоге утверждает, что настоящая проблема заключается в якобы обнаруженном способе «джейлбрейка» Fable 5. Компания заявляет, что правительство предоставило лишь устные доказательства «потенциального узконаправленного, не универсального взлома», который заключается в том, чтобы побудить модель проанализировать конкретную кодовую базу на наличие программных уязвимостей. Anthropic отмечает, что эта возможность уже широко доступна в других общедоступных моделях, таких как GPT-5.5 от OpenAI, и регулярно используется специалистами по кибербезопасности в целях защиты.

Основной аргумент Anthropic заключается в том, что её самые надёжные меры защиты опираются на независимые системы классификации, отдельные от самой модели. Это означает, что даже если пользователь обойдёт отказ, базовые меры защиты от опасных результатов остаются активными.

Несмотря на эти меры безопасности, правительство продолжило свои действия, и компания Anthropic открыто выразила свое недовольство. «Мы не согласны с тем, что обнаружение узкого потенциального способа «джейлбрейка» должно стать поводом для отзыва коммерческой модели, развернутой для сотен миллионов людей», — написала компания. «Если бы этот стандарт применялся во всей отрасли, мы полагаем, что это фактически остановило бы внедрение всех новых моделей всеми поставщиками передовых моделей».

Широко ожидается, что в этом году Anthropic проведет IPO, позиционируя себя как ориентированную на безопасность альтернативу конкурентам. Наблюдатели отмечают иронию в том, что осторожность, проявленная Anthropic при ограничении доступа к Mythos — когда компания позиционировала его как слишком опасный для публичного выпуска — теперь вызвала именно ту самую проверку со стороны правительства, которая может нарушить ее бизнес.

Сэм Альтман из OpenAI, похоже, наслаждается сложившейся ситуацией. В апреле он сказал подкастеру Эшли Вэнсу, что подход Anthropic к Mythos — это «маркетинг, основанный на страхе». «Это, безусловно, невероятный маркетинговый ход — сказать: “Мы создали бомбу. Мы собирались сбросить её вам на голову. А теперь мы продадим вам бомбоубежище за 100 миллионов долларов”», — сказал Альтман. Хотя Альтман, чья компания также планирует в ближайшее время провести IPO, не предсказывал вмешательства правительства, он подчеркнул одно из последствий стратегии Anthropic: потратив месяцы на предупреждения о том, что их ИИ представляет особую опасность, компания добилась того, что правительство США обратило на неё внимание.