Шифрование, шпионское ПО, «Мифос»: история показывает, что меры по контролю за экспортом кибертехнологий не работают

В прошлую пятницу, сославшись на неуточненные соображения национальной безопасности, Белый дом обязал компанию Anthropic ограничить экспорт своих мощных моделей искусственного интеллекта — Fable и Mythos — для всех лиц за пределами США, включая иностранных граждан, находящихся на территории страны. Вскоре после этого компания быстро отключила обе модели, которые уже неделю как недоступны.

Этот эпизод стал первым реальным испытанием того, сможет ли правительство США использовать экспортный контроль для сдерживания передовых технологий ИИ, подобно тому, как оно ранее пыталось — с неоднозначными результатами — контролировать шифрование и шпионское ПО. Как бы драматично это ни звучало, исход этого противостояния может определить не только доступ Anthropic к зарубежным рынкам, но и правила, которым придется следовать другим лабораториям, занимающимся ИИ.

Немного предыстории: с момента запуска Mythos в апреле компания Anthropic позиционировала его как своего рода «кибер-машину конца света», способную нанести огромный ущерб интернету в случае слишком широкого распространения. Именно поэтому до введения запрета доступ к нему имели лишь около 150 прошедших проверку компаний и государственных организаций. Цель заключалась в том, чтобы помочь защитникам обезопасить своё программное обеспечение и сервисы до того, как злоумышленники смогут обрести возможности, подобные Mythos.

Что же стало причиной запрета? По имеющимся данным, два последовательных события. Во-первых, Anthropic предоставила южнокорейской телекоммуникационной компании доступ к Mythos в рамках своей программы для ограниченного круга партнеров. Американские чиновники забеспокоились, обнаружив, что эта компания, как они подозревали, имеет связи с Китаем. (Компания, которую, по широко распространенным сообщениям, называют SK Telecom, отрицает какую-либо связь с Китаем.) Во-вторых, генеральный директор Amazon Энди Джасси, как сообщается, предупредил администрацию после того, как, по его утверждению, собственные исследователи Amazon нашли способ обойти меры безопасности Fable 5. Anthropic оспаривает термин «джейлбрейк», называя это узкой проблемой, которая уже устранена, а не полным обходом мер безопасности модели.

Результат оказался тем же: Министерство торговли издало директиву об экспортном контроле, и, по некоторым данным, компании Anthropic пришлось в срочном порядке ограничить доступ к своим продуктам примерно в течение 90 минут после получения уведомления.

Однако в этом нет ничего нового. На протяжении десятилетий правительства пытались использовать экспортный контроль для ограничения распространения тех кибертехнологий, которые они считают опасными, но их успехи в этом деле были, в лучшем случае, умеренными.

Правительство США стояло за, пожалуй, самым громким провалом этого подхода в истории, произошедшим в начале–середине 1990-х годов. В то время компьютерные ученые разрабатывали технологии шифрования для защиты данных при их передаче через Интернет. Одним из таких продуктов шифрования был Pretty Good Privacy (PGP) — популярное программное обеспечение, способное зашифровать данные и сделать их расшифровку практически невозможной, даже если они будут перехвачены на пути к адресату.

Правительство США изначально рассматривало PGP как опасное оружие, опасаясь, что оно помешает спецслужбам следить за электронной почтой при её передаче по каналам связи. Чтобы остановить его распространение, Таможенная служба США возбудила уголовное дело против создателя PGP Фила Циммермана по обвинению в якобы нарушении контроля за экспортом оружия. Он ответил публикацией исходного кода PGP в виде печатной книги, что положило начало тому, что сегодня известно как «криптовойны».

Позже Циммерман одержал ключевую победу, когда расследование было закрыто, что проложило путь для важнейших алгоритмов сквозного шифрования, таких как тот, который используют миллиарды пользователей Signal и WhatsApp.

Позже, в начале 2010-х годов, исследователи начали обнаруживать шпионское ПО западного производства, используемое против диссидентов на Ближнем Востоке. В ответ на это несколько правительств договорились о расширении Вассенаарской конвенции — международного договора, ограничивающего экспорт программного обеспечения и технологий двойного назначения, используемых как в гражданских, так и в военных целях.

Идея заключалась в том, чтобы отнести программное обеспечение для слежки и взлома к категории товаров двойного назначения, что заставило бы производителей шпионского ПО получать экспортные лицензии для продажи своих продуктов за рубежом.

Свяжитесь с нами

Однако у Вассенаарского соглашения всегда было два неотъемлемых недостатка. Несколько стран не присоединились к соглашению, в том числе Израиль, где базируются одни из самых активных в мире производителей шпионского ПО.

Кроме того, действие соглашения зависит от того, применяют ли страны его к компаниям на своей территории по собственному усмотрению. Некоторое время итальянское правительство выдавало одному из ведущих на тот момент производителей шпионского ПО, компании Hacking Team, лицензию на экспорт своих инструментов по всему миру, несмотря на то, что компания ранее продавала шпионское ПО репрессивным правительствам, которые использовали его для взлома аккаунтов журналистов и правозащитников.

С тех пор другие европейские страны, как и Италия, проявляют снисходительность по отношению к производителям шпионского ПО. Несмотря на многочисленные скандалы, Европа — где базируются многие производители шпионского ПО и хакерских инструментов — постоянно не справляется с задачей ограничения экспорта шпионского ПО в авторитарные режимы. Критики заявляют, что недавние возобновленные усилия 27 стран-членов ЕС по решению растущей проблемы экспорта шпионского ПО в авторитарные государства «не идут достаточно далеко».

Некоторые производители шпионского ПО, такие как Intellexa — консорциум компаний, на который наложены санкции, — просто перенесли свою деятельность в страны с менее строгим экспортным контролем. Другие производители шпионского ПО по аналогичным причинам пытались перенести свою деятельность в Саудовскую Аравию.

Были и некоторые успехи. Немецкий производитель шпионского ПО FinFisher прекратил свою деятельность в 2022 году после многолетнего расследования, проводимого немецкими прокурорами в отношении компании по подозрению в продаже шпионского ПО Турции без экспортной лицензии. Ранее следователи установили, что шпионское ПО FinFisher устанавливалось на телефоны критиков турецкого правительства.

На момент написания этой статьи тупиковая ситуация между Anthropic и администрацией Трампа сохраняется. Существует реальная вероятность того, что администрация пойдет на уступки и снимет ограничения в интересах сохранения конкурентоспособности американских компаний, занимающихся ИИ, на мировом рынке — такой шаг стал бы негласным признанием того, что лаборатории ИИ в других странах, в том числе в Китае, скорее всего, достигнут аналогичных возможностей независимо от ограничений со стороны США. Или же американским компаниям, занимающимся ИИ, в конечном итоге может потребоваться разрешение правительства даже для того, чтобы обслуживать иностранных клиентов, — а такая нагрузка, связанная с соблюдением нормативных требований, неизбежно негативно скажется на их прибыли.

Учитывая прошлый опыт попыток правительств контролировать сферу применения программного обеспечения, введенные правительством меры экспортного контроля вряд ли станут правильным подходом к предотвращению злоупотребления мощными кибертехнологиями двойного назначения со стороны злоумышленников.