Генеральный директор DeepMind призывает к проведению тестирования моделей искусственного интеллекта под руководством США

Демис Хассабис, соучредитель и генеральный директор Google DeepMind. Источник: Демис Хассабис/LinkedIn

Генеральный директор Google DeepMind Демис Хассабис подчеркивает опасности, связанные с искусственным общим интеллектом, и выступает за создание системы регулирования под руководством США

Генеральный директор Google DeepMind Демис Хассабис предложил создать регулирующий орган под руководством США для оценки передовых моделей искусственного интеллекта. Он подчеркнул острую необходимость снижения рисков, в том числе связанных с ядерными и биологическими угрозами, по мере того как человечество приближается к созданию искусственного общего интеллекта (AGI).

Демис Хассабис — лауреат Нобелевской премии и соучредитель Google DeepMind. Он разделил Нобелевскую премию по химии со своим коллегой Джоном Джампером, который недавно объявил о переходе в компанию Anthropic. Демис имеет степень доктора философии в области когнитивной нейробиологии, полученную в Университетском колледже Лондона.

Высказывая серьезные предупреждения об угрозах, связанных с ИИ, он в то же время выразил оптимизм в отношении его потенциала: «Мы могли бы даже достичь того момента, когда ресурсы перестанут быть сдерживающим фактором для прогресса человечества, что приведет к наступлению удивительной новой эры изобилия», — заявил он, отметив, что ИИ поможет решить некоторые из самых насущных проблем человечества.

Основные опасения в отношении AGI

Демис отметил, что ведущие компании в сфере ИИ в настоящее время участвуют в интенсивной, многоуровневой коммерческой и геополитической гонке. В этой конкуренции участвует и его собственная компания Google DeepMind наряду с такими соперниками, как OpenAI, Anthropic и DeepSeek.

«Мы уже видели, какие проблемы создают передовые модели для кибербезопасности, и по мере дальнейшего развития технологий вскоре могут возникнуть и другие угрозы, включая ядерные и биологические риски», — написал Демис в своём блоге на Substack.

Демис добавил: «Мы должны использовать это ценное окно возможностей до появления ОИИ, чтобы сформировать эту технологию на благо всего человечества».

Он также подчеркнул потенциальные риски из областей, которые в настоящее время остаются неизвестными: «В ближайшем будущем нам понадобятся надежные меры безопасности, чтобы сохранить контроль над системами, которые становятся все более автономными и рекурсивно самосовершенствующимися, — и решать неизвестные проблемы, которые прояснятся только со временем».

Это предупреждение последовало за недавним распоряжением правительства США, в котором со ссылкой на соображения национальной безопасности предписывалось приостановить любой иностранный доступ к моделям Fable 5 и Mythos 5 компании Anthropic; по имеющимся данным, данное ограничение впоследствии было снято.

Художественная иллюстрация ИИ. На этом изображении показано, как ИИ можно использовать для развития области квантовых вычислений. Источник: Google DeepMind/Unsplash

Взгляды Демиса на ОИИ поддерживают другие эксперты и аналитические центры. Центр международных отношений и устойчивого развития в статье под названием «Почему ОИИ должен стать главным приоритетом мира» предупредил, что без национального и международного регулирования человечество рискует утратить контроль над небиологическим интеллектом, выходящим за пределы человеческого понимания, осознания и контроля.

Примечательно, что журнал «Бюллетень ученых-атомщиков», который в январе 2026 года установил «Часы Судного дня» на отметке 85 секунд до полуночи — это самый короткий отрезок времени в истории — также призвал к принятию срочных мер по разработке международных руководящих принципов использования ИИ.

Демис Хассабис, генеральный директор и соучредитель Google DeepMind (слева), с Джоном Джампером, бывшим вице-президентом Google DeepMind (справа) | Фото: Джон Копалофф / Getty Images

«Мы должны использовать это драгоценное окно времени до появления общего искусственного интеллекта (AGI), чтобы сформировать эту технологию на благо всего человечества». Демис Хассабис, соучредитель и генеральный директор Google DeepMind

Предложение о регулировании под руководством США

Демис утверждал, что США, учитывая их экономическое и техническое положение, имеют все возможности для того, чтобы сделать первый шаг в разработке рамок, предусматривающих динамичный, адаптивный и строгий подход к тестированию передовых моделей.

Предложение Демиса является подробным и конкретным. «Можно было бы создать новый орган по стандартизации по образцу государственно-частного партнерства под федеральным надзором или саморегулируемой организации, подобно Управлению по регулированию финансовой индустрии (FINRA).

«Орган по стандартизации будет отвечать за разработку протоколов оценки и сотрудничество с соответствующими федеральными агентствами и национальными лабораториями США для проведения тестирования в областях, имеющих отношение к национальной безопасности».

«На начальном этапе компании Frontier Labs будут добровольно предоставлять модели в орган по стандартизации для экспертизы не позднее чем за 30 дней до их выпуска. Как только протокол оценки продемонстрирует свою эффективность и надежность, его формализация может последовать в кратчайшие сроки, что означает: для внедрения на рынке США передовые модели должны будут пройти эту оценку».

Демис добавил, что эта инициатива США станет прочной основой для создания общих международных стандартов в области передовых технологий искусственного интеллекта.

Ник Кайринос, генеральный директор и соучредитель RAIDS AI, прокомментировал это событие: «Но глобальный орган по надзору за ИИ не может руководствоваться повесткой дня какой-либо одной страны».

Ник Кайринос, генеральный директор и соучредитель RAIDS AI. Источник: Ник Кайринос/LinkedIn

«ИИ не признает границ, и правила, призванные его регулировать, тоже не должны их признавать. Многонациональный подход необходим для того, чтобы любые нормативные акты в сфере ИИ завоевали доверие, обеспечили сотрудничество и получили поддержку, необходимые для их эффективного функционирования на международном уровне».

Недавние риски, связанные с передовыми моделями

Предупреждение Демиса последовало за публикацией компанией Anthropic отчета «Агентивное несоответствие летом 2026 года» (Agentic Misalignment in Summer 2026), в котором подробно описаны наблюдения за сбоями моделей согласования в симуляциях с высокими ставками. В отчете использовались передовые модели от Google DeepMind, OpenAI, китайской компании DeepSeek, занимающейся ИИ, а также собственные модели Anthropic.

Среди перечисленных проблем несогласованности — модели, преследующие собственные мотивы, выходящие за рамки инструкций пользователя, а также то, что Anthropic называет «вредным подчинением», когда запрос пользователя выполняется, но приводит к нанесению вреда.

Среди проблем, упомянутых Anthropic, — скрытый саботаж, то есть сбой, связанный с агентивным несоответствием, при котором модели тайно вмешиваются в код, чтобы подорвать намерения пользователя. Anthropic также обнаружила, что некоторые модели помогают пользователям в действиях, напоминающих экономические преступления.

Среди других рисков, связанных с новейшими передовыми моделями, упоминаются: подталкивание людей к раскрытию конфиденциальной информации, когда модели утекают конфиденциальную информацию о безопасности за пределы системы или побуждают людей к этому, а также преднамеренная неправильная маркировка.

В своём отчёте, опубликованном на блоге Alignment Science Blog, компания Anthropic заявила, что цель этих тематических исследований — помочь разработчикам и экспертам по оценке выявлять подобные сбои и создавать целенаправленные меры защиты.