Эндрю Нг «очень рад», Google заканчивает залог оружия ИИ

Андрей Нг, основатель и бывший руководитель Google Brain, выразил поддержку недавнему решению Google отказаться от обязательства не разрабатывать ИИ для оружия.

«Я действительно рад, что Google изменил свою позицию», — заявил Нг в прямом интервью TechCrunch на конференции стартапов для ветеранов в Сан-Франциско в четверг вечером.

На этой неделе Google убрал из страницы принципов ИИ обещание семилетней давности, в котором говорилось, что компания не будет создавать ИИ для оружия или слежки. Вместе с этим изменением Google опубликовал пост в блоге от генерального директора DeepMind Демиса Хассабиса, подчеркивающий необходимость сотрудничества между компаниями и правительствами для разработки ИИ, который «поддерживает национальную безопасность».

Изначальное обещание Google не разрабатывать ИИ для оружия было дано в 2018 году после протестов против проекта Maven, когда тысячи сотрудников возражали против военных контрактов компании. Протесты были сосредоточены на роли Google в предоставлении ИИ для военной программы, анализирующей видеозаписи, что потенциально повышало точность ударов беспилотников.

Нг выразил недоумение по поводу протестов против проекта Maven перед аудиторией, состоящей в основном из ветеранов.

«Честно говоря, когда возник вопрос с проектом Maven... Многие из вас готовы рисковать своими жизнями ради нашей страны, чтобы обеспечить нашу безопасность», — заметил Нг. «Так как же американская компания может отказываться помогать нашим собственным войскам, которые сражаются за нас?»

Хотя Нг не работал в Google во время протестов против проекта Maven, он значительно повлиял на инициативы компании в области ИИ и нейронных сетей. В настоящее время Нг руководит AI Fund, венчурной студией, ориентированной на ИИ, и часто обсуждает политику в области ИИ.

Нг также выразил облегчение в связи с тем, что два предложения по регулированию ИИ — отклонённый законопроект Калифорнии SB 1047 и отменённый указ Байдена по ИИ — больше не действуют. Он последовательно утверждал, что эти меры затруднят развитие ИИ с открытым исходным кодом в США.

Нг считает, что настоящий путь к обеспечению безопасности ИИ в Америке заключается в сохранении технологической конкурентоспособности с Китаем. Он отметил, что ИИ-дроны «полностью изменят поле боя».

Он не одинок в этом мнении среди бывших руководителей Google. Эрик Шмидт, бывший генеральный директор Google, теперь лоббирует в Вашингтоне, чтобы США приобрели ИИ-дроны для конкуренции с Китаем; его компания White Stork, возможно, в конечном итоге поставит эти дроны.

В то время как Нг и Шмидт выступают за военные применения ИИ, этот вопрос давно разделяет сотрудников Google.

Мередит Уиттакер, ныне президент Signal, возглавляла протесты против Maven в 2018 году, будучи исследователем ИИ в Google. Когда Google пообещал не продлевать контракты по проекту Maven, Уиттакер выразила удовлетворение, заявив, что компания «не должна заниматься войной».

Она не единственная, кто высказал протест. Джеффри Хинтон, бывший исследователь ИИ в Google и лауреат Нобелевской премии, призвал правительства мира запретить и регулировать ИИ в оружии. Джефф Дин, уважаемый бывший руководитель Google и ныне главный учёный DeepMind, также подписал письмо против использования машинного обучения в автономном оружии.

В последние годы Google и Amazon столкнулись с усилением критики за их военные контракты, включая контракты по проекту Nimbus с правительством Израиля. В прошлом году сотрудники обеих компаний устраивали сидячие протесты против проекта Nimbus, в рамках которого Google и Amazon, как сообщается, предоставляли облачные вычислительные услуги Силам обороны Израиля.

Пентагон и вооружённые силы по всему миру всё больше стремятся использовать ИИ, как ранее сообщил TechCrunch главный специалист по ИИ Министерства обороны. Поскольку Google, Amazon, Microsoft и другие технологические гиганты вкладывают сотни миллиардов в инфраструктуру ИИ, многие стремятся компенсировать эти затраты через военные сотрудничества.