Три пионера искусственного интеллекта выступают за сохранение больших моделей открытыми, поскольку растут опасения по поводу безопасности

Инициативы, такие как Pacing the Frontier, направлены на обеспечение безопасности искусственного интеллекта путем партнерства с ведущими лабораториями, однако модели с открытым исходным кодом остаются спорным вопросом в отрасли. Из-за их бесплатного распространения и отсутствия контроля над использованием модели с открытыми весами трудно регулировать, что вызывает у некоторых организаций значительную обеспокоенность.

Однако на конференции Ai4, прошедшей на прошлой неделе в Лас-Вегасе, три видных эксперта в области искусственного интеллекта — лауреат Нобелевской премии Джеффри Хинтон, генеральный директор и сооснователь World Labs Фэй-Фэй Ли и сооснователь Coursera Эндрю Нг — затронули эту тему. Хотя они расходились во мнениях относительно конкретных стратегий, все трое решительно выступали за сохранение открытой экосистемы искусственного интеллекта.

Для этих спикеров главной проблемой было предотвращение ситуации, при которой небольшая группа крупных компаний контролирует технологический прогресс. Когда несколько компаний доминируют в доступе к технологии, подобно тому как Apple и Google контролируют мобильные операционные системы, инновации могут застопориться, а контролеры платформы могут диктовать, что разрабатывается.

Эндрю Нг выразил обеспокоенность по поводу возникновения подобной динамики в сфере искусственного интеллекта. «Я не хочу, чтобы были хранители ворот», — заявил Нг. «Это ограничивает то, как все мы можем получать доступ к искусственному интеллекту».

Компании мотивированы защищать свои конкурентные преимущества, в том числе путем формирования отраслевых регуляций. Это может создать сценарий, при котором выживут только самые крупные, хорошо финансируемые компании, обладающие ресурсами для создания передовых систем искусственного интеллекта.

Решение Нг заключалось в поддержании множества провайдеров, обеспечивая конкуренцию моделей и компаний, а не позволяя нескольким игрокам доминировать. «Если бы мне пришлось дать один рецепт, я бы сказал: продвигать открытость», — сказал Нг, «потому что искусственный интеллект — это удивительная технология, и я хочу, чтобы она была в руках каждого».

Не все согласились с тем, что модели с открытыми весами сохранят этот конкурентный баланс. Хинтон, в частности, провел различие между программным обеспечением с открытым исходным кодом, которое делает доступным для проверки и модификации базовый код, и моделями с открытыми весами, которые публикуют параметры обученной модели искусственного интеллекта для широкой публики.

«Открытый исходный код — это здорово. Вы показываете людям код, и многие люди смотрят на строки кода и говорят: „О, здесь есть ошибка“. Открытые веса означают, что вы обучаете большую модель, а затем предоставляете людям веса. Это очень отличается», — объяснил Хинтон. «Я выступал против открытых [весов], потому что это делает слишком легким для людей брать эти большие базовые модели, обучение которых обходится очень дорого, и за гораздо меньшие деньги обучать их совершать плохие действия, такие как кибератаки».

Несмотря на свои опасения, Хинтон признал, что модели с открытыми весами теперь стали постоянным элементом в сфере искусственного интеллекта. «Я думаю, что эта битва проиграна. Теперь у нас есть модели с открытыми весами, поэтому барьер для того, чтобы многие люди получали доступ к этим большим моделям, а именно стоимость обучения базовых моделей, исчез. Уже слишком поздно».

Однако принятие реальности не означало игнорирование рисков. Позиция Хинтона была четкой: искусственный интеллект продолжит развиваться, и он считал, что это в основном полезно. Он отметил, что это повысит производительность и улучшит образование и здравоохранение. «Беспокоиться о возможных негативных последствиях искусственного интеллекта и о том, что могут делать разумные существа, когда они станут умнее нас. Я не думаю, что это несправедливо. Я считаю несправедливым называть любого, кто думает так, распространителем страха», — добавил Хинтон.

Нг предложил другую точку зрения. Он утверждал, что вопрос заключался не в том, являются ли открытые модели рискованными, а в том, кто контролирует доступ и кто выиграет на рынке. Сущность, которая создает более дешевую модель, получает преимущество. Если китайские модели с открытыми весами получат широкое распространение в Азии, Африке и/или развивающихся странах, предупредил он, они могут повлиять на то, как миллиарды людей сталкиваются с идеями о демократии, свободе и правах человека.

«Одна вещь, которую я надеюсь, мы сделаем, — это поощрение американской конкурентоспособности и открытого искусственного интеллекта. Оказывается, что искусственный интеллект является огромным источником мягкой силы. Вы можете видеть, как модель Китая добилась огромных успехов в Африке, например», — сказал Нг. «Но моя проблема в том, что из-за всего лоббирования в США и распространения страха создание открытого искусственного интеллекта в Америке с трудом конкурирует с моделями с открытыми весами, поступающими из Китая, и моя проблема в том, что если Китай найдет фундаментально более рентабельный способ создания искусственного интеллекта, то более рентабельные вещи имеют фундаментальное преимущество в бизнес-принятии».

Ли оспорила эту формулировку. «Очень опасно делать из этого дихотомию между полной открытостью до полной закрытости», — сказала она. «В сложных программных системах, а также в научных системах все гораздо более нюансировано».

Ли привела в пример ядерную физику: научные статьи публикуются открыто, но уран регулируется, а лабораторная работа находится где-то посередине. Урок, объяснила она, заключался в том, что открытость не должна быть выбором «все или ничего». Различные уровни экосистемы могут функционировать на разных уровнях открытости.

Она также выделила сотрудничество между государственными и частными учреждениями, такое как проект «Геном человека». Полученные знания стали платформой, на которой могли строить другие, сказала она, позволяя фармацевтическим компаниям получать прибыль, ученым продвигать свою работу, а обществу извлекать выгоду.

«Поэтому я думаю, что мы должны использовать [искусственный интеллект] как такую инфраструктуру», — сказала Ли. «Нам нужны некоторые уровни открытости как в научных открытиях, так и в образовании, в глобальном партнерстве, а также прибыльные бизнес-модели для предпринимателей. Но мы также примем системы с закрытым исходным кодом. Эта дискуссия, особенно на уровне утверждения „мы можем терпеть только один вариант“, является ложной дискуссией. Нам нужно достичь уровня нюансированности».

Однако все согласились, что потребуется определенный уровень регулирования, чтобы держать искусственный интеллект на правильном пути. «То, что мы хотим сделать, — это развивать искусственный интеллект в направлении, которое помогает людям, и регулирование поможет нам в этом», — сказал Хинтон. «Нельзя оставлять решение о том, как должен развиваться искусственный интеллект, на таких людей, как Илон Маск и Марк Цукерберг».