Американская лаборатория открытого искусственного интеллекта Arcee утверждает, что китайские модели не являются изначально опасными

По мере того как китайские ИИ-модели с открытым доступом к весам продолжают наращивать свои возможности и долю рынка, дебаты о том, как с ними обращаться, вновь обострились.

Слухи предполагают, что администрация Трампа может попытаться запретить эти модели, хотя никаких действий пока не предпринято. Тем временем разработчики проприетарных моделей, особенно OpenAI и Anthropic, становятся всё более обеспокоенными конкуренцией.

Модели с открытым доступом к весам, такие как Kimi K3 от Moonshot AI или Qwen от Alibaba, обеспечивают вывод результатов за долю стоимости токена по сравнению с закрытыми моделями от крупных американских лабораторий. Это ценовое преимущество вызвало опасения, что они могут представлять угрозу безопасности, прежде всего, угрожая маржинальной прибылью крупных проприетарных ИИ-провайдеров.

Однако должны ли предприятия, разворачивающие эти модели в своих собственных центрах обработки данных, беспокоиться о том, что они могут стать вектором для китайских хакеров?

Нет, утверждает Лукас Аткинс, технический директор Arcee, компании, разрабатывающей открытые модели, чтобы предложить бизнесу США внутреннюю альтернативу китайскому ИИ.

Если бы какое-либо стартап-предприятие могло извлечь выгоду из запрета китайских моделей, то это была бы Arcee. Однако Аткинс утверждает, что китайские открытые модели не более опасны, чем любое другое программное обеспечение с открытым исходным кодом, которое может использовать компания. Более того, по его мнению, они даже предоставляют преимущества его собственной фирме.

«Многие люди рассматривают это как аналогичное китайской программной программе, предполагая, что она была написана с конкретными намерениями, которые злоумышленник мог бы использовать», — отметил он.

«Это фундаментально не соответствует тому, как обучаются эти модели. Не существует механизма, позволяющего Arcee или Alibaba создать модель, запустить её в вашей среде и получить к ней какой-либо доступ», — объяснил он.

Хотя большинство этих моделей являются «открытыми по весам», а не полностью программным обеспечением с открытым исходным кодом, исходный код — та часть, которая фактически работает на серверах, — в значительной степени виден и может быть проверен при загрузке с таких платформ, как Hugging Face. (То, что остаётся недоступным, — это методы обучения и наборы данных.)

Крупные организации должны подвергать любое ядро модели тщательному тестированию безопасности и проверке. Они также часто проводят постобучение моделей для конкретных случаев использования, изучая такие факторы, как предвзятость, токсичность, галлюцинации и чувствительность к определённым темам. Это позволяет им работать с моделями, оптимизировать их и понимать их до того, как пользователи начнут отправлять запросы.

Может ли модель для программирования каким-либо образом внедрить вредоносные бэкдоры в код, который она генерирует? Хотя теоретически это возможно, для достижения этого потребовались бы экстраординарные технические достижения.

«Нет причин, по которым достаточно продвинутый злоумышленник не мог бы обучить модель, отлично справляющуюся с программированием во всех сценариях, но запускающую скрытое вредоносное поведение при представлении конкретной кодовой базы», — предположил Аткинс. Однако он добавил: «Я не знаю, как на практике можно этого добиться».

Поскольку большие языковые модели по своей природе креативны, вероятность того, что современная модель сгенерирует вредоносное программное обеспечение в ответ на идеально выстроенный контекст и запрос, мала. Шансы того, что предприятие затем будет использовать этот код, ещё меньше.

Может ли это произойти в будущем? Это остаётся неопределённым. Однако предприятия разрабатывают ИИ-приложения, независимые от конкретных моделей, и используют несколько моделей. Таким образом, даже если китайские модели сегодня предлагают лучшее соотношение цены и производительности, предприятия не будут навсегда привязаны к их использованию.

«Я считаю, что разговор должен сместиться с вопроса о том, как запретить китайские модели, на вопрос о том, как мы можем способствовать созданию прочной открытой экосистемы здесь, в США», — заявил Аткинс.

Arcee также извлекает выгоду из китайских моделей. Поскольку они открыты, стартап «получает ценность, когда эти модели работают хорошо, поскольку мы можем учиться на их подходах и развивать их. Затем они могут учиться на нашей работе», — объяснил он. «Мы испытываем огромное уважение к исследователям, стоящим за этими моделями».

В конечном счёте, лучший способ конкурировать с китайскими моделями — «это выпустить превосходную модель», заключил Аткинс. «Нам нужно дать им нечто существенное для обсуждения».