Meta Unveils Llama 4: Advanced AI -модели запускаются

Meta в субботу произвела настоящий фурор, представив новейшее дополнение к своему семейству Llama: Llama 4. Эта новая линейка включает Llama 4 Scout, Llama 4 Maverick и Llama 4 Behemoth. Эти модели были обучены на огромном количестве немаркированных текстов, изображений и видео, что, по словам Meta, дало им довольно хорошее понимание визуального контента.

Решение выпустить Llama 4 было принято после того, как китайская лаборатория ИИ DeepSeek продемонстрировала свои модели, которые либо соответствовали, либо превосходили предыдущие модели Llama от Meta. Это, похоже, вызвало у Meta настоящий ажиотаж, и они организовали военные комнаты, чтобы разобраться, как DeepSeek удалось сделать свои модели, такие как R1 и V3, дешевле в эксплуатации и развертывании.

Вы можете сразу же получить Scout и Maverick на сайте Llama.com или через партнеров Meta, таких как Hugging Face. Однако Behemoth еще находится в разработке. ИИ-ассистент Meta, который можно найти в приложениях, таких как WhatsApp, Messenger и Instagram, был обновлен до Llama 4 в 40 странах. Однако расширенные мультимодальные функции пока доступны только в США и на английском языке.

Есть, однако, одно "но". Если вы находитесь в ЕС или ваш бизнес базируется там, вам не повезло, потому что вы не можете использовать или делиться этими моделями. Вероятно, это связано со строгими законами ЕС об ИИ и конфиденциальности данных. Meta, кстати, не в восторге от этих правил. Кроме того, если у вашей компании более 700 миллионов активных пользователей в месяц, вам придется умолять Meta о специальной лицензии, на которую они могут просто ответить отказом.

"Эти модели Llama 4 — это только начало чего-то грандиозного для экосистемы Llama," — похвасталась Meta в своем блоге. "Мы только начинаем с Llama 4."

Llama 4 — первая модель, использующая архитектуру смеси экспертов (MoE), которая делает обучение и ответы на вопросы намного эффективнее. Это как разделение большой задачи на меньшие и передача их специализированным "экспертным" моделям.

Возьмем, к примеру, Maverick. В общей сложности у него 400 миллиардов параметров, но только 17 миллиардов активны среди 128 экспертов. Scout, с другой стороны, имеет 17 миллиардов активных параметров, 16 экспертов и 109 миллиардов параметров в общей сложности.

Внутренние тесты Meta показывают, что Maverick, который отлично подходит для общих задач ассистента и чата, таких как креативное письмо, превосходит модели, такие как GPT-4o от OpenAI и Gemini 2.0 от Google, в определенных областях, таких как программирование, рассуждения и работа с несколькими языками и длинными текстами. Однако он не совсем дотягивает до новых, более мощных моделей, таких как Gemini 2.5 Pro от Google, Claude 3.7 Sonnet от Anthropic и GPT-4.5 от OpenAI.

Scout выделяется в задачах, таких как суммирование документов и работа с большими кодовыми базами. У него огромный контекстный диапазон в 10 миллионов токенов, что означает, что он может одновременно обрабатывать изображения и миллионы слов. Scout может работать на одном GPU Nvidia H100, в то время как Maverick требует более мощной системы Nvidia H100 DGX или аналогичной.

Что касается Behemoth, он пока остается под покровом тайны, но потребует серьезного оборудования. У него 288 миллиардов активных параметров, 16 экспертов и почти два триллиона параметров в общей сложности. Тесты Meta показывают, что он превосходит GPT-4.5, Claude 3.7 Sonnet и Gemini 2.0 Pro в STEM-навыках, таких как решение математических задач, но не обходит Gemini 2.5 Pro.

Ни одна из этих моделей Llama 4 не является так называемой "рассуждающей" моделью, как o1 и o3-mini от OpenAI. Те модели перепроверяют свои ответы и более надежны, но требуют больше времени для ответа.

Интересно, что Meta заявляет, что они настроили Llama 4 так, чтобы она реже уклонялась от "спорных" вопросов. Новые модели более склонны решать обсуждаемые политические и социальные темы, от которых старые модели Llama уклонялись. Кроме того, Meta утверждает, что Llama 4 "значительно более сбалансирована" в том, на что она отказывается отвечать.

"Вы можете рассчитывать на Llama 4, чтобы она давала полезные, фактические ответы без осуждения," — сказал представитель Meta в интервью TechCrunch. "Мы работаем над тем, чтобы Llama была более отзывчивой к различным точкам зрения и менее склонной отдавать предпочтение одним над другими."

Этот шаг предпринят в то время, когда некоторые из союзников президента Дональда Трампа, такие как Илон Маск и Дэвид Сакс, обвиняли ИИ-чатботов в излишней "прогрессивности" и цензуре консервативных взглядов. Сакс, в частности, раскритиковал ChatGPT от OpenAI за предвзятость и недостоверность в политических темах.

Правда в том, что устранение предвзятости в ИИ — это сложная задача. Даже собственная компания Илона Маска, xAI, столкнулась с трудностями в создании чатбота, который не склоняется в ту или иную сторону в политическом плане.

Несмотря на это, компании, такие как OpenAI, корректируют свои модели, чтобы они отвечали на большее количество вопросов, особенно на те, что касаются спорных тем.