Дом
Google и NVIDIA открыли исходный код DiffusionGemma, что позволило в 4 раза ускорить инференцию на одной видеокарте
10 июня 2026 года компания Google представила DiffusionGemma — экспериментальную языковую модель с открытым исходным кодом, которая отходит от традиционной авторегрессионной парадигмы генерации текста по одному слову за раз. Она впервые применяет механизмы диффузии, используемые в области искусственного интеллекта для обработки изображений, к генерации текста: начиная со случайного шума и итеративно уточняя результат, она выводит 256 блоков токенов параллельно за каждый шаг.

Что касается производительности оборудования, глубокие оптимизации NVIDIA позволяют модели работать почти в четыре раза быстрее, чем сопоставимые традиционные модели в режиме одного пользователя с одним графическим процессором. На графическом процессоре H100 она достигает скорости вывода до 1 000 токенов в секунду для одного запроса, а даже на высокопроизводительных потребительских графических процессорах, таких как RTX 5090, может превышать 700 токенов в секунду.
DiffusionGemma имеет 26 миллиардов параметров и использует архитектуру «смеси экспертов» (MoE), активируя лишь 3,8 миллиарда параметров за один шаг. Хотя качество и точность генерации текста в ней немного уступают традиционным моделям серии Gemma4 по стандартным тестам, её уникальная способность «учитывать весь блок» преодолевает ограничение авторегрессионных моделей, работающих только в обратном направлении. Поскольку все токены могут ссылаться друг на друга во время генерации, модель отлично справляется с задачами, связанными с нелинейными и структурированными данными, такими как автозаполнение текста, заполнение кода, решение судоку и обработка аминокислотных последовательностей.

Веса модели теперь доступны в открытом доступе на Hugging Face по лицензии Apache 2.0 и беспрепятственно работают с основными фреймворками для инференса, такими как vLLM и MLX. Данное исследование не только устраняет ограничения пропускной способности памяти, сдерживающие вычислительную мощность графических процессоров, но и открывает новый технический путь для будущих приложений искусственного интеллекта в области сложной логики и генерации нелинейного текста.
Связанная статья
Акции США достигли исторической отметки, поскольку гиганты искусственного интеллекта и аэрокосмической отрасли готовятся к дебюту с оценкой в триллион долларов
Илон Маск, Сэм Алтман и Дарио Амодэй, три титана технологического сектора, продвигаются к первичным публичным предложениям акций своих respective компаний. Благодаря SpaceX, OpenAI и Anthropic — трем отраслевым гигантам, чья оценка приближается к три
Шведский стартап в области искусственного интеллекта Lovable Eyes достиг оценки в 13,2 миллиарда долларов после крупного раунда финансирования
По мере того как инструменты для программирования на основе искусственного интеллекта набирают популярность, шведский стартап Lovable привлек крупный раунд финансирования. Компания нацелена на привлечение $3 млрд, что потенциально может увеличить её
Google тестирует агента Remy AI для Gemini по мере смещения фокуса на управление пользователями
Согласно Business Insider, Google тестирует Remy, нового ИИ-персонального агента для Gemini. Этот инструмент предназначен для выполнения задач от имени пользователей, упрощая как профессиональные рабочие процессы, так и повседневные рутины.В настоящ
Рекомендации по связанным специальным темам
Комментарии (0)
10 июня 2026 года компания Google представила DiffusionGemma — экспериментальную языковую модель с открытым исходным кодом, которая отходит от традиционной авторегрессионной парадигмы генерации текста по одному слову за раз. Она впервые применяет механизмы диффузии, используемые в области искусственного интеллекта для обработки изображений, к генерации текста: начиная со случайного шума и итеративно уточняя результат, она выводит 256 блоков токенов параллельно за каждый шаг.

Что касается производительности оборудования, глубокие оптимизации NVIDIA позволяют модели работать почти в четыре раза быстрее, чем сопоставимые традиционные модели в режиме одного пользователя с одним графическим процессором. На графическом процессоре H100 она достигает скорости вывода до 1 000 токенов в секунду для одного запроса, а даже на высокопроизводительных потребительских графических процессорах, таких как RTX 5090, может превышать 700 токенов в секунду.
DiffusionGemma имеет 26 миллиардов параметров и использует архитектуру «смеси экспертов» (MoE), активируя лишь 3,8 миллиарда параметров за один шаг. Хотя качество и точность генерации текста в ней немного уступают традиционным моделям серии Gemma4 по стандартным тестам, её уникальная способность «учитывать весь блок» преодолевает ограничение авторегрессионных моделей, работающих только в обратном направлении. Поскольку все токены могут ссылаться друг на друга во время генерации, модель отлично справляется с задачами, связанными с нелинейными и структурированными данными, такими как автозаполнение текста, заполнение кода, решение судоку и обработка аминокислотных последовательностей.

Веса модели теперь доступны в открытом доступе на Hugging Face по лицензии Apache 2.0 и беспрепятственно работают с основными фреймворками для инференса, такими как vLLM и MLX. Данное исследование не только устраняет ограничения пропускной способности памяти, сдерживающие вычислительную мощность графических процессоров, но и открывает новый технический путь для будущих приложений искусственного интеллекта в области сложной логики и генерации нелинейного текста.
Акции США достигли исторической отметки, поскольку гиганты искусственного интеллекта и аэрокосмической отрасли готовятся к дебюту с оценкой в триллион долларов
Илон Маск, Сэм Алтман и Дарио Амодэй, три титана технологического сектора, продвигаются к первичным публичным предложениям акций своих respective компаний. Благодаря SpaceX, OpenAI и Anthropic — трем отраслевым гигантам, чья оценка приближается к три
Шведский стартап в области искусственного интеллекта Lovable Eyes достиг оценки в 13,2 миллиарда долларов после крупного раунда финансирования
По мере того как инструменты для программирования на основе искусственного интеллекта набирают популярность, шведский стартап Lovable привлек крупный раунд финансирования. Компания нацелена на привлечение $3 млрд, что потенциально может увеличить её











