Использование энергии Chatgpt ниже, чем ожидалось

ChatGPT, чат-бот от OpenAI, возможно, не так сильно потребляет энергию, как считалось ранее. Однако его энергопотребление сильно варьируется в зависимости от использования и моделей AI, отвечающих на вопросы, согласно новому исследованию.

Epoch AI, некоммерческая исследовательская группа, попыталась выяснить, сколько энергии потребляет типичный запрос ChatGPT. Возможно, вы слышали, что ChatGPT требуется около 3 ватт-часов для ответа на один вопрос, что в 10 раз больше, чем поиск в Google. Но Epoch считает, что это преувеличение.

Используя последнюю модель OpenAI по умолчанию, GPT-4o, в качестве эталона, Epoch обнаружила, что средний запрос ChatGPT потребляет около 0,3 ватт-часа. Это меньше, чем требуется многим бытовым приборам.

"Потребление энергии действительно не так велико по сравнению с использованием обычных приборов, отоплением или охлаждением дома, или вождением автомобиля," — сказал Джошуа Ю, аналитик данных Epoch, проводивший анализ, в интервью TechCrunch.

Энергопотребление AI и его влияние на окружающую среду — горячая тема, поскольку компании AI стремятся значительно расширить свои дата-центры. На прошлой неделе более 100 организаций подписали открытое письмо, призывающее индустрию AI и регуляторов обеспечить, чтобы новые дата-центры AI не истощали природные ресурсы и не вынуждали коммунальные службы полагаться на невозобновляемые источники энергии.

Ю сообщил TechCrunch, что его анализ был вызван устаревшими, по его мнению, исследованиями. Он отметил, что отчет, оценивший потребление в 3 ватт-часа, предполагал использование OpenAI более старых, менее эффективных чипов для работы своих моделей.

"Я видел много общественных дискуссий, которые правильно отмечали, что AI будет потреблять много энергии в ближайшие годы, но не совсем точно описывали энергию, потребляемую AI сегодня," — сказал Ю. "Кроме того, некоторые мои коллеги заметили, что наиболее часто упоминаемая оценка в 3 ватт-часа на запрос основана на довольно старых исследованиях и, судя по простым расчетам, кажется завышенной."

Конечно, цифра Epoch в 0,3 ватт-часа тоже лишь оценка. OpenAI не предоставила данных, необходимых для точных расчетов.

Анализ также не учитывает дополнительные энергозатраты от функций ChatGPT, таких как генерация изображений или обработка длинных входных данных. Ю признал, что "длинные" запросы ChatGPT — например, с прикрепленными большими файлами — вероятно, потребляют больше электроэнергии, чем обычные вопросы.

Ю сказал, что ожидает роста базового энергопотребления ChatGPT.

"AI станет более продвинутым, обучение этого AI, вероятно, потребует гораздо больше энергии, и этот будущий AI может использоваться гораздо интенсивнее — выполняя гораздо больше задач и более сложных задач, чем как люди используют ChatGPT сегодня," — сказал Ю.

Хотя недавно были достигнуты значительные прорывы в эффективности AI, ожидается, что масштабы использования AI приведут к огромному росту энергоемкой инфраструктуры. В ближайшие два года дата-центры AI могут потребовать почти всю мощность Калифорнии за 2022 год (68 ГВт), согласно отчету Rand. К 2030 году обучение передовой модели может потребовать мощности, эквивалентной восьми ядерным реакторам (8 ГВт), прогнозирует отчет.

ChatGPT охватывает огромное количество людей, и это число только растет, что означает, что его серверные потребности огромны. OpenAI вместе с несколькими инвестиционными партнерами планирует потратить миллиарды на новые проекты дата-центров AI в ближайшие годы.

Фокус OpenAI, как и всей индустрии AI, смещается на модели рассуждения. Эти модели могут выполнять больше задач, но требуют больше вычислительной мощности для работы. В отличие от моделей вроде GPT-4o, которые отвечают на запросы почти мгновенно, модели рассуждения "думают" от секунд до минут перед ответом, что требует больше вычислительной мощности — и, следовательно, больше энергии.

"Модели рассуждения будут все чаще выполнять задачи, которые старые модели не могут, и генерировать больше данных для этого, и оба процесса требуют больше дата-центров," — сказал Ю.

OpenAI начала выпускать более энергоэффективные модели рассуждения, такие как o3-mini. Но пока кажется маловероятным, что эти улучшения в эффективности компенсируют возросшие энергопотребности от процесса "мышления" моделей рассуждения и растущего использования AI по всему миру.

Ю предложил, что если вы беспокоитесь о своем энергетическом следе от AI, следует реже использовать приложения вроде ChatGPT или выбирать модели, требующие меньше вычислительной мощности — если это возможно.

"Можно попробовать использовать меньшие модели AI, такие как GPT-4o-mini от OpenAI," — сказал Ю, "и использовать их экономно, так, чтобы требовалось меньше обработки или генерации большого объема данных."