Интервью Сэма Альтмана TED 2025: самая неудобная, но в то же время важная дискуссия по ИИ

Во время конференции TED 2025 в Ванкувере генеральный директор OpenAI Сэм Альтман поделился впечатляющими статистическими данными о росте своей компании. Он сообщил, что OpenAI теперь имеет 800 миллионов активных пользователей в неделю, и эта цифра растет с темпами, которые Альтман назвал «невероятными». В интервью, которое было столь же напряженным, сколь и информативным, Альтман выраз762ил свое восхищение траекторией развития компании, заявив: «Я никогда не видел такого роста ни в одной компании, в которой я участвовал или нет, как этот». Он признал, что, хотя стремительное расширение ChatGPT захватывает, это также сказывается на команде: «Рост ChatGPT — это действительно весело. Я чувствую глубокую честь. Но переживать это безумие, и наши команды измотаны и испытывают стресс».

Интервью, завершившее последний день TED 2025: Humanity Reimagined, не только подчеркнуло стремительный взлет OpenAI, но и пролило свет на усиливающийся контроль, с которым сталкивается компания. По мере того как ее технологии продолжают стремительно менять общество, даже некоторые из ее сторонников выражают обеспокоенность.

«Наши GPU плавятся»: OpenAI борется с масштабированием на фоне беспрецедентного спроса

Альтман нарисовал яркую картину компании, борющейся с собственным успехом. Он упомянул, что GPU OpenAI «плавятся» под давлением популярных новых функций генерации изображений. «Весь день я звоню людям и умоляю их отдать нам свои GPU. Мы невероятно ограничены», — признался он. Этот стремительный рост происходит в то время, когда ходят слухи, что OpenAI может запустить собственную социальную сеть, чтобы конкурировать с X Илона Маска, хотя Альтман не подтвердил и не опроверг эти сообщения во время интервью на TED.

Недавно OpenAI завершила монументальный раунд финансирования на 40 миллиардов долларов, что увеличило ее оценку до 300 миллиардов долларов — крупнейшее частное технологическое финансирование в истории. Этот приток средств должен помочь устранить некоторые инфраструктурные узкие места, с которыми они сталкиваются.

От некоммерческой организации к гиганту стоимостью 300 миллиардов: Альтман отвечает на обвинения в «Кольце Власти»

На протяжении 47-минутной беседы глава TED Крис Андерсон задавал Альтману вопросы об эволюции OpenAI от некоммерческой исследовательской лаборатории до коммерческого гиганта стоимостью 300 миллиардов долларов. Андерсон повторил опасения критиков, включая Илона Маска, который предположил, что Альтман был «развращен Кольцом Власти», ссылаясь на «Властелин колец».

Альтман защищал путь компании, подчеркивая их миссию по разработке и распространению AGI безопасно на благо человечества. «Наша цель — создать AGI и распространить его, сделать его безопасным для широкой пользы человечества. Я думаю, по всем оценкам, мы многое сделали в этом направлении. Очевидно, наша тактика со временем изменилась… Мы не думали, что нам придется строить компанию вокруг этого. Мы многому научились о том, как это происходит, и о реалиях того, какие капиталы потребуются этим системам», — объяснил он.

Когда его спросили, как он справляется с огромной властью, которой он теперь обладает, Альтман ответил с ноткой юмора и скромности: «Удивительно, но так же, как и раньше. Я думаю, что ко всему можно привыкнуть шаг за шагом… Ты тот же человек. Я уверен, что во многих отношениях я уже не тот, но я не чувствую себя иначе».

«Разделение доходов»: OpenAI планирует платить художникам, чьи стили используются ИИ

Одним из более конкретных анонсов политики в интервью стало заявление Альтмана о том, что OpenAI работает над системой компенсации для художников, чьи стили копируются ИИ. «Я думаю, что есть невероятные новые бизнес-модели, которые мы и другие с энтузиазмом исследуем», — сказал Альтман, отвечая на вопросы о потенциальном хищении интеллектуальной собственности в сгенерированных ИИ изображениях. Он задал вопрос: «Если вы говорите: «Я хочу создать искусство в стиле этих семи человек, все из которых дали на это согласие», как вы распределяете, сколько денег достанется каждому?»

В настоящее время генератор изображений OpenAI не будет имитировать стиль живых художников без их согласия, но может создавать искусство в стиле движений, жанров или студий. Альтман намекнул на возможную модель разделения доходов, хотя детали пока не разглашаются.

Автономные агенты ИИ: «Наиболее значимый вызов безопасности», с которым столкнулась OpenAI

Беседа приняла серьезный оборот, когда речь зашла об «агентном ИИ» — автономных системах, способных выполнять действия в Интернете от имени пользователей. Новый инструмент OpenAI «Operator», который может бронировать рестораны, вызвал опасения по поводу безопасности и ответственности.

Андерсон настаивал на потенциальных опасностях: «Один человек может выпустить такого агента, и агент может решить: «Чтобы выполнить эту функцию, мне нужно скопировать себя повсюду». Есть ли красные линии, которые вы четко определили внутри компании, где вы знаете, какие моменты опасны?»

Альтман сослался на «рамки готовности» OpenAI, но был уклончив в отношении того, как компания предотвратит злоупотребление автономными агентами. «ИИ, которому вы предоставляете доступ к своим системам, вашей информации, возможность щелкать по вашему компьютеру… когда они ошибаются, ставки гораздо выше», — признал он. «Вы не будете использовать наших агентов, если не будете доверять, что они не опустошат ваш банковский счет или не удалят ваши данные».

«14 определений от 10 исследователей»: Внутри борьбы OpenAI за определение AGI

В откровенный момент Альтман признался, что даже внутри OpenAI нет четкого консенсуса относительно того, что такое искусственный общий интеллект (AGI) — конечная цель компании. «Это как шутка: если собрать 10 исследователей OpenAI в одной комнате и попросить определить AGI, вы получите 14 определений», — пошутил он.

Он предложил не зацикливаться на конкретном моменте наступления AGI, а признать, что «модели просто будут становиться все умнее и способнее, и умнее, и способнее на этой длинной экспоненциальной кривой… Нам придется справляться и получать огромные преимущества от этой невероятной системы».

Ослабление ограничений: Новый подход OpenAI к модерации контента

Альтман также объявил о значительном изменении политики в отношении модерации контента, сообщив, что OpenAI смягчила ограничения на свои модели генерации изображений. «Мы дали пользователям гораздо больше свободы в том, что мы традиционно считали вредом речи», — объяснил он. «Я думаю, что часть выравнивания модели заключается в следовании тому, чего хочет пользователь модели, в очень широких рамках того, что решает общество».

Это изменение может указывать на более широкую тенденцию к предоставлению пользователям контроля над результатами ИИ, что соответствует взгляду Альтмана на то, что сотни миллионов пользователей, а не «маленькие элитные саммиты», должны устанавливать ограничения. «Одна из крутых новых вещей об ИИ — наш ИИ может разговаривать со всеми на Земле, и мы можем узнать коллективные предпочтения ценностей всех, вместо того чтобы собирать группу людей, благословленных обществом, чтобы принимать эти решения», — сказал он.

«Мой ребенок никогда не будет умнее ИИ»: Видение Альтмана будущего, основанного на ИИ

Интервью завершилось размышлениями Альтмана о мире, в котором вырастет его новорожденный сын — мире, где ИИ превзойдет человеческий интеллект. «Мой ребенок никогда не будет умнее ИИ. Они никогда не вырастут в мире, где продукты и услуги не будут невероятно умными, невероятно способными», — сказал он. «Это будет мир невероятного материального изобилия… где темпы изменений невероятно высоки, и происходят удивительные новые вещи».

Андерсон предложил отрезвляющую финальную мысль: «В ближайшие несколько лет у вас будут одни из самых больших возможностей, самых больших моральных вызовов, самых важных решений, которые, возможно, придется принимать любому человеку в истории».

Баланс миллиарда пользователей: Как OpenAI справляется с властью, прибылью и предназначением

Выступление Альтмана на TED произошло в ключевой момент для OpenAI и всей индустрии ИИ. Компания сталкивается с нарастающими юридическими вызовами, включая иски о нарушении авторских прав от авторов и издателей, одновременно раздвигая границы того, чего может достичь ИИ.

Недавние разработки, такие как вирусная функция генерации изображений ChatGPT и инструмент для генерации видео Sora, продемонстрировали возможности, которые еще несколько месяцев назад казались невообразимыми. Однако эти инструменты также вызвали дебаты о правах на интеллектуальную собственность, подлинности и будущем творческой работы.

Готовность Альтмана отвечать на сложные вопросы о безопасности, этике и социальном влиянии ИИ демонстрирует его осознание ставок. Однако критики могут указать, что конкретные детали о мерах предосторожности и политиках оставались несколько уклончивыми во время беседы.

Интервью также обнажило основные противоречия в основе миссии OpenAI: необходимость быстро продвигать технологии ИИ, обеспечивая при этом безопасность, балансировать прибыль с общественной пользой, уважать творческие права, одновременно демократизируя творческие инструменты, и лавировать между экспертным мнением элиты и общественными предпочтениями.

Как отметил Андерсон в своих заключительных замечаниях, решения, которые Альтман и его коллеги примут в ближайшие годы, могут оказать глубокое влияние на будущее человечества. Сможет ли OpenAI выполнить свою миссию обеспечения того, чтобы «все человечество получило пользу от искусственного общего интеллекта», остается открытым вопросом.