Ноам Браун: модели AI «рассуждения» могли появиться десятилетия назад

Ноам Браун, ведущий исследователь в области ИИ-рассуждений в OpenAI, недавно поделился своими мыслями на конференции Nvidia GTC в Сан-Хосе, предположив, что достижения в области ИИ, способного к рассуждениям, могли бы быть достигнуты 20 лет назад, если бы были известны правильные методы и алгоритмы. Он объяснил: «Были разные причины, по которым это направление исследований игнорировалось», указывая на пробел в подходе, который мог быть устранён гораздо раньше.
Размышляя о своём исследовательском пути, Браун отметил ключевое осознание: «Я заметил в ходе своих исследований, что, хорошо, чего-то не хватает. Люди тратят много времени на размышления, прежде чем действовать в сложной ситуации. Возможно, это было бы очень полезно [в ИИ]». Это наблюдение привело его к разработке моделей ИИ, которые имитируют человеческое рассуждение, вместо того чтобы полагаться исключительно на вычислительную мощность.
Его работа в Университете Карнеги-Меллона, особенно с ИИ Pluribus, который превзошёл лучших игроков в покер, является примером этого подхода. Pluribus стал новаторским, потому что использовал рассуждения для решения задач, в отличие от более распространённых на тот момент методов грубой силы.
В OpenAI Браун внёс вклад в разработку o1, модели ИИ, которая использует метод, известный как тест-временной вывод. Эта техника позволяет ИИ «думать» перед ответом, повышая его точность и надёжность, особенно в таких областях, как математика и наука.
Во время панельной дискуссии Браун затронул проблему конкуренции академических исследований с масштабом экспериментов, проводимых крупными лабораториями ИИ, такими как OpenAI. Он признал нарастающую сложность из-за увеличивающихся вычислительных требований современных моделей, но предположил, что академики всё ещё могут внести значительный вклад, сосредоточившись на областях, требующих меньшей вычислительной мощности, таких как проектирование архитектур моделей.
Он подчеркнул потенциал для сотрудничества между академией и передовыми лабораториями, заявив: «[С]уществует возможность для сотрудничества между передовыми лабораториями [и академией]. Безусловно, передовые лаборатории изучают академические публикации и тщательно обдумывают, хорошо, есть ли убедительные доводы в пользу того, что, если это масштабировать, это будет очень эффективно. Если в статье есть такие убедительные доводы, знаете, мы будем исследовать это в наших лабораториях».
Комментарии Брауна особенно актуальны, поскольку администрация Трампа предложила значительные сокращения финансирования научных исследований, что подверглось критике со стороны экспертов по ИИ, включая Джеффри Хинтона, которые утверждают, что такие сокращения могут поставить под угрозу усилия по исследованию ИИ во всём мире.
Он также указал на ключевую роль академии в улучшении бенчмаркинга ИИ, отметив: «Состояние бенчмарков в ИИ действительно плохое, и для этого не требуется много вычислительных ресурсов». Современные бенчмарки ИИ часто сосредотачиваются на малоизвестных знаниях и не могут точно отражать способности, наиболее важные для пользователей, что приводит к путанице в отношении истинного потенциала и прогресса моделей ИИ.
Обновлено в 16:06 по тихоокеанскому времени: более ранняя версия этой статьи подразумевала, что Браун говорил о моделях рассуждений, таких как o1, в своих первоначальных замечаниях. На самом деле он имел в виду свою работу над игровыми ИИ до времени работы в OpenAI. Приносим извинения за ошибку.
Связанная статья
Сэм Альтман вызывает споры о замедлении развития ИИ
Слушайте наApple PodcastsСлушайте наSpotifyГенеральный директор OpenAI Сэм Алтман недавно предположил, что, возможно, пришло время «сдерживать темпы развития ИИ», чтобы позволить обществу «укрепиться вокруг некоторых из этих новых уровней возможност
OpenAI оспаривает иск Apple о нарушении торговых тайн
OpenAI опровергла утверждения Apple о нарушении торговых тайк во вторник, заявив, что иск не имеет оснований.«Мы относимся к этим заявлениям серьезно, но не видим никаких доказательств, подтверждающих их», — stated OpenAI, как сообщил Ed Ludlow из B
Глава робототехники OpenAI Кейтлин Калиновски уходит в отставку из-за партнерства с Пентагоном
Руководитель направления робототехники OpenAI Кейтлин Калиновски ушла в отставку после скандального партнерства компании с Министерством обороны США.«Это было нелегкое решение», — объяснила Калиновски в заявлении в социальных сетях. «Хотя ИИ играет
Рекомендации по связанным специальным темам
Комментарии (16)
もし20年前にこのアルゴリズムが知られていたら...考えただけでゾクゾクするね!でも、今のAIブームが前倒しになってたら、社会の対応は間に合ってたのかな?ちょっと怖いかも😅 ブラウン氏の指摘は技術史のifを考える良いきっかけだと思う
Increíble pensar que podríamos haber tenido IA 'razonadora' hace 20 años 😳. Me pregunto cómo habría cambiado el mundo tecnológico si esos algoritmos se hubieran descubierto antes... ¿Sería nuestro presente muy diferente? #RetroFuturo
Mind-blowing to think AI reasoning could’ve popped off 20 years ago! 🤯 Noam’s talk makes me wonder what other breakthroughs we’re sleeping on right now.
Mind-blowing to think AI reasoning could’ve been cracked 20 years ago! 🤯 Makes you wonder what else we’re sitting on, just waiting for the right spark. Noam’s talk sounds like a wake-up call for the AI world.

Ноам Браун, ведущий исследователь в области ИИ-рассуждений в OpenAI, недавно поделился своими мыслями на конференции Nvidia GTC в Сан-Хосе, предположив, что достижения в области ИИ, способного к рассуждениям, могли бы быть достигнуты 20 лет назад, если бы были известны правильные методы и алгоритмы. Он объяснил: «Были разные причины, по которым это направление исследований игнорировалось», указывая на пробел в подходе, который мог быть устранён гораздо раньше.
Размышляя о своём исследовательском пути, Браун отметил ключевое осознание: «Я заметил в ходе своих исследований, что, хорошо, чего-то не хватает. Люди тратят много времени на размышления, прежде чем действовать в сложной ситуации. Возможно, это было бы очень полезно [в ИИ]». Это наблюдение привело его к разработке моделей ИИ, которые имитируют человеческое рассуждение, вместо того чтобы полагаться исключительно на вычислительную мощность.
Его работа в Университете Карнеги-Меллона, особенно с ИИ Pluribus, который превзошёл лучших игроков в покер, является примером этого подхода. Pluribus стал новаторским, потому что использовал рассуждения для решения задач, в отличие от более распространённых на тот момент методов грубой силы.
В OpenAI Браун внёс вклад в разработку o1, модели ИИ, которая использует метод, известный как тест-временной вывод. Эта техника позволяет ИИ «думать» перед ответом, повышая его точность и надёжность, особенно в таких областях, как математика и наука.
Во время панельной дискуссии Браун затронул проблему конкуренции академических исследований с масштабом экспериментов, проводимых крупными лабораториями ИИ, такими как OpenAI. Он признал нарастающую сложность из-за увеличивающихся вычислительных требований современных моделей, но предположил, что академики всё ещё могут внести значительный вклад, сосредоточившись на областях, требующих меньшей вычислительной мощности, таких как проектирование архитектур моделей.
Он подчеркнул потенциал для сотрудничества между академией и передовыми лабораториями, заявив: «[С]уществует возможность для сотрудничества между передовыми лабораториями [и академией]. Безусловно, передовые лаборатории изучают академические публикации и тщательно обдумывают, хорошо, есть ли убедительные доводы в пользу того, что, если это масштабировать, это будет очень эффективно. Если в статье есть такие убедительные доводы, знаете, мы будем исследовать это в наших лабораториях».
Комментарии Брауна особенно актуальны, поскольку администрация Трампа предложила значительные сокращения финансирования научных исследований, что подверглось критике со стороны экспертов по ИИ, включая Джеффри Хинтона, которые утверждают, что такие сокращения могут поставить под угрозу усилия по исследованию ИИ во всём мире.
Он также указал на ключевую роль академии в улучшении бенчмаркинга ИИ, отметив: «Состояние бенчмарков в ИИ действительно плохое, и для этого не требуется много вычислительных ресурсов». Современные бенчмарки ИИ часто сосредотачиваются на малоизвестных знаниях и не могут точно отражать способности, наиболее важные для пользователей, что приводит к путанице в отношении истинного потенциала и прогресса моделей ИИ.
Обновлено в 16:06 по тихоокеанскому времени: более ранняя версия этой статьи подразумевала, что Браун говорил о моделях рассуждений, таких как o1, в своих первоначальных замечаниях. На самом деле он имел в виду свою работу над игровыми ИИ до времени работы в OpenAI. Приносим извинения за ошибку.
Сэм Альтман вызывает споры о замедлении развития ИИ
Слушайте наApple PodcastsСлушайте наSpotifyГенеральный директор OpenAI Сэм Алтман недавно предположил, что, возможно, пришло время «сдерживать темпы развития ИИ», чтобы позволить обществу «укрепиться вокруг некоторых из этих новых уровней возможност
OpenAI оспаривает иск Apple о нарушении торговых тайн
OpenAI опровергла утверждения Apple о нарушении торговых тайк во вторник, заявив, что иск не имеет оснований.«Мы относимся к этим заявлениям серьезно, но не видим никаких доказательств, подтверждающих их», — stated OpenAI, как сообщил Ed Ludlow из B
Глава робототехники OpenAI Кейтлин Калиновски уходит в отставку из-за партнерства с Пентагоном
Руководитель направления робототехники OpenAI Кейтлин Калиновски ушла в отставку после скандального партнерства компании с Министерством обороны США.«Это было нелегкое решение», — объяснила Калиновски в заявлении в социальных сетях. «Хотя ИИ играет
もし20年前にこのアルゴリズムが知られていたら...考えただけでゾクゾクするね!でも、今のAIブームが前倒しになってたら、社会の対応は間に合ってたのかな?ちょっと怖いかも😅 ブラウン氏の指摘は技術史のifを考える良いきっかけだと思う
Increíble pensar que podríamos haber tenido IA 'razonadora' hace 20 años 😳. Me pregunto cómo habría cambiado el mundo tecnológico si esos algoritmos se hubieran descubierto antes... ¿Sería nuestro presente muy diferente? #RetroFuturo
Mind-blowing to think AI reasoning could’ve popped off 20 years ago! 🤯 Noam’s talk makes me wonder what other breakthroughs we’re sleeping on right now.
Mind-blowing to think AI reasoning could’ve been cracked 20 years ago! 🤯 Makes you wonder what else we’re sitting on, just waiting for the right spark. Noam’s talk sounds like a wake-up call for the AI world.





Дом






