ДомДокумент DeepMind Safety Paper не может повлиять на скептиков
В среду Google DeepMind опубликовал объемную статью на 145 страниц, в которой подробно рассматривается их подход к безопасности AGI. AGI, или искусственный общий интеллект, — это тип ИИ, который может выполнять любую задачу, доступную человеку, и это горячая тема в мире ИИ. Некоторые считают, что это просто фантазия, в то время как другие, например, крупные игроки из Anthropic, полагают, что AGI уже не за горами и может вызвать серьезные проблемы, если не будут приняты должные меры безопасности.
Статья DeepMind, написанная при участии соучредителя Шейна Легга, предполагает, что AGI может появиться к 2030 году и привести к тому, что они называют "серьезным вредом". Они не уточняют деталей, но употребляют пугающие выражения, такие как "экзистенциальные риски", которые могут "навсегда уничтожить человечество".
"Мы делаем ставку на то, что увидим исключительный AGI до конца этого десятилетия", — отмечают авторы. "Исключительный AGI — это система, которая может соответствовать навыкам 1% лучших взрослых в выполнении множества нефизических задач, включая сложные вещи, такие как освоение новых навыков."
С самого начала статья сравнивает подход DeepMind к управлению рисками AGI с тем, как это делают Anthropic и OpenAI. В ней говорится, что Anthropic не так сильно сосредоточен на "надежном обучении, мониторинге и безопасности", в то время как OpenAI делает акцент на "автоматизации" исследований в области безопасности ИИ, называемых исследованиями выравнивания.
Статья также скептически относится к идее сверхинтеллектуального ИИ — ИИ, который лучше людей справляется с любыми задачами. (OpenAI недавно заявила, что они переключают свое внимание с AGI на сверхинтеллект.) Без значительных новых прорывов авторы DeepMind не верят, что сверхинтеллектуальные системы появятся в ближайшее время — или вообще когда-либо.
Но они считают возможным, что текущие методы могут привести к "рекурсивному улучшению ИИ", когда ИИ сам проводит исследования в области ИИ, чтобы создавать еще более умные системы. И это, предупреждают они, может быть чрезвычайно опасно.
В целом статья предлагает разработать способы предотвращения доступа злоумышленников к AGI, лучше понимать, что делают системы ИИ, и сделать среды, в которых работает ИИ, более безопасными. Они признают, что многие из этих идей находятся на ранних стадиях и имеют "открытые исследовательские проблемы", но призывают не игнорировать вопросы безопасности, которые могут возникнуть.
"AGI может принести невероятные выгоды или серьезный вред", — подчеркивают авторы. "Поэтому, чтобы создать AGI правильно, ведущим разработчикам ИИ крайне важно планировать наперед и решать эти большие риски."
Однако не все согласны с идеями статьи.
Хейди Хлааф, главный научный сотрудник по ИИ в некоммерческом Институте AI Now, сообщила TechCrunch, что считает концепцию AGI слишком размытой, чтобы ее можно было "строго научно оценить". Другой исследователь ИИ, Мэтью Гуздиал из Университета Альберты, сказал, что он не убежден в возможности рекурсивного улучшения ИИ на данный момент.
"Рекурсивное улучшение — это основа аргументов о сингулярности интеллекта", — сказал Гуздиал TechCrunch, — "но мы никогда не видели никаких доказательств того, что это действительно работает."
Сандра Вахтер, изучающая технологии и регулирование в Оксфорде, указывает на более насущную проблему: ИИ, усиливающий себя с помощью "неточных выходных данных".
"С увеличением количества контента, созданного ИИ, в интернете и заменой реальных данных, модели учатся на своих собственных выходных данных, полных неточностей или галлюцинаций", — сообщила она TechCrunch. "Поскольку чат-боты в основном используются для поиска и выяснения правды, мы всегда рискуем получить ложную информацию, представленную очень убедительно."
Как бы ни была обстоятельной, статья DeepMind, вероятно, не положит конец спорам о том, насколько реален AGI — и какие вопросы безопасности ИИ требуют наибольшего внимания прямо сейчас.
Связанная статья
RSI становится новым AGI, который так же трудно определить
Термин «рекурсия» стал новым модным словом в сфере искусственного интеллекта. Два разных стартапа взяли его в качестве названия, а многие другие теперь упоминают «рекурсивное самосовершенствование» (R
OpenAI описывает экономику искусственного интеллекта с участием государственных инвестиционных фондов, налогами на роботов и четырехдневной рабочей неделей
В то время как правительства пытаются справиться с экономическими последствиями появления сверхинтеллектуальных машин, компания OpenAI опубликовала ряд предложений по формированию политики, в которых
Соучредитель Databricks заявил о появлении AGI после получения премии ACM
Соучредитель и технический директор Databricks Матей Захария едва не пропустил письмо, в котором ему сообщалось о присуждении премии ACM в области вычислительной техники за 2026 год. «Это было, безусл
Рекомендации по связанным специальным темам
SEO
Лучшие инструменты для анализа результатов поиска с помощью ИИ при разработке поисковой стратегии
XIX.AI подготовила подборку лучших и наиболее высокооцененных инструментов для анализа результатов поиска с помощью ИИ (2026 г.) на основе тщательных тестов в реальных условиях и еженедельно обновляемого рейтинга. Эти мощные инструменты помогут вам раскрыть скрытые возможности оптимизации, повысить эффективность контента и получить конкурентное преимущество в поиске. Найдите свой идеальный инструмент, чтобы уже сегодня усовершенствовать свою поисковую стратегию. Ознакомьтесь с ними прямо сейчас!
13 инструментов
xix.ai
Анализ данных
Лучшие инструменты ИИ для обнаружения аномалий при мониторинге KPI в командах SaaS и электронной коммерции
2026 г. Лучшие новейшие высокооцененные инструменты ИИ для обнаружения аномалий в мониторинге KPI для команд SaaS и электронной коммерции! XIX.AI подготовила мощную, меняющую правила игры коллекцию на основе строгих реальных тестов и еженедельно обновляемых рейтингов. Вы найдете подробные сравнительные данные по бесплатным и платным решениям, которые помогут вам определить обязательное к использованию решение, повышающее производительность и раскрывающее ваш потенциал в области ИИ. Исследуйте сейчас!
10 инструментов
xix.ai
письмо
Лучшие генераторы конспектов на базе ИИ для длинных статей, оптимизированных для SEO
2026 год: лучшие и самые высокооцененные генераторы конспектов на базе ИИ для длинных SEO-статей, тщательно отобранные XIX.AI. Эти мощные инструменты обеспечивают революционную помощь в быстром создании высококачественного контента, значительно повышая эффективность написания текстов. Ознакомьтесь со сравнением бесплатных и платных версий, а также с результатами реальных тестов и подробными рейтингами, которые помогут вам найти вариант, который обязательно стоит попробовать и который соответствует вашим потребностям. Изучите их прямо сейчас, чтобы раскрыть весь потенциал ИИ.
8 инструментов
xix.ai
Образование и обучение
Инструменты на базе искусственного интеллекта для выполнения домашних заданий и подготовки к экзаменам
2026: лучшие современные инструменты на базе ИИ для выполнения домашних заданий и подготовки к экзаменам! XIX.AI подготовило рейтинг самых эффективных и революционных инструментов, которые помогают учащимся повысить продуктивность, оптимизировать выполнение домашних заданий и сдавать экзамены на «отлично», проходя проверку в реальных условиях. Получите сравнение бесплатных и платных версий, подробные рейтинги и варианты, которые обязательно стоит попробовать, чтобы раскрыть свой потенциал с помощью ИИ. Узнайте больше прямо сейчас!
10 инструментов
xix.ai
Музыкальная композиция
Инструменты для создания вокальных демо на основе ИИ для авторов песен, создания хуков, написания тоpline-мелодий и проведения многоязычных черновых сессий
2026 г. лучшие инструменты для демо-записи вокала на базе ИИ для авторов песен, создателей хуков и команд, работающих с контентом на нескольких языках! XIX.AI подготовил список высокооцененных мощных инструментов, изменивших правила игры, прошедших строгие реальные тесты. Вы найдёте подробные данные сравнения бесплатных и платных версий, комплексные рейтинги и обязательные к использованию варианты, которые помогут повысить эффективность написания и раскрыть ваш творческий потенциал. Исследуйте сейчас, чтобы найти идеальный инструмент для всех ваших задач по созданию контента!
9 инструментов
xix.ai
Бизнес
Лучшие инструменты для анализа конкурентов на основе искусственного интеллекта для малого бизнеса
2026: новейшие, лучшие и самые высокооцененные инструменты для анализа конкурентов на базе ИИ для малого бизнеса! XIX.AI подготовила чрезвычайно мощную подборку, способную кардинально изменить ситуацию на рынке, которая еженедельно обновляется на основе тщательных тестов в реальных условиях и подробных рейтингов. Вы найдете здесь исчерпывающее сравнение бесплатных и платных версий, которое поможет вам определить инструменты, которые обязательно стоит попробовать, чтобы повысить свою продуктивность и получить конкурентное преимущество. Ознакомьтесь с ней прямо сейчас, чтобы найти идеальный инструмент для себя!
9 инструментов
xix.ai
Комментарии (52)
![FrankJackson]()
Interesting read! But honestly, a 145-page paper from DeepMind feels more like a corporate PR move than a real solution. Can we really trust the same companies racing to build AGI to also be the ones setting safety rules? 🧐 It's like letting foxes design the henhouse security. I'd love to see more independent oversight and less glossy documentation.
![PaulTaylor]()
Este artículo me hace pensar que la seguridad de AGI es como intentar construir un paracaídas mientras ya estás cayendo del avión. DeepMind tiene buenas intenciones, pero 145 páginas no van a convencer a los escépticos si no demuestran resultados prácticos. 🤔 ¿Alguien más siente que estas discusiones se repiten cada seis meses sin avances reales?
![JimmyGarcia]()
Mais um artigo gigante sobre segurança de AGI... Será que alguém realmente lê essas 145 páginas? 🤨 Parece que o DeepMind tá mais preocupado em mostrar volume do que convencer os críticos. Cadê os resultados práticos?
![DouglasMitchell]()
Este artículo sobre seguridad en AGI es interesante, pero me pregunto si realmente podemos confiar en las grandes empresas tecnológicas para autorregularse. 🤨 DeepMind habla de seguridad, pero al final todo se reduce a ganancias y competencia. ¿Será solo otro documento para calmar a los reguladores?
![DanielPerez]()
This paper's a beast, but I'm not sold on DeepMind's AGI safety promises. Feels like they're hyping it up without tackling the real ethical mess. Anyone else think it's just fancy PR? 🤔
![CarlPerez]()
This DeepMind paper sounds like a big swing at tackling AGI safety, but 145 pages and skeptics still aren't convinced? 🤔 Maybe they’re onto something, or maybe it’s just too early to trust any AI to be 'safe' when it’s smarter than us!
В среду Google DeepMind опубликовал объемную статью на 145 страниц, в которой подробно рассматривается их подход к безопасности AGI. AGI, или искусственный общий интеллект, — это тип ИИ, который может выполнять любую задачу, доступную человеку, и это горячая тема в мире ИИ. Некоторые считают, что это просто фантазия, в то время как другие, например, крупные игроки из Anthropic, полагают, что AGI уже не за горами и может вызвать серьезные проблемы, если не будут приняты должные меры безопасности.
Статья DeepMind, написанная при участии соучредителя Шейна Легга, предполагает, что AGI может появиться к 2030 году и привести к тому, что они называют "серьезным вредом". Они не уточняют деталей, но употребляют пугающие выражения, такие как "экзистенциальные риски", которые могут "навсегда уничтожить человечество".
"Мы делаем ставку на то, что увидим исключительный AGI до конца этого десятилетия", — отмечают авторы. "Исключительный AGI — это система, которая может соответствовать навыкам 1% лучших взрослых в выполнении множества нефизических задач, включая сложные вещи, такие как освоение новых навыков."
С самого начала статья сравнивает подход DeepMind к управлению рисками AGI с тем, как это делают Anthropic и OpenAI. В ней говорится, что Anthropic не так сильно сосредоточен на "надежном обучении, мониторинге и безопасности", в то время как OpenAI делает акцент на "автоматизации" исследований в области безопасности ИИ, называемых исследованиями выравнивания.
Статья также скептически относится к идее сверхинтеллектуального ИИ — ИИ, который лучше людей справляется с любыми задачами. (OpenAI недавно заявила, что они переключают свое внимание с AGI на сверхинтеллект.) Без значительных новых прорывов авторы DeepMind не верят, что сверхинтеллектуальные системы появятся в ближайшее время — или вообще когда-либо.
Но они считают возможным, что текущие методы могут привести к "рекурсивному улучшению ИИ", когда ИИ сам проводит исследования в области ИИ, чтобы создавать еще более умные системы. И это, предупреждают они, может быть чрезвычайно опасно.
В целом статья предлагает разработать способы предотвращения доступа злоумышленников к AGI, лучше понимать, что делают системы ИИ, и сделать среды, в которых работает ИИ, более безопасными. Они признают, что многие из этих идей находятся на ранних стадиях и имеют "открытые исследовательские проблемы", но призывают не игнорировать вопросы безопасности, которые могут возникнуть.
"AGI может принести невероятные выгоды или серьезный вред", — подчеркивают авторы. "Поэтому, чтобы создать AGI правильно, ведущим разработчикам ИИ крайне важно планировать наперед и решать эти большие риски."
Однако не все согласны с идеями статьи.
Хейди Хлааф, главный научный сотрудник по ИИ в некоммерческом Институте AI Now, сообщила TechCrunch, что считает концепцию AGI слишком размытой, чтобы ее можно было "строго научно оценить". Другой исследователь ИИ, Мэтью Гуздиал из Университета Альберты, сказал, что он не убежден в возможности рекурсивного улучшения ИИ на данный момент.
"Рекурсивное улучшение — это основа аргументов о сингулярности интеллекта", — сказал Гуздиал TechCrunch, — "но мы никогда не видели никаких доказательств того, что это действительно работает."
Сандра Вахтер, изучающая технологии и регулирование в Оксфорде, указывает на более насущную проблему: ИИ, усиливающий себя с помощью "неточных выходных данных".
"С увеличением количества контента, созданного ИИ, в интернете и заменой реальных данных, модели учатся на своих собственных выходных данных, полных неточностей или галлюцинаций", — сообщила она TechCrunch. "Поскольку чат-боты в основном используются для поиска и выяснения правды, мы всегда рискуем получить ложную информацию, представленную очень убедительно."
Как бы ни была обстоятельной, статья DeepMind, вероятно, не положит конец спорам о том, насколько реален AGI — и какие вопросы безопасности ИИ требуют наибольшего внимания прямо сейчас.
RSI становится новым AGI, который так же трудно определить
Термин «рекурсия» стал новым модным словом в сфере искусственного интеллекта. Два разных стартапа взяли его в качестве названия, а многие другие теперь упоминают «рекурсивное самосовершенствование» (R
OpenAI описывает экономику искусственного интеллекта с участием государственных инвестиционных фондов, налогами на роботов и четырехдневной рабочей неделей
В то время как правительства пытаются справиться с экономическими последствиями появления сверхинтеллектуальных машин, компания OpenAI опубликовала ряд предложений по формированию политики, в которых
Соучредитель Databricks заявил о появлении AGI после получения премии ACM
Соучредитель и технический директор Databricks Матей Захария едва не пропустил письмо, в котором ему сообщалось о присуждении премии ACM в области вычислительной техники за 2026 год. «Это было, безусл
XIX.AI подготовила подборку лучших и наиболее высокооцененных инструментов для анализа результатов поиска с помощью ИИ (2026 г.) на основе тщательных тестов в реальных условиях и еженедельно обновляемого рейтинга. Эти мощные инструменты помогут вам раскрыть скрытые возможности оптимизации, повысить эффективность контента и получить конкурентное преимущество в поиске. Найдите свой идеальный инструмент, чтобы уже сегодня усовершенствовать свою поисковую стратегию. Ознакомьтесь с ними прямо сейчас!
13 инструментов
xix.ai
2026 г. Лучшие новейшие высокооцененные инструменты ИИ для обнаружения аномалий в мониторинге KPI для команд SaaS и электронной коммерции! XIX.AI подготовила мощную, меняющую правила игры коллекцию на основе строгих реальных тестов и еженедельно обновляемых рейтингов. Вы найдете подробные сравнительные данные по бесплатным и платным решениям, которые помогут вам определить обязательное к использованию решение, повышающее производительность и раскрывающее ваш потенциал в области ИИ. Исследуйте сейчас!
10 инструментов
xix.ai
2026 год: лучшие и самые высокооцененные генераторы конспектов на базе ИИ для длинных SEO-статей, тщательно отобранные XIX.AI. Эти мощные инструменты обеспечивают революционную помощь в быстром создании высококачественного контента, значительно повышая эффективность написания текстов. Ознакомьтесь со сравнением бесплатных и платных версий, а также с результатами реальных тестов и подробными рейтингами, которые помогут вам найти вариант, который обязательно стоит попробовать и который соответствует вашим потребностям. Изучите их прямо сейчас, чтобы раскрыть весь потенциал ИИ.
8 инструментов
xix.ai
2026: лучшие современные инструменты на базе ИИ для выполнения домашних заданий и подготовки к экзаменам! XIX.AI подготовило рейтинг самых эффективных и революционных инструментов, которые помогают учащимся повысить продуктивность, оптимизировать выполнение домашних заданий и сдавать экзамены на «отлично», проходя проверку в реальных условиях. Получите сравнение бесплатных и платных версий, подробные рейтинги и варианты, которые обязательно стоит попробовать, чтобы раскрыть свой потенциал с помощью ИИ. Узнайте больше прямо сейчас!
10 инструментов
xix.ai
2026 г. лучшие инструменты для демо-записи вокала на базе ИИ для авторов песен, создателей хуков и команд, работающих с контентом на нескольких языках! XIX.AI подготовил список высокооцененных мощных инструментов, изменивших правила игры, прошедших строгие реальные тесты. Вы найдёте подробные данные сравнения бесплатных и платных версий, комплексные рейтинги и обязательные к использованию варианты, которые помогут повысить эффективность написания и раскрыть ваш творческий потенциал. Исследуйте сейчас, чтобы найти идеальный инструмент для всех ваших задач по созданию контента!
9 инструментов
xix.ai
2026: новейшие, лучшие и самые высокооцененные инструменты для анализа конкурентов на базе ИИ для малого бизнеса! XIX.AI подготовила чрезвычайно мощную подборку, способную кардинально изменить ситуацию на рынке, которая еженедельно обновляется на основе тщательных тестов в реальных условиях и подробных рейтингов. Вы найдете здесь исчерпывающее сравнение бесплатных и платных версий, которое поможет вам определить инструменты, которые обязательно стоит попробовать, чтобы повысить свою продуктивность и получить конкурентное преимущество. Ознакомьтесь с ней прямо сейчас, чтобы найти идеальный инструмент для себя!
9 инструментов
xix.ai
Interesting read! But honestly, a 145-page paper from DeepMind feels more like a corporate PR move than a real solution. Can we really trust the same companies racing to build AGI to also be the ones setting safety rules? 🧐 It's like letting foxes design the henhouse security. I'd love to see more independent oversight and less glossy documentation.
Este artículo me hace pensar que la seguridad de AGI es como intentar construir un paracaídas mientras ya estás cayendo del avión. DeepMind tiene buenas intenciones, pero 145 páginas no van a convencer a los escépticos si no demuestran resultados prácticos. 🤔 ¿Alguien más siente que estas discusiones se repiten cada seis meses sin avances reales?
Mais um artigo gigante sobre segurança de AGI... Será que alguém realmente lê essas 145 páginas? 🤨 Parece que o DeepMind tá mais preocupado em mostrar volume do que convencer os críticos. Cadê os resultados práticos?
Este artículo sobre seguridad en AGI es interesante, pero me pregunto si realmente podemos confiar en las grandes empresas tecnológicas para autorregularse. 🤨 DeepMind habla de seguridad, pero al final todo se reduce a ganancias y competencia. ¿Será solo otro documento para calmar a los reguladores?
This paper's a beast, but I'm not sold on DeepMind's AGI safety promises. Feels like they're hyping it up without tackling the real ethical mess. Anyone else think it's just fancy PR? 🤔
This DeepMind paper sounds like a big swing at tackling AGI safety, but 145 pages and skeptics still aren't convinced? 🤔 Maybe they’re onto something, or maybe it’s just too early to trust any AI to be 'safe' when it’s smarter than us!
