Дом
Пионер в области искусственного интеллекта Хинтон предупреждает, что стремление технологических гигантов к прибыли может превратить людей в «младенцев» по сравнению с сверхинтеллектом

На фоне обострения глобальной конкуренции в сфере искусственного интеллекта Джеффри Хинтон — лауреат Нобелевской премии, «отец ИИ» — выступил с очередным резким предупреждением. В недавнем интервью журналу Fortune он отметил, что современные лидеры технологического сектора редко задумываются о том, к чему в конечном итоге приведут их инновации, а руководствуются исключительно краткосрочной прибылью.
Хинтон заметил, что руководители и исследователи резко расходятся во взглядах: руководители сосредоточены на квартальной прибыли, в то время как инженеры занимаются конкретными задачами, такими как повышение четкости изображения или реалистичности видео. Более важный вопрос — что станет с человечеством — откладывается на второй план в погоне за коммерциализацией.
Хинтон делит риски, связанные с ИИ, на две отдельные категории:
Злоупотребление со стороны злоумышленников: дипфейки, кибератаки и разработка вирусов с помощью ИИ уже становятся реальными угрозами.
Выход ИИ из-под контроля: это вызывает у Хинтона более глубокую озабоченность. Он предупреждает, что как только ИИ достигнет уровня сверхинтеллекта, он может развить собственное стремление к выживанию и контролю, что сделает идею человеческого надзора устаревшей.
Хинтон дает пугающий прогноз: после достижения уровня сверхразума вероятность того, что ИИ приведет к исчезновению человечества, может составить от 10% до 20%. Чтобы противостоять этому, он предлагает механизм, вдохновленный биологией, — подход, основанный на «материнском инстинкте».
«Единственный пример того, как более разумное существо подвергается влиянию более слабого, — это влияние младенца на свою мать».
Связанная статья
Suno добавляет водяные знаки на песни в ходе судебных разбирательств
Suno, платформа, позволяющая пользователям создавать музыку с помощью искусственного интеллекта, представила новые функции для маркировки треков, созданных на платформе, ограничения на скачивание и обновления стандартов сообщества для борьбы с несанк
Маск признал, что утечка кода Grok привела к раскрытию пользовательских данных, и пообещал стереть всю историческую информацию.
Илон Маск напрямую отреагировал на скандал с конфиденциальностью вокруг Grok Build, начав с простого «Да», чтобы подтвердить достоверность инцидента. Он пообещал, что все данные пользователей, ранее загруженные в SpaceXAI, будут безвозвратно удалены,
Акции США достигли исторической отметки, поскольку гиганты искусственного интеллекта и аэрокосмической отрасли готовятся к дебюту с оценкой в триллион долларов
Илон Маск, Сэм Алтман и Дарио Амодэй, три титана технологического сектора, продвигаются к первичным публичным предложениям акций своих respective компаний. Благодаря SpaceX, OpenAI и Anthropic — трем отраслевым гигантам, чья оценка приближается к три
Рекомендации по связанным специальным темам
Комментарии (0)

На фоне обострения глобальной конкуренции в сфере искусственного интеллекта Джеффри Хинтон — лауреат Нобелевской премии, «отец ИИ» — выступил с очередным резким предупреждением. В недавнем интервью журналу Fortune он отметил, что современные лидеры технологического сектора редко задумываются о том, к чему в конечном итоге приведут их инновации, а руководствуются исключительно краткосрочной прибылью.
Хинтон заметил, что руководители и исследователи резко расходятся во взглядах: руководители сосредоточены на квартальной прибыли, в то время как инженеры занимаются конкретными задачами, такими как повышение четкости изображения или реалистичности видео. Более важный вопрос — что станет с человечеством — откладывается на второй план в погоне за коммерциализацией.
Хинтон делит риски, связанные с ИИ, на две отдельные категории:
Злоупотребление со стороны злоумышленников: дипфейки, кибератаки и разработка вирусов с помощью ИИ уже становятся реальными угрозами.
Выход ИИ из-под контроля: это вызывает у Хинтона более глубокую озабоченность. Он предупреждает, что как только ИИ достигнет уровня сверхинтеллекта, он может развить собственное стремление к выживанию и контролю, что сделает идею человеческого надзора устаревшей.
Хинтон дает пугающий прогноз: после достижения уровня сверхразума вероятность того, что ИИ приведет к исчезновению человечества, может составить от 10% до 20%. Чтобы противостоять этому, он предлагает механизм, вдохновленный биологией, — подход, основанный на «материнском инстинкте».
«Единственный пример того, как более разумное существо подвергается влиянию более слабого, — это влияние младенца на свою мать».
Suno добавляет водяные знаки на песни в ходе судебных разбирательств
Suno, платформа, позволяющая пользователям создавать музыку с помощью искусственного интеллекта, представила новые функции для маркировки треков, созданных на платформе, ограничения на скачивание и обновления стандартов сообщества для борьбы с несанк
Маск признал, что утечка кода Grok привела к раскрытию пользовательских данных, и пообещал стереть всю историческую информацию.
Илон Маск напрямую отреагировал на скандал с конфиденциальностью вокруг Grok Build, начав с простого «Да», чтобы подтвердить достоверность инцидента. Он пообещал, что все данные пользователей, ранее загруженные в SpaceXAI, будут безвозвратно удалены,
Акции США достигли исторической отметки, поскольку гиганты искусственного интеллекта и аэрокосмической отрасли готовятся к дебюту с оценкой в триллион долларов
Илон Маск, Сэм Алтман и Дарио Амодэй, три титана технологического сектора, продвигаются к первичным публичным предложениям акций своих respective компаний. Благодаря SpaceX, OpenAI и Anthropic — трем отраслевым гигантам, чья оценка приближается к три











