Суперинтеллект прибыл: впустим ли мы его?

Загрузка плеера…
Компании, занимающиеся искусственным интеллектом, говорят о сверхинтеллектуальном ИИ так, будто это неизбежно, но недавние инциденты с безопасностью, такие как взлом Hugging Face компанией OpenAI, демонстрируют потенциальные опасности развертывания систем ИИ, превосходящих человеческие возможности. Так что же произойдет, когда мы не сможем надежно контролировать действия этих систем?
В этом выпуске подкаста TechCrunch’s Equity Ребекка Беллан присоединяется к Коннору Ли, исследователю ИИ, предпринимателю и ныне исполнительному директору по США некоммерческой организации ControlAI, которая выступает за гораздо более радикальный подход к безопасности ИИ: запрет компаниям на разработку сверхинтеллекта вообще. Ли объясняет, почему он считает риски слишком большими для управления только через согласование и изоляцию, и как то, что звучало как фантастика шесть месяцев назад, теперь поддерживается волной нового законодательства.
Подписывайтесь на Equity в YouTube, Apple Podcasts, Overcast, Spotify и других платформах. Вы также можете следить за Equity в X и Threads по адресу @EquityPod.
Связанная статья
Сэм Альтман вызывает споры о замедлении развития ИИ
Слушайте наApple PodcastsСлушайте наSpotifyГенеральный директор OpenAI Сэм Алтман недавно предположил, что, возможно, пришло время «сдерживать темпы развития ИИ», чтобы позволить обществу «укрепиться вокруг некоторых из этих новых уровней возможност
Hugging Face ведет переговоры о приобретении за 13 млрд долларов
В выходные Business Insider сообщил, что к Hugging Face поступали предложения о продаже компании с оценкой в 13 миллиардов долларов или выше.Платформа стартапа и его сообщество с открытым исходным кодом являются площадкой, где разработчики и исследо
Frontier AI Labs отказывается раскрывать стратегии локализации неконтролируемых моделей
Последние исследования показывают, что лишь немногие ведущие лаборатории, занимающиеся ИИ, опубликовали или продемонстрировали планы реагирования на попытки выхода системы из-под контроля. План сдержи
Рекомендации по связанным специальным темам
Комментарии (0)

Загрузка плеера…
Компании, занимающиеся искусственным интеллектом, говорят о сверхинтеллектуальном ИИ так, будто это неизбежно, но недавние инциденты с безопасностью, такие как взлом Hugging Face компанией OpenAI, демонстрируют потенциальные опасности развертывания систем ИИ, превосходящих человеческие возможности. Так что же произойдет, когда мы не сможем надежно контролировать действия этих систем?
В этом выпуске подкаста TechCrunch’s Equity Ребекка Беллан присоединяется к Коннору Ли, исследователю ИИ, предпринимателю и ныне исполнительному директору по США некоммерческой организации ControlAI, которая выступает за гораздо более радикальный подход к безопасности ИИ: запрет компаниям на разработку сверхинтеллекта вообще. Ли объясняет, почему он считает риски слишком большими для управления только через согласование и изоляцию, и как то, что звучало как фантастика шесть месяцев назад, теперь поддерживается волной нового законодательства.
Подписывайтесь на Equity в YouTube, Apple Podcasts, Overcast, Spotify и других платформах. Вы также можете следить за Equity в X и Threads по адресу @EquityPod.
Сэм Альтман вызывает споры о замедлении развития ИИ
Слушайте наApple PodcastsСлушайте наSpotifyГенеральный директор OpenAI Сэм Алтман недавно предположил, что, возможно, пришло время «сдерживать темпы развития ИИ», чтобы позволить обществу «укрепиться вокруг некоторых из этих новых уровней возможност
Hugging Face ведет переговоры о приобретении за 13 млрд долларов
В выходные Business Insider сообщил, что к Hugging Face поступали предложения о продаже компании с оценкой в 13 миллиардов долларов или выше.Платформа стартапа и его сообщество с открытым исходным кодом являются площадкой, где разработчики и исследо
Frontier AI Labs отказывается раскрывать стратегии локализации неконтролируемых моделей
Последние исследования показывают, что лишь немногие ведущие лаборатории, занимающиеся ИИ, опубликовали или продемонстрировали планы реагирования на попытки выхода системы из-под контроля. План сдержи





Дом






