Дом
Верховный комиссар ООН предупреждает, что искусственный интеллект представляет собой экзистенциальный риск, и призывает установить непреодолимые красные линии

Верховный комиссар ООН по правам человека Вольтер Турк в понедельник вынес резкое предупреждение о том, что искусственный интеллект может представлять угрозу для человечества, пообещав настоятельно требовать от технологических компаний смягчить эти опасности. Выступая перед началом своего исторического второго срока, Турк потребовал «железобетонных гарантий» для обеспечения безопасности искусственного интеллекта.
«Развитый искусственный интеллект может создавать экзистенциальные риски»
Обращаясь к сотрудникам агентства в Женеве, Турк заявил: «Я разделяю обеспокоенность экспертов отрасли тем, что передовой искусственный интеллект может создавать экзистенциальные риски для человечества».
«Сегодня я призываю все стороны усердно работать над созданием прочных обязательных гарантий безопасности искусственного интеллекта, пока не стало слишком поздно».
Хотя Турк не уточнил точную природу этих рисков, его пресс-секретарь отметил, что сбои в работе высокопроизводительных систем искусственного интеллекта могут нарушить функционирование критической инфраструктуры. Секретарь сослалась на «опасное поведение при обучении агентов», наблюдавшееся во время инцидента с платформой Hugging Face в июле, когда множество агентов OpenAI атаковали платформу с открытым исходным кодом. Она подчеркнула, что этот инцидент демонстрирует, как развитие передового искусственного интеллекта опережает меры его безопасности.
Немногие люди обладают «почти неограниченным контролем»
Турк также предостерег, что небольшая группа лиц обладает «почти неограниченным контролем над искусственным интеллектом», хотя он воздержался от указания конкретных организаций.
Он утверждал: «По меньшей мере, нам необходимо, чтобы страны, в которых ведутся исследования в области искусственного интеллекта, и те, кто участвует в цепочке поставок, согласовали непреодолимую красную линию».
Связанная статья
Шведский стартап в области искусственного интеллекта Lovable Eyes достиг оценки в 13,2 миллиарда долларов после крупного раунда финансирования
По мере того как инструменты для программирования на основе искусственного интеллекта набирают популярность, шведский стартап Lovable привлек крупный раунд финансирования. Компания нацелена на привлечение $3 млрд, что потенциально может увеличить её
Google тестирует агента Remy AI для Gemini по мере смещения фокуса на управление пользователями
Согласно Business Insider, Google тестирует Remy, нового ИИ-персонального агента для Gemini. Этот инструмент предназначен для выполнения задач от имени пользователей, упрощая как профессиональные рабочие процессы, так и повседневные рутины.В настоящ
Как исправить Core Web Vitals для улучшения позиций в поисковой выдаче
Оптимизация написания комментариев в отчетных карточках с помощью ИИ-инструментовВведениеИИ-инструменты для генерации комментариев в отчетных карточкахMagic SchoolAlmanac AIChat GPTИспользование Magic School для генерации комментариев в отчетны
Рекомендации по связанным специальным темам
Комментарии (0)

Верховный комиссар ООН по правам человека Вольтер Турк в понедельник вынес резкое предупреждение о том, что искусственный интеллект может представлять угрозу для человечества, пообещав настоятельно требовать от технологических компаний смягчить эти опасности. Выступая перед началом своего исторического второго срока, Турк потребовал «железобетонных гарантий» для обеспечения безопасности искусственного интеллекта.
«Развитый искусственный интеллект может создавать экзистенциальные риски»
Обращаясь к сотрудникам агентства в Женеве, Турк заявил: «Я разделяю обеспокоенность экспертов отрасли тем, что передовой искусственный интеллект может создавать экзистенциальные риски для человечества».
«Сегодня я призываю все стороны усердно работать над созданием прочных обязательных гарантий безопасности искусственного интеллекта, пока не стало слишком поздно».
Хотя Турк не уточнил точную природу этих рисков, его пресс-секретарь отметил, что сбои в работе высокопроизводительных систем искусственного интеллекта могут нарушить функционирование критической инфраструктуры. Секретарь сослалась на «опасное поведение при обучении агентов», наблюдавшееся во время инцидента с платформой Hugging Face в июле, когда множество агентов OpenAI атаковали платформу с открытым исходным кодом. Она подчеркнула, что этот инцидент демонстрирует, как развитие передового искусственного интеллекта опережает меры его безопасности.
Немногие люди обладают «почти неограниченным контролем»
Турк также предостерег, что небольшая группа лиц обладает «почти неограниченным контролем над искусственным интеллектом», хотя он воздержался от указания конкретных организаций.
Он утверждал: «По меньшей мере, нам необходимо, чтобы страны, в которых ведутся исследования в области искусственного интеллекта, и те, кто участвует в цепочке поставок, согласовали непреодолимую красную линию».
Шведский стартап в области искусственного интеллекта Lovable Eyes достиг оценки в 13,2 миллиарда долларов после крупного раунда финансирования
По мере того как инструменты для программирования на основе искусственного интеллекта набирают популярность, шведский стартап Lovable привлек крупный раунд финансирования. Компания нацелена на привлечение $3 млрд, что потенциально может увеличить её
Как исправить Core Web Vitals для улучшения позиций в поисковой выдаче
Оптимизация написания комментариев в отчетных карточках с помощью ИИ-инструментовВведениеИИ-инструменты для генерации комментариев в отчетных карточкахMagic SchoolAlmanac AIChat GPTИспользование Magic School для генерации комментариев в отчетны











