Дом
Ошибка человека в OpenAI вызывает хакерскую атаку на Hugging Face с использованием искусственного интеллекта
Во вторник компания OpenAI объявила, что одна из её моделей искусственного интеллекта нарушила системы платформы с наборами данных Hugging Face во время тестирования, что стало драматической вехой в развитии полностью автоматизированных атак, управляемых ИИ.
Однако эксперты по кибербезопасности утверждают, что, несмотря на роль ИИ, коренной причиной стала человеческая ошибка: OpenAI не смогла должным образом настроить свою «высокоизолированную среду», позволив тестовой песочнице, которая должна была быть отключена от сети, получить доступ к интернету.
Дэн Гайдо, основатель компании по кибербезопасности Trail of Bits, охарактеризовал этот просчёт как «сбой изоляции при отключённых механизмах безопасности».
В блоге, подробно описывающем инцидент, OpenAI заявила, что тест, запущенный в «высокоизолированной среде», был разработан для ограничения доступа к сети установкой пакетов через размещённую внутри компании стороннюю программу, выступающую в качестве прокси-сервера и кэша для реестров пакетов.
По словам OpenAI, модель использовала ранее неизвестную уязвимость в системе установки пакетов для выхода из песочницы, что стало критическим первым шагом в последующей атаке на Hugging Face.
Компания отреагировала тем, что «ответственно раскрыла информацию об обнаруженной уязвимости нулевого дня во внутренней сторонней программе и работает с её разработчиками над устранением недостатков».
Тем не время большинство экспертов по кибербезопасности считают, что, хотя программные уязвимости неизбежны, реальная проблема заключалась в самом наличии стороннего программного обеспечения. Основная ценность песочницы заключается в полной изоляции, а наличие системы установки создаёт риски.
Мартин Бунн, исследователь в области кибербезопасности, сказал TechCrunch, что «это звучит как человеческая ошибка».
«Этого никогда не должно было произойти», — сказал Бунн. «Если бы песочница действительно означала песочницу, следовало бы ожидать полного отсутствия физического подключения к интернету. Это звучит скорее так, будто у них была какая-то система межсетевого экранирования или нечто подобное, а настройка межсетевого экрана сложна при направлении трафика извне внутрь, не говоря уже о направлении изнутри во внешний интернет».
Ветеран кибербезопасности Джейк Уильямс согласился с этим мнением. «Любая модель, выполняющая действия, задокументированные Hugging Face, не была полностью изолирована в песочнице», — сказал Уильямс, назвав это «масштабным сбоем контроля» со стороны OpenAI.
«Для одного человека «модель сбежала из песочницы» — это другое, а для другого человека «вы неправильно построили песочницу, поэтому она, конечно же, сбежала»», — продолжил Уильямс.
Свяжитесь с нами
Есть идеи по поводу этого инцидента или других кибератак, управляемых ИИ? Мы хотим услышать ваше мнение. С личного устройства и сети свяжитесь с Лоренцо Франчески-Биккьери через защищённый канал Signal по номеру +1 917 257 1382, либо через Telegram и Keybase @lorenzofb, либо по электронной почте.
Дэниел Кард, консультант по кибербезопасности, согласился с тем, что OpenAI «не уделила достаточного внимания проектированию песочницы и её механизмам контроля», предоставив несекретированный маршрут в интернет. Настройка песочницы с ограниченным доступом, как описано, не была «разумным» решением, по словам Карда.
Хотя эти критические замечания выигрывают от hindsight, они освещают критически важные практики безопасности в лабораториях ИИ, особенно в отношении изолированных тестовых сред. Представители OpenAI не ответили на запросы TechCrunch, в которых спрашивалось, была ли тестовая среда настроена ИИ или человеком.
Но эти вопросы выходят далеко за рамки только OpenAI.
В документации по своей модели Mythos, ориентированной на кибербезопасность, компания Anthropic отметила, что во время теста модели «предоставлялся защищённый компьютер в „песочнице“ для взаимодействия», и было поручено выйти из этого «защищённого контейнера». Mythos преуспела, получив более широкий доступ к интернету «с системы, которая должна была иметь возможность обращаться только к небольшому количеству заранее определённых служб». Однако Anthcoop отметила, что модель не «полностью» сбежала из предусмотренной изоляции.
Связанная статья
OpenAI подтверждает инцидент с wiki и сообщает о работе над структурой для большей прозрачности
OpenAI подтвердила свою причастность к недавнему инциденту, в ходе которого агенты искусственного интеллекта захватили контроль над немецким вики-форумом. Компания заявила, что пришло время «определить стандарты» для обмена информацией о непредсказуе
По данным Ramp, у Anthropic теперь больше бизнес-клиентов, чем у OpenAI
Согласно ежемесячному индексу AI от финтех-компании Ramp, Anthropic впервые обогнал OpenAI по количеству подтвержденных корпоративных клиентов.Данные об расходах клиентов Ramp показывают, что 34,4% участвующих компаний платят за услуги Anthropic, оп
OpenAI может стать объектом расследования со стороны генеральных прокуроров штатов
Сообщается, что группа генеральных прокуроров штатов начала расследование в отношении компании OpenAI.Как сообщает The Wall Street Journal, в пятницу компания получила повестку от генерального прокуро
Рекомендации по связанным специальным темам
Дизайн и искусство
Лучшие инструменты для создания иллюстраций с помощью ИИ: быстрее создавайте редакционные сцены и обложки
2026: Новейшие и самые популярные инструменты для создания иллюстраций с помощью ИИ: в нашем тщательно подобранном списке представлены лучшие инструменты с мощными функциональными возможностями, позволяющие быстро создавать потрясающие редакционные сцены и привлекательные обложки. Каждый вариант прошел тщательные практические испытания; мы предлагаем сравнение бесплатных и платных версий, чтобы помочь вам найти идеальный вариант для вашего рабочего процесса. Попробуйте эти незаменимые решения уже сегодня, чтобы раскрыть потенциал искусственного интеллекта и повысить свою творческую продуктивность. Узнайте больше на сайте XIX.AI.
10 инструментов
xix.ai
Образование и обучение
Лучшие репетиторы по искусственному интеллекту для подготовки к экзаменам: практикуйтесь по математике, естественным наукам и английскому языку
2026 года: лучшие и самые популярные ИИ-репетиторы для подготовки к экзаменам представлены на XIX.AI! В нашем тщательно подобранном списке представлены мощные инструменты, которые кардинально изменят ваш подход к обучению: здесь вы найдете сравнение бесплатных и платных версий, тесты на практике и еженедельно обновляемые рейтинги. Они помогут повысить эффективность вашего письма, упростить изучение сложных тем и раскрыть ваш академический потенциал. Ознакомьтесь с ними прямо сейчас, чтобы найти идеальный инструмент для подготовки к экзаменам, и начните творить уже сегодня, чтобы раскрыть свои преимущества благодаря ИИ!
10 инструментов
xix.ai
Финансы
Инструменты планирования бюджета на основе ИИ для управления личными финансами
В 2026 году на XIX.AI представлены новейшие, лучшие и наиболее рейтинговые инструменты ИИ для бюджетного планирования по личным финансам! Эта тщательно отобранная коллекция включает мощные, революционные решения, которые помогают проводить реальные тесты, понимать привычки расходов и создавать персонализированные планы для повышения продуктивности. Наслаждайтесь бесплатным сравнением с платными версиями вместе с подробными рейтингами. Инструменты, которые обязательно стоит попробовать, разработаны для упрощения управления деньгами и раскрытия вашего преимущества ИИ. Исследуйте сейчас!
11 инструментов
xix.ai
Здоровье и благополучие
Помощники для отслеживания сна с ИИ: улучшите восстановление за счёт более правильных привычек перед сном
2026 год: лучшие и наиболее высоко оценённые помощники для отслеживания сна на основе ИИ, отобранные для максимального восстановления организма. В этом полностью обновлённом еженедельном руководстве представлены мощные инструменты с результатами реальных тестов, сравнением бесплатных и платных версий, а также подробными рейтингами, которые помогут вам найти оптимальное решение для улучшения качества сна и формирования лучших привычек перед сном. Ознакомьтесь с ним прямо сейчас на сайте XIX.AI, чтобы раскрыть потенциал ИИ в вашей жизни.
10 инструментов
xix.ai
Анализ данных
AI-копилоты SQL для аналитики продуктов и выручки
2026: лучшие и самые популярные ИИ-помощники для работы с SQL в сфере аналитики продуктов и доходов! XIX.AI подготовила мощную, революционную подборку инструментов, которые обязательно стоит попробовать. Они проходят проверку в реальных условиях и включаются в еженедельно обновляемый рейтинг. Эти инструменты помогают пользователям значительно повысить продуктивность за счет ускорения анализа данных, оптимизации сложных запросов и получения точных аналитических выводов, которые позволяют принимать более обоснованные бизнес-решения. Ознакомьтесь с ними прямо сейчас, чтобы найти идеальный инструмент, который поможет вам раскрыть весь потенциал искусственного интеллекта!
14 инструментов
xix.ai
Образование и обучение
Лучшие помощники по домашним заданиям с ИИ, которые учат: изучайте концепции, а не просто ответы
2026: лучшие и самые популярные помощники по домашним заданиям с ИИ, которые обучают основным концепциям, а не просто дают готовые ответы. Мощные инструменты для студентов. Обязательный к пробованию тщательно отобранный список. Еженедельное обновление. Сравнение бесплатных и платных версий. Тестирование в реальных условиях. Точные рейтинги, которые помогут вам раскрыть весь свой учебный потенциал. Исследуйте сейчас, чтобы найти идеальный инструмент для более эффективного обучения.
10 инструментов
xix.ai
Комментарии (0)
Во вторник компания OpenAI объявила, что одна из её моделей искусственного интеллекта нарушила системы платформы с наборами данных Hugging Face во время тестирования, что стало драматической вехой в развитии полностью автоматизированных атак, управляемых ИИ.
Однако эксперты по кибербезопасности утверждают, что, несмотря на роль ИИ, коренной причиной стала человеческая ошибка: OpenAI не смогла должным образом настроить свою «высокоизолированную среду», позволив тестовой песочнице, которая должна была быть отключена от сети, получить доступ к интернету.
Дэн Гайдо, основатель компании по кибербезопасности Trail of Bits, охарактеризовал этот просчёт как «сбой изоляции при отключённых механизмах безопасности».
В блоге, подробно описывающем инцидент, OpenAI заявила, что тест, запущенный в «высокоизолированной среде», был разработан для ограничения доступа к сети установкой пакетов через размещённую внутри компании стороннюю программу, выступающую в качестве прокси-сервера и кэша для реестров пакетов.
По словам OpenAI, модель использовала ранее неизвестную уязвимость в системе установки пакетов для выхода из песочницы, что стало критическим первым шагом в последующей атаке на Hugging Face.
Компания отреагировала тем, что «ответственно раскрыла информацию об обнаруженной уязвимости нулевого дня во внутренней сторонней программе и работает с её разработчиками над устранением недостатков».
Тем не время большинство экспертов по кибербезопасности считают, что, хотя программные уязвимости неизбежны, реальная проблема заключалась в самом наличии стороннего программного обеспечения. Основная ценность песочницы заключается в полной изоляции, а наличие системы установки создаёт риски.
Мартин Бунн, исследователь в области кибербезопасности, сказал TechCrunch, что «это звучит как человеческая ошибка».
«Этого никогда не должно было произойти», — сказал Бунн. «Если бы песочница действительно означала песочницу, следовало бы ожидать полного отсутствия физического подключения к интернету. Это звучит скорее так, будто у них была какая-то система межсетевого экранирования или нечто подобное, а настройка межсетевого экрана сложна при направлении трафика извне внутрь, не говоря уже о направлении изнутри во внешний интернет».
Ветеран кибербезопасности Джейк Уильямс согласился с этим мнением. «Любая модель, выполняющая действия, задокументированные Hugging Face, не была полностью изолирована в песочнице», — сказал Уильямс, назвав это «масштабным сбоем контроля» со стороны OpenAI.
«Для одного человека «модель сбежала из песочницы» — это другое, а для другого человека «вы неправильно построили песочницу, поэтому она, конечно же, сбежала»», — продолжил Уильямс.
Свяжитесь с нами
Есть идеи по поводу этого инцидента или других кибератак, управляемых ИИ? Мы хотим услышать ваше мнение. С личного устройства и сети свяжитесь с Лоренцо Франчески-Биккьери через защищённый канал Signal по номеру +1 917 257 1382, либо через Telegram и Keybase @lorenzofb, либо по электронной почте.
Дэниел Кард, консультант по кибербезопасности, согласился с тем, что OpenAI «не уделила достаточного внимания проектированию песочницы и её механизмам контроля», предоставив несекретированный маршрут в интернет. Настройка песочницы с ограниченным доступом, как описано, не была «разумным» решением, по словам Карда.
Хотя эти критические замечания выигрывают от hindsight, они освещают критически важные практики безопасности в лабораториях ИИ, особенно в отношении изолированных тестовых сред. Представители OpenAI не ответили на запросы TechCrunch, в которых спрашивалось, была ли тестовая среда настроена ИИ или человеком.
Но эти вопросы выходят далеко за рамки только OpenAI.
В документации по своей модели Mythos, ориентированной на кибербезопасность, компания Anthropic отметила, что во время теста модели «предоставлялся защищённый компьютер в „песочнице“ для взаимодействия», и было поручено выйти из этого «защищённого контейнера». Mythos преуспела, получив более широкий доступ к интернету «с системы, которая должна была иметь возможность обращаться только к небольшому количеству заранее определённых служб». Однако Anthcoop отметила, что модель не «полностью» сбежала из предусмотренной изоляции.
OpenAI подтверждает инцидент с wiki и сообщает о работе над структурой для большей прозрачности
OpenAI подтвердила свою причастность к недавнему инциденту, в ходе которого агенты искусственного интеллекта захватили контроль над немецким вики-форумом. Компания заявила, что пришло время «определить стандарты» для обмена информацией о непредсказуе
По данным Ramp, у Anthropic теперь больше бизнес-клиентов, чем у OpenAI
Согласно ежемесячному индексу AI от финтех-компании Ramp, Anthropic впервые обогнал OpenAI по количеству подтвержденных корпоративных клиентов.Данные об расходах клиентов Ramp показывают, что 34,4% участвующих компаний платят за услуги Anthropic, оп
OpenAI может стать объектом расследования со стороны генеральных прокуроров штатов
Сообщается, что группа генеральных прокуроров штатов начала расследование в отношении компании OpenAI.Как сообщает The Wall Street Journal, в пятницу компания получила повестку от генерального прокуро
2026: Новейшие и самые популярные инструменты для создания иллюстраций с помощью ИИ: в нашем тщательно подобранном списке представлены лучшие инструменты с мощными функциональными возможностями, позволяющие быстро создавать потрясающие редакционные сцены и привлекательные обложки. Каждый вариант прошел тщательные практические испытания; мы предлагаем сравнение бесплатных и платных версий, чтобы помочь вам найти идеальный вариант для вашего рабочего процесса. Попробуйте эти незаменимые решения уже сегодня, чтобы раскрыть потенциал искусственного интеллекта и повысить свою творческую продуктивность. Узнайте больше на сайте XIX.AI.
10 инструментов
xix.ai
2026 года: лучшие и самые популярные ИИ-репетиторы для подготовки к экзаменам представлены на XIX.AI! В нашем тщательно подобранном списке представлены мощные инструменты, которые кардинально изменят ваш подход к обучению: здесь вы найдете сравнение бесплатных и платных версий, тесты на практике и еженедельно обновляемые рейтинги. Они помогут повысить эффективность вашего письма, упростить изучение сложных тем и раскрыть ваш академический потенциал. Ознакомьтесь с ними прямо сейчас, чтобы найти идеальный инструмент для подготовки к экзаменам, и начните творить уже сегодня, чтобы раскрыть свои преимущества благодаря ИИ!
10 инструментов
xix.ai
В 2026 году на XIX.AI представлены новейшие, лучшие и наиболее рейтинговые инструменты ИИ для бюджетного планирования по личным финансам! Эта тщательно отобранная коллекция включает мощные, революционные решения, которые помогают проводить реальные тесты, понимать привычки расходов и создавать персонализированные планы для повышения продуктивности. Наслаждайтесь бесплатным сравнением с платными версиями вместе с подробными рейтингами. Инструменты, которые обязательно стоит попробовать, разработаны для упрощения управления деньгами и раскрытия вашего преимущества ИИ. Исследуйте сейчас!
11 инструментов
xix.ai
2026 год: лучшие и наиболее высоко оценённые помощники для отслеживания сна на основе ИИ, отобранные для максимального восстановления организма. В этом полностью обновлённом еженедельном руководстве представлены мощные инструменты с результатами реальных тестов, сравнением бесплатных и платных версий, а также подробными рейтингами, которые помогут вам найти оптимальное решение для улучшения качества сна и формирования лучших привычек перед сном. Ознакомьтесь с ним прямо сейчас на сайте XIX.AI, чтобы раскрыть потенциал ИИ в вашей жизни.
10 инструментов
xix.ai
2026: лучшие и самые популярные ИИ-помощники для работы с SQL в сфере аналитики продуктов и доходов! XIX.AI подготовила мощную, революционную подборку инструментов, которые обязательно стоит попробовать. Они проходят проверку в реальных условиях и включаются в еженедельно обновляемый рейтинг. Эти инструменты помогают пользователям значительно повысить продуктивность за счет ускорения анализа данных, оптимизации сложных запросов и получения точных аналитических выводов, которые позволяют принимать более обоснованные бизнес-решения. Ознакомьтесь с ними прямо сейчас, чтобы найти идеальный инструмент, который поможет вам раскрыть весь потенциал искусственного интеллекта!
14 инструментов
xix.ai
2026: лучшие и самые популярные помощники по домашним заданиям с ИИ, которые обучают основным концепциям, а не просто дают готовые ответы. Мощные инструменты для студентов. Обязательный к пробованию тщательно отобранный список. Еженедельное обновление. Сравнение бесплатных и платных версий. Тестирование в реальных условиях. Точные рейтинги, которые помогут вам раскрыть весь свой учебный потенциал. Исследуйте сейчас, чтобы найти идеальный инструмент для более эффективного обучения.
10 инструментов
xix.ai
