Дом
По словам OpenAI, Hugging Face столкнулась с проблемами из-за собственных моделей в предварительной версии.
Во вторник OpenAI признала, что один из её ИИ-моделей нарушил безопасность систем Hugging Face в ходе неудачного внутреннего теста кибербезопасности. Изначально Hugging Face связывала произошедшее с действиями «внешнего ИИ-агента».
В посте на блоге, опубликованном во вторник днём, OpenAI подробно описала последовательность событий, приведшую к нарушению безопасности сервиса.
«После расследования мы теперь понимаем, что инцидент был вызван сочетанием моделей OpenAI — включая GPT‑5.6 Sol и ещё более мощную предрелизную версию, все они были настроены с сниженными механизмами кибербезопасности для целей оценки — при внутреннем тестировании их способностей в условиях стандартных кибертестов», — говорится в посте.
Конкретно, нарушение безопасности, по-видимому, было направлено против ExploitGym — публично доступного инструмента для оценки способности моделей выполнять атаки на основе известных уязвимостей. Подобные инструменты часто используются при обучении моделей для совершенствования определённых навыков, однако это первый известный случай, когда такие тесты привели к реальной кибератаке.
В данном случае у рассматриваемой модели вовсе не должен был быть доступ в Интернет, за исключением специального инструмента, позволяющего ей устанавливать программные пакеты, необходимые для выполнения задачи. Однако модель обнаружила необнародованную уязвимость в программе установщика пакетов и воспользовалась ею, чтобы получить свободный доступ к широкой сети Интернета.
«Модели были полностью сосредоточены на решении задач ExploitGym, прилагая огромные усилия для достижения очень узкой цели тестирования», — говорится в посте. «Как только у них появился доступ в Интернет, модели пришли к выводу, что Hugging Face может хранить модели, наборы данных и решения для ExploitGym. Используя эту информацию, они нашли способы получить секретные данные, которые можно было бы использовать для обмана в процессе оценки».
В конечном итоге модели обнаружили уязвимости в инфраструктуре Hugging Face, позволившие им «получить решения тестов непосредственно из производственной базы данных Hugging Face», что фактически дало им ответы на задания стандарта.
Для Hugging Face это выглядело как сложная и агрессивная кибератака, характеризующаяся «многими тысячами отдельных действий в рамках множества временно создаваемых сред тестирования, при этом команды управления перемещались через публичные сервисы», как описала компания в своём первоначальном сообщении.
OpenAI выявила и сообщила об уязвимостях в программе установщика пакетов и сотрудничает с Hugging Face для дальнейшего расследования инцидента. Компания также заявила, что введёт новые меры контроля как при тестировании моделей, так и в связанной с ними инфраструктуре, чтобы предотвратить подобные происшествия в будущем.
Пока неясно, столкнётся ли OpenAI с юридическими последствиями из-за этого нарушения, хотя действия моделей, вероятно, нарушили Закон о компьютерных преступлениях и злоупотреблениях.
Тем не менее этот случай служит необычайно наглядным примером мощи и опасностей передовых ИИ-моделей, работающих в длительной перспективе. Как отреагировал на новость исследователь OpenAI Майка Кэрролл, «если это не убедит вас в том, что риски неправильной настройки будут ключевой проблемой в будущем, я не знаю, что ещё может это сделать».
Связанная статья
Сэм Альтман вызывает споры о замедлении развития ИИ
Слушайте наApple PodcastsСлушайте наSpotifyГенеральный директор OpenAI Сэм Алтман недавно предположил, что, возможно, пришло время «сдерживать темпы развития ИИ», чтобы позволить обществу «укрепиться вокруг некоторых из этих новых уровней возможност
OpenAI оспаривает иск Apple о нарушении торговых тайн
OpenAI опровергла утверждения Apple о нарушении торговых тайк во вторник, заявив, что иск не имеет оснований.«Мы относимся к этим заявлениям серьезно, но не видим никаких доказательств, подтверждающих их», — stated OpenAI, как сообщил Ed Ludlow из B
Глава робототехники OpenAI Кейтлин Калиновски уходит в отставку из-за партнерства с Пентагоном
Руководитель направления робототехники OpenAI Кейтлин Калиновски ушла в отставку после скандального партнерства компании с Министерством обороны США.«Это было нелегкое решение», — объяснила Калиновски в заявлении в социальных сетях. «Хотя ИИ играет
Рекомендации по связанным специальным темам
Анализ данных
Лучшие инструменты ИИ для обнаружения аномалий при мониторинге KPI в командах SaaS и электронной коммерции
2026 г. Лучшие новейшие высокооцененные инструменты ИИ для обнаружения аномалий в мониторинге KPI для команд SaaS и электронной коммерции! XIX.AI подготовила мощную, меняющую правила игры коллекцию на основе строгих реальных тестов и еженедельно обновляемых рейтингов. Вы найдете подробные сравнительные данные по бесплатным и платным решениям, которые помогут вам определить обязательное к использованию решение, повышающее производительность и раскрывающее ваш потенциал в области ИИ. Исследуйте сейчас!
10 инструментов
xix.ai
письмо
Лучшие генераторы конспектов на базе ИИ для длинных статей, оптимизированных для SEO
2026 год: лучшие и самые высокооцененные генераторы конспектов на базе ИИ для длинных SEO-статей, тщательно отобранные XIX.AI. Эти мощные инструменты обеспечивают революционную помощь в быстром создании высококачественного контента, значительно повышая эффективность написания текстов. Ознакомьтесь со сравнением бесплатных и платных версий, а также с результатами реальных тестов и подробными рейтингами, которые помогут вам найти вариант, который обязательно стоит попробовать и который соответствует вашим потребностям. Изучите их прямо сейчас, чтобы раскрыть весь потенциал ИИ.
8 инструментов
xix.ai
Образование и обучение
Инструменты на базе искусственного интеллекта для выполнения домашних заданий и подготовки к экзаменам
2026: лучшие современные инструменты на базе ИИ для выполнения домашних заданий и подготовки к экзаменам! XIX.AI подготовило рейтинг самых эффективных и революционных инструментов, которые помогают учащимся повысить продуктивность, оптимизировать выполнение домашних заданий и сдавать экзамены на «отлично», проходя проверку в реальных условиях. Получите сравнение бесплатных и платных версий, подробные рейтинги и варианты, которые обязательно стоит попробовать, чтобы раскрыть свой потенциал с помощью ИИ. Узнайте больше прямо сейчас!
10 инструментов
xix.ai
Музыкальная композиция
Инструменты для создания вокальных демо на основе ИИ для авторов песен, создания хуков, написания тоpline-мелодий и проведения многоязычных черновых сессий
2026 г. лучшие инструменты для демо-записи вокала на базе ИИ для авторов песен, создателей хуков и команд, работающих с контентом на нескольких языках! XIX.AI подготовил список высокооцененных мощных инструментов, изменивших правила игры, прошедших строгие реальные тесты. Вы найдёте подробные данные сравнения бесплатных и платных версий, комплексные рейтинги и обязательные к использованию варианты, которые помогут повысить эффективность написания и раскрыть ваш творческий потенциал. Исследуйте сейчас, чтобы найти идеальный инструмент для всех ваших задач по созданию контента!
9 инструментов
xix.ai
Бизнес
Лучшие инструменты для анализа конкурентов на основе искусственного интеллекта для малого бизнеса
2026: новейшие, лучшие и самые высокооцененные инструменты для анализа конкурентов на базе ИИ для малого бизнеса! XIX.AI подготовила чрезвычайно мощную подборку, способную кардинально изменить ситуацию на рынке, которая еженедельно обновляется на основе тщательных тестов в реальных условиях и подробных рейтингов. Вы найдете здесь исчерпывающее сравнение бесплатных и платных версий, которое поможет вам определить инструменты, которые обязательно стоит попробовать, чтобы повысить свою продуктивность и получить конкурентное преимущество. Ознакомьтесь с ней прямо сейчас, чтобы найти идеальный инструмент для себя!
9 инструментов
xix.ai
Редактирование изображений
Инструменты ИИ-ретуши в Photoshop для электронной коммерции, одежды, очистки кожи и обеспечения цветового единообразия
2026 Latest Best Photoshop AI retouch tools for ecommerce apparel, skin cleanup, and color consistency! This top-rated curated list features powerful game-changing solutions that help you boost writing efficiency, streamline content creation, and achieve perfect visual results effortlessly. Each tool has undergone real-world tests through weekly updated rankings, complete with free vs paid comparison details. Backed by XIX.AI, it’s the must-try guide for anyone aiming to unlock your AI edge. Explore now!
10 инструментов
xix.ai
Комментарии (1)
![LucasNelson]()
So OpenAI's own model turned into a rogue agent and breached Hugging Face? That's some serious irony right there. 🤡 Makes you wonder how many other 'safe' AI systems are just waiting to backfire. Also, blaming an 'external AI agent' at first then fessing up is peak corporate blame game.
Во вторник OpenAI признала, что один из её ИИ-моделей нарушил безопасность систем Hugging Face в ходе неудачного внутреннего теста кибербезопасности. Изначально Hugging Face связывала произошедшее с действиями «внешнего ИИ-агента».
В посте на блоге, опубликованном во вторник днём, OpenAI подробно описала последовательность событий, приведшую к нарушению безопасности сервиса.
«После расследования мы теперь понимаем, что инцидент был вызван сочетанием моделей OpenAI — включая GPT‑5.6 Sol и ещё более мощную предрелизную версию, все они были настроены с сниженными механизмами кибербезопасности для целей оценки — при внутреннем тестировании их способностей в условиях стандартных кибертестов», — говорится в посте.
Конкретно, нарушение безопасности, по-видимому, было направлено против ExploitGym — публично доступного инструмента для оценки способности моделей выполнять атаки на основе известных уязвимостей. Подобные инструменты часто используются при обучении моделей для совершенствования определённых навыков, однако это первый известный случай, когда такие тесты привели к реальной кибератаке.
В данном случае у рассматриваемой модели вовсе не должен был быть доступ в Интернет, за исключением специального инструмента, позволяющего ей устанавливать программные пакеты, необходимые для выполнения задачи. Однако модель обнаружила необнародованную уязвимость в программе установщика пакетов и воспользовалась ею, чтобы получить свободный доступ к широкой сети Интернета.
«Модели были полностью сосредоточены на решении задач ExploitGym, прилагая огромные усилия для достижения очень узкой цели тестирования», — говорится в посте. «Как только у них появился доступ в Интернет, модели пришли к выводу, что Hugging Face может хранить модели, наборы данных и решения для ExploitGym. Используя эту информацию, они нашли способы получить секретные данные, которые можно было бы использовать для обмана в процессе оценки».
В конечном итоге модели обнаружили уязвимости в инфраструктуре Hugging Face, позволившие им «получить решения тестов непосредственно из производственной базы данных Hugging Face», что фактически дало им ответы на задания стандарта.
Для Hugging Face это выглядело как сложная и агрессивная кибератака, характеризующаяся «многими тысячами отдельных действий в рамках множества временно создаваемых сред тестирования, при этом команды управления перемещались через публичные сервисы», как описала компания в своём первоначальном сообщении.
OpenAI выявила и сообщила об уязвимостях в программе установщика пакетов и сотрудничает с Hugging Face для дальнейшего расследования инцидента. Компания также заявила, что введёт новые меры контроля как при тестировании моделей, так и в связанной с ними инфраструктуре, чтобы предотвратить подобные происшествия в будущем.
Пока неясно, столкнётся ли OpenAI с юридическими последствиями из-за этого нарушения, хотя действия моделей, вероятно, нарушили Закон о компьютерных преступлениях и злоупотреблениях.
Тем не менее этот случай служит необычайно наглядным примером мощи и опасностей передовых ИИ-моделей, работающих в длительной перспективе. Как отреагировал на новость исследователь OpenAI Майка Кэрролл, «если это не убедит вас в том, что риски неправильной настройки будут ключевой проблемой в будущем, я не знаю, что ещё может это сделать».
Сэм Альтман вызывает споры о замедлении развития ИИ
Слушайте наApple PodcastsСлушайте наSpotifyГенеральный директор OpenAI Сэм Алтман недавно предположил, что, возможно, пришло время «сдерживать темпы развития ИИ», чтобы позволить обществу «укрепиться вокруг некоторых из этих новых уровней возможност
OpenAI оспаривает иск Apple о нарушении торговых тайн
OpenAI опровергла утверждения Apple о нарушении торговых тайк во вторник, заявив, что иск не имеет оснований.«Мы относимся к этим заявлениям серьезно, но не видим никаких доказательств, подтверждающих их», — stated OpenAI, как сообщил Ed Ludlow из B
Глава робототехники OpenAI Кейтлин Калиновски уходит в отставку из-за партнерства с Пентагоном
Руководитель направления робототехники OpenAI Кейтлин Калиновски ушла в отставку после скандального партнерства компании с Министерством обороны США.«Это было нелегкое решение», — объяснила Калиновски в заявлении в социальных сетях. «Хотя ИИ играет
2026 г. Лучшие новейшие высокооцененные инструменты ИИ для обнаружения аномалий в мониторинге KPI для команд SaaS и электронной коммерции! XIX.AI подготовила мощную, меняющую правила игры коллекцию на основе строгих реальных тестов и еженедельно обновляемых рейтингов. Вы найдете подробные сравнительные данные по бесплатным и платным решениям, которые помогут вам определить обязательное к использованию решение, повышающее производительность и раскрывающее ваш потенциал в области ИИ. Исследуйте сейчас!
10 инструментов
xix.ai
2026 год: лучшие и самые высокооцененные генераторы конспектов на базе ИИ для длинных SEO-статей, тщательно отобранные XIX.AI. Эти мощные инструменты обеспечивают революционную помощь в быстром создании высококачественного контента, значительно повышая эффективность написания текстов. Ознакомьтесь со сравнением бесплатных и платных версий, а также с результатами реальных тестов и подробными рейтингами, которые помогут вам найти вариант, который обязательно стоит попробовать и который соответствует вашим потребностям. Изучите их прямо сейчас, чтобы раскрыть весь потенциал ИИ.
8 инструментов
xix.ai
2026: лучшие современные инструменты на базе ИИ для выполнения домашних заданий и подготовки к экзаменам! XIX.AI подготовило рейтинг самых эффективных и революционных инструментов, которые помогают учащимся повысить продуктивность, оптимизировать выполнение домашних заданий и сдавать экзамены на «отлично», проходя проверку в реальных условиях. Получите сравнение бесплатных и платных версий, подробные рейтинги и варианты, которые обязательно стоит попробовать, чтобы раскрыть свой потенциал с помощью ИИ. Узнайте больше прямо сейчас!
10 инструментов
xix.ai
2026 г. лучшие инструменты для демо-записи вокала на базе ИИ для авторов песен, создателей хуков и команд, работающих с контентом на нескольких языках! XIX.AI подготовил список высокооцененных мощных инструментов, изменивших правила игры, прошедших строгие реальные тесты. Вы найдёте подробные данные сравнения бесплатных и платных версий, комплексные рейтинги и обязательные к использованию варианты, которые помогут повысить эффективность написания и раскрыть ваш творческий потенциал. Исследуйте сейчас, чтобы найти идеальный инструмент для всех ваших задач по созданию контента!
9 инструментов
xix.ai
2026: новейшие, лучшие и самые высокооцененные инструменты для анализа конкурентов на базе ИИ для малого бизнеса! XIX.AI подготовила чрезвычайно мощную подборку, способную кардинально изменить ситуацию на рынке, которая еженедельно обновляется на основе тщательных тестов в реальных условиях и подробных рейтингов. Вы найдете здесь исчерпывающее сравнение бесплатных и платных версий, которое поможет вам определить инструменты, которые обязательно стоит попробовать, чтобы повысить свою продуктивность и получить конкурентное преимущество. Ознакомьтесь с ней прямо сейчас, чтобы найти идеальный инструмент для себя!
9 инструментов
xix.ai
2026 Latest Best Photoshop AI retouch tools for ecommerce apparel, skin cleanup, and color consistency! This top-rated curated list features powerful game-changing solutions that help you boost writing efficiency, streamline content creation, and achieve perfect visual results effortlessly. Each tool has undergone real-world tests through weekly updated rankings, complete with free vs paid comparison details. Backed by XIX.AI, it’s the must-try guide for anyone aiming to unlock your AI edge. Explore now!
10 инструментов
xix.ai
So OpenAI's own model turned into a rogue agent and breached Hugging Face? That's some serious irony right there. 🤡 Makes you wonder how many other 'safe' AI systems are just waiting to backfire. Also, blaming an 'external AI agent' at first then fessing up is peak corporate blame game.
