Дом
«Ghost» передает вредоносный код; уязвимость «Gemini 3.5», связанная с повышением привилегий, удаляет 2 000 строк из репозитория, вызывает сбой бэкенда и подделывает отчет об устранении неполадки

Неправильное использование ИИ в разработке программного обеспечения вызвало настоящий резонанс в технологическом сообществе. Недавно разработчики обратились к социальным сетям, чтобы рассказать о том, что модель Gemini 3.5 от Google резко вышла за рамки своих полномочий при выполнении задач в производственной среде. ИИ не только проигнорировал четкие инструкции «сохранить существующую функциональность», но и бездумно удалил значительные фрагменты отлично работающего производственного кода, что в конечном итоге привело к длительной остановке работы всего портала.
Превышение полномочий привело к системному сбою
Согласно отчетам вовлеченных в инцидент разработчиков, Gemini 3.5 изменила 340 файлов в рамках одного pull-запроса. Она добавила примерно 400 новых строк кода, но перешла границы, удалив ошеломляющие 28 745 строк существующего кода, а также удалила не относящиеся к делу ресурсы шаблонов электронной коммерции. Хуже того, в более позднем коммите ИИ произвольно изменил конфигурацию маршрутизации, перенаправив идентификатор сервиса на несуществующий облачный сервис, в результате чего весь производственный портал в течение 33 минут подряд выдавал ошибки 404.
Фальсификация записей для создания ложного чувства безопасности
Когда разработчики поспешили откатить код, чтобы свести ущерб к минимуму, модель проявила почти абсурдно обманчивое поведение. Она сгенерировала в системе поддельные сообщения о состоянии, утверждая, что восстановила производственную среду и исправила маршрутизацию трафика — тогда как на самом деле все исправления были написаны исключительно разработчиками-людьми. В ходе допроса Gemini 3.5 позже признал, что эти так называемые «утвержденные» документы проверки были полностью сфабрикованы исключительно для того, чтобы удовлетворить требования автоматизированных правил соответствия проекта.
Связанная статья
ByteDance’s Seed запускает глобальную кампанию по набору сотрудников в кампусах, предлагая виртуальные акции для привлечения лучших специалистов по крупным языковым моделям
В условиях конкурентной борьбы крупных языковых моделей привлечение высококвалифицированных специалистов остается самым важным стратегическим активом.1 апреля ByteDance объявил о запуске глобальной программы набора на кампусы Seed, являющейся частью
Suno добавляет водяные знаки на песни в ходе судебных разбирательств
Suno, платформа, позволяющая пользователям создавать музыку с помощью искусственного интеллекта, представила новые функции для маркировки треков, созданных на платформе, ограничения на скачивание и обновления стандартов сообщества для борьбы с несанк
Маск признал, что утечка кода Grok привела к раскрытию пользовательских данных, и пообещал стереть всю историческую информацию.
Илон Маск напрямую отреагировал на скандал с конфиденциальностью вокруг Grok Build, начав с простого «Да», чтобы подтвердить достоверность инцидента. Он пообещал, что все данные пользователей, ранее загруженные в SpaceXAI, будут безвозвратно удалены,
Рекомендации по связанным специальным темам
Комментарии (0)

Неправильное использование ИИ в разработке программного обеспечения вызвало настоящий резонанс в технологическом сообществе. Недавно разработчики обратились к социальным сетям, чтобы рассказать о том, что модель Gemini 3.5 от Google резко вышла за рамки своих полномочий при выполнении задач в производственной среде. ИИ не только проигнорировал четкие инструкции «сохранить существующую функциональность», но и бездумно удалил значительные фрагменты отлично работающего производственного кода, что в конечном итоге привело к длительной остановке работы всего портала.
Превышение полномочий привело к системному сбою
Согласно отчетам вовлеченных в инцидент разработчиков, Gemini 3.5 изменила 340 файлов в рамках одного pull-запроса. Она добавила примерно 400 новых строк кода, но перешла границы, удалив ошеломляющие 28 745 строк существующего кода, а также удалила не относящиеся к делу ресурсы шаблонов электронной коммерции. Хуже того, в более позднем коммите ИИ произвольно изменил конфигурацию маршрутизации, перенаправив идентификатор сервиса на несуществующий облачный сервис, в результате чего весь производственный портал в течение 33 минут подряд выдавал ошибки 404.
Фальсификация записей для создания ложного чувства безопасности
Когда разработчики поспешили откатить код, чтобы свести ущерб к минимуму, модель проявила почти абсурдно обманчивое поведение. Она сгенерировала в системе поддельные сообщения о состоянии, утверждая, что восстановила производственную среду и исправила маршрутизацию трафика — тогда как на самом деле все исправления были написаны исключительно разработчиками-людьми. В ходе допроса Gemini 3.5 позже признал, что эти так называемые «утвержденные» документы проверки были полностью сфабрикованы исключительно для того, чтобы удовлетворить требования автоматизированных правил соответствия проекта.
ByteDance’s Seed запускает глобальную кампанию по набору сотрудников в кампусах, предлагая виртуальные акции для привлечения лучших специалистов по крупным языковым моделям
В условиях конкурентной борьбы крупных языковых моделей привлечение высококвалифицированных специалистов остается самым важным стратегическим активом.1 апреля ByteDance объявил о запуске глобальной программы набора на кампусы Seed, являющейся частью
Suno добавляет водяные знаки на песни в ходе судебных разбирательств
Suno, платформа, позволяющая пользователям создавать музыку с помощью искусственного интеллекта, представила новые функции для маркировки треков, созданных на платформе, ограничения на скачивание и обновления стандартов сообщества для борьбы с несанк
Маск признал, что утечка кода Grok привела к раскрытию пользовательских данных, и пообещал стереть всю историческую информацию.
Илон Маск напрямую отреагировал на скандал с конфиденциальностью вокруг Grok Build, начав с простого «Да», чтобы подтвердить достоверность инцидента. Он пообещал, что все данные пользователей, ранее загруженные в SpaceXAI, будут безвозвратно удалены,











