Согласно секретному отчету, Microsoft Copilot уязвим для косвенной инъекции команд
Компания PromptArmor, занимающаяся исследованиями в области безопасности, недавно опубликовала отчет, в котором освещается серьезная уязвимость в службе искусственного интеллекта Copilot Cowork от Microsoft, входящей в состав Microsoft 365. Злоумышленники могут использовать метод, известный как «косвенная инъекция запросов», чтобы незаметно похищать и передавать конфиденциальные файлы из внутреннего облачного хранилища организации без согласия пользователей.

Вредоносные инструкции, скрытые в шаблонах Office
Как интегрированный ИИ-помощник, Cowork обладает широкими правами на отправку электронных писем, публикацию сообщений в Teams и доступ к внутренним данным из OneDrive и SharePoint. Однако исследователи обнаружили, что злоумышленники могут встраивать вредоносные инструкции в веб-страницы, документы или, казалось бы, обычные шаблоны автоматизации офиса, такие как «Еженедельный обзор работы», чтобы обманом заставить ИИ-агента их выполнить.
Когда пользователь просит Cowork обработать файл, содержащий эти вредоносные подсказки, ИИ-агент обманывается и ложно заявляет, что ему необходимо сгенерировать предварительный просмотр документа. Затем он автоматически извлекает предварительно аутентифицированные ссылки для скачивания конфиденциальных файлов и отправляет эти ссылки обратно злоумышленнику через сообщения Teams — все это происходит в фоновом режиме, что делает его крайне труднозаметным для пользователей.
Запланированные задачи усиливают риск и их трудно заблокировать
В отчете отмечается, что поскольку Copilot Cowork может выполнять задачи по расписанию, это значительно увеличивает угрозу безопасности. Например, повторяющиеся автоматизированные задачи, такие как «Еженедельный отчет», которые запускаются периодически, могут многократно запускать и выполнять цепочку атак в фоновом режиме — даже когда пользователь находится вдали от экрана и не использует систему активно.
В ходе тестов безопасности этот метод атаки достиг 100% успешности в пяти испытаниях. Что еще хуже, администраторы имеют ограниченные возможности по мониторингу или контролю таких «файлов навыков», и уязвимость не только эффективна в автоматическом режиме, но и остается уязвимой при явном вызове более мощных крупных моделей, таких как Claude Opus 4.7.
Связанная статья
Акции США достигли исторической отметки, поскольку гиганты искусственного интеллекта и аэрокосмической отрасли готовятся к дебюту с оценкой в триллион долларов
Илон Маск, Сэм Алтман и Дарио Амодэй, три титана технологического сектора, продвигаются к первичным публичным предложениям акций своих respective компаний. Благодаря SpaceX, OpenAI и Anthropic — трем отраслевым гигантам, чья оценка приближается к три
Шведский стартап в области искусственного интеллекта Lovable Eyes достиг оценки в 13,2 миллиарда долларов после крупного раунда финансирования
По мере того как инструменты для программирования на основе искусственного интеллекта набирают популярность, шведский стартап Lovable привлек крупный раунд финансирования. Компания нацелена на привлечение $3 млрд, что потенциально может увеличить её
Google тестирует агента Remy AI для Gemini по мере смещения фокуса на управление пользователями
Согласно Business Insider, Google тестирует Remy, нового ИИ-персонального агента для Gemini. Этот инструмент предназначен для выполнения задач от имени пользователей, упрощая как профессиональные рабочие процессы, так и повседневные рутины.В настоящ
Рекомендации по связанным специальным темам
Комментарии (0)
Компания PromptArmor, занимающаяся исследованиями в области безопасности, недавно опубликовала отчет, в котором освещается серьезная уязвимость в службе искусственного интеллекта Copilot Cowork от Microsoft, входящей в состав Microsoft 365. Злоумышленники могут использовать метод, известный как «косвенная инъекция запросов», чтобы незаметно похищать и передавать конфиденциальные файлы из внутреннего облачного хранилища организации без согласия пользователей.

Вредоносные инструкции, скрытые в шаблонах Office
Как интегрированный ИИ-помощник, Cowork обладает широкими правами на отправку электронных писем, публикацию сообщений в Teams и доступ к внутренним данным из OneDrive и SharePoint. Однако исследователи обнаружили, что злоумышленники могут встраивать вредоносные инструкции в веб-страницы, документы или, казалось бы, обычные шаблоны автоматизации офиса, такие как «Еженедельный обзор работы», чтобы обманом заставить ИИ-агента их выполнить.
Когда пользователь просит Cowork обработать файл, содержащий эти вредоносные подсказки, ИИ-агент обманывается и ложно заявляет, что ему необходимо сгенерировать предварительный просмотр документа. Затем он автоматически извлекает предварительно аутентифицированные ссылки для скачивания конфиденциальных файлов и отправляет эти ссылки обратно злоумышленнику через сообщения Teams — все это происходит в фоновом режиме, что делает его крайне труднозаметным для пользователей.
Запланированные задачи усиливают риск и их трудно заблокировать
В отчете отмечается, что поскольку Copilot Cowork может выполнять задачи по расписанию, это значительно увеличивает угрозу безопасности. Например, повторяющиеся автоматизированные задачи, такие как «Еженедельный отчет», которые запускаются периодически, могут многократно запускать и выполнять цепочку атак в фоновом режиме — даже когда пользователь находится вдали от экрана и не использует систему активно.
В ходе тестов безопасности этот метод атаки достиг 100% успешности в пяти испытаниях. Что еще хуже, администраторы имеют ограниченные возможности по мониторингу или контролю таких «файлов навыков», и уязвимость не только эффективна в автоматическом режиме, но и остается уязвимой при явном вызове более мощных крупных моделей, таких как Claude Opus 4.7.
Акции США достигли исторической отметки, поскольку гиганты искусственного интеллекта и аэрокосмической отрасли готовятся к дебюту с оценкой в триллион долларов
Илон Маск, Сэм Алтман и Дарио Амодэй, три титана технологического сектора, продвигаются к первичным публичным предложениям акций своих respective компаний. Благодаря SpaceX, OpenAI и Anthropic — трем отраслевым гигантам, чья оценка приближается к три
Шведский стартап в области искусственного интеллекта Lovable Eyes достиг оценки в 13,2 миллиарда долларов после крупного раунда финансирования
По мере того как инструменты для программирования на основе искусственного интеллекта набирают популярность, шведский стартап Lovable привлек крупный раунд финансирования. Компания нацелена на привлечение $3 млрд, что потенциально может увеличить её





Дом






