LLM выявляет новую атаку: страница ChatGPT используется как точка входа для фишинга

По мере того как большие языковые модели получают широкое распространение, киберпреступники совершенствуют свои тактики, все чаще используя функции легитимных AI-платформ для выполнения точных атак отравления данных. Недавно компания Push Security опубликовала отчет, подробно описывающий новую угрозу под названием «LLMShare», которая использует механизмы совместного доступа к контенту в больших языковых моделях. Размещая вредоносные payloads непосредственно на официальном домене OpenAI, злоумышленники используют доверие пользователей к устоявшимся платформам для распространения вредоносного ПО.
Эта сложная кампания начинается с того, что злоумышленники используют возможности рендеринга контента ChatGPT для создания пользовательской HTML-страницы в рамках официального интерфейса, которая затем распространяется через публичные ссылки на обмен контентом "/s/". Параллельно злоумышленники покупают премиальные рекламные места в Google Search. Поскольку эти рекламные объявления ведут на URL-адреса, выглядящие легитимными и имеющие официальные домены, как обычные пользователи, так и автоматизированные системы безопасности часто не могут выявить угрозу при первоначальном контакте.
После нажатия на рекламное объявление в Google пользователи перенаправляются на страницу, имитирующую легитимный сервис, но отображающую обманчивое уведомление о «техническом обслуживании». На странице ложно утверждается, что сервис временно недоступен из-за высокой нагрузки, и пользователям предлагается «скачать настольное приложение» для продолжения работы.
Нажатие кнопки загрузки перенаправляет жертв на вредоносный портал, предлагающий поддельные пакеты клиентов для Windows и macOS. Эти пакеты используют передовые методы уклонения от обнаружения: они показывают сканерам безопасности безвредный, фиктивный веб-сайт компании виртуальной реальности, в то время как реальный вредоносный установщик предоставляется только реальным пользователям. Анализ показывает, что эти программы выполняют команды для обнаружения сред виртуальных машин, откладывая выполнение до тех пор, пока они смогут работать незамеченными.
Эксперты по безопасности предупреждают, что эта стратегия, основанная на воспринимаемой надежности крупных технологических компаний, набирает обороты. Исследователи выявили аналогичные варианты, нацеленные на платформу Claude, что указывает на то, что злоумышленники тестируют эти скрипты социальной инженерии на нескольких ведущих AI-сервисах. Эксплуатация уязвимостей легитимного совместного доступа к доменам подчеркивает критические пробелы в текущих системах защиты интернета.
Связанная статья
Акции США достигли исторической отметки, поскольку гиганты искусственного интеллекта и аэрокосмической отрасли готовятся к дебюту с оценкой в триллион долларов
Илон Маск, Сэм Алтман и Дарио Амодэй, три титана технологического сектора, продвигаются к первичным публичным предложениям акций своих respective компаний. Благодаря SpaceX, OpenAI и Anthropic — трем отраслевым гигантам, чья оценка приближается к три
Шведский стартап в области искусственного интеллекта Lovable Eyes достиг оценки в 13,2 миллиарда долларов после крупного раунда финансирования
По мере того как инструменты для программирования на основе искусственного интеллекта набирают популярность, шведский стартап Lovable привлек крупный раунд финансирования. Компания нацелена на привлечение $3 млрд, что потенциально может увеличить её
Google тестирует агента Remy AI для Gemini по мере смещения фокуса на управление пользователями
Согласно Business Insider, Google тестирует Remy, нового ИИ-персонального агента для Gemini. Этот инструмент предназначен для выполнения задач от имени пользователей, упрощая как профессиональные рабочие процессы, так и повседневные рутины.В настоящ
Рекомендации по связанным специальным темам
Комментарии (0)

По мере того как большие языковые модели получают широкое распространение, киберпреступники совершенствуют свои тактики, все чаще используя функции легитимных AI-платформ для выполнения точных атак отравления данных. Недавно компания Push Security опубликовала отчет, подробно описывающий новую угрозу под названием «LLMShare», которая использует механизмы совместного доступа к контенту в больших языковых моделях. Размещая вредоносные payloads непосредственно на официальном домене OpenAI, злоумышленники используют доверие пользователей к устоявшимся платформам для распространения вредоносного ПО.
Эта сложная кампания начинается с того, что злоумышленники используют возможности рендеринга контента
После нажатия на рекламное объявление в Google пользователи перенаправляются на страницу, имитирующую легитимный сервис, но отображающую обманчивое уведомление о «техническом обслуживании». На странице ложно утверждается, что сервис временно недоступен из-за высокой нагрузки, и пользователям предлагается «скачать настольное приложение» для продолжения работы.
Нажатие кнопки загрузки перенаправляет жертв на вредоносный портал, предлагающий поддельные пакеты клиентов для Windows и macOS. Эти пакеты используют передовые методы уклонения от обнаружения: они показывают сканерам безопасности безвредный, фиктивный веб-сайт компании виртуальной реальности, в то время как реальный вредоносный установщик предоставляется только реальным пользователям. Анализ показывает, что эти программы выполняют команды для обнаружения сред виртуальных машин, откладывая выполнение до тех пор, пока они смогут работать незамеченными.
Эксперты по безопасности предупреждают, что эта стратегия, основанная на воспринимаемой надежности крупных технологических компаний, набирает обороты. Исследователи выявили аналогичные варианты, нацеленные на платформу Claude, что указывает на то, что злоумышленники тестируют эти скрипты социальной инженерии на нескольких ведущих AI-сервисах. Эксплуатация уязвимостей легитимного совместного доступа к доменам подчеркивает критические пробелы в текущих системах защиты интернета.
Акции США достигли исторической отметки, поскольку гиганты искусственного интеллекта и аэрокосмической отрасли готовятся к дебюту с оценкой в триллион долларов
Илон Маск, Сэм Алтман и Дарио Амодэй, три титана технологического сектора, продвигаются к первичным публичным предложениям акций своих respective компаний. Благодаря SpaceX, OpenAI и Anthropic — трем отраслевым гигантам, чья оценка приближается к три
Шведский стартап в области искусственного интеллекта Lovable Eyes достиг оценки в 13,2 миллиарда долларов после крупного раунда финансирования
По мере того как инструменты для программирования на основе искусственного интеллекта набирают популярность, шведский стартап Lovable привлек крупный раунд финансирования. Компания нацелена на привлечение $3 млрд, что потенциально может увеличить её





Дом






