Искусственный интеллект становится главной угрозой утечки данных

Руководители предприятий инвестировали миллиарды в инструменты искусственного интеллекта, чтобы повысить производительность и стимулировать инновации. Однако недавние данные показывают, что многие организации не предвидели серьезный риск. Именно платформы искусственного интеллекта, которые помогают сотрудникам работать быстрее, стали основным каналом утечки конфиденциальных данных из корпоративной среды. Исследования показывают, что 77 % сотрудников вставляют данные в генеративные инструменты искусственного интеллекта, а 40 % загружаемых файлов содержат личную информацию или данные платежных карт. Это происходит сейчас, в больших масштабах, в организациях, которые считают свои меры безопасности адекватными. Это подчеркивает фундаментальное несоответствие между тем, как компании предполагают, что используется искусственный интеллект, и реальными повседневными взаимодействиями их сотрудников. Признание этого сдвига является важным первым шагом в построении стратегий безопасности, соответствующих современным реалиям.

Как ИИ стал новым вектором утечки данных

Два года назад генеративный ИИ едва ли был частью рабочих процессов предприятий. Сегодня 45 % всех сотрудников предприятий активно используют платформы ИИ, что составляет 11 % от общей деятельности предприятий. Только ChatGPT достиг 43 % внедрения среди сотрудников — это уровень проникновения, на достижение которого другим коммуникационным платформам потребовались десятилетия.

Это быстрое внедрение создало вакуум в области безопасности. Традиционные системы предотвращения потери данных были разработаны для передачи файлов, вложений в электронную почту и сетевого трафика. Они никогда не были созданы для мониторинга того, что сотрудники вводят в окна командной строки или вставляют в интерфейсы чата. Этот «слепой угол» стал основным каналом утечки конфиденциальной информации.

Генеративный ИИ в настоящее время составляет 32 % всего перемещения данных из корпоративных учетных записей в личные, что делает его крупнейшим каналом утечки данных, превосходящим обмен файлами, электронную почту и все другие каналы, которые команды безопасности давно защитили. Проблема заключается не только в объеме, но и в характере утечки. Загрузка документа на файловый сервер оставляет запись; вставка данных клиентов в окно ввода ИИ часто происходит вне любой системы регистрации или мониторинга.

Проблема личных учетных записей

Основная проблема заключается не в использовании инструментов ИИ, а в том, как сотрудники получают к ним доступ. Модели безопасности предприятий предполагают, что сотрудники используют корпоративные учетные записи с единым входом, регистрацией и контролем. Данные показывают, что это предположение неверно: примерно 67 % использования ИИ происходит через неуправляемые личные учетные записи. Это личные адреса Gmail, учетные записи Microsoft или прямые регистрации, которые полностью обходят корпоративные системы идентификации. Когда сотрудник входит в ChatGPT с личной электронной почтой, компания не имеет никакого представления о его запросах, общих данных или конфиденциальной информации в ответах.

Даже при использовании корпоративных учетных записей учетные данные часто не объединены. 83 % входов в ERP и 71 % входов в CRM происходят без единого входа. Это означает, что корпоративный вход обеспечивает лишь немного большую безопасность или видимость, чем личная учетная запись. Хотя имя пользователя может содержать домен компании, обход аутентификации позволяет осуществлять те же невидимые потоки данных.

Копирование и вставка: невидимая утечка данных

Традиционные стратегии предотвращения потери данных были сосредоточены на файловых системах, мониторинге загрузок, скачиваний и вложений. Но данные показывают, что настоящим источником утечек являются не файлы, а копирование и вставка. 77 % сотрудников вставляют данные в генеративные инструменты искусственного интеллекта, причем 82 % этой деятельности происходит из неуправляемых личных учетных записей. В среднем каждый сотрудник вставляет 15 раз в день данные из личных учетных записей, и по крайней мере четыре из них содержат конфиденциальные личные данные или данные платежных карт.

Это означает, что конфиденциальная информация больше не передается исключительно через загрузку файлов. Она вводится непосредственно в командные строки, окна чата и текстовые поля. Эти безфайловые передачи практически незаметны для традиционных решений DLP. Они происходят с высокой частотой, на нескольких платформах и вне контроля предприятия.

В результате конфиденциальные данные непрерывно покидают организацию через труднообнаружимые каналы. Копирование и вставка стали новым методом утечки данных, а инструменты искусственного интеллекта — их основным местом назначения.

Конфиденциальные файлы в несанкционированных местах назначения

Загрузка файлов по-прежнему остается центральным элементом рабочих процессов, но их места назначения изменились. Сотрудники больше не ограничиваются загрузкой файлов в санкционированные хранилища или электронную почту; они перемещают файлы в генеративные инструменты искусственного интеллекта, потребительские приложения и несанкционированные платформы SaaS.

Данные показывают, что 40 % файлов, загруженных в генеративные инструменты искусственного интеллекта, содержат личные или финансовые данные. Аналогичным образом, 41 % файлов, загруженных на платформы хранения файлов, содержат такие данные. Почти 4 из 10 таких загрузок происходят через личные учетные записи.

В результате конфиденциальные данные попадают в среды, над которыми предприятия не имеют ни видимости, ни контроля. Как только файл загружается в личный Google Drive, чат WhatsApp или AI-программу, он фактически покидает территорию предприятия и становится невозможным отследить, ограничить или удалить.

Направления разнообразны: от корпоративных инструментов, таких как Egnyte и Zendesk, до потребительских платформ, таких как Canva, LinkedIn и WhatsApp. Это смешение корпоративных и потребительских экосистем стирает границы корпоративных данных и обнажает ограничения традиционных систем DLP, которые были разработаны для санкционированных каналов и централизованного контроля.

Что это означает для безопасности предприятия

Традиционный периметр безопасности рухнул. Раньше данные можно было контролировать путем управления сетями, защиты конечных точек и мониторинга санкционированных приложений. Эта модель предполагала, что работа выполняется внутри корпоративных систем, с лишь эпизодическим и контролируемым использованием внешних платформ.

В настоящее время работа выполняется в браузерах, в десятках приложений, через корпоративные и личные учетные записи, с использованием методов, которые не оставляют следов в аудите. Сотрудник, исследующий проблему клиента, может выполнить поиск во внутренних системах, вставить результаты в ChatGPT для обобщения, скопировать резюме в Slack для коллег и переслать его по личной электронной почте для последующего просмотра. Каждый шаг перемещает конфиденциальные данные по каналам, невидимым для традиционных инструментов.

Браузер стал основным рабочим местом, но меры безопасности не поспевают за изменениями. Сотрудники плавно переходят между приложениями, практически не делая различия между корпоративными и личными инструментами. Они используют все, что эффективно, удобно и не требует одобрения ИТ-отдела. Это создает среду, в которой конфиденциальная информация постоянно утекает наружу через невидимые каналы.

Переосмысление корпоративной безопасности в эпоху ИИ

Решение не заключается в блокировании инструментов искусственного интеллекта или полном запрете личных учетных записей. Такие подходы не работают, потому что они противоречат тому, как на самом деле работают сотрудники. Эти инструменты существуют, потому что они повышают производительность. Личные учетные записи распространяются, потому что предоставление корпоративных учетных записей происходит медленно и сопровождается ограничениями. Безопасность, игнорирующая эти реалии, будет просто обойдена.

Эффективная защита требует видимости на уровне браузера, где действительно происходит работа. Это означает мониторинг не только загрузки файлов, но и операций вставки, отправки форм, оперативных взаимодействий и любого другого перемещения данных между системами. Это требует применения политик, которые различают корпоративные и личные учетные записи, независимо от используемого приложения.

Организации должны расширить меры по предотвращению потери данных за пределы файлов, включив в них и передачу данных без файлов. Запрос, отправленный в ChatGPT, должен проходить такую же тщательную проверку, как и вложение к электронному письму. Вставка в Slack должна вызывать такие же проверки, как и загрузка в Google Drive. Метод передачи данных не должен определять, применяются ли меры безопасности.

Необходимо строго соблюдать меры контроля идентификации. Одного лишь единого входа в систему недостаточно, если сотрудники по-прежнему могут получать доступ к бизнес-приложениям через личные учетные записи. Федеративная аутентификация должна быть обязательной для любого приложения, работающего с конфиденциальными данными, а не опциональной. Нефедеративные корпоративные логины должны рассматриваться как угроза безопасности.

Вывод

ИИ стал самой быстрорастущей категорией в корпоративном программном обеспечении и основным каналом для утечки данных. 77 % сотрудников вставляют данные в инструменты ИИ. Сорок процентов загрузок содержат конфиденциальную информацию. Большая часть этой деятельности происходит через неуправляемые учетные записи. Старый периметр безопасности исчез. Большая часть работы происходит в браузере, и даже простые действия, такие как вставка текста, могут привести к утечкам. Компании, которые не обновляют свои стратегии безопасности с учетом этой новой реальности, уже теряют контроль над своими наиболее ценными данными.