Банк E.SUN в партнерстве с IBM создает систему управления искусственным интеллектом для банковского сектора

Банк E.SUN сотрудничает с IBM с целью выработки более четких правил управления ИИ для внутренних банковских приложений. Эта инициатива отражает более общую тенденцию в финансовом секторе. Хотя многие учреждения уже используют ИИ для выявления мошенничества и оценки кредитоспособности, а некоторые — для обслуживания клиентов, новым приоритетом становится управление этими системами с соблюдением правовых требований и требований по управлению рисками.

При внедрении ИИ банки сталкиваются с растущим числом проблем. Как следует проверять модель перед запуском? Кто несет ответственность за ошибочное решение? И как компании могут продемонстрировать регуляторам справедливость и безопасность системы?

Для решения этих вопросов E.SUN Bank и IBM Consulting разработали специальную структуру управления ИИ для банковского сектора. Этот проект включает в себя официальный документ, в котором описывается, как финансовые учреждения могут внедрить внутренний контроль над ИИ, адаптируя глобальные стандарты, такие как Закон ЕС об ИИ и ISO/IEC 42001, к контексту финансовых услуг.

В рамках этой структуры подробно описаны процедуры проверки моделей ИИ перед внедрением и их постоянного мониторинга после запуска. Также установлены руководящие принципы использования данных и проведения оценок рисков.

E.SUN Bank заявил, что эта структура призвана помочь финансовым компаниям интегрировать системы ИИ, соблюдая при этом принципы управления и нормативные требования. Следующий этап предполагает расширение использования ИИ с ограниченных инструментов до основных операций, таких как кредитование и платежи, при этом все должно происходить в рамках установленных нормативных ограничений.

Банки решают задачу управления рисками ИИ

У финансовых учреждений есть веские причины для внедрения защитных механизмов в отношении ИИ. Банковская деятельность зависит от доверия, а регулирующие органы требуют отслеживаемости процессов принятия решений. «Черный ящик» многих моделей ИИ, когда логика, лежащая в основе результата, неясна, создает риски в таких областях, как одобрение кредитов или анализ мошенничества, что вызывает усиление регулирующего контроля во всем мире.

Закон Европейского союза об ИИ 2024 года вводит строгие правила в отношении ИИ с высоким уровнем риска в таких секторах, как финансы, требуя оценки рисков, документирования обучающих данных и мониторинга после внедрения.

Появляются также глобальные стандарты. Стандарт ISO/IEC 42001, опубликованный в 2023 году, содержит руководящие принципы по созданию организационных систем управления ИИ, уделяя особое внимание надзору, мониторингу моделей и управлению данными для обеспечения согласованного управления ИИ в масштабах всего предприятия.

Проект E.SUN Bank, реализуемый совместно с IBM, объединяет элементы обеих концепций, демонстрируя, как эти принципы могут быть применены в повседневной банковской деятельности.

Масштабирование ИИ от пилотных проектов до общекорпоративных систем

Хотя банки уже давно используют машинное обучение для анализа рисков и мошенничества, новые модели ИИ находят все более широкое применение в сфере обслуживания клиентов, проверки документов и внутреннего управления знаниями.

Это расширение создает новые требования к управлению. Чат-бот для обслуживания клиентов может быть низкорисковым, но модель ИИ, влияющая на одобрение кредитов или обнаружение мошенничества, несет значительные финансовые последствия.

Концепция E.SUN Bank и IBM устанавливает процесс управления этими рисками, охватывающий проверку моделей перед запуском, мониторинг результатов после внедрения и четкое распределение обязанностей между командами разработчиков и специалистов по комплаенсу. В сопроводительном техническом документе подробно описаны шаги по классификации систем ИИ по уровню риска и применению соответствующего надзора.

Управление ИИ набирает обороты в сфере финансовых услуг

Работа E.SUN Bank отражает глобальную отраслевую тенденцию, при которой надежное управление рассматривается как необходимое условие для масштабирования ИИ.

Отраслевые данные свидетельствуют о широком внедрении ИИ в финансовом секторе. Согласно отчету NVIDIA за 2024 год, примерно 91% компаний, предоставляющих финансовые услуги, либо оценивают, либо уже используют ИИ, в основном для выявления мошенничества и моделирования рисков. Исследование Deloitte показывает, что более 70% финансовых учреждений планируют увеличить инвестиции в ИИ, часто нацеливаясь на мониторинг соблюдения нормативных требований и анализ рисков.

Одновременно с этим регулирующие органы уделяют этому вопросу все больше внимания, призывая банки отслеживать, как автоматизированные системы влияют на принятие критически важных решений. Это стимулировало увеличение инвестиций во внутренний надзор, сместив акцент с простой точности моделей на происхождение данных, логику принятия решений и долгосрочное поведение моделей.

Как управление повлияет на темпы внедрения ИИ

Акцент на управлении, вероятно, определит скорость интеграции ИИ в банковскую сферу. Без четких правил многие компании по-прежнему не решаются выходить за рамки небольших пилотных проектов. Структурированная система может обеспечить расширение проектов в области ИИ при одновременном соблюдении требований регулирующих органов.

Это является основной целью инициативы E.SUN Bank. Согласовывая глобальные стандарты с банковскими рабочими процессами, эта структура предоставляет план внедрения ИИ под четким контролем. IBM отметила, что структура была разработана, чтобы помочь финансовым учреждениям управлять рисками ИИ по мере роста его внедрения.

Эти усилия подчеркивают меняющуюся роль управления в корпоративном ИИ. Акцент смещается с первоначальной разработки моделей на постоянное управление этими системами. По мере того как ИИ становится неотъемлемой частью основных банковских операций, эффективное управление может оказаться столь же важным, как и сама технология.

См. также: Manulife интегрирует ИИ-агентов в основные финансовые рабочие процессы

Хотите узнать больше об ИИ и больших данных от экспертов отрасли? Посетите выставку AI & Big Data Expo, которая пройдет в Амстердаме, Калифорнии и Лондоне. Это комплексное мероприятие проходит одновременно с другими ведущими технологическими событиями под эгидой TechEx. Нажмите здесь для получения дополнительной информации.

AI News поддерживается TechForge Media. Узнайте о других предстоящих мероприятиях и вебинарах по корпоративным технологиям здесь.