Die E.SUN Bank geht eine Partnerschaft mit IBM ein, um ein KI-Governance-Rahmenwerk für den Bankensektor zu etablieren

Die E.SUN Bank arbeitet mit IBM zusammen, um klarere Regeln für die KI-Governance bei internen Bankanwendungen festzulegen. Diese Initiative spiegelt einen allgemeinen Trend im Finanzsektor wider. Zwar nutzen viele Institute KI bereits zur Betrugsaufdeckung und Bonitätsbewertung, einige auch für den Kundenservice, doch rückt nun die Verwaltung dieser Systeme unter Einhaltung gesetzlicher und risikobezogener Anforderungen zunehmend in den Vordergrund.

Banken sehen sich beim Einsatz von KI mit einer wachsenden Zahl von Herausforderungen konfrontiert. Wie sollte ein Modell vor der Einführung validiert werden? Wer ist für eine fehlerhafte Entscheidung verantwortlich? Und wie können Unternehmen den Aufsichtsbehörden die Fairness und Sicherheit des Systems nachweisen?

Um diese Fragen anzugehen, haben die E.SUN Bank und IBM Consulting ein spezielles KI-Governance-Framework für den Bankensektor entwickelt. Dieses Projekt umfasst ein Whitepaper, in dem dargelegt wird, wie Finanzinstitute interne Kontrollen für KI implementieren können, indem sie globale Standards wie den EU-KI-Gesetz und ISO/IEC 42001 an den Kontext der Finanzdienstleistungen anpassen.

Das Rahmenwerk beschreibt detailliert Verfahren zur Überprüfung von KI-Modellen vor der Einführung sowie zur kontinuierlichen Überwachung, sobald diese in Betrieb sind. Es legt zudem Richtlinien für die Datennutzung und die Durchführung von Risikobewertungen fest.

Die E.SUN Bank erklärte, das Rahmenwerk sei darauf ausgelegt, Finanzunternehmen bei der Integration von KI-Systemen zu unterstützen und gleichzeitig die Governance und die Einhaltung gesetzlicher Vorschriften zu gewährleisten. Die nächste Phase umfasst die Ausweitung der KI von begrenzten Tools auf Kerngeschäftsbereiche wie Kreditvergabe und Zahlungsverkehr – alles innerhalb der festgelegten regulatorischen Grenzen.

Banken stellen sich der Herausforderung des KI-Risikomanagements

Finanzinstitute haben zwingende Gründe, Schutzmaßnahmen für KI zu implementieren. Das Bankwesen ist auf Vertrauen angewiesen, und die Regulierungsbehörden verlangen eine nachvollziehbare Entscheidungsfindung. Der „Black-Box“-Charakter vieler KI-Modelle, bei denen die Logik hinter einem Ergebnis unklar ist, birgt Risiken in Bereichen wie Kreditgenehmigungen oder Betrugsanalysen und führt weltweit zu einer verstärkten behördlichen Kontrolle.

Der KI-Gesetzentwurf der Europäischen Union für 2024 sieht strenge Vorschriften für risikoreiche KI in Sektoren wie dem Finanzwesen vor und verlangt Risikobewertungen, die Dokumentation von Trainingsdaten sowie eine Überwachung nach der Einführung.

Auch globale Standards zeichnen sich ab. Die 2023 veröffentlichte Norm ISO/IEC 42001 bietet Leitlinien für die Einrichtung von KI-Managementsystemen in Organisationen und konzentriert sich auf Aufsicht, Modellüberwachung und Datenmanagement, um eine einheitliche, unternehmensweite KI-Governance zu ermöglichen.

Das Projekt der E.SUN Bank mit IBM vereint Elemente aus beiden Rahmenwerken und zeigt, wie diese Prinzipien auf alltägliche Bankgeschäfte angewendet werden können.

Skalierung von KI von Pilotprojekten zu unternehmensweiten Systemen

Während Banken Machine Learning schon seit langem für Risiko- und Betrugsanalysen nutzen, halten neuere KI-Modelle Einzug in den Kundenservice, die Dokumentenprüfung und das interne Wissensmanagement.

Diese Ausweitung schafft neue Anforderungen an die Governance. Ein Chatbot im Kundenservice mag zwar ein geringes Risiko darstellen, doch ein KI-Modell, das Kreditgenehmigungen oder die Betrugserkennung beeinflusst, hat erhebliche finanzielle Auswirkungen.

Das Rahmenwerk der E.SUN Bank und IBM legt einen Prozess zur Steuerung dieser Risiken fest, der Modellprüfungen vor der Einführung, die Überwachung der Ergebnisse nach der Bereitstellung sowie eine klare Zuweisung von Verantwortlichkeiten zwischen Entwicklungs- und Compliance-Teams umfasst. Das begleitende Whitepaper beschreibt detailliert die Schritte zur Klassifizierung von KI-Systemen nach Risikostufen und zur Anwendung einer angemessenen Aufsicht.

KI-Governance gewinnt in der Finanzdienstleistungsbranche an Dynamik

Die Arbeit der E.SUN Bank spiegelt einen globalen Branchentrend wider, bei dem eine solide Governance als Voraussetzung für die Skalierung von KI angesehen wird.

Branchendaten deuten auf eine weit verbreitete Einführung von KI im Finanzsektor hin. Ein Bericht von NVIDIA aus dem Jahr 2024 ergab, dass etwa 91 % der Finanzdienstleistungsunternehmen KI entweder evaluieren oder bereits einsetzen, vor allem zur Betrugsaufdeckung und Risikomodellierung. Untersuchungen von Deloitte zeigen, dass über 70 % der Finanzinstitute planen, ihre KI-Investitionen zu erhöhen, oft mit dem Ziel der Compliance-Überwachung und Risikoanalyse.

Gleichzeitig verstärken die Aufsichtsbehörden ihren Fokus und fordern Banken dazu auf, zu verfolgen, wie automatisierte Systeme kritische Entscheidungen beeinflussen. Dies hat zu höheren Investitionen in die interne Überwachung geführt, wobei sich der Fokus von der reinen Modellgenauigkeit hin zu Datenherkunft, Entscheidungslogik und langfristigem Modellverhalten verlagert hat.

Wie Governance das Tempo der KI-Einführung beeinflussen wird

Die Betonung der Governance dürfte das Tempo der KI-Integration im Bankwesen bestimmen. Ohne klare Regeln zögern viele Unternehmen weiterhin, über kleine Pilotprojekte hinauszugehen. Ein strukturiertes Rahmenwerk kann die Ausweitung von KI-Projekten ermöglichen und gleichzeitig die regulatorischen Erwartungen erfüllen.

Dies ist das Kernziel der Initiative der E.SUN Bank. Durch die Abstimmung globaler Standards auf Bankabläufe bietet das Rahmenwerk einen Leitfaden für den Einsatz von KI unter klarer Aufsicht. IBM merkte an, dass das Rahmenwerk entwickelt wurde, um Finanzinstituten dabei zu helfen, KI-Risiken im Zuge der zunehmenden Einführung zu bewältigen.

Diese Bemühungen unterstreichen die sich wandelnde Rolle der Governance in der Unternehmens-KI. Der Fokus verlagert sich von der anfänglichen Modellentwicklung hin zum laufenden Management dieser Systeme. Da KI zunehmend in den Kernbankbetrieb eingebettet wird, könnte sich eine effektive Governance als ebenso entscheidend erweisen wie die zugrunde liegende Technologie.

Siehe auch: Manulife integriert KI-Agenten in zentrale Finanzabläufe

Möchten Sie mehr über KI und Big Data von Branchenexperten erfahren? Entdecken Sie die AI & Big Data Expo in Amsterdam, Kalifornien und London. Diese umfassende Veranstaltung findet gemeinsam mit anderen führenden Technologieveranstaltungen unter dem Dach von TechEx statt. Klicken Sie hier für weitere Informationen.

AI News wird von TechForge Media bereitgestellt. Entdecken Sie hier weitere bevorstehende Veranstaltungen und Webinare zum Thema Unternehmenstechnologie.