Teil 8: KI im Finanzinstitut - Chancen und Herausforderungen

5. März 2024

KI kann viele Vorteile für Finanzinstitute mit sich bringen. Dabei sollte nicht vergessen gehen, dass die Anforderungen für den Einsatz höher sind als bei nicht-regulierten Branchen. Worauf es ankommt und worauf man achten sollte, erklären wir Ihnen in diesem Blogbeitrag. Dies ist Teil 8 unserer KI-Serie.

Finanzinstitute haben tagtäglich mit vielen strukturierten und unstrukturierten Daten zu tun. Der Einsatz von KI kann den Umgang mit dieser Vielzahl an Daten erleichtern oder auch Zugang zu neuen Datenquellen ermöglichen. KI verspricht, Daten innerhalb erheblich kürzerer Zeit auszuwerten und Zusammenhänge aufzudecken, welche ansonsten vielleicht nicht oder nur mit sehr grossem Aufwand hätten aufgedeckt werden können. Wie das Financial Stability Board bereits in einer Studie aus dem Jahr 2017 aufgezeigt hat, ist das Spektrum möglicher Einsatzgebiete bei Finanzunternehmen sehr gross. Dazu gehören zum Beispiel:

• Risikomanagement und Compliance
• Anlage- und Handelsstrategien
• Erstellen von Standarddokumenten, wie Prospekten und BIB
• Interaktion mit Kunden
• Optimierung des Kapitaleinsatzes

KI im Risikomanagement und der Compliance

Die Anforderungen an die Compliance steigen und binden erhebliche finanzielle und personelle Ressourcen. Umso mehr sind die Finanzinstitute daran interessiert, kostengünstige und gleichzeitig effiziente Prozesse zu implementieren. KI-basierte Anwendungen können helfen, Änderungen in der Regulierung zu monitoren, oder Compliance-Schulungen durchzuführen.

Darüber hinaus ist die Transaktionsüberwachung ein wichtiger Anwendungsbereich für KI-basierte Anwendungen. Dies gilt zum Beispiel für die Überwachung von Transaktionen zur Bekämpfung und zum Erkennen von Insiderhandel und Marktmanipulation. Sie können insbesondere auch im Bereich der Betrugserkennung und – vermeidung, z.B. bei Kreditkartenmissbrauch und Zahlungsverkehrsbetrug, eine wichtige Rolle spielen.

Im Bereich der Geldwäschereibekämpfung sind Banken verpflichtet, eine IT unterstützte Überwachung zu implementieren. Der Aufwand, die daraus resultierenden Alerts zu prüfen, ist sehr gross. Trotz grossem Aufwand besteht ein erhebliches Risiko, dass relevante Zusammenhänge übersehen werden. Dabei können KI-basierte Anwendungen helfen.

Im Risikomanagement und in der Compliance ist es besonders wichtig, dass die Prozesse von vornherein gut aufgesetzt werden, bevor KI-basierte Anwendungen eingesetzt werden. Darüber hinaus müssen die involvierten Mitarbeiter und Mitarbeiterinnen die Funktionsweise verstehen. Anderenfalls wird der Prozess nicht optimiert, sondern es besteht im Gegenteil das Risiko, dass Ergebnisse falsch interpretiert werden oder darauf vertraut wird, dass "alles" geprüft wurde.

Wichtig ist es auch, die Grenzen der KI zu verstehen. KI-basierte Anwendungen werden anhand spezifischer Daten trainiert und greifen nur auf bestimmte Quellen zu. Sie können daher die Einzelfallbeurteilung aufgrund individueller Abklärungen durch die Mitarbeiter und Mitarbeiterinnen nicht vollständig ersetzen. Wichtig ist es daher, dass KI-basierte Anwendungen nur zur Unterstützung beigezogen werden können.  

KI bei Handels- und Anlagestrategien

Die Europäische Wertpapier- und Marktaufsichtsbehörde ESMA hat untersucht, wie KI in der EU im Wertpapiermarkt eingesetzt wird. Sie kommt zum Ergebnis, dass es zahlreiche vielversprechende Anwendungsfälle gibt, auch wenn die Umsetzung bisher noch stark variiert. Eingesetzt werden KI-basierte Anwendungen zunehmend insbesondere in der Auswertung grosser Mengen von unstrukturierten Daten, die sonst nicht verfügbar wären, um Entscheidprozesse zu unterstützen. Beispiele sind:

• Auswertung vom Daten, um Anlagemöglichkeiten zu finden und beurteilen zu können
• Auswertung von öffentlichen Mitteilungen, um den ESG Status von Unternehmen beurteilen zu können

In ihrem Bericht hebt die ESMA hervor, dass Finanzinstitute bisher zurückhaltend sind, den Gebrauch von KI gegenüber Kunden offenzulegen. Die Erfahrung zeige, dass die Black Box KI in kritischen Reaktionen resultiert. Dies führt dazu, dass Finanzinstitute, wenn es nicht nur um den unterstützenden Einsatz im Back-Office geht, zurückhaltend beim Einsatz solcher Anwendungen sind. Neben der Frage, ob es profitabel wäre, ist das mangelnde Vertrauen der Kunden einer der wichtigen begrenzenden Faktoren beim Einsatz von KI-basierten Anwendungen im Bereich Roboadvisory.

KI in der Aufsicht

Darüber hinaus haben Finanzmarktaufsichtsbehörden begonnen, KI auch für die Erfüllung der eigenen Aufgaben einzusetzen. Die Eidgenössische Finanzmarktaufsicht FINMA beispielsweise nutzt KI in der datenbasierten Aufsicht. So insbesondere in der automatisierten Datenauswertung für die Durchführung von Auffälligkeitsanalysen. In ihrem Jahresbericht 2021 führte die FINMA an, dies z.B. im Geschäftsbereich Asset Management mit Bezug zu bestimmten Anlageinstrumenten einzusetzen.

Regulatorische Anforderungen an den Einsatz von KI im Finanzinstitut

Es gibt bisher keine regulatorischen Vorschriften im Schweizer Finanzmarktrecht, welche sich explizit mit dem Einsatz von KI befassen. Es kommen somit die allgemeinen Regeln zur Anwendung. Bei Banken gelten somit insbesondere:

• Rundschreiben 2023/1 Operationelle Risiken und Resilienz – Banken
• Rundschreiben 2017/1 Corporate Governance – Banken
• Rundschreiben 2013/8 Marktverhaltensregeln

Die FINMA erwartet, dass die Beaufsichtigten die mit dem Einsatz von KI verbundenen Risiken angemessen behandeln. Sie prüft den Einsatz von KI bei den Beaufsichtigten unter Anwendung des risikobasierten Ansatzes und des Proportionalitätsprinzips. Es ist also nicht der Einsatz von KI per se, der zu erhöhten Anforderungen an Finanzinstitute führt, sondern der Einsatz von KI in Bereichen, in denen es zu zusätzlichen Risiken führt.

Zusätzliche Risiken können sich insbesondere aus Folgendem ergeben:

• Komplexität der Algorithmen, die die Nachvollziehbarkeit und Überprüfbarkeit der Ergebnisse erschweren
• Hohe Skalierbarkeit und damit auch möglicher Fehler
• Kombination aus selbstlernenden Algorithmen und neuen Daten, welche dazu führt, dass Modelle in kurzen Abständen rekalibriert werden müssen

Die FINMA konzentriert sich in der Aufsicht auf das Datenmanagement, auf die Governance und auf das Kontrollfeld der Anwendungen. Gemäss Risikomonitor 2023 sieht die FINMA besondere Herausforderungen insbesondere im Zusammenhang mit:

• Der Verantwortung für KI-Entscheidungen
• Der Zuverlässigkeit von KI-Anwendungen
• Der Transparenz und Erklärbarkeit von KI-Entscheidungen sowie
• Der Gleichbehandlungen von Kunden.

Der Einsatz von KI basierten Anwendungen setzt insbesondere Folgendes voraus:

• Verwaltungsrat und Geschäftsleitung müssen über das adäquate Know-How verfügen, um über die Strategien und Richtlinien zum Einsatz von KI basierten Anwendungen entscheiden und deren Umsetzung überwachen zu können.
• Kontrollfunktionen, wie Compliance, Risikomanagement und interne Revision, müssen über das notwendige Fachwissen verfügen.
• Eine transparente Kommunikation innerhalb des Finanzinstituts, welche nicht nur Chancen, sondern auch Grenzen und Risiken adressatengerecht anspricht, muss gefördert werden.
• Analyse von Wahrscheinlichkeiten und dem potentiellen Ausmass von Schäden und risikomitigierende Massnahmen.
• Hinreichende Dokumentation, sodass intern, aber auch durch Prüfgesellschaft oder FINMA der Einsatz, einschliesslich Ergebnisse, Fehler und Fehlerkorrektur nachvollzogen werden können.
• Hinreichende Einbindung von Mitarbeitern des Finanzinstituts in die Interpretation und Umsetzung von KI basierten Ergebnissen.
• Bei geschäftskritischen Anwendungen müssen Notmassnahmen möglich sein.

KI als Herausforderung für die Finanzstabilität?

Wie erwähnt ist KI nicht nur mit Chancen, sondern auch mit Herausforderungen verbunden. Dies gilt nicht nur für das einzelne Finanzinstitut, sondern auch für den Finanzmarkt insgesamt. Das Financial Stability Board hat daher einen Call for Papers zum Thema "AI in Finance and ist Financial Stability Implications" publiziert (Frist 10. März 2024). Die Central Bank Research Association wird sich auf ihrer Jahreskonferenz 2024 mit diesem Thema befassen.

Das FSB anerkennt, dass KI-basierte Anwendungen zu einer effizienteren Informationsverarbeitung führen und so zu einem effizienteren Finanzsystem führen können. Das FSB sieht in KI auch eine Möglichkeit, die Compliance und die Aufsicht zu verbessern. Risiken für die Finanzmarktstabilität könnten insbesondere aus Folgendem resultieren (vgl. bereits FSB Studie 2017):

• Marktkonzentration – Kosten der neuen Technologien können dazu führen, dass viele Finanzinstitute auf (wenige) Drittanbieter zugreifen (müssen).
• KI-basierte Anwendungen können zu unbeabsichtigten Folgen führen.
• Ungewollte Vernetzungen – Wenn an sich unabhängige Finanzinstitute auf die gleichen externen Datenquellen als Basis für KI-Anwendungen zugreifen, kann ein Fehler oder eine wichtige Veränderung in dieser Datenquelle zeitgleich das Verhalten von all diesen Finanzinstituten beeinflussen. Das heisst, es kommt zu einem Herdenverhalten, welches aufgrund der Skalierbarkeit erhebliche Auswirkungen auf die Finanzmärkte haben könnte.

Empfehlung

KI bietet für Finanzinstitute Chancen, stellt sie aber auch vor Herausforderungen. Auch wenn die Anforderungen höher sind als in nicht-regulierten Branchen, so ist der Einsatz von KI-basierten Anwendungen auch für Finanzinstitute möglich, sofern Datenmanagement, Governance und das Kontrollumfeld hinreichend etabliert sind. Dies setzt jedoch Know-How im Unternehmen voraus. Es ist daher an der Zeit, das Testen von KI-basierten Anwendungen zu fördern, um so das nötige Know-How im Unternehmen selbst, und zwar auf allen Ebenen aufzubauen. Damit wird zugleich auch das Vertrauen beim Kunden gestärkt. Darüber hinaus empfehlen wir Finanzinstituten interne Regeln für den Einsatz von KI-basierten Anwendungen aufzustellen. Gerne unterstützen wir Sie dabei.  

Bei weiteren Fragen ebenso wie für eine vertiefte Beratung stehen wir gerne zur Verfügung.

Jana Essebier und Maximilian Riegel

Dieser Beitrag ist Teil einer Serie über den verantwortungsvollen Einsatz von KI im Unternehmen: Teil 1: KI am Arbeitsplatz: Die drei wichtigsten Punkte für Mitarbeitende Teil 2: Gängige KI-Tools: Wie steht es um den Datenschutz? Teil 3: KI: 11 Grundsätze – und eine Weisung für Mitarbeitende Teil 4: So beurteilen Sie Risiken von kleinen und grossen KI-Projekten Teil 5: KI-Governance im Unternehmen – wer ist verantwortlich? Teil 6: Die andere Seite der Medaille: Wo wir KI vor Angreifern schützen müssen Teil 7: Der EU AI Act – und was er für die meisten Unternehmen bedeutet  Teil 8: KI im Finanzinstitut – Chancen und Herausforderungen Teil 9: KI im Marketing: 4 wettbewerbsrechtliche Fallstricke Teil 10: Urheberrecht und KI: Verantwortlichkeit von Anbietern und Nutzern Teil 11: Fair Play mit KI: Wie Sportorganisationen Athletendaten nutzen dürfen  Teil 12: Datenfutter für KI: So gelingt die Kommerzialisierung von Datensätzen Teil 13: KI im Personalwesen Teil 14: Urheberrecht und KI: Schutzmassnahmen in der Praxis Teil 15: Worauf rechtlich beim Einsatz von KI-Providern zu achten ist Teil 16: Wie Unternehmen beim Einsatz von KI Transparenz gewährleisten können  Teil 17: Was in einem KI-Modell steckt und wie es funktioniert Teil 18: Die wichtigsten Compliance-Vorgaben für KI Teil 19: Sprachmodelle mit und ohne personenbezogene Daten Teil 20: Risiko-basierter Ansatz: Nicht alle KI-Anwendungen bergen hohe Risiken Teil 21: Das Auskunftsrecht bei grossen Sprachmodellen Teil 22: Leitsätze für den Einsatz künstlicher Intelligenz in Finanzinstituten (FINMA) ... wird fortgesetzt

Wir unterstützen Sie bei allen Fragen zu Recht und Ethik beim Einsatz von künstlicher Intelligenz. Wir reden nicht nur über KI, sondern setzen sie auch selbst ein. Weitere Hilfsmittel und Publikationen von uns zum Thema finden Sie hier.