Regeln im Umgang mit ML/KI - Prinzipien der BaFin [Teil 2]: Übergeordnete Prinzipien
Wie Sie Ihre KI-, ML- und Big Data Prozess die aufsichtsrechtlichen Voraussetzungen? Wir zeigen es Ihnen!
I. Übergeordnete Prinzipien für KI-, ML- und Big Data
Im ersten Artikel dieser Serie wurden drei Prinzipien(-Abschnitte) erwähnt, welche die Bafin und Buba als Resultat mehrerer Studien, Anwendungen und Projekte abgeleitet hat um minimale Anforderungen und Erwartungen im Umgang mit der BDAI-Technologie (Big Data Artificial Intelligence) auf die Beine zu stellen. Hier soll es darum gehen den ersten Punkt dieser Liste zu besprechen, die sogenannten übergeordneten Prinzipien.
Die Betrachtung eines gesamten (Entscheidungs-)Prozesses verläuft von der Datenquelle bis zur Datensenke und ist daher sehr umfangreich! Algorithmen für sich genommen werden in der Regel nicht von der BaFin gebilligt, denn die Aufsicht beanstandet Prozesse risikoorientiert und anlassbezogen. Die folgenden vier Punkte sind bei den übergeordneten Prinzipien hervorzuheben:
Klare Verantwortung der Geschäftsleitung für unternehmensweite Strategien und Leitlinien bzw. Richtlinien zum Einsatz von algorithmenbasierten Entscheidungsprozessen,
Adäquates Risiko- und Auslagerungsmanagement durch Geschäftsleitung → Verantwortungs-, Berichts- und Kontrollstrukturen sind festzulegen,
Bias (systematische Verzerrung von Ergebnissen) soll so gut es geht vermieden werden,
Gesetzl. untersagte Differenzierung ausschließen (best. Merkmale zur Risiko und Preiskalkulation) → Gefahr der Diskriminierung ⇒ Reputations- und Rechtsrisiken vermeiden.
Werden diese Punkte erfüllt, bringt der ML Prozess die besten Voraussetzungen mit von der Aufsicht gebilligt zu werden - für letzteres müssen allerdings noch die anderen Prinzipien (siehe Schaubild) erfüllt sein. Um diese wird es nächste Woche gehen!
Unmittelbar nach dem Prinzipienpapier der BaFin (06/2021) folgte ein gemeinsames Konsultationspapier “Maschinelles Lernen in Risikomodellen - Charakteristika und aufsichtliche Schwerpunkte” der BaFin und der Deutschen Bundesbank (11/2021), welches auf dem Prinzipienpapier basiert und bei dem es konkret um den Einsatz von ML in Risikomodellen der Säule I und II der Regelwerke für Banken und Versicherer geht - über die Kernpunkte werde ich nach Vorstellung der Prinzipien aufklären. Die aktuellste Version der Ergebnisse der Konsultation sind vom 02.2022 und beinhalten die aktuellsten Ergebnisse des Vorhabens einen klaren aufsichtlichen Rahmen zur Erwartungshaltung an ML-Verfahren zu schaffen.
Quelle: Prinzipienpapier “Big Data und künstliche Intelligenz: Prinzipien für den Einsatz von Algorithmen in Entscheidungsprozessen” der BaFin vom 15.06.2021