Ein europäischer Ansatz für KI [Teil 1]: Aktuelles

Wie geht die EU mit der immens wachsenden Menge an maschinellen Lernverfahren um und welche Rolle spielt Sie dabei?

Obwohl global noch keine finalen Produkte oder Regeln für die Regulierung von AI/ ML bestehen* und es noch einige Herausforderungen (Adaptivität von Modellen, Erklärbarkeit usw.) gibt, genügen aktuell gute Metriken von ML-Modellen (z.B. beim Precision & Recall bei Entscheidungsmodellen) in den allermeisten Fällen für die Compliance aus.

Ein deutlich größeres Problem ist der Bias (im Sinne von Diskriminierung), der durch die Entscheidung eines Modells auftreten kann, wenn etwa bestimmte Personengruppen ohne sachlichen Grund wegen eines geschützten Merkmals in einer vergleichbaren Situation (etwa beim Eingehen einer Geschäftsbeziehung oder eines Kreditvertrags) benachteiligt oder ungünstiger behandelt werden, als eine andere Personengruppen, welche nicht über dieses Merkmal verfügt. Hier liegt das Problem allerdings in den allermeisten Fällen nicht in den Algorithmen, sondern an den Daten und den Menschen, welche Zuordnungen innerhalb der Trainingsdaten treffen oder getroffen haben.

Während die Bafin und Buba sich mit Anforderungen an die Liquidität und das Risikomanagement beschäftigen (dies haben wir bereits in den beiden Serien [Regeln im Umgang mit BDAI - Konsultation der Buba und BaFin - Teil 1] und [Regeln im Umgang mit ML/KI - Prinzipien der BaFin - Teil 1] präsentiert), setzt sich die EU mit ihrer AI-Strategie das Ziel Diskriminierung, Vertrauen, Betrugserkennung und globale, führende Standards im Fokus der Regulierung zu haben.

Im unteren Karussell ist diese Strategie in der Vogelperspektive skizziert. Weitere Infos, etwa zu den Inhalten eines Vorschlags zur Regulierung von AI in Europa – auch AI Act genannt, finden Sie im zweiten Teil dieser Serie.

 

Verfasst von Dr. Carsten Keller und Ivan Balashov

[*]: Stand 08.11.2022

[**]: Die Verlinkungen verweisen auf externe Daten außerhalb unserer Domain. Trotz sorgfältiger inhaltlicher Kontrolle übernehmen wir keine Haftung für die Inhalte externer Links. Links abgerufen am 08.11.2022

Erfahren Sie mehr zum Thema Regulatorik rund um AI/ ML:

Neugierig?

Entdecken Sie mehr über unsere Machine Learning Techniken

>> Mehr zu Machine Learning       << Zurück zur Galerie       

Wir stehen Ihnen bei Fragen zur Verfügung!