Die Finanzaufsicht BaFin erhält neue Kompetenzen beim Einsatz Künstlicher Intelligenz in der Finanzbranche. Künftig überwacht sie KI-Systeme von Banken und Versicherern. Im Fokus stehen dabei Hochrisiko-Anwendungen, Transparenz und der Schutz vor Diskriminierung.
Der Einsatz Künstlicher Intelligenz in der Versicherungsbranche rückt stärker in den Fokus der Aufsicht. Mit Inkrafttreten des Gesetzes zur Durchführung der europäischen KI-Verordnung erhält die Bundesanstalt für Finanzdienstleistungsaufsicht (BaFin) neue Befugnisse. Künftig soll sie den Einsatz von KI-Systemen bei Versicherern, Banken und weiteren Finanzunternehmen überwachen.
Für Versicherungsunternehmen bedeutet das zusätzliche regulatorische Anforderungen. Das gilt insbesondere dort, wo KI unmittelbar Einfluss auf Kunden oder Versicherungsentscheidungen nimmt. Ein besonderes Augenmerk soll die Aufsicht auf sogenannte Hochrisiko-KI-Systeme richten. Dazu zählen im Versicherungsbereich Anwendungen zur Risikobewertung in der Lebens- und Krankenversicherung. Auch KI-Systeme, die direkt mit Kunden kommunizieren fallen künftig unter die Marktüberwachung der Behörde. Dabei will die Aufsicht unter anderem kontrollieren, ob Transparenzpflichten eingehalten werden. Darüber hinaus soll überprüft werden, ob Unternehmen gegen die in der europäischen KI-Verordnung festgelegten Verbote bestimmter KI-Praktiken verstoßen.
Nach Angaben der BaFin soll die neue Zuständigkeit nicht nur Innovationen ermöglichen, sondern zugleich den Schutz der Verbraucher stärken. „Die Menschen müssen sich darauf verlassen können, dass ihre Grundrechte beim Einsatz von KI geschützt werden“, erklärt BaFin-Präsident Mark Branson. Die Aufsicht werde dafür sorgen, „dass alle einen fairen Zugang zu Finanzdienstleistungen haben und niemand durch KI diskriminiert wird.“
Nach Einschätzung der Behörde ergänzt die europäische KI-Verordnung die bestehende Finanzmarktregulierung und schafft einen Rahmen, in dem Unternehmen KI verantwortungsvoll einsetzen können. Denn bereits seit Februar 2025 sind bestimmte KI-Anwendungen untersagt. Dazu gehören Systeme, die besonders schützenswerte Informationen über Menschen sammeln und bewerten und dadurch zu einer ungerechtfertigten Benachteiligung führen können. Die BaFin überwacht allerdings ausschließlich KI-Systeme, die im direkten Zusammenhang mit regulierten Finanzdienstleistungen stehen.
Andere Einsatzbereiche wie etwa KI-Anwendungen im Personalmanagement von Finanzunternehmen fallen derweil nicht in ihren Zuständigkeitsbereich, sondern werden von der Bundesnetzagentur beaufsichtigt. Bei Verstößen gegen die KI-Verordnung kann die BaFin Bußgelder verhängen.
Die Vorschriften treten gestaffelt in Kraft. So gelten die ersten Transparenzpflichten der KI-Verordnung ab dem 2. August 2026. Ab dem 2. Dezember 2027 greifen die Anforderungen an Hochrisiko-KI-Systeme. „Wir erwarten von den Unternehmen, dass sie sich ausführlich mit der KI-Verordnung auseinandersetzen“, sagt Branson. „Wir alle haben das gleiche Ziel: KI soll einen Mehrwert stiften. Dafür müssen die Modelle sicher und fair gestaltet sein."