Die Nutzung von AI durch Krankenversicherer wird grundsätzlich erlaubt. Im Mittelpunkt steht dabei die Risikoklassifizierung der AI-Anwendungen – insbesondere die Identifikation von hochriskanter und verbotener Anwendungen. Hochrisiko-Anwendungen sind unter strengeren Auflagen weiterhin nutzbar. Anwendungsfälle mit geringer Fachlichkeit, wie der Einsatz von AI zur Datenextraktion beispielsweise in der Schrifterkennung, gelten unter dem AI-Act voraussichtlich als unkritisch. Herausfordernder werden Anwendungsfälle, in denen die AI fachliche Entscheidungen trifft oder in der assistierten Bearbeitung Entscheidungen stark beeinflusst. Hier besteht eine hohe Wahrscheinlichkeit, dass solche Anwendungen als Hochrisiko klassifiziert werden, was für Krankenversicherer in der Umsetzung eine große Herausforderung darstellt. Für diese Hochrisiko-Anwendungen existieren bei den meisten Krankenversicherern bereits grundlegende Prozesse, die jedoch an die spezifischen Anforderungen des AI-Acts angepasst werden müssen. Die im AI-Act geforderte Prüfung durch einen Mitarbeitenden, beispielsweise bei einer Leistungskürzung, ist in vielen Häusern bereits gelebte Praxis.
Darüber hinaus ergeben sich Synergien bei der Umsetzung bestehender Regulatorik, wie VAIT und DORA. Insbesondere Transparenz- und Dokumentationspflichten können angepasst werden, um eine gleichzeitige Konformität mit dem AI-Act sicherzustellen. Letztendlich müssen Krankenversicherer Erfahrungen im Umgang mit dem AI-Act sammeln und Kompetenzen aufbauen. Es ist entscheidend, jetzt in die Umsetzung zu gehen, um Erfahrungen mit der Technologie als auch im Umgang mit dem AI-Act zu sammeln.
Agentic AI als neue Stufe bestehender AI-Lösungen
Während der AI-Act den rechtlichen Rahmen für den Einsatz von AI definiert und Krankenversicherer vor die Herausforderung stellt, Hochrisiko-Anwendungen konform zu gestalten, eröffnet die Weiterentwicklung von AI-Technologien, wie Agentic AI, neue Möglichkeiten. Diese nächste Stufe der AI-Entwicklung verspricht nicht nur eine höhere Autonomie und Effizienz, sondern könnte auch dazu beitragen, die Anforderungen des AI-Acts durch innovative Ansätze besser zu erfüllen.
AI Agents sind autonome Softwarekomponenten, die auf Basis von Informationen aus ihrem Fachgebiet eigenständig planen, Entscheidungen treffen und Aktionen durchführen können. Dabei nutzen sie eigens entwickelte oder AI-basierte Werkzeuge innerhalb klar definierter Grenzen. Das Konzept der Agentic AI entwickelt sich rasant und löst klassische AI sowie regelbasiertes Routing und Automatisierungen in bestimmten Bereichen zunehmend ab. Im Gegensatz zur traditionellen AI agieren agentenbasierte AI-Systeme autonomer, lösen komplexe, mehrstufige Probleme, holen bei Bedarf menschliches Feedback ein, lernen auf Basis von internen sowie externen Wissensquellen und optimieren ihre Abläufe fortlaufend.
Durch den zusätzlichen Einsatz einer Orchestrierungslösung können verschiedene AI Agents auch miteinander kombiniert werden, um einen höheren Automatisierungsgrad zu erreichen und komplexere Aufgaben zu lösen. So kann beispielsweise ein AI Agent den Brief eines Kunden auslesen, während ein anderer die extrahierten Informationen direkt in das entsprechende System überträgt.
Strategischer Fokus und ausreichende Ressourcen unerlässlich für verantwortungsvollen AI-Einsatz
Der AI Act wird eine zusätzliche Herausforderung bei der Nutzung von AI in der Krankenversicherung. Angesichts der Chancen von AI für mehr Kundenzufriedenheit, mehr Effizienz und höherer Qualität in der Bearbeitung sollte dies jedoch kein Hindernis sein. Krankenversicherungen sollten zeitnah Erfahrungen sammeln und Synergien mit bestehender Regulatorik nutzen. Es ist entscheidend, aktiv zu lernen, in welchem Kontext und Umfang AI sinnvoll eingesetzt werden kann, und Mitarbeitende entsprechend zu schulen. Um die Potenziale von AI verantwortungsvoll zu realisieren, müssen Versicherer ausreichende Kapazitäten sowie Kompetenzen einplanen und die richtigen Prozesse definieren. Der effektive und verantwortungsvolle Einsatz von AI gelingt nur, wenn die richtige Person ihre Verantwortung kennt, die Arbeitsabläufe versteht und genügend Zeit hat, um ihre Aufgaben gewissenhaft zu erfüllen.
Besonders spannend ist der Ansatz von Agentic AI, da er nicht nur die Anwendungsbereiche von AI erweitert, sondern auch im Rahmen einer verantwortungsvollen Nutzung von Bedeutung ist. Durch die spezifischen Aufgaben einzelner Agenten wird die Gesamtkomplexität reduziert, was es Versicherern ermöglicht, Lösungen und identifizierte Probleme schneller und gezielter zu analysieren. Gleichzeitig bleibt es essenziell, potenzielle negative Auswirkungen auf Menschen frühzeitig zu erkennen und wirksam zu mitigieren. Nur so kann ein verantwortungsvoller Umgang mit AI sichergestellt werden, der sowohl die Chancen als auch die Risiken im Blick behält.