Wer hat den moralischen Kompass?

Amazon stieß 2018 mit einem KI-gesteuerten Rekrutierungstool auf ein solches Problem. Das Problem war, dass Frauen benachteiligt wurden. Das Rekrutierungstool hatte nicht von sich aus beschlossen, Frauen im Rekrutierungsprozess zu diskriminieren. Dies war ihm unbeabsichtigt von Menschen „beigebracht“ worden. Der Algorithmus war mit Einstellungsdaten gefüttert worden, die auf Bewerbungen bei Amazon über einen Zeitraum von zehn Jahren hinweg beruhten. Angesichts der männlichen Dominanz in der Technologiebranche waren die Daten verzerrt, was zu einem unfairen Ergebnis führte. Wäre das Rekrutierungstool nicht beaufsichtigt und überprüft worden, hätte es weibliche Bewerber dauerhaft diskriminiert. Dies zeigt, weshalb menschliche Expertise und Urteilskraft immer eine Rolle bei der Digitalisierung spielen werden, so attraktiv und unvermeidlich diese auch sein mag.

Technologie ist nur so gut wie die Daten, mit denen sie gefüttert wird. Und der Mensch ist nur so gut wie der moralische Kompass, der ihn leitet. Versicherungsunternehmen müssen sicherstellen, dass sie über einen guten moralischen Kompass verfügen, zumal die Anforderungen an Nachvollziehbarkeit und Fairness immer lauter werden. Dies ist nicht nur aufgrund von Anforderungen der Aufsichtsbehörden der Fall. Es ist auch so, weil immer mehr Versicherungskunden wissen wollen, wie bestimmte Entscheidungen, etwa eine Risikoklassifizierung, zustande kommen.

Versicherer als Vorreiter bei der Versöhnung von Mensch und Maschine?

Die Rolle des Menschen in der Versicherungsbranche hat sich dramatisch verändert und Technologie wird diesen Veränderungsprozess weiter vorantreiben. Die Maschinen kommen nicht. Sie sind bereits hier. Sie arbeiten unter uns und helfen uns dabei, uns in einer zunehmend komplexen und datengetriebenen Umgebung zurechtzufinden. Die Angst vor einer Roboter-Apokalypse ist unbegründet. Der menschliche Faktor wird weiterhin wichtig sein. Dies gilt insbesondere auch in der Versicherungsbranche, denn das Geschäft der Versicherungen ist ein Geschäft mit Menschen.

Für die Versicherungen geht es darum, die Fähigkeiten zu identifizieren und zu entwickeln, die sie benötigen, damit sie auch in Zukunft den Bedürfnissen ihrer Kunden gerecht werden. Wenn dies gelingt, könnte die Versicherungsbranche eine Vorreiterrolle dabei spielen, Mensch und Maschine in Einklang zu bringen.

Über Dennis Toomey: Dennis Toomey ist Global Director, Counter Fraud Analytics and Insurance Solutions, bei BAE Systems Applied Intelligence und war zuvor in führenden Positionen unter anderem bei Accenture, IBM, SAS und LexisNexis tätig.