Sind konkrete Versicherungsempfehlungen von KI-Chatbots wie ChatGPT oder Claude erlaubnispflichtige Versicherungsberatungen? Der VOTUM Verband ist davon überzeugt und hat sich deshalb an mit einer Anfrage an die Bundesanstalt für Finanzdienstleistungsaufsicht (BaFin) sowie die Deutsche Industrie- und Handelskammer (DIHK) gewandt.
Künstliche Intelligenz hält zunehmend Einzug in die Versicherungswelt. Von Versichererseite wird KI zunehmend genutzt, um Prozesse zu beschleunigen und die Produktivität zu verbessern. Parallel dazu haben KI-Chatbots inzwischen ausreichend Informationen gesammelt, um Verbrauchern in Absicherungsfragen mit Rat und Tat zur Seite zu stehen.
Aus Sicht des VOTUM Verbands geraten dabei regulatorische Grenzen ins Wanken. Der Verband hat sich deshalb mit einer Anfrage an die Bundesanstalt für Finanzdienstleistungsaufsicht (BaFin) sowie die Deutsche Industrie- und Handelskammer (DIHK) gewandt. Hintergrund sind dokumentierte Fälle, in denen KI-Chatbots wie ChatGPT von OpenAI oder Claude von Anthropic konkrete Versicherungsempfehlungen ausgesprochen haben. Nach Angaben des Verbands gingen die Systeme dabei über allgemeine Informationen hinaus. In konkreten Dialogen hätten die KI-Anwendungen individuelle Produktempfehlungen inklusive Tarifbezeichnungen bestehender Versicherer ausgesprochen und diese mit einer vermeintlichen Bedarfsanalyse begründet.
Für den Verband ist damit eine rechtlich sensible Grenze überschritten. „Sobald ein System nicht mehr nur allgemeine Hinweise gibt, sondern eine individuelle Produktempfehlung ausspricht, bewegt es sich im Bereich der erlaubnispflichtigen Versicherungsberatung", erklärt Martin Klein, geschäftsführender Vorstand des VOTUM Verbands. Entscheidend sei dabei vor allem die Haftungsfrage: „Die entscheidende Frage lautet: Wer haftet, wenn der Verbraucher auf Basis einer fehlerhaften KI-Empfehlung eine ungeeignete Versicherung abschließt?“
Der Verband warnt vor einem möglichen „Haftungsvakuum“ für Verbraucher. Während zugelassene Versicherungsvermittler strengen Beratungs-, Dokumentations- und Haftungspflichten unterliegen, fehle es KI-Anbietern bislang an vergleichbaren regulatorischen Vorgaben. Nutzer könnten dadurch den Eindruck erhalten, die Empfehlungen seien verlässlich und fachlich geprüft, obwohl weder eine qualifizierte Risikoanalyse noch eine transparente Marktuntersuchung dahinterstehe.
Besonders kritisch sieht der Verband, dass KI-Systeme keine dauerhafte Betreuung leisten können. Änderungen in der Lebenssituation wie etwa Familienzuwachs, Umzug oder veränderte Vermögenswerte würden von klassischen Vermittlern regelmäßig in die Beratung einbezogen. Auch die Unterstützung im Schadenfall gehöre zur professionellen Betreuung dazu. „Eine KI-Konversation endet mit dem Schließen des Browserfensters“, mahnt der Verband.
Für VOTUM steht deshalb fest, dass die Regulierung mit der technologischen Entwicklung Schritt halten müsse. „Die Frage ist nicht, ob wir technologischen Fortschritt wollen. Die Frage ist, ob wir zulassen, dass bewährte Verbraucherschutzstandards durch die Hintertür ausgehebelt werden, nur weil der Berater diesmal kein Mensch, sondern ein Algorithmus ist“, betont Martin Klein.
Dabei lehnt der Verband den Einsatz von KI keineswegs grundsätzlich ab. Vielmehr könnten KI-Systeme qualifizierte Vermittler unterstützen und Beratungsprozesse effizienter gestalten. Voraussetzung sei jedoch, dass gleiche rechtliche Rahmenbedingungen gelten und verbindliche Versicherungsempfehlungen weiterhin nur von entsprechend zugelassenen und haftenden Personen oder Unternehmen ausgesprochen werden dürfen. Mit seiner Anfrage an BaFin und DIHK fordert der Verband nun eine klare regulatorische Einordnung der KI-gestützten Empfehlungen und gegebenenfalls aufsichtsrechtliche Konsequenzen.