KI-Risiken: Datenschutz, Fehler – und die Illusion vom Selbstläufer

Quelle: DALL-E

Viele Unternehmen setzen große Hoffnungen in Künstliche Intelligenz. Doch hinter dem Hype lauern Sicherheitslücken, Unsicherheiten und fehlendes Know-how. Eine aktuelle Hiscox-Umfrage zeigt: Die größte Bedrohung ist nicht die Technik – sondern der Umgang mit ihr.

Künstliche Intelligenz ist im deutschen Dienstleistungssektor längst angekommen – doch der Fortschritt hat seine Schattenseiten. Das zeigt die aktuelle „Hiscox KI-Umfrage 2025“ (Versicherungsbote berichtete), für die 400 Entscheiderinnen und Nutzerinnen befragt wurden. Zwar setzen 54 Prozent der Unternehmen bereits regelmäßig auf KI. Doch wo Effizienz und Wettbewerbsvorteile winken, bleiben Datenschutz, Fehleranfälligkeit und fehlende Absicherung massive Stolpersteine.

Die größten Bedenken äußern Unternehmen in Bezug auf den Datenschutz (40 %) und die Fehleranfälligkeit (36 %) von KI-Systemen. Noch gravierender: 42 Prozent der Befragten geben an, dass gesetzliche Vorschriften ihre Entscheidungen stark beeinflussen – vor allem der EU-AI Act, der nach und nach in Kraft tritt. Dieser ordnet KI-Anwendungen in Risikoklassen ein und macht Vorschriften etwa für Transparenz, Kontrolle und menschliches Eingreifen verbindlich.

„Die Ergebnisse unserer Umfrage zeigen ein differenziertes Bild der KI-Nutzung. Zwar haben deutsche Unternehmen die wirtschaftliche Bedeutung von Künstlicher Intelligenz erkannt. Gleichzeitig bestehen aber erhebliche Wissenslücken und vor allem mangelt es an Absicherung gegen potenzielle Risiken, die sich aus der Nutzung ergeben“, warnt Marc Thamm, Product Head Technology, Media, Communications bei Hiscox.

Laut Studie ist nur ein Viertel der Unternehmen überhaupt gegen KI-Risiken versichert. 17 Prozent planen entsprechende Schritte, doch 14 Prozent wissen gar nicht, ob sie abgesichert sind – und 15 Prozent glauben fälschlicherweise, dass Absicherung gar nicht möglich sei.

Besonders alarmierend: 64 Prozent der Mitarbeitenden verfügen laut Eigenangaben über keine oder unzureichende Kenntnisse zur sicheren Nutzung von KI. Bei nicht angestellten Mitarbeitenden liegt der Wert sogar bei 71 Prozent. Selbst unter den Entscheidern gibt über die Hälfte (53 Prozent) fehlendes Wissen zu. Nur 23 Prozent sagen: „Bei uns kennt sich die Mehrheit gut oder sehr gut aus.“
Für Thamm ist klar: „Entscheiderinnen und Entscheider sollten jetzt tätig werden. Um die bestehenden Unsicherheiten abzubauen, müssen die Mitarbeitenden im Umgang mit KI geschult werden – laut AI Act ist dies sogar Vorschrift. Auch müssen Entscheidende eine klare Strategie für den Einsatz von Künstlicher Intelligenz und zur Absicherung gegen Risiken entwerfen.“