Veni, KI, vici

Es hätte alles so einfach sein können: KI hilft bei der Erstellung von Beratungsprotokollen und Anschreiben für Kund:innen. Erstgenannte werden gegengezeichnet, vor dem Versand schaut Makler:in sich letztgenannte nochmal genau an. Ein prüfender menschlicher Blick - der „Human in the Loop“ – ist im Prozess fest vorgesehen.

Doch die Technik entwickelt sich weiter und kann mehr Informationen verarbeiten: Vergleich von AVBs, Unterstützung von Kund:innen als Chatbot, Entgegennahme von Telefonaten. Es fühlt sich wie Fortschritt an, aber der erste Schritt in technische Abhängigkeit ist damit gegangen. Mit einem Bekannten hatte ich vor kurzem eine Diskussion zum Thema „Verlernen von Fähigkeiten durch Technikeinsatz“: „Ich kann noch immer eine Straßenkarte lesen, auch wenn ich seit mehr als 10 Jahre ein Navigationsgerät benutze!“ war sein Argument. Ich entgegnete: „Du hast das auch gelernt, aber was ist mit deinen Kindern?“. Ähnlich verhält es sich mit den eben genannten Anwendungsfällen: Für die aktuelle Generation an Makler:innen ist das Risiko der Abhängigkeit noch gering – diese können AVBs lesen und kennen direkten und bestenfalls engen Kontakt zum eigenen Kund:innenkreis. Bei der nächsten und übernächsten Generation hingegen mache ich mir schon Sorgen, ob diese nicht in blinder Technikgläubigkeit bestimmte Fähigkeiten gar nicht mehr entwickeln. Der Wegfall von „einfachen“ Aufgaben bedeutet auch den Wegfall von Ausbildungsmöglichkeiten. Schon jetzt klagt die Branche – und nicht nur die – über Fachkräftemangel. Aber wo sollen sich denn zukünftige Fachkräfte ausbilden, wenn KI ihre Aufgaben übernimmt? Ein sich selbst verstärkendes System…

Doch die Technik entwickelt sich weiter und KI arbeitet nicht mehr als ein System, sondern in Form von Agenten quasi als viele virtuelle Personen, die Aufgaben erledigen können. Das ist der Punkt, an dem KI einen Netzwerkeffekt lostritt. KI-Agenten sind so günstig, dass für einen geringen Einsatz eine große Menge an Arbeit angestoßen werden kann. Diesem mit menschlicher Intelligenz zu begegnen, gleicht dem Kampf gegen Windmühlen. Die ersten Auswüchse sehen wir z. B, im Bereich der quelloffenen Software – KI-Agenten fluten Projekte mit falschen Sicherheitsmeldungen und schlecht gelösten Programmieraufgaben. Diese abzuwehren kostet Entwickler:innen wertvolle Zeit – die sie dann nicht mehr in das eigentliche Projekt stecken können. Nicht nur den Auswirkungen von Agenten gibt es wenig entgegenzusetzen. An deren Überwachung – also den „Human in the Loop“ – ist mit steigender Zahl von Agenten auch nicht mehr zu denken.

Überhaupt ist fragwürdig, welcher „Human“ eigentlich genau steuert, was KI-Agenten tun. Schon in KI-Chatsystemen wird die Eingabe der Nutzer:in eingebettet in ein Regelkorsett, welches bestimmte Inhalte und Interpretationen filtert. Wie aber sieht der Wertekanon aus, wenn es nicht mehr um Wissenssysteme, sondern um handelnde Systeme geht? Wie viel kann die Nutzer:in steuern und was liegt gar nicht erst in ihrer Hand? Wer hat das letzte Wort in Unternehmen, die auf Investor:innen angewiesen und/oder die in Ländern mit politischem Einfluss auf privatwirtschaftliche Unternehmen beheimatet sind?

Um auf das geflügelte Wort aus der Einleitung zurückzukommen: Menschen, die KI nutzen, sind nur eine Zwischenstation. Ja, sie werden Menschen verdrängen, die keine KI nutzen. Gleichzeitig aber trainieren sie die Systeme, von denen sie verdrängt werden. (Insofern wundert es auch nicht, dass es erste Versicherungsapps für ChatGPT gibt – offenbar haben genug Makler:innen das System genutzt.) Dafür gibt es dann ein anderes geflügeltes Wort: Ironie des Schicksals.