Ein KI-Agent übernimmt einen wiederkehrenden Vorgang: eine Bestellung prüfen, eine Supportanfrage beantworten, eine Rückerstattung auslösen. Geht dabei etwas schief, wird der Fall neu aufgerollt. Die Frage nach der Zuständigkeit landet am Ende nicht beim Modell, sondern bei der IT-Leitung. Dieses Muster hat 8×8 in einer Befragung unter britischen CIOs untersucht, über die TechRadar berichtet. Rund die Hälfte der Befragten sagt, sie fühle sich persönlich verantwortlich, wenn ein KI-Agent einen Fehler macht.
Die Zahl allein sagt wenig, ihre Verteilung mehr. Verantwortung für KI verschwindet nicht, wenn Systeme autonomer werden. Sie sucht sich einen Adressaten, und in vielen Organisationen ist die IT-Leitung die einzige Rolle, die technisch wie organisatorisch als Ansprechpartner erkennbar ist. Wer KI-Verantwortung als Randthema der Technikabteilung abtut, übersieht das.
Was die Erhebung von 8×8 unter britischen CIOs gemessen hat
Die Auswertung zeigt vor allem eines: Verantwortung für KI lässt sich nicht sauber verteilen. In Unternehmen mit 50 bis 99 Beschäftigten sagen 45 Prozent der IT-Leiter, sie stünden für Fehler von KI-Agenten persönlich gerade. Bei Unternehmen mit mehr als 500 Mitarbeitenden sind es 62 Prozent. Auf den ersten Blick paradox: Je größer die Organisation, desto mehr Führungsebenen gibt es – und desto stärker konzentriert sich die Zurechnung auf eine einzelne Person.
Im öffentlichen Sektor fällt sie noch deutlicher aus. In Verwaltung und Behörden berichten 86 Prozent der befragten Technologieverantwortlichen, für KI-Fehler zur Rechenschaft gezogen zu werden. Dort kommt zweierlei zusammen: hohe Erwartungen an Nachvollziehbarkeit und ein Umfeld, in dem politische Verantwortung selten bei der Stelle bleibt, die ein System tatsächlich eingeführt hat. Der CIO steht damit am Ende einer Kette, deren übrige Glieder unsichtbar bleiben.
Warum die Zurechnung mit der Unternehmensgröße zunimmt
Ein Vergleich hilft: die Brücke eines Schiffs, das längst nach festen Routinen fährt. Der Kapitän steht nicht mehr am Ruder, das System hält den Kurs, korrigiert automatisch und meldet Abweichungen erst, wenn sie groß genug sind. Verliert das Schiff den Kurs, sucht die Reederei trotzdem eine Person. Der Autopilot wird nicht zur Verantwortung gezogen, der Hersteller der Steuerungssoftware erst recht nicht.
In großen Unternehmen verschärft sich dieses Muster, weil Entscheidungen über KI-Einsatz selten an einer Stelle fallen. Die Fachabteilung bestellt den Agenten, der Einkauf verhandelt den Vertrag, das Datenschutzteam prüft die Rechtsgrundlage, die Entwicklung bindet die Schnittstellen an. Am Ende bleibt ein Name übrig, der in jedem Gremium auftaucht und deshalb als haftbar gilt. Je mehr Beteiligte, desto stärker diese Verdichtung – nicht desto schwächer.
Dazu kommt eine zweite Verschiebung. KI-Agenten handeln nicht nur ausführend, sie entscheiden innerhalb definierter Grenzen selbst. Die Frage verschiebt sich damit von der Technik zur Organisation: Wer legt diese Grenzen fest, wer prüft sie, und wer bemerkt, wenn ein System sie still überschreitet? Ohne klare Antworten bleibt nur die persönliche Zuschreibung. Sie ist die einfachste Lösung, aber nicht die beste.
Digitale Souveränität wird zur Bedingung im Einkauf
Neben der Haftungsfrage hat die Erhebung einen zweiten Schwerpunkt: die Herkunft der Infrastruktur. 39 Prozent der CIOs sagen, der Speicherort der KI-Infrastruktur sei inzwischen der wichtigste Faktor bei der Auswahl einer Plattform. Fragen danach, wo Daten verarbeitet und gespeichert werden, tauchen laut der Auswertung nicht erst am Ende der Beschaffung auf, sondern am Anfang. 91 Prozent der britischen Technologieverantwortlichen geben an, digitale Souveränität habe in diesem Jahr an Priorität gewonnen.
Jamie Snaddon, EMEA-Geschäftsführer bei 8×8, sagt laut der Meldung, Souveränität sei heute die erste Frage in fast jedem Kundengespräch. Das geht über eine Compliance-Übung hinaus. Wer nicht weiß, durch welche Jurisdiktionen seine Daten laufen, kann im Streitfall weder Auskunft geben noch haften. Souveränität ist damit die Voraussetzung dafür, dass Verantwortung überhaupt tragfähig zugeordnet werden kann. Ohne sie bleibt jede Governance-Erklärung eine Behauptung.
Dazu kommen die klassischen Bremsen: Vendor Lock-in, Kosten und Komplexität. Sie beeinflussen die Entscheidungen der Befragten ebenfalls, wenn auch nachgelagert. Der Einkauf wird dadurch langsamer, weil jede Plattformentscheidung gleichzeitig eine Rechts-, Kosten- und Betriebsentscheidung ist.
KI-Governance: Verantwortung ist nicht dasselbe wie Haftung
Hier liegt der Kern des Problems. Persönliche Zurechnung ist kein Governance-Modell, sie ersetzt eines. Ein funktionierendes Modell benennt Entscheidungsrechte, Freigabegrenzen und Eskalationswege, bevor ein Agent in Betrieb geht. Es hält fest, welche Vorgänge automatisiert werden dürfen, ab welchem Betrag oder Risiko ein Mensch eingreift und wer einen Vorfall untersucht. Fehlt das, bleibt nur die Rückfrage an die Person, die die Technik verantwortet.
Der Unterschied lässt sich am Schiff gut zeigen. Der Kapitän trägt Verantwortung, aber die Reederei definiert, welche Route zulässig ist, welche Wartungsintervalle gelten und wann ein Hafen nicht angelaufen wird. Diese Regeln entstehen nicht auf der Brücke, sie gelten für sie. Übertragen auf KI-Risiken: Der CIO braucht einen Rahmen, in dem er sich bewegen kann. Sonst verwaltet er eine Haftung ohne Gestaltungsmacht.
Für KI-Compliance heißt das, Prozesse zu verschriftlichen, statt sie zu erhoffen. Ein Register der eingesetzten Systeme, dokumentierte Freigaben, klare Zuständigkeiten je Anwendung und ein Verfahren für Vorfälle sind keine Bürokratie, sondern die Voraussetzung dafür, dass eine Organisation im Ernstfall erklären kann, wie sie entschieden hat. Fehlt diese Dokumentation, wird jede Prüfung zur Frage persönlichen Verschuldens.
Folgen für die Rolle – und für die Bereitschaft, sie zu übernehmen
Eine Konsequenz wird leicht überlesen: Mit steigender persönlicher Zurechnung wird die Position des CIO riskanter und unattraktiver. Wer weiß, dass sein Name bei jedem Zwischenfall genannt wird, wird vorsichtiger – bei der Einführung von KI, aber auch bei der Übernahme der Rolle selbst. Das taucht in keiner Roadmap auf, bremst aber jede.
Für Unternehmen hat das zwei Auswirkungen. Erstens verzögert sich die Adoption dort, wo sie am meisten bringen könnte, weil niemand die Unterschrift leisten will. Zweitens entsteht Schatten-KI: Systeme, die ohne formalen Freigabeprozess in Fachabteilungen entstehen, weil der offizielle Weg zu lang oder zu persönlich riskant ist. Beides zusammen ergibt eine Organisation, die vorsichtig wirkt und weniger Kontrolle hat als zuvor.
Was konkret hilft, damit Verantwortung tragfähig bleibt
Der erste Schritt ist eine nüchterne Bestandsaufnahme. Welche Agenten laufen, was dürfen sie entscheiden, welche Daten berühren sie, und wer hat sie freigegeben? Diese Liste ist selten vollständig, aber sie macht sichtbar, wo Verantwortung heute faktisch liegt. Der zweite Schritt sind benannte Grenzen: Beträge, Kundenkontakte, juristische Folgen, ab denen ein Mensch zustimmen muss.
Der dritte Schritt betrifft die Organisation selbst. Verantwortung für KI lässt sich auf mehrere Rollen verteilen, wenn diese Verteilung schriftlich festgehalten wird – Fachbereich für den Zweck, IT für den Betrieb, Datenschutz für die Zulässigkeit, Geschäftsführung für das Risiko. Was verteilt wird, muss aber sichtbar bleiben. Eine geteilte Zuständigkeit, die niemand koordiniert, entlastet nicht, sie verschiebt das Problem.
Die Zahlen aus der 8×8-Erhebung sagen weniger über KI als über Organisationsstrukturen. Wo Entscheidungsrechte unklar sind, sammelt sich Haftung an der sichtbarsten Stelle. Ob das gerecht ist, spielt für die Praxis keine Rolle – es passiert ohnehin. Wer KI einsetzt, sollte deshalb vor dem ersten Agenten klären, wer handelt, wer prüft und wer im Zweifel erklärt, warum eine Entscheidung so gefallen ist. Diese Klärung kostet Wochen und spart später die Frage, die niemand gern beantwortet: Wer war das?
Quelle: techradar.com
