Ein Agent erhält Schreibzugriff auf das ERP-System, eine eigene technische Kennung und ein monatliches Ausgabenlimit. Jede seiner Aktionen landet in einem Protokoll, das sich später nachvollziehen lässt.
Auf den ersten Blick ist das reine Software-Governance: Rechte, Grenzen, Logs. Doch wie Unternehmen solche Systeme führen, wird inzwischen mit Vokabular aus der Personalabteilung diskutiert. Mehrere Beiträge in der Harvard Business Review haben dafür plädiert, KI-Agenten wie eine neue Belegschaft zu behandeln – mit definierten Rollen, Befugnissen, verbindlichen Datenquellen, Aufsicht und Audit-Trail. Ein weiterer Beitrag ging weiter: Agenten sollten Namen und Stellenbeschreibungen bekommen, ihre Leistung bewertet und ihnen nach erwiesener Eignung mehr Verantwortung übertragen werden.
Für den Betrieb hat das einen Nutzen: Es zwingt zu Disziplin. Es hat aber auch einen Nebeneffekt, der sich inzwischen messen lässt. Wer KI-Agenten einführt, sollte deshalb genau sortieren: Welche Teile des Personalmanagements tragen wirklich – und welche übernimmt man besser nicht?
Die Mitarbeiter-Analogie setzt sich durch – mit messbarem Nebeneffekt
Die Analogie stammt nicht aus dem Marketing, sondern aus der Funktionsweise der Systeme. Ein Agent kann Datensätze ändern, Rückerstattungen auslösen, Nachrichten versenden oder über mehrere Unternehmenssysteme hinweg handeln. Wer so etwas ausrollt, installiert nicht mehr nur eine Anwendung, sondern übergibt Entscheidungsspielraum an ein probabilistisches System. Daraus entstand die Idee, Agenten wie Beschäftigte zu führen: mit klarer Rolle, begrenzter Befugnis, definierten Datenquellen, menschlicher Aufsicht und lückenloser Chronik.
Eine in der Harvard Business Review veröffentlichte Studie mit 1.261 Führungskräften zeigt den Effekt: Manager, die bereits mit KI-Agenten zu tun hatten, übernahmen weniger persönliche Verantwortung für Ergebnisse, sobald das System als Mitarbeiter statt als Werkzeug beschrieben wurde. Sie schrieben dem Agenten mehr Verantwortung zu, eskalierten häufiger Probleme und entdeckten weniger Fehler. In derselben Erhebung gaben 31 Prozent der Befragten an, ihr Unternehmen rahme KI bereits als Teammitglied oder Beschäftigten. 23 Prozent berichteten, Agenten tauchten auf Organisations- oder Arbeitsdiagrammen auf.
Eine Metapher ist nicht harmlos, sie formt Erwartungen und Zuständigkeiten. Wer einen Agenten zum Kollegen erklärt, verschiebt im Kopf die Zuständigkeit dorthin, wo sie technisch gar nicht liegen kann. Damit beginnt eine Governance-Lücke, noch bevor der erste Fehler passiert.
Verantwortung lässt sich nicht an einen Agenten übertragen
Amy Loomis, Group Vice President bei IDC, zieht die Grenze an einem einzigen Wort: Verantwortlichkeit. Menschen haben Pflichten gegenüber ihrem Unternehmen und untereinander, und sie bringen ein Verständnis von Kultur und Werten mit. Ein Agent kann diese Sprache imitieren, besitzen kann er sie nicht. Ein System kann also formulieren, was ein Kollege sagen würde. Die Bindung dahinter entsteht dadurch nicht.
Für Loomis ist die Bezeichnung Kollege deshalb mehr als harmlose Vermenschlichung. Sie legt eine Beziehung auf Augenhöhe nahe und kann Menschen dazu bringen, ihr Urteilsvermögen an ein System abzugeben, das sehr gut darin ist, das Gewünschte zu liefern, aber nicht unbedingt erkennt, was gebraucht worden wäre. „Accountability ist etwas, das Eigenschaften trägt, die es nur beim Menschen gibt“, sagt sie. Zugriff auf Daten lasse sich einem Agenten geben, die Verantwortung für das, was mit diesem Zugriff geschieht, liege aber bei der Person, die den Zugriff erteilt hat.
Das schließt nicht aus, vom Personalmanagement zu lernen. Es ist sinnvoll, einem Agenten nachvollziehbaren Zugriff und eng zugeschnittene Berechtigungen zu geben und einen Not-Aus vorzusehen, der den Zugriff beendet. Loomis hält es aber für wirksamer, von einer Betriebs-Charta zu sprechen als von einer menschlichen Identität: definieren, was das System tut, worauf es zugreifen darf und wofür weiterhin Menschen geradestehen. Der Agent bekommt also einen Sicherheitsausweis. Nur sein Foto kommt nicht darauf.
Technische Identität für die Nachvollziehbarkeit, der Mensch als Haftungspunkt
Raja Iqbal, Gründer des Governance-Anbieters Ejento AI und Mitautor des HBR-Beitrags über Agenten als Teammitglieder, liegt näher an Loomis, als die Überschrift vermuten lässt. Die Metapher soll CIOs, CISOs und anderen Technikverantwortlichen vor allem die richtige Denkhaltung geben. Wer einen Agenten als Teammitglied betrachtet, erinnert sich eher an vertraute Managementdisziplinen: eine eindeutige Identität, klare menschliche Aufsicht, definierte Befugnisse, Ausgabenlimits, freigegebene Informationsquellen und einen Audit-Trail. Wenn ein anderer Begriff dieselbe Disziplin erzeugt, ist ihm das ebenso recht.
Künstliche Beschäftigte mit menschlicher Persona und Sitz im Organigramm lehnt Iqbal dagegen ausdrücklich ab. Daraus entsteht das Haftungsproblem, das Kritiker beschreiben: „Das war Bob“ wird zur Ausrede, obwohl Bob Software ist. Die Metapher werde gefährlich, wenn sie dekorativ bleibe, sagt er. Unternehmen geraten in Schwierigkeiten, wenn sie die menschliche Verpackung übernehmen – Namen, Personas, Kollegensprache – und dabei die Aufsicht, die Grenzen und die Verantwortlichkeit weglassen, die die Analogie überhaupt nützlich machen. Seine Unterscheidung ist einfacher: Der Agent braucht eine technische Identität, damit das Unternehmen rekonstruieren kann, was geschehen ist. Ein Mensch bleibt für diese Handlungen zuständig. Die Identität ist damit der Grundbaustein der Nachvollziehbarkeit, der menschliche Owner der Haftungspunkt.
Nützlich wird die Mitarbeiter-Logik wieder bei der Frage, wie viel Freiheit ein Agent bekommen soll. Iqbal empfiehlt abgestufte Autonomie. Ein Agent beginnt damit, dass ein Mensch jede Aktion freigibt, darf dann risikoarme Schritte selbst ausführen und erhält schließlich begrenzte Autonomie, wenn seine beobachtete Leistung das rechtfertigt. Ein gravierender Fehler kann ihn eine Stufe zurückwerfen – oder ganz aus dem Betrieb entfernen. Das ähnelt einer Probezeit, ist aber zugleich schlicht saubere Governance für ein System, das mit Wahrscheinlichkeiten arbeitet.
Zwei Klassen von Agenten – bei DXC entscheidet der Zweck
Russell Jukes hat diese Unterscheidung oft genug getestet. Als Chief Digital and Information Officer von DXC Technology verantwortet er KI in einem IT-Dienstleistungsunternehmen mit rund 115.000 Beschäftigten. „Wir denken über einen KI-Agenten als Superkraft nach, nicht als Person“, sagt er. DXC trennt Agenten in zwei Kategorien. Persönliche Agenten arbeiten für einzelne Beschäftigte und laufen in der Regel unter deren Identität und Zugriffsrechten. Professionelle Agenten sind Unternehmenssysteme für breitere Workflows. Auf einer der großen KI-Plattformen von DXC haben Beschäftigte bislang rund 8.000 persönliche Agenten erstellt, verglichen mit etwa 100 professionellen.
Die professionelle Variante unterliegt deutlich strengerer Aufsicht. Sie kann eine eigene, nichtmenschliche Identität haben, eigene Credentials, Berechtigungen und Autoritätsgrenzen. Ihre Aktivitäten laufen über Control Planes, in denen DXC sieht, was die Agenten tun, und sie bei Bedarf abschalten kann. Jukes erwartet, dass viele dieser Agenten irgendwann ganz aus der Sicht der Nutzer verschwinden. Ein Agent könnte nachts den internen Ressourcenbedarf prüfen und Beschäftigte für Projekte vorschlagen. Niemand muss ihn morgens begrüßen oder als Kollegen betrachten – das Ergebnis genügt.
An dieser Stelle trennt sich Jukes von der Mitarbeiter-Metapher. Er hat früh gelernt, dass sich KI nicht wie klassische SaaS ausrollen lässt. Sein erster Versuch folgte dem vertrauten Muster: Anwendung bereitstellen, Beschäftigte im vorgesehenen Workflow arbeiten lassen, Akzeptanz erwarten. „Ich habe das gemacht, und niemand hat es benutzt“, sagt er. Seither gilt für ihn: KI nie wieder wie SaaS einführen. Klassische SaaS ist weitgehend deterministisch, sie zwingt Nutzer in einen definierten Ablauf und liefert vorhersagbare Ergebnisse. Ein Agent dagegen interpretiert ein Ziel, wählt Werkzeuge und Datenquellen und entscheidet selbst über den Weg. Deshalb müssen Verantwortliche Regeln, Berechtigungen, Datenzugriff, Leitplanken und Befugnisse um den Agenten herum entwerfen – und dabei eine klare Verantwortungskette ziehen. Genehmigt eine Person die Aktion, gehört die Entscheidung dieser Person. Handelt ein autonomer Agent nach einer Geschäftsrichtlinie, liegt die Verantwortung bei denen, die diese Richtlinie verantworten. Versagt die Technik, ist die IT zuständig. Der Agent selbst bekommt nie die Schuld.
Der Praktikant als Denkfigur, nicht als Stellenbezeichnung
Nina Tatsiy, Global CIO des Automatisierungsspezialisten Quadient, positioniert sich zwischen Iqbal und Jukes. Sie nennt Agenten Praktikanten, verwendet den Begriff aber bewusst als Analogie und nicht als organisatorische Zuordnung. Agenten müssen als Software geführt werden, mit Sicherheit, Governance und technischen Kontrollen – und zugleich braucht ihr probabilistisches Verhalten zusätzliche Aufsicht. „Man muss beides tun“, sagt sie. Ein Praktikant bekommt am ersten Morgen auch nicht alle Passwörter und Vollmachten. Ein Agent muss eingeführt, trainiert, beobachtet, bei veränderten Umgebungen nachgeschult und irgendwann außer Betrieb genommen werden.
Menschliche Namen vermeidet Quadient weitgehend. Tatsiy befürchtet, dass sie dazu verleiten, Agenten als echte Kollegen mit Urteilsfähigkeit zu sehen. Übertriebenes Vertrauen sei ein Problem, gerade weil KI ihre Schlussfolgerungen mit großer Bestimmtheit vorträgt. Lieber nutzt sie KI, um eine Hypothese zu hinterfragen oder Fragen aufzuwerfen, an die niemand gedacht hat, statt sie die Schlussfolgerung ziehen zu lassen. Operativ hat sich die Praktikanten-Figur dennoch bewährt. In einem Projekt im Kreditorenbereich ließ Quadient einen Agenten menschliche Bearbeiter begleiten und aus deren Rückmeldungen in verschiedenen Szenarien lernen. Erst nachdem seine Leistung über wachsende Komplexitätsstufen geprüft war, gab er Empfehlungen ab. Die endgültige Entscheidung blieb beim Menschen. Der Agent hatte sich Vertrauen erarbeitet – Verantwortlichkeit nicht.
Was im eigenen Haus bleiben sollte
Die entscheidende Frage ist also nicht, ob Agenten Beschäftigte oder Software sind. Sie lautet, welche Teile der beiden Managementmodelle im eigenen Haus bleiben sollten. Agenten brauchen eine eigene technische Identität, aber keine menschliche. Sie brauchen definierte Zuständigkeiten – Stellen im personalrechtlichen Sinn dagegen nicht. Überwachung und Bewertung sind sinnvoll, Jahresgespräche nicht. Befugnisse lassen sich schrittweise erweitern, Verantwortung nicht. Je leistungsfähiger die Systeme werden, desto wichtiger wird diese Trennung.
Ein Agent wie gewöhnliche SaaS zu behandeln, ignoriert, dass er interpretieren, auswählen und handeln kann. Ihn wie einen Kollegen aus der Buchhaltung zu behandeln, erzeugt ein anderes Risiko: Irgendwann nimmt jemand an, der Kollege wisse schon, was er tut. Für die Governance von KI-Agenten heißt das: Die Sicherheits- und Berechtigungsfrage ist lösbar, die Haftungsfrage nicht delegierbar. Verantwortung liegt beim Menschen – bei dem, der die Freigabe erteilt, der die Richtlinie verantwortet, der das System betreibt. Man darf sich also bei der Personalabteilung bedienen. Nur einen Betriebsausweis sollte man dem Agenten nicht ausstellen.
Quelle: computerworld.com
