Wie lassen sich tausende KI-Agenten zentral steuern, ohne ihre Frameworks oder Laufzeitumgebungen zu vereinheitlichen? Agent Controls aus Azure setzt genau an diesem Problem an: Richtlinien werden als gemeinsame Azure-Ressourcen verwaltet und während der Ausführung ausgewertet.
Der zentrale Gedanke ist ebenso einfach wie anspruchsvoll. Eine Regel soll einmal definiert und anschließend über mehrere Frameworks, Plattformen und Clouds hinweg angewendet werden. Dafür verbindet der verwaltete Azure-Dienst die offene Agent Control Specification mit Agent Hooks. Die Spezifikation beschreibt, wie eine Entscheidung getroffen wird. Die Hooks bestimmen, wo in einem Agentenzyklus eingegriffen werden kann.
Damit wird Governance nicht mehr als zusätzlicher Hinweis in einem System-Prompt verstanden. Sie greift unmittelbar vor riskanten Modellaufrufen, Werkzeugzugriffen, Datentransfers oder Ausgaben. Für Unternehmen ist das ein wesentlicher Unterschied, weil eine sprachlich unauffällige Antwort noch immer eine unzulässige Überweisung auslösen kann.
Warum zentrale Agentensteuerung bisher an Grenzen stößt
Bei der Einführung von KI-Agenten entstehen schnell viele parallele Governance-Ansätze. Jedes Anwendungsteam integriert eigene Sicherheitsregeln, eigene Prüfmechanismen und eigene Protokollierung. Das führt zu einer fragmentierten Landschaft, in der ähnliche Anforderungen je nach Runtime unterschiedlich umgesetzt werden.
Die Unternehmen stehen dabei vor einem klassischen Spannungsfeld. Sicherheits- und IT-Teams benötigen organisationsweite Vorgaben, während Entwicklungsteams ihre bevorzugten Frameworks, Modelle und Cloudumgebungen behalten möchten. Eine zentrale Plattform muss deshalb nicht die Agenten selbst vereinheitlichen. Sie muss die Entscheidungen über das erlaubte Verhalten vereinheitlichen.
Ein weiteres Problem betrifft die Wirkung der Regeln. Eine Anweisung in einem Prompt ist eine Empfehlung, aber keine verlässliche Durchsetzung. Ein Agent kann sie praktisch ignorieren oder durch hallucinierte Werkzeugaufrufe umgehen. Eine wirksame Runtime-Governance prüft das Verhalten deshalb an den Punkten, an denen eine Handlung noch verhindert oder verändert werden kann.
Agent Controls erweitert den Blick außerdem über allgemeine Inhaltssicherheit hinaus. Unternehmen brauchen Regeln für Transaktionslimits, Berechtigungen, verbotene Werkzeuge, zulässige Ziele, menschliche Freigaben oder rechtlich bindende Aussagen. Solche Anforderungen sind fachlich spezifisch und lassen sich nicht vollständig durch einen universellen Sicherheitsfilter abdecken.
Die Vision lässt sich als eine Art einheitliche Schranke vor jeder Außeneinwirkung verstehen. Der Agent darf intern viele unterschiedliche Werkzeuge und Modelle verwenden. An definierten Schnittstellen prüft eine zentrale Instanz jedoch, ob die geplante Aktion den geltenden Regeln entspricht. Wie bei einer Schranke zählt nicht nur, ob jemand sie passiert, sondern auch nach welchen Kriterien die Passage erlaubt wird.
Agent Hooks und ACS als portable Grundlage
Microsoft hat für Agent Controls zwei offene Grundlagen veröffentlicht: Agent Hooks und die Agent Control Specification. Beide sind als gemeinschaftlich weiterentwickelbare und einsehbare Verträge angelegt. Das soll einen proprietären Kontrollpunkt verhindern, der nur innerhalb eines einzelnen Anbieters oder Frameworks funktioniert.
Agent Hooks definiert, wo die Kontrolle stattfindet. Zu den vorgesehenen Eingriffspunkten gehören der Start des Agenten, eingehende Eingaben, Modellaufrufe, Werkzeugaufrufe, Ausgaben und das Beenden der Ausführung. Die Laufzeitumgebung hält dort an und fordert eine Entscheidung an. Damit entstehen einheitliche Stellen, an denen Governance in den Ablauf eingebunden werden kann.
Die Agent Control Specification, kurz ACS, beschreibt dagegen, wie diese Entscheidung getroffen wird. An jedem Hook sammelt das System über Annotatoren relevante Informationen. Dazu können Sicherheitsklassifikatoren, LLM-basierte Prüfer, deterministische Geschäftsregeln oder externe APIs gehören. Die gesammelten Evidenzen werden an eine Policy Engine wie Rego übergeben, die daraus ein Urteil erzeugt.
Die Trennung ist konzeptionell nützlich. Hooks sind gewissermaßen die Sensoren und Kontaktstellen im Ablauf. ACS definiert das Protokoll, über das deren Ergebnisse in eine Entscheidung übersetzt wird. Beides lässt sich unabhängig vom eingesetzten Modell oder Agentenframework verwenden, sofern die jeweilige Laufzeit die entsprechenden Schnittstellen unterstützt.
Ein zentrales Unternehmen, das eine Richtlinie einmal im ACS-Format definiert, kann damit grundsätzlich dieselbe Regel an mehrere Hosts übergeben. Das reduziert die doppelte Pflege und verhindert, dass eine zuerst in einer Anwendung umgesetzte Sicherheitsanforderung später stillschweigend auf einer anderen Plattform fehlt.
Deterministische Regeln, LLM-Prüfer und Klassifikatoren
Agent Controls verwaltet ACS-Richtlinien als Azure-Ressourcen und wertet Agentenaktionen über eine gehostete API aus. Anwendungsteams benötigen dadurch keine eigene Infrastruktur für Policy-Auswertung. Die möglichen Prüfmethoden lassen sich miteinander kombinieren, sodass eine Richtlinie sowohl harte Grenzen als auch kontextabhängige Einschätzungen abdecken kann.
Deterministische Regeln eignen sich für überprüfbare Bedingungen. Ein Betrag von 25.000 Euro kann unabhängig vom Gesprächsverlauf eine feste Obergrenze überschreiten. Ebenso lässt sich ein administratives Werkzeug technisch blockieren oder eine Datenübertragung auf eine Liste genehmigter Endpunkte beschränken. Solche Regeln liefern reproduzierbare Ergebnisse und sind für Auditoren gut nachvollziehbar.
LLM-Prüfer übernehmen dagegen Aufgaben, bei denen eine feste Wenn-dann-Logik an Grenzen stößt. Sie können einen Kundenkommentar entlang eines selbst definierten Kriteriums bewerten, etwa finanzielle Notlage erkennen. Das Ergebnis ist keine mathematisch eindeutige Tatsache. Es ist eine modellbasierte Einschätzung, deren Wert deshalb von der verwendeten Richtlinie, dem Prüfmodell und der Dokumentation abhängt.
Sicherheitsklassifikatoren wiederum sind für definierte Risikokategorien gedacht. Ein PII-Klassifikator kann eine geplante Antwort prüfen, ein Content-Safety-Klassifikator problematische Inhalte erkennen. In der Praxis entstehen die wirksamsten Ergebnisse meist nicht aus einer einzelnen Technik, sondern aus deren Komposition. Eine deterministische Regel kann etwa einen Classifier oder LLM-Prüfer voraussetzen, bevor sie eine Aktion erlaubt.
Für jede Prüfung kann der Dienst eine der drei grundlegenden Entscheidungen zurückgeben: allow, deny oder transform. Allow bedeutet, dass die Aktion fortgesetzt werden darf. Deny blockiert sie. Transform verlangt eine Änderung, etwa das Schwärzen personenbezogener Daten oder das Umformulieren einer Antwort. Eine zusätzliche Validierung stellt sicher, dass die bereinigte Fassung den Anforderungen entspricht.
Entscheidungen werden zu nachvollziehbaren Belegen
Eine effektive Governance-Lösung muss nicht nur handeln, sondern auch belegen, warum sie gehandelt hat. Agent Controls liefert deshalb zu jeder Auswertung einen Receipt. Dieser verweist auf die verwendeten Richtlinien und Versionen. Anwendungen können den Beleg zusammen mit dem Ergebnis der Ausführung speichern und damit einzelne Aktionen bis zur zugrunde liegenden Entscheidung zurückverfolgen.
Diese Nachvollziehbarkeit beantwortet eine zentrale Prüffrage: Sind wir tatsächlich kontrolliert? Sicherheits- und Compliance-Teams können feststellen, welche Regel an einem Hook geprüft wurde, welche Evidenz eingeflossen ist und warum das System eine Aktion erlaubt, veränderte oder verweigerte.
Die Bedeutung geht über klassisches Logging hinaus. Ein einfaches Ereignisprotokoll zeigt, dass ein Werkzeug aufgerufen wurde. Ein Policy-Receipt zeigt, dass dieser Aufruf geprüft, bewertet und anschließend freigegeben wurde. Gerade bei autonomen Abläufen ist dieser Unterschied entscheidend, weil sich sonst nur schwer feststellen lässt, ob eine zentrale Vorgabe technisch wirksam war.
Die Gestaltung unterstützt außerdem eine schrittweise Einführung. Eine Organisation kann zunächst wenige Regeln für besonders folgenreiche Werkzeugaufrufe etablieren, die Ergebnisse beobachten und anschließend den Umfang erweitern. Das ist praktischer als ein sofortiger Versuch, sämtliche Verhaltensweisen eines heterogenen Agentenbestands vollständig zu kontrollieren.
Ein Finanzbeispiel zeigt die Kontrolle im Ablauf
Das Beispiel einer fiktiven Bank namens Caldova verdeutlicht, wie sich mehrere Prüfarten in einer gemeinsamen Richtlinie verbinden lassen. Der Kundenservice-Agent kann Konteninformationen abrufen, Geld überweisen und Fragen beantworten. Für jedes dieser Verhaltensbereiche existiert eine andere Art der Kontrolle.
Eine deterministische Regel begrenzt Überweisungen. Der Agent darf eine Transaktion bis zu 10.000 US-Dollar selbstständig abschließen. Bei 25.000 Dollar wird der Vorgang an einen Menschen eskaliert. Die Prüfung erfolgt am Hook pre_tool_call, bevor das Werkzeug transfer_funds tatsächlich ausgeführt wird. So kann die Laufzeit die Transaktion stoppen, obwohl die vorherige Antwort vollkommen angemessen formuliert war.
Ein LLM-Prüfer erkennt finanzielle Notlagen in der Kundennachricht. Er bewertet den Text anhand eines von der Bank definierten Kriteriums. Die daraus abgeleitete Richtlinie unterbindet weitere automatische Kreditangebote und übergibt das Gespräch an eine Fachkraft. Die Prüfung findet am Eingabe-Hook statt, weil die Information für den weiteren Gesprächsverlauf relevant ist.
Ein Sicherheitsklassifikator prüft schließlich die fertige Antwort auf personenbezogene Daten. Am Ausgabe-Hook kann der Dienst die externe Antwort blockieren oder sensible Inhalte entfernen. Auch dieser Schritt erfolgt, bevor die Nachricht den Kunden oder ein nachgelagertes System erreicht.
Entscheidend ist nicht nur, dass drei Techniken nebeneinanderstehen. Sie greifen an den Stellen ein, an denen ihre jeweilige Information verfügbar und eine Intervention noch möglich ist. Die Richtlinie wird dadurch vom abstrakten Sicherheitsdokument zu einem expliziten Urteil im konkreten Ablauf.
Von der Richtlinie zum Azure-Ressourceneintrag
Für den praktischen Einsatz beschreibt der Dienst einen mehrstufigen Ablauf. Zunächst wird eine Content-Safety-Ressource im Azure-Portal angelegt. Benötigt werden der Ressourcennamen, die Ressourcen-ID, der benutzerdefinierte Subdomain-Endpunkt sowie passende Berechtigungen für Richtlinienautoren und die Identität der Anwendung.
Danach entsteht eine ACS-Manifestdatei. Sie bindet jede Prüfung an den passenden Hook. Für das Bankbeispiel wird die Belastungsprüfung dem input-Hook, die Transaktionsgrenze dem pre_tool_call-Hook und die PII-Prüfung dem output-Hook zugeordnet. Die zugehörigen Rego-Module definieren die eigentliche Logik.
Mit Azure Resource Manager werden die Rego-Module und Richtlinien anschließend veröffentlicht. Dafür dienen ARM-PUT-Anfragen für raiRegos und raiPolicies. Die Ressourcen verknüpfen also nicht nur technische Dateien, sondern bilden die Verwaltungseinheit, über die Teams Regeln zentral bereitstellen und versionieren können.
Für die Zuordnung gibt es zwei Wege. Bei einer direkten Auswertung übergibt der Host die vollständige ARM-Ressourcen-ID der Richtlinie als policyId. Bei einer ressourcengebundenen Auswertung wird eine raiBindings-Ressource angelegt, die eine Zielressource mit einer benannten Richtlinie verknüpft. Der Host identifiziert die konkrete Ressource anschließend über targetResourceId.
Diese Trennung erlaubt eine zentrale Vorgabe und zugleich eine lokale Auswahl. Eine Bank kann beispielsweise global eine PII-Regel hinterlegen, während ein bestimmter Service über eine Bindung automatisch die passende Richtlinie erhält. Der Entwickler muss die Regel nicht in den eigenen Code kopieren.
Der Runtime-Aufruf endet mit einem überprüfbaren Ergebnis
Am konfigurierten Hook sendet der Agentenhost eine authentifizierte HTTP-POST-Anfrage an den Unified-Moderate-Endpunkt der Content-Safety-Ressource. Die Anfrage enthält die API-Version, die Kennung der Richtlinie und ein Bearer-Token für den Azure-Dienst. Der Body beschreibt das aktuelle Ereignis.
Dazu gehören der Hook-Typ, ein Zeitstempel, eine laufende Sequenznummer sowie Agenten- und Sitzungskennungen. Je nach Eingriffspunkt folgen konkrete Daten: die Kundennachricht, die vorgeschlagenen Argumente eines Werkzeugaufrufs oder die fertige Antwort. Das Zielfeld bestimmt, worauf sich die Richtlinie beziehen soll.
Für jede Prüfung wird ein eigenes Ereignis gesendet. Die Antwort enthält das Verdikt und den Receipt. Der Host sollte beides validieren, bevor er fortfährt. Er kann das Urteil umsetzen, die Aktion stoppen oder eine Transformation veranlassen und anschließend die Ausführung protokollieren.
HTTP 200 allein ist dabei keine inhaltliche Freigabe. Es signalisiert, dass die Anfrage erfolgreich bearbeitet wurde. Maßgeblich ist der zurückgegebene Entscheidungswert. Diese kleine technische Unterscheidung verhindert, dass ein Host ein erfolgreiches API-Ergebnis fälschlich als Erlaubnis interpretiert.
Praktische Bedeutung für die zentrale Steuerung von KI-Agenten
Agent Controls verfolgt einen nüchternen Ansatz für Runtime-Governance. Die Lösung zwingt Unternehmen nicht, ihre Agenten auf eine gemeinsame Plattform zu bringen. Sie führt die entscheidenden Prüfungen stattdessen an portablen Schnittstellen zusammen. Offene Standards und Azure-Ressourcen sollen dabei helfen, zentrale Vorgaben mit vorhandenen Frameworks und Laufzeitumgebungen zu verbinden.
Der größte praktische Nutzen liegt in der Trennung von Entwicklung und Kontrolle. Entwicklungsteams können Agenten mit den jeweils geeigneten Werkzeugen und Modellen bauen. Sicherheits- und Compliance-Teams definieren Regeln an einer zentralen Stelle, erhalten Entscheidungsbelege und können einheitliche Anforderungen über mehrere Anwendungen hinweg durchsetzen.
Die Lösung ist zugleich kein Zauberstab. Ihre Wirkung hängt von der Qualität der Regeln, der Unterstützung durch die Agentenhosts, der Konfiguration der Klassifikatoren und LLM-Prüfer sowie der konsequenten Umsetzung der zurückgegebenen Entscheidungen ab. Ein Policy-Receipt beweist zudem nur die geprüfte technische Aktion. Er ersetzt keine fachlich richtige Modellkonfiguration, keine saubere Datenschutzorganisation und keine Prüfung der tatsächlichen Werkzeugberechtigungen.
Für Unternehmen markiert Agent Controls dennoch einen wichtigen Reifegradsprung. Governance wird von der Frage, ob eine Richtlinie dokumentiert ist, zu der Frage, was unmittelbar vor einer konkreten Aktion passiert. Genau dort entsteht der Unterschied zwischen einem Agenten, der höflich sagt, was er beachten werde, und einem Agenten, dessen Verhalten technisch begrenzt und überprüfbar ist.
Quelle: commandline.microsoft.com
