Ein persönlicher Assistent, der Termine plant, E-Mails liest und Buchungen vornimmt. Das sind KI-Agenten: Systeme auf Basis großer Sprachmodelle, ausgestattet mit Werkzeugen, Gedächtnis und Entscheidungsfähigkeiten. Diese Macht birgt Risiken. China hat einen neuen Cybersicherheitsstandard veröffentlicht, der diese Risiken adressiert. Regulierungsbehörden betrachten KI-Agenten nicht mehr als einfache Software-Add-ons, sondern als eigenständige Systeme mit gravierenden Sicherheitsimplikationen.
Der Standard des chinesischen Nationalen Komitees für Informationssicherheitsstandardisierung (TC260) legt einen lebenszyklusbasierten Sicherheitsrahmen fest. Vor dem Einsatz muss eine Sicherheitsbewertung erfolgen. Dann folgen Härtung vor der Bereitstellung, strenge Zugriffskontrollen während des Betriebs und vollständige Datenlöschung bei der Außerbetriebnahme.
Konkret nennen die Leitlinien sechs praktische Sicherheitsanforderungen: Integrität und Vertrauenswürdigkeit von Software- und Modellquellen, Durchsetzung des Prinzips der geringsten Privilegien (least privilege), Minimierung der Netzwerkexposition, umfassende Audit-Logs über alle Aktivitäten, Kontrolle hochriskante Operationen und besonderer Schutz sensibler Daten sowie Langzeitspeicher. Diese Maßnahmen sind für Unternehmen in China verpflichtend.
Das Papier zeigt einen Perspektivwechsel. Bisher galten KI-Agenten als leichte Anwendungsschicht auf großen Sprachmodellen – Code, der die API eines LLMs aufruft und Tools integriert. Die chinesischen Regulierer sehen sie als integrierte Systeme, die Gedächtnis, Werkzeugnutzung, autonome Entscheidungsfindung und Betriebsberechtigungen kombinieren. Diese Kombination schafft neue Sicherheitsrisiken, die eine eigene Governance erfordern.
Parallel dazu hat die chinesische Internetverwaltung zusammen mit vier anderen Regierungsbehörden die Interim Measures for the Administration of Anthropomorphic AI Interaction Services erlassen, in Kraft am 15. Juli 2026. Plattformen wie Doubao und Tongyi Qianwen haben Nutzer informiert, dass bestimmte KI-Agent-Funktionen eingestellt werden. Laut Medienberichten handelt es sich um eine allgemeine Compliance-Kampagne, die anthropomorphe KI-Dienste und nutzergenerierte KI-Agenten in den neuen regulatorischen Rahmen einpasst.
China will KI-Agenten nicht verbieten, sondern granular regulieren. Große Plattformen sollen Produkte mit unscharfen regulatorischen Grenzen vor Inkrafttreten anpassen. Unternehmen müssen ihre Systeme jetzt prüfen. Wer die sechs Sicherheitsanforderungen nicht erfüllt, bekommt früher oder später Probleme.
Der Standard definiert einen Agenten als „intelligentes System mit autonomer Wahrnehmung, Gedächtnis, Entscheidungsfindung, Interaktion und Ausführung“. Anwendungsbereich sind persönliche Assistenten, die relativ hohe Berechtigungen vom Nutzer erhalten. Genau diese Szenarien können maximalen Schaden durch Sicherheitslücken verursachen.
Der Lebenszyklus wird in fünf Phasen unterteilt: Bewertung, Vorbereitung, Bereitstellung, Nutzung und Außerbetriebnahme. In der Bewertung prüft der Nutzer die Notwendigkeit eines Agenten. In der Vorbereitung müssen Installationsmaterialien aus vertrauenswürdigen Quellen stammen und in isolierter Umgebung laufen – auf einem dedizierten Gerät oder in einer virtuellen Maschine mit strengen Zugriffsbeschränkungen. Vor der Installation soll der Nutzer sensible Daten vom Gerät entfernen oder migrieren. Ein KI-Agent, der auf private Dateien zugreift, ist ein hohes Risiko.
In der Bereitstellung sind Berechtigungsmanagement, Netzwerkkontrolle und Datenkennzeichnung umzusetzen. Der Agent erhält nur Minimalrechte und öffnet keine öffentlichen Netzwerkschnittstellen automatisch. Während der Nutzung müssen Audit-Logs aktiv sein, hochriskante Operationen wie Dateilöschung bestätigt und sensible Daten verschlüsselt werden. Bei Außerbetriebnahme folgt die vollständige Löschung von Gedächtnis, temporären Dateien und Modellparametern.
China nimmt die Sicherheit von KI-Agenten ernst. Ein Agent mit Zugriff auf E-Mail und Kalender kann zum Spionagewerkzeug werden. Die Regulierung gibt Entwicklern und Nutzern Leitlinien mit technischen und organisatorischen Maßnahmen. Unternehmen müssen Sicherheitsmanagementsysteme etablieren und die erforderlichen Sicherheitsfähigkeiten bereitstellen.
Der Standard signalisiert, dass KI-Agenten nicht mehr als unbedenkliche Spielerei gelten. Er zeigt eine durchdachte Regulierung, die nicht als Innovationsbremse wirkt, sondern als Sicherheitsnetz. Die sechs Sicherheitsanforderungen sind universell anwendbar. Der Lebenszyklusansatz ist aus der IT-Sicherheit bewährt. Das chinesische Papier kann als Blaupause für andere Länder dienen.
Die Regulierung ist kein Grund zur Panik. Sie zeigt, dass KI-Agenten erwachsen werden. Entwickler müssen mehr in Sicherheitsprüfung investieren, erhalten aber die Chance, vertrauenswürdige Produkte zu bauen. Nutzer können ihren digitalen Assistenten vertrauen, wenn sie die Sicherheitsempfehlungen befolgen. Die Branche macht einen wichtigen Schritt zur sicheren Integration in den Alltag.
Quelle: geopolitechs.org
