Ein smartes Alarmsystem für Zuhause erkennt Eindringlinge, schaltet Kameras ein und informiert den Besitzer – aber dieser kann das System nicht verändern. Keine neuen Regeln, keine Patches, keine Analyse-Tools. Wenn das System den Besitzer selbst als Bedrohung einstuft und aussperrt, bleibt er machtlos. Genau das erlebte Hugging Face im letzten Jahr: Ein Sicherheitsvorfall zeigte die Grenzen geschlossener KI-Systeme.
KI-Agenten übernehmen mehr Aufgaben in Unternehmen, Behörden und kritischen Infrastrukturen. Ihre Sicherheit hängt nicht nur von geheimen oder offenen Modellgewichten ab, sondern vom gesamten Ökosystem: Identitäten, Berechtigungen, Zugriffssteuerung, Protokolle und Evaluierungen. Diese Komponenten nennen wir den „Agent-Stack“. Die Open Secure AI Alliance, eine Initiative unter dem Dach der Linux Foundation, baut auf Arbeiten von Akriti und der OpenSSF-Community auf.
Cybersicherheit funktioniert nicht ohne offene Modelle. Weder rein geschlossene noch rein offene Systeme sind die alleinige Lösung. Beide ergänzen sich. Aber für Verteidiger – Unternehmen, Regierungen, Sicherheitsteams – sind offene Modelle und Werkzeuge unverzichtbar. Sie erlauben Inspektion, Anpassung und Ausführung auf eigener Infrastruktur. Kein Extra, sondern eine Notwendigkeit, sobald Angriffe schnell und zielgerichtet erfolgen.
Der Hugging-Face-Vorfall zeigt das deutlich. Geschlossene KI-Tools konnten Angreifer und Verteidiger nicht unterscheiden. Sie blockierten die forensische Analyse. Also nutzte Hugging Face ein offenes Modell – GLM 5.2 – auf eigener Infrastruktur und analysierte über 17.000 Aktionen. Der Eindringling wurde identifiziert, der Schaden begrenzt. Ohne offenes Modell wäre das nicht möglich gewesen. Wer Werkzeuge nicht selbst kontrolliert, wird im entscheidenden Moment blind.
Die Open Secure AI Alliance vereint über 60 Partner aus Cloud, Cybersicherheit, Enterprise-Software, Open-Source-Stiftungen und KI-Forschung: NVIDIA, Microsoft, IBM, Red Hat, Hugging Face, CrowdStrike, Cloudflare, Databricks, Dell Technologies, Cisco, Palo Alto Networks, Salesforce und andere. Sie entwickeln offene Technologien und Werkzeuge für die Sicherheit von Software und KI-Agenten – ein Versuch, Standards für die KI-Abwehr zu etablieren.
Manche argumentieren, offene Modelle seien unsicher, weil Angreifer sie modifizieren könnten. Dieses Risiko existiert, aber geschlossene Systeme lösen es nicht. Entschlossene Angreifer finden Wege an leistungsstarke KI, selbst wenn Gewichte geheim sind. Die richtige Antwort: Offenheit mit starken Sicherheitsvorkehrungen paaren – Missbrauchsregeln, Evaluierungen, schnelle Fehlerbehebung. Sicherer ist der Pfad, der mehr Verteidigern erlaubt, Systeme zu testen und zu stärken.
Konkrete Projekte liefert die Allianz bereits. NVIDIA veröffentlicht das NOOA Framework (GitHub) zur Integration von Modellen in Agent-Harnesses. HPE trägt mit SPIFFE/SPIRE für vertrauenswürdige Identitäten bei. Hugging Face gab Safetensors an die PyTorch Foundation weiter – ein sicheres Speicherformat. IBM und Red Hat arbeiten an Lightwell für signierte Patches in der Lieferkette. Microsoft stellt MDASH bereit für Multi-Modell-Agenten-Scans. SpaceXAI veröffentlicht den Grok Build Agenten und Grok-Modellgewichte unter Open-Source-Lizenz.
Offene Sicherheitsinfrastruktur für KI ist kein abstraktes Konzept mehr. Sie wird gebaut, getestet, eingesetzt. Für Regulierungsbehörden ist das ein Signal. Viele Diskussionen über KI-Sicherheit fragen, ob man offene Modelle einschränken sollte. Die Allianz argumentiert gegenteilig: Offene Modelle, Harnesses und Sicherheitswerkzeuge sind defensive Vermögenswerte. Wer sie pauschal reglementiert, schwächt die Verteidigung und konzentriert Macht bei wenigen Anbietern. Das wäre ein strategischer Fehler.
Regierungen und Unternehmen sollten in gemeinsame offene Infrastrukturen investieren: Datensätze, Evaluierungsframeworks, Angriffssimulatoren, Red-Teaming-Tools. Ähnlich wie frühere Generationen in Open-Source-Software investierten. Diese Investition stärkt Cybersicherheit und erhält technologische Souveränität. Wer Werkzeuge nicht selbst kontrolliert, wird abhängig – keine tragfähige Strategie.
Die Allianz überzeugt: Die Zukunft der KI-Agenten kann shared security und resilience sein. Nicht durch Geheimhaltung allein, sondern durch Systeme, die Prüfung standhalten, flexibel verbessert werden, und offen genug sind, die Verteidiger-Community zu mobilisieren. Die Open Secure AI Alliance lädt Regierungen, Unternehmen und Forscher ein, sich anzuschließen. Die Sicherheit der KI-Ära wird im offenen Dialog gebaut.
Für Unternehmen, die KI einsetzen oder entwickeln, gibt es bald mehr vertrauenswürdige, offene Sicherheitslösungen. Für politisch oder regulatorisch Tätige gibt es ein datenbasiertes Argument gegen pauschale Verbote offener Modelle. Und für alle: Die Allianz zeigt, dass Sicherheit und Offenheit sich nicht ausschließen, sondern bedingen. Offene KI-Sicherheit ist nicht einfacher, aber die klügere Wahl.
Quelle: blogs.nvidia.com
