Stell dir vor, du leitest ein Team von Softwareentwicklern. Ihr habt einen Haufen automatisierter Tests, die nach jedem Commit laufen. Bisher hast du Skripte geschrieben, die Tests starten, Ergebnisse sammeln und Fehler melden. Jetzt kommt eine neue Technologie: agentic AI. Damit könnten diese Abläufe vollständig autonom von KI-Agenten gesteuert werden – von der Planung bis zur Fehlerbehebung. Klingt verlockend, oder? Aber sobald man tiefer gräbt, wird klar: Der Erfolg hängt nicht an einem besseren Sprachmodell. Er hängt an der gesamten Infrastruktur, die diese Agenten umgibt.
Intel hat das genau untersucht. In tausenden Experimenten mit agentischen KI-Workloads haben sie fünf praktische Lektionen extrahiert. Relevant für jeden, der agentic AI im Unternehmen produktiv einsetzen will. Intel hat nicht nur die reine Inferenzleistung gemessen, sondern das gesamte System – Orchestrierung, Datenzugriff, Tool-Ausführung und Skalierung. Die Ergebnisse sind eine Art Bauplan für die Enterprise-Umgebung von morgen.
Was ist agentic AI wirklich?
Agentic AI ist mehr als nur ein Chatbot mit Zugriff auf eine Datenbank. Es sind Software-Agenten, die eigenständig komplexe Geschäftsprozesse Ende-zu-Ende ausführen. Ein typischer Agent plant einen mehrstufigen Auftrag, ruft verschiedene Tools und APIs auf, liest Zwischenergebnisse und wiederholt Schritte, wenn etwas schiefgeht. Erinnert an einen virtuellen Kollegen, der nicht nur denkt, sondern handelt. Im Kern ist agentic AI eine Workflow-Automation auf KI-Basis – aber die meiste Zeit verbringt ein Agent nicht mit Denken, sondern mit Warten auf Antworten von Datenbanken, APIs und anderen Systemen. Genau das macht die Infrastruktur so entscheidend.
Die fünf Lektionen aus Intels Experimenten
1. Agentic AI ist ein Systemproblem, kein reines Inference-Problem
Die erste Erkenntnis: Die Performance eines Agenten hängt nicht allein von der Geschwindigkeit des Sprachmodells ab. Intels Experimente zeigten, dass die meiste Zeit für Orchestrierung, Datenzugriff und Tool-Ausführung draufgeht – das LLM ist nur ein Teil des Puzzles. Wer die Infrastruktur nur nach der Inferenzleistung optimiert, übersieht die Engpässe bei der Workflow-Ausführung. Stell dir einen Flughafen vor: Die beste Startbahn nützt nichts, wenn die Gepäckabfertigung oder die Sicherheitskontrollen stocken. Bei agentic AI muss die gesamte Kette stimmen.
2. Die meisten Benchmarks messen das Falsche
Gängige Metriken für agentic AI konzentrieren sich auf die Qualität des LLMs – etwa Genauigkeit oder BLEU-Scores. Für den Enterprise-Einsatz reicht das nicht. Intel schlägt sechs praxisrelevante Metriken vor: Task-Erfolgsrate, Kosten pro Aufgabe, Zeit pro Aufgabe, Durchsatz (Anzahl abgeschlossener Aufgaben pro Zeit), Agentendichte (Anzahl Agenten pro virtuellem CPU-Kern) und Latenz (insbesondere die 95. Perzentil-Latenz). Diese Kennzahlen beantworten Fragen, die ein IT-Leiter wirklich stellt: Läuft das System wie erwartet? Wie viele Agenten kann ich gleichzeitig betreiben? Wie muss ich skalieren, wenn die Last steigt?
3. Plane mit Agentendichte, nicht mit Agentenzahl
Eine praktische Lektion: Statt zu fragen „Wie viele Agenten passen auf einen Server?“, betrachte die Agentendichte – die Anzahl der Agenten pro virtuellem CPU-Kern (vCPU). Das ist wie bei einem Büro: Die reine Mitarbeiterzahl sagt wenig, wenn man nicht weiß, wie viel Platz und Equipment jeder benötigt. Ein System mit 8 vCPUs und 10 Agenten verhält sich ähnlich wie ein System mit 16 vCPUs und 20 Agenten, wenn die Dichte gleich ist. Die richtige Dichte hängt vom Einsatzzweck ab: Interaktive Assistenten (z.B. Chatbots) brauchen niedrige Dichte, weil schnelle Antworten wichtig sind. Batch-Workloads (z.B. automatisierte IT-Aufgaben) vertragen höhere Dichte. Das gibt Teams ein praktisches Werkzeug, um Kosten und Performance auszutarieren.
4. Überwache die Task-Latenz, nicht nur die CPU-Auslastung
Agenten arbeiten oft in Stößen: Sie warten auf eine Modellantwort, führen dann kurz intensive Berechnungen durch, warten wieder, und so weiter. Durchschnittliche CPU-Auslastung kann dabei völlig normal aussehen, selbst wenn die Wartezeiten die Nutzererfahrung ruinieren. Intel empfiehlt, die Task-Latenz im 95. Perzentil (P95) als Frühwarnsignal zu nutzen. Wenn die Latenz steigt, wissen Betreiber sofort, dass die Workflows in die Warteschleife geraten – noch bevor sich die durchschnittliche Bearbeitungszeit verschlechtert. Das ist wie bei einer Ampel: Die durchschnittliche Wartezeit aller Autos sagt wenig aus, wenn einzelne Fahrer ewig stehen. Die P95-Latenz zeigt dir die echten Staus.
5. Default zu Scale-out, nicht Scale-up
Die letzte Lektion betrifft die Skalierung. Scale-out bedeutet, mehr Server hinzuzufügen. Scale-up bedeutet, einen einzelnen Server mit mehr Kernen oder Arbeitsspeicher aufzurüsten. Intels Daten zeigen: Scale-out ist meist die bessere Wahl. Agenten sind halbunabhängig und verursachen nur moderate Lastspitzen – das passt perfekt zu vielen kleineren Systemen. Scale-out verbessert die Gesamtperformance, erhöht die Ausfallsicherheit und senkt oft die Kosten. Zudem lässt sich die gewünschte Agentendichte leichter einhalten. Scale-up sollte man nur dann einsetzen, wenn Agenten rechenintensive Bursts haben, wenn sie gemeinsamen Speicher benötigen oder Lizenzmodelle es vorgeben. Faustregel: Skaliere horizontal, es sei denn, du hast einen guten Grund dagegen.
Die drei Phasen des Aufbaus
Intel fasst die Erkenntnisse in drei Phasen zusammen, die Unternehmen bei der Einführung von agentic AI durchlaufen sollten. Zuerst planen: nicht die Anzahl der Agenten, sondern die Dichte pro vCPU bestimmen. Dann beobachten: mit P95-Latenz als Leitmetrik und nicht mit Durchschnittswerten. Und schließlich skalieren: standardmäßig horizontal wachsen, nur bei speziellen Anforderungen vertikal. Dieser Dreiklang gibt einen klaren Fahrplan für den Weg vom Pilotprojekt zur Produktion.
Wo entsteht der größte Business-Value?
Organisationen, die mit agentic AI bereits echte Ergebnisse erzielen, setzen es dort ein, wo es bereits codierte Regeln und messbare Service-Level gibt. Typische Beispiele: Code-Erstellung, Regression-Test-Farmen, Ticket-Triaging, Marktanalysen und Security-Reviews. Die ideale Persona für agentic AI ist nicht der experimentierfreudige Enthusiast, sondern der verantwortungsbewusste Manager, der Zykluszeiten verbessern, Produktivität steigern, Servicequalität schützen und Kosten kontrollieren muss. Agentic AI liefert dann Wert, wenn es echte Arbeit quer durch Teams, Systeme und Prozesse erledigt – zuverlässig und skalierbar.
Was bedeutet das konkret?
Wer heute in agentic AI investiert, sollte nicht nur auf ein besseres Sprachmodell hoffen. Der Erfolg steht und fällt mit der Infrastruktur: mit der Fähigkeit, Agenten zu orchestrieren, ihre Latenz zu überwachen, die Dichte zu planen und horizontal zu skalieren. Intels Experimente sind kein Marketing, sondern eine solide technische Richtschnur. Sie zeigen, dass die „magische“ KI vor allem harte Systemarbeit braucht – und dass die Prinzipien, die wir aus dem Betrieb verteilter Systeme kennen, auch für die Agenten-Welt gelten. Wer diese Lektionen ernst nimmt, wird agentic AI nicht als Hype, sondern als nächsten logischen Schritt der Automatisierung in sein Unternehmen integrieren.
Quelle: technologyreview.com
