Ein KI-Chatbot schreibt fehlerfreien Code, löst Mathematik-Olympiaden und besteht Jurastudium-Examen. Doch wenn derselbe Agent deine Rechnungskontrolle automatisieren oder Kundentickets sortieren soll, braucht er nach zehn Schritten deine Hilfe. Das nennt man die „gezackte Grenze“ der KI – Fähigkeiten, die sich nicht gleichmäßig über alle Aufgaben verteilen. Während Coding-Agenten wie Claude Code oder Codex inzwischen echte Arbeit ohne menschliche Aufsicht erledigen, hinkt die Enterprise-Welt deutlich hinterher. Laut Stanfords KI-Index 2026 setzen nur einstellige Prozentzahlen aller Unternehmen KI-Agenten produktiv ein. Eine Studie von Stanford, Berkeley und IBM zeigt: 68 Prozent aller eingesetzten Agenten schaffen nicht mehr als zehn Schritte, bevor ein Mensch eingreifen muss. Woran liegt das? Die kurze Antwort: KI-Agenten zuverlässig zu machen, ist ein fundamental anderes Problem als die reine Fähigkeit eines Modells. Vier Faktoren erklären die Kluft: Varianz, Benchmark-Qualität, agentspezifische Fehler und Alignment. Die ersten beiden sind die größten Bremsklötze.
Das Varianz-Problem: Ein exponentielles Risiko
Stell dir vor, du baust ein Haus aus Karten. Jede Karte hat eine kleine Wahrscheinlichkeit, dass sie beim Auflegen verrutscht – sagen wir 10 Prozent. Eine einzelne Karte zu platzieren, ist kein Problem. Aber je höher der Turm wird, desto wahrscheinlicher kippt das Ganze irgendwann. Genau so funktioniert ein KI-Agent. Er führt nacheinander Schritte aus, um eine Aufgabe zu lösen: ein Dokument lesen, einen Datenbankeintrag abrufen, eine API aufrufen, eine E-Mail formulieren. Wenn jeder Schritt zu 90 Prozent klappt, gelingt eine 10-Schritte-Aufgabe nur noch zu 34 Prozent (0,9 hoch 10). Bei 20 Schritten sinkt die Erfolgsrate auf 12 Prozent, bei 30 Schritten auf 4,2 Prozent. Du kannst die Einzelschritt-Wahrscheinlichkeit auf 99 Prozent erhöhen – nach 30 Schritten bleiben nur noch 74 Prozent Gesamterfolg. Diese Rechnung vereinfacht die Realität, denn Fehler in einem Schritt verschlechtern den Kontext für alle folgenden Schritte. Andererseits können Agenten aus Fehlern lernen oder durch Absicherungen korrigiert werden. Aber das Grundprinzip bleibt: Je mehr Schritte, desto schneller bricht die Zuverlässigkeit ein. Dieses Phänomen nennt sich Intrarun-Varianz – die Unsicherheit innerhalb eines einzelnen Durchlaufs. Nun startet ein Agent eine Aufgabe nicht nur einmal, sondern hunderte Male. Die Varianz zwischen verschiedenen Durchläufen nennt sich Interrun-Varianz. Und hier zeigen Messungen ein ernüchterndes Bild.
Pass^k: Was dein Agent wirklich kann
Wie misst man Zuverlässigkeit? Zwei Kennzahlen helfen: pass@k und pass^k. Pass@k fragt: Wenn ich die Aufgabe k-mal ausführe, schafft es mindestens ein Versuch? Das ist die Obergrenze des Könnens – die beste Antwort, die ein Agent liefern kann. Pass^k fragt strenger: Wenn ich die Aufgabe k-mal ausführe, schafft sie jeder einzelne Versuch? Das ist die Untergrenze – die Zuverlässigkeit, auf die du in der Produktion zählen kannst. Ein Beispiel aus dem τ³-Benchmark (ein Branchenstandard für Kundenservice-Agenten): Das Modell gpt-5.2 erreicht pass^1 von 25,5 Prozent im Banking-Bereich. Bei pass^4 – also alle vier Versuche müssen bestehen – fällt das auf 13,4 Prozent. Teils fällt die Leistung auf die Hälfte. Und das beim modernsten Frontier-Modell. Die Grafik zeigt: Bei gpt-4o auf τ-bench liegt die Obergrenze bei etwa 95 Prozent, die Untergrenze bei etwa 30 Prozent. Der Agent könnte also fast alles lösen – aber nicht konsequent. Warum nicht einfach mehrmals laufen lassen und das beste Ergebnis nehmen? Bei Coding-Agenten funktioniert das, weil Tests dir sagen, ob der Code richtig ist. Aber bei den meisten Agentenaufgaben fehlt dieser automatische Beweis. Ein Kundenservice-Agent kann nicht viermal eine Rückerstattung veranlassen und dann die beste Lösung aussuchen – die Aktion wirkt in der Welt, und falsche Versuche haben echte Konsequenzen. Diese Varianz verzerrt auch deine Messung des Agenten. Ein einzelner Benchmark-Lauf ist wie ein einziger Wetterbericht: Er sagt dir wenig über das Klima. Damit zum nächsten Problem: den Datensätzen.
Wenn die Messlatte selbst schief ist
Scale AI wurde 2016 von Alexandr Wang und Lucy Guo gegründet – mit der Idee, dass Daten genauso wichtig sind wie Rechenleistung. Neun Jahre später ist das Unternehmen fast 30 Milliarden Dollar wert. Daten entscheiden über den Erfolg von KI-Systemen. Bei Agenten gilt das noch stärker, als man denkt. Selbst wenn du dein Modell nicht feinjustierst, trainierst du deinen Agenten durch dein Entwicklungsteam: Jede Prompt-Anpassung, jede Umstrukturierung des Workflows, jede Entscheidung, ein Experiment zu verwerfen, basiert auf dem Datensatz, den du zum Testen nutzt. Ein kaputter Datensatz führt zu kaputten Verbesserungen. Datensätze sind schwer sauber zu bekommen. Der τ-bench von Sierra – selbst ein Industriestandard – wurde zur verbesserten Version τ³ überarbeitet. Dabei mussten 53 von 164 Aufgaben korrigiert werden: über 30 Prozent wegen unmöglicher Bedingungen, widersprüchlicher Anweisungen oder falscher erwarteter Aktionen. WebArena, ein weiterer Benchmark, benötigte ähnliche Reparaturen. Nach der Korrektur sanken die Fehlalarme im Baseline-Agenten um 11 Prozent. Solche Fehler sind fatal: Wenn ein Drittel der Aufgaben falsch ist, kann ein korrekt arbeitender Agent schlechter abschneiden als einer, der zufällig die Fehler im Benchmark nachahmt. In der Praxis zeigt sich, dass Teams Monate damit verbringen, die falschen Zahlen zu optimieren – sie jagen Verbesserungen, die in der Produktion keine Wirkung zeigen.
Wie du trotzdem Zuverlässigkeit baust
Was also tun? Mess die Varianz explizit und erkenne sie an. Nutze pass^k als Kennzahl, nicht nur pass@k. Ein Agent, der eine Aufgabe in 90 Prozent der Fälle löst, ist anders zu bewerten als einer, der sie in 90 Prozent der Fälle einmal löst, wenn man ihm fünf Versuche gibt. Investiere in die Qualität deiner eigenen Evaluationsdaten. Ein Datensatz, der aus Produktionsdaten gespeist wird, muss kontinuierlich überprüft werden – nicht einmal bei der Erstellung. Implementiere Absicherungen und erlaube dem Agenten, Fehler zu erkennen und zu korrigieren. Ein Agent, der merkt, dass er eine falsche Annahme getroffen hat, und zurückfragt, ist zuverlässiger als einer, der stur weitermacht. Diese Probleme sind lösbar. Coding-Agenten zeigen den Weg: Sie haben klare, automatisch überprüfbare Ziele und Tests. Für allgemeine Aufgaben brauchen wir ähnlich klare Erfolgskriterien – und den Mut, Varianz nicht als Randerscheinung, sondern als Kernproblem zu behandeln.
Es geht nicht darum, KI-Agenten zu perfektionieren. Es geht darum, sie zuverlässig genug zu machen, um ihnen echte Verantwortung zu übertragen. Die Daten zeigen: Die Fähigkeit ist schon da – 95 Prozent der Probleme lassen sich mit dem richtigen Modell lösen. Was fehlt, ist Konsistenz. Und die erreichen wir nicht durch schlauere Modelle allein, sondern durch bessere Messung, bessere Daten und bessere Architektur. Das klingt unspektakulär – aber Vertrauen entsteht durch Nachweisbarkeit.
Quelle: jeremytian.substack.com
