KI-Agenten verbrauchen viele Tokens. Das wird teuer. Adam Jacob zeigt mit seinem Workflow „Swamp“, wie man den Verbrauch senkt – ohne Funktionseinbußen. Sein Ansatz ist eine Systemoptimierung, kein Hype.
Es ist ineffizient, KI für Aufgaben zu nutzen, die deterministisch lösbar sind. Swamp trennt das: Routinesachen erledigt deterministischer Code, knifflige Fälle das LLM.
Das Problem: Garfield und der teure Koordinator
Ausgangssituation ist ein Skill namens „Garfield“, entwickelt bei Sentry. Garfield prüft nach jeder Code-Änderung die Coding-Policy. Es ist intelligent, flexibel – und teuer. Eine typische Ausführung verbraucht etwa 4,5 Millionen Tokens, läuft 12 Minuten und setzt 23 Sub-Agenten ein. Das Herzstück ist ein Koordinator-Agent, der Sub-Agenten losschickt, Ergebnisse einsammelt und bewertet. Ein Loop aus nicht-deterministischen Entscheidungen, bewertet von einem ebenfalls nicht-deterministischen Koordinator. Ein ineffizienter Loop.
Garfield ist nicht schlecht, aber es nutzt das LLM für jeden Schritt. Viele Schritte – etwa das Prüfen von Mustern oder Konventionen – sind deterministisch lösbar. Sie brauchen kein LLM. Ein Parser oder Regex reicht. Das LLM dort einzusetzen ist teuer.
Die Lösung: Swamp – deterministische Koordination, gezielte Intelligenz
Adam Jacob entwickelte eine Erweiterung für sein Swamp-System, die den Garfield-Skill ersetzt. Statt eines Koordinator-Agenten organisiert deterministischer Code die Arbeit der Sub-Agenten. Diese werden nur gestartet, wenn wirklich Intelligenz gefragt ist – etwa bei Stil- oder Architekturbewertung. Die Ergebnisse jedes Sub-Agenten werden als versionierte, typisierte Daten gespeichert. Das schafft Transparenz und vermeidet teure Wiederholungen.
Das Ergebnis: Statt 4,5 Millionen Tokens werden nur noch rund 500.000 benötigt – eine Reduktion um den Faktor 8. Die Laufzeit sinkt von 12 auf 6,5 Minuten, die Anzahl der Agenten von 23 auf 3. Die Funktionalität bleibt identisch, inklusive einer zusätzlichen Risikobewertungsphase. Die Einsparung kommt daher, dass der koordinierende Overhead wegfällt. Der Koordinator war teuer, weil er non-deterministisch die Arbeit anderer non-deterministischer Prozesse bewertete. Swamp ersetzt ihn durch deterministische Logik.
Schritt für Schritt: Wie du selbst von Garfield zu Swamp wechselst
Eine Anleitung in fünf Schritten, um diesen Prozess nachzuvollziehen.
Schritt 0: Installation und Initialisierung
Installiere Swamp mit curl -fsSL https://swamp-club.com/install.sh | sh. Gehe ins Verzeichnis deiner Agenten und Skills und initialisiere: swamp repo init --tool codex. Der Parameter --tool gibt das Framework an.
Schritt 1: Verstehe das aktuelle Verhalten
Bevor du umbaust, verstehe genau, was der Skill tut. Adam Jacob las den Garfield-Skill von Hand und machte Notizen. Dann ließ er Codex den Skill analysieren und zusammenfassen – inklusive ASCII-Diagramme. So visualisierte er das Zusammenspiel von Koordinator und Sub-Agenten. Auch wenn du den Skill selbst geschrieben hast, lohnt eine zweite Meinung, um blinde Flecken zu vermeiden.
Schritt 2: Übersetze den Skill in eine Swamp-Erweiterung
Bitte einen Agenten – Codex oder Claude –, den Skill in eine Swamp-Workflow-Erweiterung zu übersetzen. Die Anweisung: „Übersetze den Garfield-Skill in eine Swamp-Erweiterung. Ziel ist, das Verhalten direkt in deterministischen Code zu übertragen. Beginne mit einem Plan, den ich prüfen kann.“ Wenn du Swamp noch nicht kennst, wirst du die Details vielleicht nicht sofort beurteilen können. Wichtig ist, dass der Plan die gewünschten Ergebnisse abbildet. Sobald der Plan steht, lass den Agenten implementieren und teste manuell.
Schritt 3: Black-Box-Testing und Messung
Ein nützlicher Test für KI-generierten Code ist der Black-Box-Abnahmetest. Er gibt eine wiederholbare Methode für Verbesserungen und Regressionstests. Führe ihn in einem separaten Agentenkontext durch. Bitte den Agenten, einen Test zu schreiben, der alten Skill und neuen Swamp-Workflow ausführt und Token-Verbrauch, Ausführungszeit und Erfolgsquote misst. Der Agent erstellt dann eine Benchmarking-Suite, erzeugt eine Test-Codebase und führt die Tests durch. Die Ergebnisse sind aufschlussreich.
Adam Jacob maß zwei Testfälle. „contained-dry-run“ bestand: Garfield in 12,8 Minuten und 4,6 Millionen Tokens, Swamp in 6,6 Minuten und 506.000 Tokens. „payment-idempotency“ scheiterte in beiden Varianten – aber anders. Garfield scheiterte offen: es erklärte die Arbeit fälschlich für erfolgreich. Swamp scheiterte geschlossen: es meldete, die maximale Anzahl von Agenten sei erreicht. Das ist ein Vorteil deterministischer Systeme: Fehler werden gemeldet, nicht vertuscht.
Schritt 4: Refaktorisieren und Verfeinern
Die Messungen zeigen Optimierungsbedarf. Bei Garfield würde Adam Jacob die Fälle angehen, in denen der Workflow aufgibt, bevor alle Probleme gelöst sind. Er würde weitere Testfälle hinzufügen und prüfen, ob der Workflow mit größeren Änderungen zurechtkommt. Der Vorteil von Swamp: Änderungen sind einfach, weil der Workflow aus deterministischem Code besteht. Du misst, refaktorisierst, misst wieder – bis die Performance stimmt. Ein Kreislauf, den jeder Entwickler kennt.
Warum Swamp funktioniert – die Logik dahinter
Swamp ist effektiv, weil es deterministische Logik und KI-Intelligenz trennt. Statt das LLM in den heißen Pfad jeder Entscheidung zu stellen, erledigt deterministischer Code die meiste Arbeit – billig, schnell und vorhersagbar. Das LLM wird nur eingeschaltet, wenn es wirklich gebraucht wird. Das reduziert den Token-Verbrauch drastisch, ohne die Qualität zu beeinträchtigen. Weil die deterministischen Teile zuverlässig sind und die KI nur punktuell eingesetzt wird, sinkt auch die Fehlerrate. Der Workflow wird robuster.
Adam Jacob sagt: „Du nutzt den Agenten, um das Programm zu bauen, das die Notwendigkeit des Agenten minimiert.“ Das ist die Idee. Statt dem LLM jede Mikroentscheidung zu überlassen, erstellst du ein adaptives Modell des Problems. Die versionierten, typisierten Daten geben dir Transparenz über jeden Schritt. Du siehst, was die Sub-Agenten produziert haben, und kannst eingreifen. Das ist günstiger und kontrollierbarer.
Fazit: Ein pragmatischer Weg zu günstigeren KI-Workflows
Garfield und Swamp zeigen: Hohe Token-Kosten sind oft selbst verursacht. Wir neigen dazu, KI für Aufgaben zu verwenden, die einfacher Code erledigt. Adam Jacobs Ansatz kombiniert die Stärken beider Welten: deterministische Logik für das, was Computer schon immer konnten, und KI für das, was nur ein Modell leistet. Die Ergebnisse: achtmal weniger Tokens, doppelt so schnell, bessere Fehlermeldungen. Für Teams in der Produktion ist das eine effektive Optimierung und solide Systemarchitektur.
Quelle: adamhjk.com
