Der Prototyp läuft. Die Produktion nicht.
Du hast eine Idee für eine KI-gestützte Anwendung. Ein paar Wochen später läuft der Prototyp gut – schnell, beeindruckend. Der Kunde ist zufrieden, das Team feiert. Doch dann schickst du das System in die echte Welt. Und plötzlich treten Probleme auf, die du nicht erwartet hast. Requests timeouten. Workflows verlieren ihren Zustand. Drittanbieter-APIs antworten nicht oder senden Müll. Im Prototyp war alles kontrolliert. In der Produktion wird es schwierig. Entwickler, die KI-Systeme in großem Maßstab betreiben, bestätigen: Die größte Hürde ist nicht die KI selbst. Es ist die Umgebung.
Die Illusion der einfachen KI
Liest du die Schlagzeilen, entsteht der Eindruck, KI sei ein Prompt, den man an ein Sprachmodell schickt, und dann läuft es. In der Praxis zählt Infrastruktur, Orchestrierung, Fehlermanagement und Zustandspersistenz über asynchrone Aufrufe hinweg. Ein Team baute ein Go-to-Market-Tool: eine Plattform, die Firmen bewertet, Leads anreichert und E-Mails verfasst. Klingt harmlos. In Wirklichkeit orchestriert das System Dutzende von Drittanbieter-APIs – CRM, Datenanbieter, E-Mail-Dienste. Jede hat eigene Limits, Fehlermodi, Timeouts. Fällt eine aus, darf der ganze Workflow nicht sterben. Der schlimmste Fehler: Den Zustand eines Workflows nur im Arbeitsspeicher zu halten – ein Serverneustart und alles ist weg.
Wie Orchestrierung zum Rettungsanker wird
Ohne Orchestrierung scheitern komplexe Workflows. Entwickler, die KI-basierte Prozesse ohne zuverlässige Orchestrierung bauen, brauchen ein System, das den Fortschritt dauerhaft speichert, automatische Wiederholungsversuche durchführt und Zustände über Stunden oder Tage nachhält. Lösungen wie Temporal – eine Workflow-Engine für langlaufende, fehlertolerante Prozesse – helfen dabei. Das beruht auf Erfahrungen mehrerer Teams, die ihre KI-Systeme damit in den Griff bekommen haben.
Fall 1: Cargo – das API-Orchester
Das erste Team, Cargo, hatte genau dieses Problem. Ihre Plattform orchestriert Anfragen an externe Dienste – Firmenbewertung, Lead-Anreicherung, E-Mail-Generierung. Jeder Dienst hat eigene Ratenlimits, Failover-Strategien und Antwortformate. Anfangs lösten sie das mit klassischen Job Queues: ein Job in die Warteschlange, ein Worker holt ihn ab. Das funktioniert nicht, sobald ein Job mehrere Schritte nacheinander umfasst. Wenn der zweite Schritt fehlschlägt, muss der ganze Job von vorne beginnen. Oder der Zustand geht verloren. Die Lösung war der Wechsel zu Temporal: Jeder Workflow wird als Code geschrieben, mit expliziten Schritten, Bedingungen und Fehlerbehandlungen. Aurelien Aubert, CEO von Cargo, beschreibt es so: „Unsere gesamte Orchestrierung basiert heute auf Temporal.“
Fall 2: Grepsr – Daten im Tsunami-Modus
Das zweite Team, Grepsr, baute ein Web-Scraping-System, das täglich über 600 Millionen Datensätze aus mehr als 10.000 Quellen verarbeitet. Millionen parallele Jobs. Traditionelle Job Queues wie RabbitMQ oder Celery sind dafür nicht ausgelegt. Sie verlieren Jobs bei Worker-Ausfällen, können keine langlaufenden Workflows mit Zwischenzuständen abbilden, das Monitoring wird aufwendig. Mit Temporal modellierten sie jeden Scraping-Job als Workflow – mit eigener ID, persistentem Zustand und definierten Fehlerstrategien. Subrat Basnet, Co-Founder von Grepsr, sagt: „Unsere Entwickler müssen sich nicht mehr um das Orchestrieren von Wiederholungsversuchen oder das Nachhalten des Job-Zustands kümmern. Sie konzentrieren sich auf das Wesentliche – bessere Datenerlebnisse für unsere Kunden zu bauen.“
Fall 3: Dust – KI-Teammitglieder, die funktionieren
Dust, ein Unternehmen für KI-gestützte „Teammitglieder“, hatte eine komplexere Aufgabe. Ihre KI-Agenten führen über 10 Millionen Workflow-Schritte pro Tag aus. Diese Schritte umfassen Entscheidungslogik, Kontextwechsel und Interaktionen mit verschiedenen KI-Modellen. Ohne robuste Orchestrierung – so der CTO – wäre ein Agent nicht mehr als ein Chatbot, der nach dem ersten Fehler aufgibt. Sie setzen auf Temporal und lernten: Zuverlässigkeit steckt nicht im KI-Modell, sondern in der Fähigkeit, einen Workflow nach Ausfällen kontrolliert fortzusetzen. Wenn ein KI-Aufruf fehlschlägt, muss der Workflow nicht von vorne beginnen. Er kann an der Stelle weitermachen, an der er unterbrochen wurde. Das erfordert eine Orchestrierungsplattform, die genau das leistet.
Warum der Kampf um die Zustandserhaltung entscheidend ist
Warum reicht es nicht, jeden Schritt in einer Datenbank zu protokollieren und bei Bedarf neu zu starten? KI-Workflows sind oft nicht linear. Sie verzweigen sich, rufen asynchrone Dienste auf, warten auf menschliche Rückmeldungen oder auf Ergebnisse anderer Workflows. Wenn ein Worker während eines solchen Prozesses abstürzt, muss der Zustand wiederherstellbar sein, ohne dass Logik verloren geht. In vielen Systemen wird der Zustand implizit durch den Call-Stack gehalten. Sobald der Prozess stirbt, ist dieser Zustand weg. Temporal löst das, indem es den Zustand jedes Workflows in einen dauerhaften Speicher schreibt – ähnlich wie ein Flugschreiber. Fällt ein Worker aus, übernimmt ein anderer exakt an der Stelle, an der der Workflow unterbrochen wurde. Das ist der Unterschied zwischen einem Prototyp unter Laborbedingungen und einem zuverlässigen Produktivsystem.
Was Entwickler daraus lernen können
Die drei Fallstudien zeigen ein Muster: KI in der Produktion ist kein Problem der KI, sondern der Orchestrierung, Zustandsverwaltung und Fehlertoleranz. Gute Modelle nützen nichts, wenn die Infrastruktur versagt. Abkürzungen gibt es nicht. Von Anfang an muss man Fehlerstrategien einplanen. Zustandspersistenz ist Kernanforderung, kein nachträglicher Einfall. Werkzeuge müssen für diese Herausforderungen entwickelt sein. Erfolgreiche Teams haben den Prototypen verworfen und eine robuste Architektur aufgebaut. Das ist Ingenieursarbeit.
Der Weg nach vorne – ohne Illusionen
KI wird bleiben und wachsen. Entwickler, die langfristig bestehen, verstehen: Ein KI-System ist mehr als ein Modell – es ist ein verteiltes System mit all seinen Tücken. Wenn du deine nächste KI-Anwendung baust, frag dich nicht nur, welches Modell du verwendest. Frag dich, wie dein System mit Timeouts umgeht, wie es verlorenen Zustand wiederherstellt, wie es tausende parallele Workflows orchestriert. Die Antworten entscheiden, ob dein System ein weiterer Prototyp bleibt, der unter realen Bedingungen zerbricht, oder ob es in der Produktion lebt. Diese Lektion ist wichtiger als jeder neue KI-Trend.
Quelle: temporal.io
