Wie gut prognostizieren Foundation Models fremde Zeitreihen ohne Training? Mistral hat mit Timestral eine Modellfamilie für diese Frage veröffentlicht. Es ist die erste eigene Reihe von Zeitreihen-Foundation-Modellen des Unternehmens. Das größte Modell hat 209 Millionen Parameter und damit weniger als viele Konkurrenten, die es nach eigenen Angaben schlägt. Was steckt dahinter, und wo liegen die Grenzen?
Ein Mechaniker, der in vielen Werkstätten gearbeitet hat, erkennt an einer fremden Maschine schneller, was los ist, als jemand, der zum ersten Mal davorsteht. Er muss nicht jede Anlage neu kennenlernen, weil er Muster wiedererkennt. So arbeitet ein Zeitreihen-Foundation-Modell: Es hat auf einem großen, vielfältigen Korpus gelernt, wie Trends, Saisonalitäten und Störungen aussehen, und bringt dieses Vorwissen in eine Reihe mit, die es nie gesehen hat. Der Unterschied zu klassischen Verfahren liegt nicht in der Mathematik, sondern in der Erfahrung, die im Modell steckt, bevor es die erste Prognose abgibt.
ARIMA, PatchTST und Foundation Models im Vergleich
Für Prognosen von Sensordaten, Absatzmengen oder Lastprofilen kommen oft ARIMA und lineare Regression zum Einsatz. Beide werden an eine einzelne Zeitreihe angepasst und lernen nur aus deren Vergangenheit. Das ist robust und nachvollziehbar, aber jede Reihe startet bei null. Ein Modell für den Druck einer Pumpe weiß nichts über die Temperatur derselben Pumpe – und erst recht nichts über ähnliche Anlagen anderswo.
Deep-Learning-Modelle wie PatchTST lernen nichtlineare Muster über viele verwandte Reihen. In der Praxis werden sie aber meist pro Datensatz von Grund auf trainiert. Was ein Modell über Vibrationen in einem Kraftwerk gelernt hat, landet nicht automatisch im Modell für eine Produktionslinie. Hier setzen Zeitreihen-Foundation-Modelle an. Timestral ist Mistrals Einstieg in dieses Feld.
Das Prinzip ähnelt dem von Sprachmodellen: ein großes, vielfältiges Trainingskorpus und ein vortrainiertes Modell, das Muster über Domänen hinweg überträgt. Zero-Shot-Prognose heißt, dass das Modell auf Daten prognostiziert, die es nie gesehen hat – auch dort, wo Trainingsdaten knapp sind. Der Mechaniker von oben bringt seine Erfahrung mit, statt in jeder Werkstatt wieder bei null anzufangen.
Ergebnisse auf drei Benchmarks
Mistral hat Timestral auf drei öffentlichen Benchmarks für Prognosen geprüft: GIFT-Eval, TIME und fev-bench. Nach Angaben des Unternehmens liegt das größte Modell mit 209 Millionen Parametern auf allen drei Ranglisten vorn – unter den vortrainierten Zero-Shot-Modellen. In GIFT-Eval steht es an der Spitze von 83 Einträgen, in TIME unter 35, in fev-bench unter 37. Dieser Vorsprung entsteht mit zwei Dritteln der Parameter des bisherigen Stands der Technik.
Ein Detail geht in Ankündigungen oft unter: Die Ergebnisse stammen aus einem einzigen Checkpoint, ohne Ensembling. Mehrere Modelle zusammenzulegen bringt in Benchmarks oft ein paar Prozentpunkte, ist im Betrieb aber teuer. Alle fünf Metriken, über die GIFT-Eval und TIME berichten, liefert dieses eine Modell.
Solche Zahlen brauchen Einordnung. Es sind Angaben des Herstellers, die zur Prüfung bei den Leaderboards eingereicht wurden. Ein technischer Report mit vollständigen Ergebnissen soll folgen. Wer Benchmarks als Entscheidungsgrundlage nutzt, sollte die eigene Datenverteilung prüfen – dazu unten mehr.
Vier Modellgrößen und ihre Latenz
Timestral gibt es in vier Größen: 5, 28, 123 und 209 Millionen Parameter. Alle nutzen dieselbe Architektur und dasselbe Trainingsrezept, unterscheiden sich also nur im Umfang. Mistral spricht von einer Pareto-Front: Für jede Modellgröße prognostiziert nach eigener Angabe kein öffentliches Modell besser. Das 28-Millionen-Modell schlägt demnach Chronos-2, das etwa viermal größer ist, auf GIFT-Eval und TIME. Das 209-Millionen-Modell liegt vor TimesFM-3 und Falcon-2.0, obwohl es weniger Parameter hat.
Für den Praxiseinsatz zählt die Latenz. Timestral braucht bei der Inferenz keine GPU. Auf einer Server-CPU mit acht Threads dauert eine Tagesprognose aus drei Wochen 15-Minuten-Historie zehn Millisekunden mit dem 5-Millionen-Modell und 140 Millisekunden mit dem größten. Das 28-Millionen-Modell ist fünfmal schneller als das größte. Die 123-Millionen-Variante bleibt laut Mistral bis auf 0,2 Prozent an dessen Genauigkeit heran, bei drei Vierteln der Latenz. Wer im Minutentakt Tausende Sensoren auswertet, entscheidet nach solchen Zahlen, nicht nach Ranglistenplätzen.
Multivariate Prognosen, Quantile und Kovariaten
Mistral beschreibt einen industriellen Anwendungsfall: Eine Anlage mit Tausenden Sensoren liefert Vibration, Temperatur, Druck und Durchfluss. Diese Größen hängen voneinander ab. Steigt die Vibration, folgt oft eine Temperaturänderung, und der Druck reagiert mit. Eine multivariate Zeitreihenprognose modelliert verwandte Reihen gemeinsam und nutzt diese Abhängigkeiten, statt jeden Sensor isoliert zu betrachten. Timestral kann das.
Ein einzelner prognostizierter Wert sagt wenig darüber, wie sicher die Prognose ist. Timestral gibt 21 Quantile aus. Aus dieser Bandbreite lässt sich ablesen, wie weit die tatsächlichen Werte streuen könnten. Wartungsteams können Schwellen entsprechend setzen und nach Risiko planen statt nach einem Punktwert. Das ist der Unterschied zwischen „morgen um zehn steigt der Druck“ und „mit hoher Wahrscheinlichkeit liegt der Druck morgen um zehn zwischen diesen beiden Werten“.
Kovariaten sind Begleitgrößen. Kategorische Kovariaten wie Wochentag oder Maschinenzustand – laufend, im Leerlauf, in Wartung – lassen sich nicht sinnvoll als Zahlen kodieren, weil das eine Ordnung unterstellen würde, die sie nicht haben. Timestral nimmt sie direkt als Kategorien auf. Bekannte zukünftige Kovariaten stehen im Voraus fest: der Produktionsplan, eine geplante Abschaltung, die Wettervorhersage. Wer sie dem Modell mitgibt, bekommt eine geplante Lastspitze als erwartetes Ereignis statt als Alarm. Der Anlagenfahrer spart sich eine Fehlermeldung, die keine ist.
Technische Entscheidungen im Modell
Mistral nennt vier technische Beiträge, die der Report genauer beschreiben soll. Der erste betrifft den Prognosehorizont. Viele kausale Decoder maskieren während des Trainings die Werte, die vorhergesagt werden sollen. Diese Werte sehen dann aus wie fehlende Daten und gehen als Kontext für spätere Prognosen verloren. Timestral trennt beides: Die vollständige Historie bleibt in der Sequenz, und gelernte Forecast-Tokens lesen sie aus. Jeder beobachtete Wert dient gleichzeitig als Ziel und als Kontext; echte Lücken bleiben markiert. Trainingshorizont und Augmentierung mit fehlenden Daten lassen sich unabhängig einstellen. Mistral nennt das Decoupled Horizon Forecasting.
Der zweite Punkt ist die Kovariaten-Aufmerksamkeit. Jede Eingabereihe bekommt eine Rolle: Zielgröße, reine Vergangenheitskovariate oder bekannte Zukunftskovariate. Zukunftskovariaten sind über das ganze Fenster sichtbar, Zielgrößen bleiben kausal, und Information fließt nur von Kovariaten zu Zielgrößen. So kann das Modell einen Feiertagskalender oder eine Wettervorhersage nutzen, ohne die Zukunft der Zielreihe in die Prognose zu schmuggeln.
Der dritte Beitrag betrifft die Daten. Der Großteil des Trainingsmaterials war synthetisch. Zuerst wurden univariate Prozesse mit stimmigen zeitlichen Dynamiken erzeugt, inklusive Trends, Saisonalität und unterschiedlicher Rauschmuster. Ein multivariater Synthesizer fügte daraus Reihen zusammen und führte nichtlineare Abhängigkeiten zwischen den Prozessen ein. Der vierte Punkt ist das zweistufige Training: erst Vortraining auf rein synthetischen Daten mit einer Kontextlänge von 8192 Schritten, danach Nachtraining auf einer Mischung aus echten und synthetischen Daten mit viermal längerem Kontext. Die Zielfunktion ist ein Pinball-Loss über die 21 Quantile, also eine diskrete Annäherung an den CRPS.
Agenten, Forge und Anpassung
Ein Prognosemodell allein löst im Werk wenig. Mistral beschreibt Timestral als numerische Komponente, die in bestehende Monitoring-Pipelines passt oder mit den Sprachmodellen des Hauses zu multimodalen Agenten-Workflows verbunden wird. Im Beispiel der Anlage läuft Timestral kontinuierlich auf den Sensorströmen und erkennt Anomalien, sobald sie auftreten. Schlägt es bei einer Pumpe an, vergleicht ein Agent die Signale mit Einbettungen historischer Sensordaten und sucht ähnliche frühere Ausfälle. Sub-Agenten übernehmen die Ursachenanalyse und ziehen Wartungsprotokolle, Schichtbücher, Bedienernotizen, Handbücher und Messwerte verwandter Anlagen heran. Am Ende steht ein Diagnosevorschlag mit Belegen und nächsten Schritten – statt einer roten Warnleuchte.
Der zweite Teil ist die Anpassbarkeit. Öffentliche Benchmarks messen allgemeine Leistung. Produktionsdaten verhalten sich oft anders und verschieben sich mit der Zeit, wenn Märkte drehen, Equipment altert oder Nachfragemuster wandern. Timestral ist über Mistral Forge verfügbar, dieselbe Trainingspipeline, die Mistral für seine Sprachmodelle nutzt. Der Zero-Shot-Betrieb funktioniert sofort. Darüber hinaus sind Architekturerweiterungen wie domänenspezifische Kovariaten möglich, Fine-Tuning auf eigenen Daten, Kontrolle über die Trainingsmischung bis hin zum Wiedereinspielen von Vortrainingsdaten und synthetische Stichproben für die Ziel-Domäne. Die Pipeline lässt sich auf eigener Hardware betreiben, auch in abgeschotteten Umgebungen. Die Lizenz ist eine modifizierte MIT-Lizenz, der Kontext umfasst 32.768 Zeitschritte, ein Repository zum Ausprobieren steht bereit.
Zeitreihen-Foundation-Modelle sind kein Ersatz für ARIMA, sondern eine andere Arbeitsteilung. Klassische Verfahren bleiben die richtige Wahl, wenn eine einzelne Reihe mit klarer Struktur und viel Historie modelliert werden soll. Der neue Ansatz passt, wenn viele Reihen mit begrenzter Historie und wiederkehrenden Mustern betreut werden müssen. Wer heute mit bewährten Werkzeugen arbeitet, muss nicht wechseln. Wer Tausende Sensoren, Konten oder Lastprofile im Blick hat, sollte einen Testlauf auf den eigenen Daten machen – aussagekräftiger als jede Rangliste. Ein Modell mit 209 Millionen Parametern, das ohne GPU in Millisekunden probabilistische Prognosen liefert, ist praktisch nutzbar. Der Abgleich mit dem, was die Anlage tatsächlich tut, bleibt trotzdem nötig.
Quelle: mistral.ai
