Bei LFM3-1.7B reichen 1,6 Gigabyte Arbeitsspeicher, um einen Kontext von 128.000 Tokens im KV-Cache zu halten. Qwen3.5-4B braucht dafür 4,3 Gigabyte, MiniCPM5-2B 5,6. Darum geht es bei der neuen Modellfamilie von Liquid AI: nicht um das größte Modell, sondern um eines, das mit wenig Speicher auskommt und eine spezialisierte Aufgabe zuverlässig löst. Ob ein Modell auf einem Laptop, einem Raspberry Pi oder einem Telefon läuft, hängt vor allem von diesem Speicherbedarf ab.
LFM3 ist die dritte Generation der Liquid Foundation Models. Die Familie umfasst Text-, Vision-, Audio-, Omni- und Decision-Modelle. Alle bauen auf einem gemeinsamen Backbone auf und liegen bei rund zwei Milliarden Parametern. Basis- und nachtrainierte Modelle sind als Open Weights verfügbar, auf Hugging Face, im Playground von Liquid AI und über die Liquid-API. Die Modelle teilen also denselben Aufbau; unterschiedlich ist der Aufsatz für die jeweilige Aufgabe.
Drei Operatoren in 24 Schichten: die Hybrid-Architektur
Bei LFM2 zeigte sich schon, dass kurze Faltungen zusammen mit Attention auf Geräten schnell laufen, ohne viel Qualität zu verlieren. Für LFM3 hat Liquid AI die Architektursuche ausgeweitet. Statt einer Telefon- und einer Laptop-Konfiguration flossen 14 Geräte- und Backend-Kombinationen ein: Samsung Galaxy S26 Ultra, OnePlus 15, Raspberry Pi 5, Apple M4 Max, AMD Ryzen AI, Arm- und x86-Cloud-CPUs, GPUs und die Qualcomm Hexagon NPU. Die Suche ist damit nicht auf ein Referenzsystem beschränkt, sondern deckt Hardware ab, die Entwickler tatsächlich einsetzen.
Das Ergebnis ist ein Tri-Hybrid aus drei Operatoren. Von den 24 Schichten sind 13 gated short convolutions, also kurze Faltungen mit Gate; fünf sind Sliding-Window-Attention mit einem Fenster von 256 Tokens, sechs globale Attention. Die Faltungen nutzen eine Kernelgröße von 7 statt 3 wie bei LFM2. Sie stellen weiterhin mehr als die Hälfte der Schichten, weil sie günstig zu rechnen sind. Die Sliding-Window-Attention ergänzt sie dort, wo mehr Ausdrucksstärke nötig war, ohne lange Kontexte zu bremsen. Was keinen messbaren Qualitätsgewinn brachte oder spürbar Geschwindigkeit kostete, hat Liquid AI verworfen.
Einige Details wirken im Betrieb stärker, als ihre Namen vermuten lassen. Head-wise gated attention skaliert die Ausgabe jedes Attention-Kopfes mit einem Sigmoid-Gate. Ein Kopf kann sich so abschalten, wenn er nichts beiträgt; das dämpft Ausreißer in den Aktivierungen, die Quantisierung erschweren, und stabilisiert das Training. Partial RoPE rotiert in den globalen Attention-Schichten nur die höchste Frequenzhälfte jedes Kopfes. Die niederfrequente Hälfte bleibt unrotiert und wird dadurch distanzunabhängig. Sandwich-Norm normalisiert Ein- und Ausgang jedes Blocks. Das Vokabular von 128.000 Tokens teilt LFM3 mit LFM2.5-8B-A1B und ist auf nicht-lateinische Schriftsysteme ausgelegt.
Der Vorteil zeigt sich bei langen Eingaben. Pro Parameter erreicht LFM3-1.7B auf kurzen Prompts dieselbe Qualität wie LFM2-1.2B. Bei 8.000 Tokens Kontext ist es rund 25 Prozent schneller. Auf dem Datenblatt klingt das unspektakulär; im Alltag entscheidet es, ob ein Agent eine Mail mit langem Verlauf in zwei oder in fünf Sekunden zusammenfasst.
22 Billionen Tokens Vortraining und ein Basis-Modell als Grundlage
LFM3-1.7B-Base wurde auf 22 Billionen Tokens vortrainiert. Verglichen mit LFM2 enthält die Mischung mehr wissenschaftliche Paper, Code auf Repository-Ebene, mehr Wissensquellen und deutlich mehr Mathematik. Die letzten 3,5 Billionen Tokens bilden eine Mid-Training-Phase mit kuratierten, höherwertigen Daten. Dort liegt der Schwerpunkt auf Agenten-Spuren und vielfältigen Tool-Aufrufen. In derselben Phase wächst das Kontextfenster auf 256.000 Tokens.
Auf diesem Backbone setzen sechs Modelle auf, alle mit rund zwei Milliarden Parametern. Vier decken unterschiedliche Eingabemodalitäten ab – Text, Vision, Audio und Omni. Die letzten beiden sind Decision-Modelle, die aus dem Vision- und dem Omni-Modell hervorgegangen sind. Statt ein großes Allzweckmodell zu betreiben, wählst du das Modell für deinen Anwendungsfall, passt es per Fine-Tuning an und führst es lokal aus. Der Aufbau bleibt gleich, nur der Aufsatz wechselt.
LFM3-1.7B ist das Textmodell. Es ist auf Agenten in lokalen Umgebungen ausgelegt und hat ein Kontextfenster von 256.000 Tokens. Laut Liquid AI läuft es in Harnesses wie Hermes Agent, Pi und OpenClaw. Es kann Postfächer vorsortieren, Kalender verwalten, im Web recherchieren oder per Tool-Suche das passende Werkzeug aus Tausenden Optionen finden. Lokal erzeugte Tokens kosten nichts, deshalb lassen sich Dutzende Agenten dauerhaft im Hintergrund betreiben. Für eigene Domänen, Harnesses und Werkzeuge genügt laut Unternehmen ein kurzer Fine-Tuning-Lauf auf einer einzelnen GPU. LFM3-VL-2B nimmt als erstes Vision-Modell von Liquid auch Video als Eingabe, denkt Schritt für Schritt vor der Antwort und lokalisiert Objekte samt räumlicher Beziehungen – eine Grundlage für nachgelagerte Robotik-Anwendungen.
Was die Benchmarkzahlen über Agenten und Tool-Nutzung sagen
Die veröffentlichten Werte zeigen Stärken und Grenzen. In der Durchschnittszeile über alle gelisteten Aufgaben kommt LFM3-1.7B auf 49,37 Punkte, Qwen3.5-9B auf 47,24 – bei weniger als einem Fünftel der Parameter. Bei der Tool-Nutzung liegt LFM3 vorn: 71,39 auf BFCL V4, 80,36 auf ToolSandbox, 68,01 auf τ³-bench. In der Instruktionsbefolgung erreicht es 96,66 bei IFEval und 73,03 bei IFBench. Bei WebArena-Verified sind es 38,42 Punkte gegenüber 28,94 bei Qwen3.5-9B.
Wo Größe zählt, verliert das kleine Modell erwartungsgemäß. Beim agentischen Programmieren liegt es bei SWE-bench Verified mit 43,40 hinter Qwen3.5-9B mit 51,20. Beim Wissen fällt der Abstand deutlich aus: 63,37 auf GPQA Diamond gegen 80,40. Anders beim Umgang mit Unsicherheit: Bei AA-Omniscience erreicht LFM3-1.7B nur 7,07 Prozent Genauigkeit, aber 92,93 Prozent Nicht-Halluzination. Das Modell antwortet also häufig mit „weiß ich nicht“, statt zu raten. Mit Tool-Zugriff verdoppelt sich der Wert auf Humanity’s Last Exam nahezu, von 7,17 auf 13,90. Suche schließt die Wissenslücke teilweise, nicht vollständig.
Auf der Geräteseite messen die Entwickler mit llama.cpp bei Q4_0 und 32.000 Tokens Kontext. LFM3-1.7B dekodiert dort 1,8- bis 2,8-mal schneller als das jeweils nächstbeste Modell und belegt den wenigsten Speicher. Auf einem einzelnen NVIDIA B300 mit SGLang in BF16 sind bei 1.024 gleichzeitigen Anfragen 3,6 Milliarden Tokens pro Tag möglich. Liquid AI ließ über 300.000 Instanzen parallel das Enron-Mailarchiv untersuchen. Auch Partner äußern sich: AMD verweist auf AI-PCs mit Ryzen-AI-Prozessoren, Ambarella auf Edge-Systeme mit begrenztem Strom- und Speicherbudget, Qualcomm auf Snapdragon-Geräte. MacPaw berichtet von einem Test mit 65 Alltagsaufgaben in echten macOS-Umgebungen. LFM3-1.7B erreichte dort 64 Prozent Erfolgsquote gegen 48 Prozent bei Qwen3.5-2B, brauchte 58 Prozent weniger Tokens pro Aufgabe und blieb in unter einem Prozent der Versuche hängen statt in 15 Prozent.
Vom Basismodell zum Spezialisten: lokal fine-tunen und ausführen
Specialized Intelligence ist kein Marketingbegriff, sondern beschreibt eine Arbeitsteilung. Ein Modell mit zwei Milliarden Parametern deckt kein Weltwissen aus dem Stand ab. Es kann aber ein enger Experte für eine Aufgabe werden, wenn man es mit den richtigen Daten nachtrainiert. Dafür ist die Größe gewählt: klein genug für eine einzelne GPU, groß genug für mehr als eine oberflächliche Anpassung. Wer ein Modell mit 70 Milliarden Parametern für eine Klassifikationsaufgabe einsetzt, bezahlt Rechenzeit für Fähigkeiten, die er nie abruft.
Bei LFM3 folgt der Weg vier Stufen. Zuerst Supervised Fine-Tuning mit 1,75 Billionen Tokens über Chat, Reasoning, Tool-Aufrufe und Agenten-Spuren. Danach gemischtes Reinforcement Learning über viele Domänen gleichzeitig, von Mathematik über Code bis SQL, mit einer Längenstrafe im Reward, die knappe Antworten belohnt. Anschließend destillieren sechs spezialisierte RL-Lehrer – Code, Mathematik, Tool-Nutzung, langer Kontext, agentische Arbeit, Unternehmensworkflows – ihr Können per Multi-Domain On-Policy Distillation zurück in ein einziges Modell. Zum Schluss läuft Agentic RL in echten Harnesses, von Webbrowsing bis Büroarbeit. Wer selbst nachtrainiert, findet in dieser Kette eine Vorlage für die eigene Datenmischung.
In der Praxis lädst du die Gewichte von Hugging Face, richtest eine kleine Trainingspipeline mit deinen Domänendaten ein und prüfst auf deiner Zielhardware, ob Latenz und Speicherbedarf noch passen. Ein Fine-Tuning-Lauf verändert das Modell stärker als jeder Prompt. Er verändert aber auch, was das Modell zuvor konnte – deshalb solltest du einen Teil der ursprünglichen Fähigkeiten als Regressionstest mitmessen. Die Dokumentation von Liquid AI deckt Ausführen und Fine-Tuning lokal ab; die Modellkarten enthalten die Detailergebnisse.
Wo die Grenzen liegen und was das konkret bedeutet
Die offensichtlichste Einschränkung ist die Größe. Wissen, mehrstufiges Programmieren und Aufgaben mit hoher Ambiguität bleiben Sache der großen Modelle; daran ändern zwei Milliarden Parameter nichts. Ein Teil der Benchmarkzahlen stammt zudem aus dem eigenen Haus. Der Ankündigungsartikel bricht in der Vision-Sektion mitten im Satz ab. Dort fehlen die vollständigen Vergleichswerte der 62 Vision-Benchmarks, auch wenn von mindestens 7,4 Punkten Vorsprung gegenüber Modellen ähnlicher Größe die Rede ist. Wer plant, sollte die Modellkarten und einen eigenen Test auf den realen Daten heranziehen, nicht die Zusammenfassung.
Hinter LFM3 steht eine Verschiebung. Ein Modell, das 3,6 Milliarden Tokens pro Tag auf einer einzelnen GPU erzeugt und bei 128.000 Tokens Kontext nur 1,6 Gigabyte Cache belegt, macht Dinge wirtschaftlich, die vor zwei Jahren niemand kalkuliert hätte: hunderte Agenten, die parallel ein Archiv durchsuchen, oder eine Betrugserkennung, die im laufenden Betrieb mit stabiler P95-Latenz antwortet. Die Rechnung verschiebt sich von „Was kann das Modell?“ zu „Wie viele Instanzen kann ich dauerhaft bezahlen?“.
Für dich als Entwickler folgt daraus eine nüchterne Konsequenz: Der erste Schritt ist nicht mehr die Frage nach dem stärksten Modell, sondern nach dem kleinsten, das deine Aufgabe zuverlässig löst. LFM3 bietet dafür einen Baukasten mit einheitlichem Aufbau – Text, Bild, Ton, Entscheidung –, offene Gewichte und einen Fine-Tuning-Pfad, der auf einer GPU beginnt. Ob dein Anwendungsfall davon profitiert, entscheidet sich nicht im Benchmark-Vergleich. Es entscheidet sich, wenn du das Modell auf dem Gerät laufen lässt, auf dem es später arbeiten soll.
Quelle: liquid.ai
