Ein Modell taucht ohne Herstellerangabe bei einem Marktplatz auf, wird tagelang herumgereicht und sorgt für Rätselraten – dann stellt es sich als das nächste Open-Source-Release eines chinesischen Labors heraus. So ist es GLM-5.3-Flash ergangen.
Z.ai Co. hat das Modell Ende August 2026 veröffentlicht. Zuvor lief es unter dem Codenamen Ox Alpha bei OpenRouter, ohne dass ein Hersteller genannt wurde. Nun gibt Z.ai die Gewichte frei – sie stehen auf der Plattform Hugging Face zum Download bereit. Damit lässt sich das Modell auf eigener Infrastruktur betreiben, anpassen und weitertrainieren.
Frei verfügbar ist nicht das einzige Besondere an GLM-5.3-Flash. Vor allem die Technik überzeugt: Nach Angaben von Z.ai läuft das Modell zehnmal kostengünstiger als sein Vorgänger – ohne Qualitätseinbußen. Möglich machen das mehrere Umbauten an der Architektur, die sich einzeln nachvollziehen lassen.
Vom anonymen Debüt zum Open-Source-Release
Die Geschichte von GLM-5.3-Flash beginnt mit einem Rätsel. OpenRouter, ein Dienst, über den Entwickler verschiedene KI-Modelle nutzen können, veröffentlichte Ende August eine kostenlose, gehostete Version eines Modells namens Ox Alpha. Eine Herstellerangabe fehlte. Genau diese Lücke weckte Neugier: Ein leistungsfähiges Modell, von dem niemand weiß, wer es gebaut hat und wohin die Eingaben fließen, zieht Aufmerksamkeit auf sich. Vor allem als Coding-Modell machte Ox Alpha in der Branche von sich reden – und genau die offene Frage, wohin der eingegebene Code fließt, sorgte für zusätzliche Brisanz.
In Foren und auf Social-Media-Plattformen tippten Nutzer schnell auf Z.ai, das chinesische Unternehmen hinter der GLM-Modellfamilie. Die Hinweise verdichteten sich, bis Z.ai schließlich bestätigte, was viele bereits vermutet hatten. Das Modell trägt nun den Namen GLM-5.3-Flash, und mit dem offiziellen Release endete die Anonymität: Z.ai stellte nicht nur den Namen klar, sondern legte auch den Code und die Gewichte offen.
Für Entwickler ändert das die Ausgangslage grundlegend. Wer Ox Alpha über OpenRouter ausprobierte, nutzte einen gehosteten Dienst mit unbekanntem Betreiber. Jetzt lässt sich dasselbe Modell von Hugging Face herunterladen und auf eigener Hardware betreiben. Dann bist du weder von kommerziellen APIs abhängig noch musst du dir Gedanken machen, wo deine Daten landen.
320 Milliarden Parameter, eine Million Tokens Kontext
GLM-5.3-Flash hat eine Mixture-of-Experts-Architektur mit 320 Milliarden Parametern. Das klingt riesig – und ist es auch. Entscheidend ist aber: Nicht alle Parameter arbeiten gleichzeitig. Bei jeder Antwort werden nur 18 Milliarden aktiviert. Das Modell verhält sich im Betrieb also eher wie ein deutlich kleineres Modell mit 18 Milliarden Parametern, greift aber je nach Aufgabe auf unterschiedliche Teile seines Parametervorrats zurück – daher der Name: eine Mischung aus Experten, von denen pro Anfrage nur die passenden zum Einsatz kommen.
Bemerkenswert ist auch das Kontextfenster. Eine Anfrage darf bis zu eine Million Tokens umfassen, und zwar nicht nur Text: Auch Bilder und Videos kann das Modell als Eingabe verarbeiten. Zur Einordnung: Tokens sind die Bausteine, in die ein Modell eine Eingabe zerlegt; eine Million davon entspricht grob mehreren dicken Büchern. Die Antworten von GLM-5.3-Flash dürfen bis zu 131.072 Tokens lang sein – genug für sehr umfangreiche Ausgaben wie komplette Codebasen-Analysen oder lange Dokumente.
Gerade dieses große Kontextfenster erklärt, warum Z.ai so viel Aufwand in die Effizienz der Architektur gesteckt hat. Denn je länger die Eingabe, desto teurer wird die Verarbeitung – wenn man nichts dagegen unternimmt.
Weniger Rechenaufwand durch gezielte Aufmerksamkeit
Um zu verstehen, warum GLM-5.3-Flash so viel günstiger ist, musst du dir einen bestimmten Baustein von KI-Modellen ansehen: den Aufmerksamkeitsmechanismus. Er filtert die wichtigsten Informationen aus einer Eingabe heraus, indem er die Eingabe in Tokens zerlegt und diese miteinander vergleicht. Stell dir eine riesige Bibliothek vor: Ein herkömmliches Modell müsste jedes Buch durchblättern, um eine Frage zu beantworten. GLM-5.3-Flash geht gezielt zu den passenden Regalen.
Fachleute nennen diese Technik Sparse Attention. Statt jedes Token mit jedem anderen abzugleichen, konzentriert sich das Modell auf die relevanten. Das spart Rechenleistung – und zwar umso mehr, je länger die Eingabe ist. Bei einem Kontextfenster von einer Million Tokens macht das den Unterschied zwischen praktikabel und unbezahlbar.
Dazu kommt eine zweite Neuerung. Normalerweise nutzt der Aufmerksamkeitsmechanismus eine mathematische Funktion namens Softmax, um die vom Modell erzeugten Zahlenwerte in Wahrscheinlichkeiten umzurechnen. Dieser Ansatz ist sehr speicherhungrig: Verdoppelst du die Länge einer Eingabe, vervierfacht sich der Speicherbedarf. GLM-5.3-Flash ersetzt Softmax durch eine effizientere Methode, die als lineare Aufmerksamkeit bezeichnet wird. Der Speicherbedarf wächst dann nur noch linear – bei doppelter Eingabe brauchst du doppelt so viel Speicher. Die Ersparnis ist erheblich. Wie viel die einzelnen Umbauten jeweils zum Gesamtergebnis beitragen, schlüsselt Z.ai nicht auf – unterm Strich beziffert das Unternehmen den Kostenvorteil gegenüber dem Vorgänger auf den Faktor zehn.
Was die Benchmarks zeigen
Mit dem Release lieferte Z.ai auch Zahlen nach. Über eine Reihe gängiger KI-Benchmarks hinweg habe das Modell stark abgeschnitten, so das Unternehmen – und zwar im Vergleich mit der unmittelbaren Konkurrenz an der Spitze des Marktes.
Konkret hat Z.ai GLM-5.3-Flash gegen Claude Opus 4.8, GPT-5.6 Terra und Gemini 3.7 Flash antreten lassen. Auf GDPval-AA v2, einem Test für wissensbasierte Arbeit, erzielte das Modell nach Angaben des Unternehmens den höchsten Wert des Feldes. Auf AutomationBench, der prüft, wie zuverlässig ein Modell Aufgaben in Cloud-Anwendungen abschließt, landete es auf Platz zwei. Das sind Herstellerangaben – unabhängige Nachmessungen stehen aus. Dass die Gewichte offen verfügbar sind, dürfte solche Nachmessungen allerdings erleichtern: Jeder kann die Ergebnisse auf eigener Hardware überprüfen.
30 Billionen Trainings-Tokens und ein stabilerer Trainingsweg
Trainiert hat Z.ai das Modell auf einem Datensatz mit 30 Billionen Tokens. Auch hier setzte das Unternehmen auf eine Neuerung, die nicht den Betrieb betrifft, sondern das Training selbst. Schließt ein Modell eine Trainingsaufgabe ab, bekommt es einen Gradienten zurück: einen Datensatz, der durch die künstlichen Neuronenschichten wandert und sie nachjustiert, damit sie beim nächsten Mal besser abschneiden. Auf diesem Weg kann der Gradient verzerrt werden und verliert an Wirkung. Die von Z.ai eingesetzte mHC-Technik senkt dieses Risiko.
Im Betrieb siehst du davon nichts. Es erklärt aber, warum sich ein Modell dieser Größenordnung überhaupt stabil trainieren lässt – und warum Z.ai die Architektur gegenüber den früheren GLM-Modellen an mehreren Stellen zugleich umgebaut hat: sparsame Aufmerksamkeit für die Laufzeit, lineare Aufmerksamkeit für den Speicher, mHC für das Training. Zusammen ergibt das ein Modell, das anonym als Geheimtipp startete und nun als offenes Schwergewicht bereitsteht – zum Herunterladen, Nachmessen und Selbstbetreiben.
Quelle: siliconangle.com
