Kimi K3: Das erste offene 3-Billionen-Parameter-Modell – und was es für die KI-Landschaft bedeutet

Deine Reaktion:

Kennst du das Gefühl, wenn du an einem komplexen Code-Projekt arbeitest und die Grenzen deiner Werkzeuge spürst? Vielleicht reicht der Kontext nicht, um den gesamten Codebase zu überblicken, oder das Modell scheitert an langen, mehrstufigen Aufgaben. Genau hier setzt die Nachricht an, die das chinesische Unternehmen Kimi Ende Juni 2025 veröffentlicht hat. Mit Kimi K3 präsentieren sie ein Modell, das mit 2,8 Billionen Parametern das größte offen zugängliche KI-Modell der Welt ist. Es ist der erste Vertreter der 3-Billionen-Klasse, der nicht hinter einer API proprietärer Anbieter verschlossen bleibt.

Stell dir vor, du hast eine Werkstatt mit 896 Spezialisten – aber zu jedem Zeitpunkt sind nur 16 von ihnen aktiv, genau die, die für die aktuelle Aufgabe am besten geeignet sind. Die anderen warten im Hintergrund, bereit, einzuspringen, wenn sich die Anforderungen ändern. Genau so funktioniert das Prinzip der Mixture of Experts (MoE), das auch Kimi K3 nutzt. Bei jedem Schritt werden nur die 16 passendsten Experten aktiviert, während die übrigen 880 Experten stromsparend im Leerlauf bleiben. Das spart Rechenleistung und ermöglicht es, ein extrem großes Modell überhaupt praktisch einsetzen zu können.

Doch ein MoE-Modell allein ist nicht die ganze Geschichte. Kimi K3 bringt gleich zwei neue Architekturkomponenten mit: Kimi Delta Attention (KDA) und Attention Residuals (AttnRes). Um zu verstehen, was das bedeutet, kannst du dir KDA als eine effizientere Art vorstellen, wie das Modell auf bereits gesehene Textteile zurückgreift. Anstatt jedes Wort mit jedem anderen Wort in einem riesigen Fenster zu vergleichen – was bei einem Million-Token-Kontext wahnsinnig teuer wäre – sortiert KDA die Aufmerksamkeit geschickter. AttnRes wiederum erlaubt es dem Modell, nicht nur aus früheren Tokens, sondern auch aus früheren Schichten des neuronalen Netzes gezielt Informationen abzurufen. Stell dir vor, du liest ein Buch und kannst jederzeit auf ein früheres Kapitel zurückgreifen, ohne das ganze Buch noch einmal durchzublättern. AttnRes macht genau das – es holt gezielt Informationen aus früheren Schichten, anstatt sie einfach nur linear zu akkumulieren. Das Ergebnis: eine bessere Nutzung der tiefen Architektur bei gleichzeitig geringerem Rechenaufwand.

Kimi K3 ist nicht nur ein theoretisches Prestigeprojekt. Die Entwickler haben eine Reihe beeindruckender Anwendungsfälle demonstriert, die zeigen, wo die Stärken des Modells liegen. Besonders hervorzuheben ist der Bereich langlaufendes Coding. Im Test zur GPU-Kernel-Optimierung – einer Aufgabe, bei der Spezialcode für Grafikprozessoren optimiert werden muss – konnte Kimi K3 mit dem proprietären Spitzenmodell Claude Fable 5 mithalten und übertraf andere große Modelle deutlich. In einem weiteren Experiment entwickelte Kimi K3 aus dem Nichts einen funktionsfähigen Compiler namens MiniTriton, der in vielen Benchmarks sogar den etablierten Triton-Compiler übertrifft. Der Clou: Das Modell hat den gesamten Entwicklungsprozess von der ersten Idee über die Implementierung bis zur Validierung autonom durchgeführt, ohne dass ein Mensch im Loop eingreifen musste.

Auch im Bereich wissenschaftlicher Forschung zeigt Kimi K3, was möglich ist. In einem beeindruckenden Fallbeispiel implementierte das Modell eine komplexe astrophysikalische Analyse aus über 20 Forschungsarbeiten – und zwar in etwa zwei Stunden, wofür ein erfahrener Forscher normalerweise ein bis zwei Wochen braucht. Das Modell durchforstete die Literatur, identifizierte Inkonsistenzen in veröffentlichten Formeln, schrieb über 3000 Zeilen Python-Code und erstellte ein interaktives Dashboard zur Visualisierung der Ergebnisse. Das ist mehr als nur ein Sprachmodell, das Texte zusammenfasst – hier entsteht echte, reproduzierbare Wissenschaft.

Nicht weniger spektakulär ist die Fähigkeit von Kimi K3, eigene Chips zu entwerfen. In einem Proof-of-Concept entwickelte das Modell innerhalb von 48 Stunden einen kompletten Chip mit 1,46 Millionen Standardzellen und 0,277 MB SRAM – basierend auf einem offenen EDA-Tool und einer 45-Nanometer-Bibliothek. Der Chip taktet bei 100 MHz und erreicht in der Simulation eine Dekodierrate von über 8700 Tokens pro Sekunde. Dass ein KI-Modell einen Chip baut, der wiederum ein KI-Modell ausführen kann – das klingt nach einer sich selbst verstärkenden Schleife, die das Zeug zu einer echten technologischen Revolution hat.

Auch im Bereich Videoediting und Animation macht Kimi K3 eine gute Figur. Es hat unter anderem einen Erklärfilm im Stil von 3Blue1Brown über seine eigene Architektur erstellt – inklusive animierter Diagramme und Übergänge. Und es hat aus 56 Rohclips einen zusammenhängenden Teaser geschnitten, mit bewegungsangepassten Schnitten, bildgenauer Beatsynchronisation und Audiobearbeitung. Eine Aufgabe, die einen erfahrenen Editor einen bis zwei Tage kostet, erledigt das Modell in wenigen Minuten.

Kimi K3 ist ab sofort über mehrere Kanäle verfügbar: als Agent in der Kimi-App (iOS, Android, HarmonyOS), über die Desktop-App Kimi Work, über das Kommandozeilen-Tool Kimi Code sowie über die Kimi API. Die Preise liegen bei 0,30 USD pro Million Tokens für Cache-Treffer, 3,00 USD für Cache-Verfehler und 15,00 USD für generierte Tokens. Dank der Mooncake-Architektur erreicht die offizielle API eine Cache-Trefferquote von über 90 Prozent – besonders bei Coding-Workloads ein entscheidender Kostenvorteil. Die vollständigen Modellgewichte sollen bis zum 27. Juli 2026 veröffentlicht werden, ein detaillierter technischer Report folgt.

Ist Kimi K3 nun das beste Modell der Welt? Nein. In der Gesamtperformance liegt es noch hinter den Top-Modellen wie Claude Fable 5 und GPT 5.6 Sol. Aber es ist das erste offene Modell, das überhaupt in dieser Größenordnung operiert. Und das ist ein entscheidender Unterschied. Offene Modelle bedeuten, dass Forschungsteams, Start-ups und auch einzelne Entwickler tatsächlich Zugang zu den Gewichten bekommen und das Modell feintunen, weiterentwickeln oder für spezifische Anwendungen optimieren können. Proprietäre Modelle bleiben dagegen Blackboxen – leistungsstark, aber intransparent. Kimi K3 zeigt, dass die Offene-KI-Community aufholt, und das in einem Tempo, das vor zwei Jahren noch undenkbar schien.

Bleibt die Frage nach der praktischen Nutzung. Ein Modell mit 2,8 Billionen Parametern lässt sich nicht auf einem Laptop ausführen. Kimi empfiehlt Supernode-Konfigurationen mit 64 oder mehr Beschleunigern. Das ist keine Technologie für den Heimgebrauch, sondern für Rechenzentren und Unternehmen mit entsprechender Infrastruktur. Trotzdem ist die bloße Existenz eines offenen Modells dieser Größe ein starkes Signal: Die Skalierungsgesetze gelten weiter, und die Grenzen des Möglichen verschieben sich. Und mit der geplanten Veröffentlichung der Gewichte in einem Jahr wird auch die Forschung in den Genuss kommen, an dieser Architektur zu arbeiten. Wer heute schon experimentieren möchte, kann über die API oder die Agenten-Oberfläche einsteigen. Für alle anderen bleibt die Erkenntnis: Die nächste Stufe der KI-Entwicklung ist offen, aber sie erfordert Mut und Investitionen – und vielleicht genau deine nächste Idee, die ein Modell dieser Größe braucht, um Wirklichkeit zu werden.

Quelle: kimi.com

Deine Reaktion:
Artikel teilen:
Sebastian Krötzsch
Autor

Sebastian Krötzsch

Sebastian Krötzsch schreibt auf sebask.de über Künstliche Intelligenz, Automatisierung, digitale Systeme und die Frage, was davon im Alltag wirklich nützlich ist. Ohne Buzzword-Nebel, dafür mit klarem Blick auf Praxis, Tools und echte Wirkung.