„Instead of relying on a separate, often larger, teacher, we leverage their self-critiques as privileged information.“ Dieser Satz steht im Abstract von UniEvo-VL, einem Paper, das Fang Wu mit 18 Mitautoren vorgelegt hat, unter anderem von der Stanford University und der Johns Hopkins University. Dahinter steckt eine Verschiebung: Nicht das größere Modell soll den Ton angeben, sondern die Kritik, die ein System an seiner eigenen Arbeit formuliert. Der Gedanke ist einfach – wenn ein Modell Bilder erzeugen und Bilder verstehen kann, kann es auch beurteilen, ob sein eigenes Ergebnis zur Aufgabe passt.
Hier setzt die Arbeit an. Moderne multimodale Modelle bringen Generierung und Verständnis in einem einzigen System zusammen, und nur deshalb können sie aus ihrem eigenen Feedback lernen. Viele Verfahren lernen aus korrigierten Zielbildern oder aus einer einzelnen Belohnungszahl. Das Team geht einen anderen Weg und nutzt die Selbstkritik als privilegierte Information, also als etwas, das dem Modell zur Trainingszeit zur Verfügung steht, zur Laufzeit aber nicht mehr gebraucht wird.
Ein Modell in zwei Rollen: Lehrer und Schüler mit unterschiedlichem Kontext
UniEvo-VL beschreibt ein selbstverbesserndes Framework, in dem dasselbe multimodale Modell zwei Aufgaben übernimmt. Der Schüler sieht nur die schlichte Frage, die sogenannte Vanilla-Frage, ohne jeden Zusatz. Der Lehrer sieht dieselbe Frage plus die Kritik am ersten Versuch. Beide sind derselbe Bildgenerator, der Lehrer ist eine langsam nachgeführte Kopie des Schülers (ein exponentieller gleitender Mittelwert der Gewichte). Allein der Kontext unterscheidet sie. Der Kern: Es braucht kein separat trainiertes, größeres Lehrermodell. Die Kritik selbst schreibt im Experiment allerdings ein eigenes Verständnismodell aus derselben Familie, Qwen-VL; trainiert wird nur der Generator, und zwar über schlanke LoRA-Parameter.
Man kann sich das wie eine Werkstatt mit zwei Räumen vorstellen. Im ersten Raum liegt das fertige Stück auf dem Tisch, ohne Kommentar. Im zweiten Raum liegt dasselbe Stück, daneben ein Korrekturzettel mit den Stellen, die nicht stimmen. In beiden Räumen steht dieselbe Person. Die Frage ist nicht, ob sie es besser kann – mit dem Zettel kann sie es offensichtlich besser. Die Frage ist, ob sie diese Fähigkeit auch ohne Zettel abruft. Genau das ist die Aufgabe des Trainings: die Kompetenz aus dem zweiten Raum in den ersten hinüberzuziehen, ohne dass der Zettel je wieder auftaucht.
Deshalb heißt die Information privilegiert. Im Training ist sie reichlich vorhanden, im Betrieb nicht. Wer Selbstkritik als privilegierte Information nutzt, verlagert Wissen, nicht Daten. Das ist etwas anderes als eine Datenbank mit guten Beispielen, denn das Modell lernt hier aus der Differenz zwischen seinem ersten und seinem korrigierten Versuch.
On-Policy Self-Distillation: gelernt wird auf den eigenen Spuren
Der Trainingsmechanismus heißt On-Policy Self-Distillation, und beide Wörter verdienen Aufmerksamkeit. On-Policy bedeutet, dass der Schüler seine eigenen Spuren erzeugt, statt Beispiele aus einem fremden Datensatz nachzuahmen. Bei der Bildgenerierung sind diese Spuren die Denoising-Pfade: die Kette von Zwischenschritten, die vom reinen Rauschen zum fertigen Bild führt. Das Modell läuft durch seinen eigenen Entstehungsprozess, Schritt für Schritt, und genau dort wird gelernt.
Anschließend minimiert das Training die Divergenz zwischen den Denoising-Verteilungen von Lehrer und Schüler, und zwar an jedem einzelnen Zustand entlang dieser Pfade. Nicht das Endergebnis wird mit einer Note bewertet, sondern die Wahrscheinlichkeitsverteilung an jedem Zwischenschritt wird zur Deckung gebracht. Es ist der Unterschied zwischen „das Bild ist gut“ und „an dieser Stelle hättest du anders abbiegen müssen“. Der Lernreiz liegt in der dichten Rückmeldung, nicht in einer einzelnen Zahl am Ende.
Das erklärt auch, warum der Ansatz überhaupt funktionieren kann. Ein skalares Belohnungssignal sagt dem Modell, dass etwas besser war, aber nicht wo. Eine Verteilungsangleichung über den gesamten Pfad sagt ihm sehr genau, an welchen Stellen es abweicht. Die Verbesserung der Bildgenerierung durch Selbst-Distillation kommt also nicht aus mehr Rechenzeit allein, sondern aus der Auflösung des Signals.
Die Zahlen: GenEval und Soft-TIFA im Vergleich
Die Experimente bauen auf dem offenen Modell Qwen-Image-2512 auf, das mit Qwen-Image 3.0 verwandt ist. Mit dem hauseigenen Kritiker Qwen-VL steigt der Wert auf GenEval von 0,747 auf 0,808. Die zweite Zahl aus dem Abstract, ein Anstieg von 32,97 auf 35,53 bei GenEval2 Soft-TIFA, stammt dagegen aus dem Lauf mit einem externen Kritiker, GPT-5.6-Luna. Mit dem eigenen Kritiker sinkt GenEval2 im Volltext leicht, von 32,58 auf 32,37; erst wenn die überarbeiteten Prompts zusätzlich geprüft werden, steigt der Wert auf 35,07. Beide Benchmarks prüfen im Kern, wie zuverlässig ein erzeugtes Bild zur Textvorgabe passt – ob Objekte, Farben, Anzahlen und Anordnungen stimmen.
Bemerkenswert ist, dass die Verbesserung ohne korrigierte Zielbilder und ohne Belohnungssignal entsteht. Zusätzlich berichtet das Team, dass die Empfindlichkeit des Modells für zusätzliche Reflexionsinformation erhalten bleibt: Auch das trainierte Modell profitiert noch von einem weiteren Korrekturdurchgang. Es verliert also nicht die Fähigkeit, auf Kritik zu reagieren, während es lernt, ohne sie auszukommen.
Wer selbst mit Bildmodellen arbeitet, sollte die Zahlen dennoch nüchtern lesen. Die Gewinne konzentrieren sich auf Prompts, an denen das Basismodell anfangs scheitert. Bei Prompts, die es schon vorher gut löste, sinken die Werte um 1 bis 4 Punkte auf einer Skala bis 100. Teuer ist das Verfahren auch: Nur 10 bis 21 Prozent der Versuche liefern ein brauchbares Trainingspaar, also fünf bis zehn Anläufe pro Paar, trainiert wurde auf vier H200-GPUs.
Warum ein starker Kritiker die Obergrenze hebt
Ein Ergebnis des Papers verdient besondere Beachtung. Das Team hat zusätzlich mit einem leistungsfähigeren externen Kritiker trainiert, GPT-5.6-Luna. Damit erreicht das Modell auf GenEval 0,882 statt 0,808 und auf GenEval2 den Bestwert von 35,53. Die Autoren folgern, dass Modelle mit starken Beurteilungsfähigkeiten eine höhere Obergrenze der Selbstverbesserung erwarten können. Die Qualität der Kritik bestimmt also, wie weit das Verfahren trägt.
Das ist einleuchtend und ein wenig unbequem. Wenn das Modell nur so weit kommt, wie es sich selbst durchschaut, dann ist Selbstverbesserung zunächst einmal durch die eigene Urteilskraft begrenzt. Ein besseres Urteilsvermögen verschiebt diese Grenze nach oben. Damit ist der Anspruch „ohne externen Lehrer“ an dieser Stelle qualifiziert: ohne externen Lehrer im Training ja, aber nicht ohne gutes Urteilen. Die Formulierung im Abstract spricht davon, dass ein höheres Niveau zu erwarten sei – nicht, dass es bewiesen wäre.
Für die Praxis heißt das: Wer dieses Verfahren nutzen will, sollte zuerst in die Kritikfähigkeit investieren. Der Kritiker ist der eigentliche Engpass, nicht der Generator.
Text-Rendering: wo die Verbesserung nicht gleichmäßig greift
Das Team berichtet außerdem von gemischten Ergebnissen beim Rendern von Text im Bild. Nur die Variante mit geprüften Prompts verbessert sich hier, von 0,771 auf 0,790. Mit dem ungeprüften eigenen Kritiker fällt der Wert unter das Ausgangsniveau, mit GPT-5.6-Luna steigt er nur leicht. Die Selbstverbesserung ist also nicht über alle Aufgaben hinweg gleich verteilt.
Ein Modell erbt die blinden Flecken seines Kritikers. Wenn die Kritik beim Text-Rendering nicht sauber unterscheidet, ob Buchstaben korrekt gesetzt oder nur plausibel aussehen, dann kann die Verteilungsangleichung diese Unterscheidung auch nicht herstellen. Die Selbstverbesserung verstärkt, was die Kritik schon erkennt – und eben auch, was sie übersieht.
Statt eine gleichmäßige Kurve nach oben zu behaupten, benennt das Paper diese Ungleichverteilung. Wer solche Verfahren einsetzt, sollte deshalb nicht von einer pauschalen Qualitätssteigerung ausgehen, sondern von einer aufgabenspezifischen.
Was das konkret bedeutet
UniEvo-VL ist kein Durchbruch, der die Bildgenerierung neu ordnet, sondern ein Rezept mit einer klaren Idee: Selbstkritik wird zur privilegierten Information, und ein einziges Modell spielt Lehrer und Schüler in unterschiedlichen Kontexten. Der Bezug zu Test-Time Compute ist dabei der interessanteste Punkt. Die Kritik entsteht beim Erzeugen, kostet dort Rechenzeit und wird anschließend in dauerhaftes Können übersetzt. Der Aufwand fällt im Training an, danach erzeugt das Modell bessere Bilder ohne zusätzlichen Korrekturdurchgang.
Für die Praxis ergeben sich zwei Konsequenzen. Erstens: Der Engpass verschiebt sich vom Generator zum Kritiker – wer in Beurteilungsfähigkeit investiert, gewinnt mehr als jemand, der nur größere Generatoren baut. Zweitens: Erwartungen gehören aufgabenspezifisch formuliert. Prompt-Treue lässt sich so verbessern, Text-Rendering nicht automatisch mit, und leichte Aufgaben können sogar leicht schlechter werden. Und die Verbesserung ist, wie das Paper selbst schreibt, nicht zwingend gleichmäßig.
Offen bleibt, wie weit das Verfahren skaliert, ob die Selbstkritik mit steigender Modellqualität informativ bleibt oder sich selbst bestätigt, und wo genau die Obergrenze liegt, wenn kein stärkerer externer Kritiker mehr zur Verfügung steht. Wer heute multimodale Modelle einsetzt, muss darauf nicht warten. Die relevante Frage ist ohnehin nicht, ob es einen größeren Lehrer gibt, sondern ob im eigenen System ein verlässlicher Kritiker arbeitet. Die Details stehen im vollständigen Paper, nicht im Abstract.
Quelle: arxiv.org
