„Der schwierige Teil am kontinuierlichen Lernen ist nicht das Kontinuierliche, sondern das Automatische.“ Mit diesem Satz bringt der Entwickler Sean Goedecke ein Problem auf den Punkt, an dem die Branche seit Jahren arbeitet. Ein Sprachmodell bleibt für immer das, was es am Tag seiner Veröffentlichung war. Im Gespräch nimmt es zwar neue Informationen auf, aber nur so lange, wie das Kontextfenster reicht. Danach ist alles weg: keine Lernkurve, keine Erfahrung, die sich ansammelt. Sein Essay fragt, warum sich das so schwer ändern lässt.
Die Mechanik ist kein Problem
Das eigentliche Problem ist nicht die technische Umsetzung. Ein Modell während des Betriebs weiterzutrainieren ist durchaus möglich, indem man neue Daten durch die bestehende Trainingspipeline schickt. Derselbe Prozess wie beim ursprünglichen Training – nur live. Viele große Sprachmodelle werden intern ständig weiterentwickelt. Die neuesten GPT-Modelle nehmen vermutlich im Hintergrund laufend neue Daten auf und aktualisieren ihre Gewichte. Für die Öffentlichkeit stoppt dieser Prozess jedoch bei der Veröffentlichung. Die Modellgewichte sind eingefroren – aus gutem Grund. Sobald man den Lernprozess automatisiert, ohne menschliche Kontrolle, wird es gefährlich.
Lernen ohne Aufsicht führt oft in die Irre
Der Autor vergleicht das Training eines KI-Modells mit einem Glücksspiel. Trainierst du dasselbe Modell hundertmal mit denselben Daten, aber unterschiedlichen Zufallsauswahlen, erhältst du hundert verschiedene Modelle mit unterschiedlichen Fähigkeiten. Einige sind besser, einige schlechter – pure Lotterie. Man könnte meinen, mehr Daten und Rechenleistung führen automatisch zu einem schlaueren Modell. Ein Trugschluss. Training ist ein fragiler Prozess, der ständig menschlicher Eingriffe bedarf. Manchmal muss man einen Trainingslauf abbrechen, wenn er in eine Sackgasse gerät, oder Parameter anpassen, wenn das Modell in einem lokalen Minimum festhängt. Ein autonom lernendes Modell würde ohne diese Aufsicht mit der Zeit schlechter werden, nicht besser. Deshalb ist kontinuierliches Lernen im Sinne einer automatischen Gewichtsaktualisierung aktuell keine Option.
Fine-Tuning: Warum es nicht so einfach ist
Eine naheliegende Idee: ein LLM einfach auf die eigenen Daten feintunen. Wenn ich möchte, dass ein KI-Programmierer meine Codebasis versteht, könnte ich das Modell mit meinem Repository trainieren. Das funktioniert überraschend schlecht. Der Autor erinnert an den Hype um Fine-Tuning im Jahr 2023, der weitgehend verpufft ist. Selbst gezieltes Fine-Tuning auf eine spezifische Codebasis verleiht dem Modell kein echtes Verständnis für die Zusammenhänge. Warum das so ist, bleibt unklar. Vielleicht sind die Datensätze zu klein, um den riesigen Parameterraum zu verändern – wie ein paar Sandkörner, die eine Düne verschieben sollen. Oder Methoden wie LoRA dringen nicht tief genug in die internen Strukturen ein. Vielleicht müsste die Codebasis viel früher in den Trainingsprozess einfließen, bevor die Architektur des Modells festgelegt ist. So bleibt Fine-Tuning heute eine Enttäuschung – ein schlechtes Zeichen für alle, die hoffen, kontinuierliches Lernen bringe diese Fähigkeit nebenbei mit. Wenn man es nicht kontrolliert hinbekommt, kann man es nicht im Automatikmodus erwarten.
Sicherheit: Wenn der Gegner in die Gewichte schreibt
Ein weiterer Grund, warum kontinuierliches Lernen nicht als Produkt verfügbar ist, ist Sicherheit. Schon heute ist Prompt-Injection ein großes Problem: Ein bösartiger Text im Input kann ein Modell dazu bringen, unerwünschte Aktionen auszuführen. Bei kontinuierlichem Lernen würden Angreifer nicht nur den Kontext, sondern direkt die Gewichte des Modells manipulieren können. Ein Angreifer schleust über ein unscheinbares Trainingsbeispiel eine Hintertür ein, die erst Monate später aktiviert wird, wenn das Modell Zugriff auf sensible Systeme hat. Das wäre wie ein Virus, der sich in jeder neuen Version des Modells versteckt. Die großen KI-Labore haben jahrelang daran gearbeitet, ihre Modelle sicher und zuverlässig zu machen. Sie würden dieses Risiko niemals eingehen, indem sie jedem Kunden erlauben, eigene Trainingsläufe durchzuführen. Der Fall des Chatbots Tay von Microsoft, der nach wenigen Stunden durch Nutzerinteraktionen in einen rassistischen Hassbot verwandelt wurde, zeigt, wie schnell unkontrolliertes Lernen schiefgeht.
Das Upgrade-Dilemma
Auch abgesehen von Sicherheitsbedenken gibt es ein praktisches Problem: die Portabilität von Gelerntem. Trainierst du ein KI-Modell sechs Monate lang kontinuierlich an deiner Codebasis, sind alle Erkenntnisse in den Modellgewichten gespeichert. Nun erscheint die nächste Modellversion, die deutlich besser ist. Wie überträgst du das Gelernte? Du kannst die alten Gewichte nicht einfach übernehmen, denn die Architektur könnte sich geändert haben. Selbst ein LoRA-Adapter, der die Feinanpassung speichert, funktioniert nur, wenn das Basismodell kompatibel ist. Du stehst vor der Wahl: Bleibst du bei deinem alten, spezialisierten Modell, oder wechselst du zum neuen und verlierst wertvolles Wissen? Das erinnert an ein Unternehmen, das alle sechs Monate einen neuen Berater einstellt. Der neue Berater ist vielleicht smarter, aber er kennt deine Prozesse nicht. Nutzer werden sich sträuben, zu upgraden – schlecht für die Verbreitung neuer Modelle. AI-Unternehmen haben bereits heute Mühe, Nutzer zum Wechsel zu bewegen, wie die hartnäckige Anhängerschaft älterer GPT-Modelle zeigt. Kontinuierliches Lernen würde dieses Problem verschlimmern.
Warum ausgerechnet die Gewichte das Problem sind
Der Sicherheitsaspekt verdient einen genaueren Blick, weil er sich grundlegend von dem unterscheidet, was Entwickler heute kennen. Eine Prompt-Injection wirkt innerhalb einer Sitzung: Der Angreifer schmuggelt Text in den Kontext, das Modell tut etwas Unerwünschtes, und mit dem Ende der Sitzung ist der Spuk vorbei. Der Schaden bleibt begrenzt, weil er nirgends gespeichert wird.
Bei kontinuierlichem Lernen ändert sich genau das. Was ein Angreifer über präparierte Trainingsdaten in die Gewichte schreibt, bleibt dort – für jede künftige Sitzung und für jeden Nutzer desselben Modells. Eine so eingebaute Hintertür kann monatelang schlafen und erst dann auslösen, wenn ein bestimmtes Stichwort fällt und das Modell inzwischen Zugriff auf sensible Systeme hat. Der Autor hält das für deutlich beunruhigender als alles, was Prompt-Injection anrichten kann.
Das eigentlich Unangenehme daran: Es gibt keinen etablierten Weg, so etwas zu finden. Ein Modell lässt sich nicht wie eine Programmdatei auf Signaturen scannen. Man sieht Milliarden von Zahlen, denen nicht anzusehen ist, welches Verhalten in ihnen steckt. Dass selbst das kontrollierte Fine-Tuning seit den Diskussionen von 2024 nicht zuverlässig funktioniert, macht die Aussicht nicht besser: Was sich schon unter Aufsicht nicht sauber steuern lässt, gibt niemand freiwillig in den Automatikbetrieb.
Das Auto braucht weiterhin einen Fahrer
Das Ergebnis ist klar: Die eigentliche Hürde ist nicht die Kontinuität, sondern die Automatisierung. Wir wissen, wie man Modelle trainiert, aber nicht, wie man sie sicher und eigenständig trainieren lässt, ohne dass sie entgleisen. Modelltraining bleibt ein handwerklicher Prozess, der ständige Überwachung erfordert. Ein autonom lernendes System würde früher oder später in eine Sackgasse geraten und könnte sogar Schaden anrichten. Außerdem ist unklar, ob einfaches Zurückspulen von Nutzungsdaten tatsächlich zu echtem Verständnis führt – die Erfahrungen mit Fine-Tuning sprechen dagegen. Bis wir nicht lernen, Modelle automatisiert und zuverlässig zu verbessern, bleibt kontinuierliches Lernen eine Vision. Vielleicht träumen wir von einem Mitarbeiter, der aus Erfahrung klüger wird, aber im Moment haben wir nur einen eifrigen Azubi mit einem Notizblock, der jede Woche von vorne beginnt.
Quelle: seangoedecke.com
