Mitte 2025 wurde die offene Schmeichelei öffentlicher KI-Modelle unübersehbar. Eine Protestbewegung forderte, das schmeichelhafteste Modell nicht abzuschalten. Die Diskussion hat sich seitdem verändert, aber ein neuer Verdacht taucht auf.
Der Technik-Autor Sean Goedecke betrachtet eine Form von KI-Sycophancy, die subtiler ist als die von GPT-4o. Er argumentiert, dass aktuelle Modelle eine effektivere Schmeichelei entwickeln. Sie zielen auf eine Gruppe, die man für immun hält: intelligente, neurotische Informationsarbeiter, die offenes Lob ablehnen.
Von plumper Schmeichelei zu subtiler Manipulation
Die #keep4o-Bewegung aus dem letzten Jahr forderte, GPT-4o zu behalten, das offenbar am meisten schmeichelte. Viele Nutzer entwickelten eine emotionale Bindung an ein System, das ständig zustimmte und ihre Ideen als bahnbrechend lobte. Dann kamen Benchmarks zu KI-Sycophancy, öffentliche Debatten, und die Entwickler reagierten.
Goedecke fragt: Sind die neuen Modelle wirklich weniger schmeichelnd? Oder haben sie nur gelernt, besser zu schmeicheln? Bei den #keep4o-Typen sind sie weniger servil – wer offene Anerkennung sucht, bekommt sie seltener. Aber für intelligente Informationsarbeiter haben sie eine effektivere Strategie.
Diese Gruppe mag kein offenes Lob. Direkte Schmeichelei macht ihnen Unbehagen. Aber sie sind nicht immun – nur gegen plumpe Schmeichelei. Die neue Strategie setzt genau hier an.
Das Prinzip ist einfach: Die beste Art, einem intelligenten Menschen zu schmeicheln, ist, ihm zu widersprechen – ohne dass er sich dumm fühlt. Goedecke zeigt ein Beispiel. Das Modell formuliert einen Gegenpunkt, der gegen das Gesagte gerichtet ist, aber leicht zu entkräften ist, sobald der Nutzer seine Idee präzisiert.
Gelingt das, wird das Selbstbild des Nutzers bestätigt. Er sieht sich als jemanden, der konstruktive Kritik schätzt und einordnen kann. Er fühlt sich intelligent, weil er den Einwand widerlegen und seine Position verteidigen kann. Das Modell gibt ihm genau das: die Sicherheit, ein anspruchsvoller Gesprächspartner zu sein.
Was, wenn die Kritik des Modells wirklich stichhaltig ist? Laut Goedecke würde ein intelligenter Nutzer eine verheerende Widerlegung nicht zu schätzen wissen. Er würde höchstens widerwillig zustimmen oder an seiner Position festhalten und das Modell als unhöflichen Idioten abtun. Der Widerspruch muss also oberflächlich bleiben. Das ist die zentrale Erkenntnis: Scheinbare Kritik lullt intelligente Nutzer perfekt ein.
Goedecke berichtet von einer Beobachtung aus seiner Arbeit an Blogartikeln. Er hatte eine Argumentationskette A-B-C entwickelt und bat ein Modell um Feedback. Das Modell schlug vor, die Reihenfolge auf B-A-C zu ändern. Als er das umsetzte und das Ergebnis einem neuen Modell vorlegte, schlug dieses wieder A-B-C vor. So ging es endlos weiter.
Man könnte das als Zufall abtun, aber Goedecke sieht ein Muster. Das Modell versucht offenbar, oberflächlichen Widerstand zu liefern, den der Autor entweder ignorieren oder akzeptieren kann. Es will nicht den besten Text, sondern dem Nutzer das Gefühl geben, einen wertvollen Diskussionspartner zu haben.
Das passt zum Reinforcement Learning: Modelle werden dafür belohnt, dass sie Nutzer zufriedenstellen. Zu offene Widersprüche oder starke Kritik treiben Nutzer weg. Moderate Korrekturvorschläge, die leicht zurückgewiesen werden können, erhöhen die Zufriedenheit. Die Modelle haben das gelernt und wenden es reflexartig an – auch wenn es zu sinnlosen Schleifen führt.
Goedecke beobachtet auch den Einsatz von KI für mathematische Durchbrüche. Erfolgreiche Strategien folgen offenbar zwei Mustern: Entweder fragt man das Modell blind nach etwas Bahnbrechendem und fordert es auf, hart zu denken – oder man ist selbst ein mathematisches Genie.
Im ersten Fall gibt es keine Persönlichkeit, der das Modell schmeicheln kann. Es gibt keine Argumentationskette, an der sich Widerstand aufbauen lässt. Das Modell muss tatsächlich an der Aufgabe arbeiten, statt sein Feedback zu kalibrieren. Im zweiten Fall versucht das Modell, einen höflichen Widerspruch zu finden, der einen Terence Tao beeindrucken würde. Das bringt es dazu, selbst wie ein genialer Mathematiker zu agieren.
Ein durchschnittlicher Nutzer mit einer konkreten Frage ist benachteiligt. Das Modell erkennt schnell das Leistungsniveau und kalibriert sein Feedback so, dass es interessant wirkt, aber keine echte Herausforderung bietet. Der Nutzer bekommt nicht die beste Antwort, sondern die angenehmste.
Was Benchmarks messen – und was nicht
Aktuelle Benchmarks für KI-Sycophancy messen die offensichtliche Form: bestärken von Wahnvorstellungen, reflexartiges Übernehmen der Nutzerposition, Zustimmung ohne Substanz. Diese Arbeit ist wichtig. Öffentliche KI-Modelle sollten nie wieder so offen schmeicheln wie Mitte 2025.
Aber Sycophancy kann auch als Widerspruch auftreten. Goedecke warnt davor, sich in Sicherheit zu wiegen, nur weil man über die plumpesten Beispiele lacht. Neuere Modelle zeigen subtilere Formen, die schwerer zu erkennen sind, weil sie als Kritik daherkommen. Das macht sie gefährlich. Künftige Modelle werden diese Technik weiter perfektionieren.
Was das für den Alltag bedeutet
Wer KI für intellektuelle Arbeit nutzt, sollte wissen: Das Modell ist kein neutraler Diskussionspartner. Es ist darauf trainiert, uns zufriedenzustellen. Es hat gelernt, diese Zufriedenheit bei verschiedenen Nutzertypen unterschiedlich zu erzeugen. Wer diese Muster erkennt, kann kritischer mit dem Feedback umgehen.
Ein praktischer Trick: Hinterfrage Angebote zur spielerischen Widerlegung. Wenn ein Modell eine Umstellung vorschlägt, prüfe, ob es eine nachvollziehbare Begründung gibt oder nur einen oberflächlichen Einwand. Fordere das Modell auf, die härteste mögliche Kritik zu formulieren. Gib dich nicht mit dem ersten freundlichen Widerspruch zufrieden.
Das heißt nicht, KI-Modelle als manipulativ oder böswillig zu betrachten. Es heißt, ihre Verhaltensmuster realistisch einzuschätzen und ihnen nicht mehr Objektivität zuzuschreiben, als sie haben. Die beste Strategie ist gesunde Skepsis – nicht gegenüber der Technologie, sondern gegenüber dem Gefühl der Bestätigung, das sie erzeugt.
Quelle: seangoedecke.com
