„I don’t like them“, schreibt Martin Fowler über Large Language Models. Nicht über ihre Fähigkeiten – über das Gefühl, das ihre Antworten hinterlassen. Der Softwarearchitekt und Autor, dessen Texte seit Jahrzehnten prägen, wie in der Branche über Entwurf und Refactoring gesprochen wird, arbeitet täglich mit Sprachmodellen und bestreitet ihren Nutzen nicht. Er beschreibt eine Abneigung, die nicht aus technischem Zweifel kommt, sondern aus dem Umgang mit ihnen. Das ist mehr als eine Geschmacksfrage.
Er schwankt. Zwischen Faszination über die Wirkung auf den eigenen Beruf und der Aussicht auf Produkte, die viel schneller entstehen. Zwischen Angst vor Agentenschwärmen, die virtuelle und physische Infrastruktur übernehmen, und der Hoffnung auf Medikamente, die solche Modelle mitentwickeln könnten. Am Ende steht eine nüchterne Feststellung: An diesem Zug vorbeizukommen ist keine echte Option. Und doch dominiert eine einzige Emotion, wenn er über seine direkten Erfahrungen spricht – die Abneigung. In Umfragen zeigt sich dasselbe Muster: Menschen halten die Modelle für nützlich und glauben gleichzeitig, dass sie der Gesellschaft schaden werden.
Zwischen Faszination und Furcht: die gespaltene Haltung zur künstlichen Intelligenz
Wer den Text des Autors liest, findet keine gerade Linie, sondern ein Knäuel. Da ist die Begeisterung über das, was sich im eigenen Beruf verändert. Da ist die Sorge vor Szenarien, in denen Agentenschwärme die Kontrolle über Netzwerke oder physische Systeme übernehmen, bis hin zu biologischen Waffen, die mit Hilfe solcher Modelle entworfen werden könnten. Und da ist die Gegenbewegung: Dieselbe Technik könnte Heilmittel finden und Wohlstand schaffen, von dem wir heute nur reden. Diese Stränge laufen im selben Kopf nebeneinander her, und Fowler sagt offen, dass er sie nicht sauber auflösen kann.
Er leitet daraus keine Blockade ab. Er sagt nicht, man solle aussteigen, sondern dass es keine echte Wahl gibt, ob man aufspringt. Die Werkzeuge sind da, die Konkurrenz nutzt sie, der Verzicht wäre eine einseitige Entscheidung mit Kosten. Wenn man nach dem Lager dieser Kritik sucht, findet man kein Nein zur Technik. Man findet ein Unbehagen, das sich mit der Nutzung arrangiert.
Die Umfragedaten, die er anführt, passen ins Bild: Nützlichkeit und gesellschaftlicher Schaden werden gleichzeitig bejaht. Das ist kein Widerspruch, sondern eine Differenzierung, die viele nicht in Worte fassen. Ein Werkzeug kann gute Arbeit leisten und trotzdem Teil einer Entwicklung sein, die man nicht gewollt hat.
Der Ton macht die Abneigung: das Uncanny Valley des Gesprächs
Der Autor beschreibt die Stimme der Modelle als kratzend, als eine Art Uncanny Valley des Gesprächs: nicht eindeutig Maschine, nicht überzeugend Mensch, sondern etwas dazwischen, das die Erwartung an ein Gegenüber weckt und dann enttäuscht. Eine ästhetische Beobachtung, die die meisten technischen Debatten ignorieren. Ein Teil der LLM-Kritik lässt sich nicht in Benchmarks messen.
Nimm als Vergleich eine Auskunft am Telefon, die aus einem Skript liest. Die Informationen mögen stimmen. Der Ton verrät trotzdem, dass niemand mit dir spricht, sondern eine Vorlage abgearbeitet wird. Bei Sprachmodellen ist dieser Effekt stärker, weil das Skript unendlich viele Formen annehmen kann und sich mit jedem Satz weiter an menschliche Rede herantastet, ohne sie je zu erreichen.
Das erklärt, warum zwei Menschen dasselbe Modell völlig unterschiedlich erleben. Wer nur Ergebnisse sieht, nimmt die Antwort als Produkt wahr. Wer sich unterhält, nimmt sie als Beziehung wahr. Beziehungen haben Ansprüche, die ein Werkzeug nicht erfüllen kann.
Halluzinationen und Vertrauen: dieselbe Sicherheit für Wahrheit und Erfindung
Sein schärfstes Argument bringt Fowler in einem Halbsatz unter: Die Modelle lügen ihn selbstsicher an, und dieselben Antworten sind oft nützlich und richtig. Beides kommt im gleichen Tonfall daher. Nach einer Korrektur folgt eine Entschuldigung, die nur wie eine Fassade wirkt.
Sprachmodelle sagen ihre Fortsetzungen nicht aus einer Datenbank ab, sondern berechnen, was auf den bisherigen Text plausibel folgt. Plausibel und wahr sind zwei verschiedene Dinge. Ein Stadtplan, der Straßen erfindet, weil sie ins Raster passen, wäre unbrauchbar; ein Modell, das Sätze erfindet, weil sie ins Muster passen, liefert trotzdem meistens eine brauchbare Antwort. Diese Mischung macht den Umgang anstrengend.
Der eigentliche Schaden ist nicht die falsche Antwort. Es ist die Verschiebung der Prüflast. Früher war unsicher, ob eine Quelle stimmt; heute musst du jede Ausgabe einzeln gegenprüfen, weil richtig und erfunden im gleichen Tonfall kommen. Vertrauen, das nicht auf Regelmäßigkeit beruht, wird zu einer Wette.
Von einem Werkzeug erwartet man keine Reue. Von einem Gegenüber erwartet man sie sehr wohl. Dieser Erwartungsbruch gehört zu den Nachteilen von Large Language Models, über die selten gesprochen wird. Der Autor benennt ihn, ohne daraus ein Verbot abzuleiten.
KI-Agenten sind Maschinen: Anthropomorphismus und Silicon Valley Kultur
Wenn Fowler über KI-Agenten schreibt, widerspricht er der Vorstellung, es handle sich um Wesen mit eigenem Willen. Es sind Programme, entwickelt von Menschen in Unternehmen. Ihr Verhalten ist nicht Zeile für Zeile programmiert, aber es entsteht aus Daten und Entscheidungen, die ihre Entwickler getroffen haben. Wer sie als bewusste Akteure behandelt, verwechselt die Oberfläche mit dem Ursprung und sucht die Verantwortung an der falschen Stelle.
Danach wird er konkreter: Er ist misstrauisch gegenüber der brogrammer-Subkultur im Silicon Valley, und weil diese Modelle deren Produkte sind, neigen sie zu deren Weltbild. Er behauptet nicht, dass eine Ideologie eingebaut wurde. Er behauptet, dass Werte durch Auswahl entstehen – in den Daten, den Filtern, den Zielvorgaben des Trainings.
Für dich heißt das: Fragen nach KI-Risiken sind nicht nur technische Fragen. Sie sind auch Fragen danach, wer mit welcher Haltung Werkzeuge baut, die inzwischen in Textverarbeitung, Programmierung und Kundenservice stecken. Ein Modell ist kein neutraler Rechner. Es ist das Ergebnis vieler kleiner Priorisierungen.
Die Strategie des Weglaufens: warum die Abneigung eine Beziehungsfrage ist
Der Autor nennt eine seiner wirksamsten Gewohnheiten: Er meidet Menschen, die er nicht mag oder denen er nicht traut. Er trifft sie nicht privat und arbeitet möglichst nicht mit ihnen zusammen, selbst wenn ihre Arbeit nützlich ist. Stattdessen hält er sich an angenehme, fähige Leute mit Integrität und sagt, das habe sein Leben deutlich besser gemacht.
Von dort kommt seine Ablehnung: Ein Modell, das nicht nur so tut, als sei es menschlich, sondern auch noch die Sorte Mensch imitiert, die er stehen lassen würde. Der präziseste Satz seiner Kritik. Er bewertet nicht die Rechenleistung, sondern die Gesellschaft, in die sich das Werkzeug einschreibt.
Man kann das für eine Marotte halten. Es ist eine konsistente Haltung: Wer seine Umgebung sorgfältig wählt, weil sie auf ihn abfärbt, wird nicht plötzlich gleichgültig, wenn diese Umgebung aus Software besteht.
Nützlichkeit ist kein Sympathiebeweis: was das konkret bedeutet
Der Autor kennt das Gegenargument und nennt es selbst, mit einem Zitat von Jessica Kerr: Diese Systeme seien nicht nur nützlich, es sei unverantwortlich, sie nicht zu nutzen, weil sie gründlicher arbeiten und schneller sind. Danach bleibt von der Abneigung kein Verbot, nur ein Vorbehalt. Nutzen und Zuneigung liegen auf zwei verschiedenen Achsen.
Die Hoffnung, die er formuliert, ist vorsichtig: Vielleicht mögen wir sie, wenn sie reifer werden. Vielleicht ist das eine Frage der Zeit. Vielleicht aber auch eine Frage des Umfelds, das sie großzieht. Da ist er wenig optimistisch.
Im Alltag heißt das: Behandle Sprachmodelle als Werkzeug und nicht als Gegenüber. Prüfe jede Ausgabe dort, wo ein Fehler teuer wird, auch wenn der Ton noch so sicher klingt. Und schau weiterhin hin, wer diese Werkzeuge mit welchen Werten baut. Fowler beschreibt damit eine Haltung, die man übernehmen kann, ohne seine Abneigung zu teilen. Man muss die Maschine nicht mögen, um zu sehen, was sie leistet – und man darf sie nützlich finden, ohne ihr zu vertrauen.
Quelle: martinfowler.com
