Anthropic betonte, das Wasserzeichen sei „unmerklich“ und verändere „weder Bedeutung, Qualität noch Lesbarkeit“. Die technische Spezifikation zeigt nun das Gegenteil: Der Anbieter nutzt genau die Methode, die diese Versprechen widerlegt. Einen Tag nach der Ankündigung reichte das Unternehmen eine ausführliche technische Erklärung nach.
Ein Kritiker nahm das Versprechen wörtlich – und wurde enttäuscht. Er vermutete zunächst unsichtbare Unicode-Zeichen, die den Text markieren. Das wäre unsichtbar, aber harmlos gewesen. Stattdessen verändert Anthropic während der Generierung bewusst die Wortwahl, um statistische Muster einzubetten.
Jede Antwort eines neuen Claude-Modells wird nicht mehr rein nach Qualitätskriterien optimiert. Ein Teil der Entscheidungsfindung wird für fremde Zwecke geopfert. Das betrifft Textqualität und Vertrauen zwischen Nutzer und Werkzeug.
Semantische Wassermarken: So funktionieren sie
Der Autor beschreibt das Verfahren als eine Art Münzwurf. Bei jedem Generierungsschritt teilt das Modell die möglichen Wörter in „grüne“ und „rote“ ein. Es wählt häufiger grüne Wörter. So entsteht eine statistische Verzerrung, die nur mit einem geheimen Schlüssel nachweisbar ist.
Das ähnelt einem verfälschten Münzwurf. Wirfst du eine Münze hundertmal, erkennst du an der Verteilung, ob sie fair ist. Genauso funktioniert dieses Wasserzeichen. Ohne Schlüssel weißt du nicht, welche Wörter wann auf welcher Liste standen. Je länger der Text, desto deutlicher wird das Muster. Bei einem einzelnen Satz ist die Detektion unmöglich. Ab etwa 200 Tokens (rund 150 Wörter) wird die Signatur verwertbar. Genau diese Länge hat die EU-Verordnung als Grenze festgelegt, an der Anthropic sich orientiert.
Das ist semantische Steganographie. Das Modell wählt nicht das beste Wort, sondern eines, das zur gewünschten Statistik passt. Das greift fundamental in den kreativen Prozess der Sprachgenerierung ein.
Warum Synonyme den Sinn verändern
Der Autor nennt ein präzises Beispiel: „He leaped at the chance“ versus „He jumped at the opportunity“. Beide Sätze drücken dasselbe aus, sind aber nicht identisch. Wortwahl trägt Emotionen, Register und Nuancen. Ein Modell, das auf roten und grünen Listen navigiert, verliert diese Feinkörnigkeit.
Es geht nicht darum, dass Sätze unverständlich werden. Es geht darum, dass das Modell bei jedem Token Handlungsfreiheit verliert. Statt der besten Wahl – maximal klar und präzise – trifft es oft die zweitbeste, weil die beste auf der roten Liste stand.
Der Autor ist radikal: „Ich möchte, dass jedes LLM, das ich benutze, an jedem Entscheidungspunkt die besten, präzisesten Wörter wählt.“ Dieser Anspruch widerspricht der Wasserzeichen-Methode fundamental. Anthropic sagt, Qualität und Lesbarkeit blieben unverändert. Das stimmt nicht. Die Lesbarkeit bleibt, aber die semantische Präzision leidet. Das ist eine Täuschung.
Europas Bürokratie und die Beweislast für ehrliche Nutzer
Die Motivation: Die EU-Verordnung zum Code of Practice fordert, dass KI-generierte Inhalte erkennbar sind. Ben Thompson fasst zusammen: Die Lösung soll robust gegenüber „typischen Verarbeitungslösungen“ wie Screenshots, OCR oder Paraphrasierung sein.
Um Paraphrasierung zu unterbinden, müssten Nutzungsbedingungen verbieten, den KI-Text umzuschreiben. Das bringt ehrliche Nutzer in eine absurde Lage.
James Padolsey, dessen interaktive Erklärung als Pflichtlektüre gilt, bringt es auf den Punkt: Dieselbe Logik hätte man bei der Einführung von Taschenrechnern anwenden können. Eine Rechenaufgabe mit dem Gerät wird nicht anders bewertet als eine per Hand gerechnete. Warum sollte ein Text mit KI-Unterstützung anders behandelt werden als ein handgeschriebener?
Die Absurdität der Regulierung zeigt sich hier. Wasserzeichen sollen Betrug verhindern, treffen aber ehrliche Nutzer, die harmlos assistieren lassen. Unehrliche Nutzer nutzen längst Paraphrasierungstools, die keine Rücksicht auf Wassermarken nehmen. Das Ergebnis: Das System diskriminiert ehrliche Nutzer und versagt bei vorsätzlicher Täuschung.
Vertrautheit mit deinem Schreibwerkzeug
Die Reichweite der Markierung ist ein wunder Punkt. Anthropic sagt, dass alle neuen Claude-Modelle standardmäßig Wasserzeichen einbauen. Das betrifft nicht nur öffentliche Texte. Es betrifft private Chats, Dokumentüberarbeitungen und Kreativarbeit, die nie veröffentlicht wird.
Der Autor findet das zutiefst anstößig. „Die Idee, dass etwas anderes als meine Bedürfnisse in die Generierung von Text für mich einfließen sollte, ist offensichtlich beleidigend.“ Er stellt die Frage: Dürfen Anbieter die Qualität ihrer Ausgabe zugunsten externer Auflagen verschlechtern, ohne die Nutzer zu fragen?
Diese gewollte Verschlechterung ist der eigentliche Skandal. Es gibt keinen Schalter, um sie ein- oder auszuschalten. Sie passiert permanent im Hintergrund. Du bist nicht mehr der einzige Kunde des Modells. EU-Bürokratie und Detektions-Industrie sind jetzt stille Teilhaber.
Ein Kompromiss, der niemandem hilft
Die Wassermarkierung ist ein Fall von Compliance-Engineering, das die falschen Probleme angeht. Sie schützt nicht vor Betrug, verschlechtert aber die Qualität für alle anderen spürbar – wenn auch nur im Detail.
Der Verlust zeigt sich selten im Einzelfall, aber über tausende Token macht er sich bemerkbar. Für Autoren, die präzise Sprache brauchen, ist das eine Bedrohung. Ein Eingriff in die Werkzeugkiste, den man nicht unterschätzen sollte. Wenn ein Anbieter verspricht, eine Technologie sei „unmerklich“ und „qualitätsneutral“, sei wachsam. Solche Versprechen sind oft der Dekor für eine unbequeme Wahrheit. Anthropic hat einen Weg gewählt, der gesetzlichen Formulierungen genügt, aber die Absicht der Transparenz verfehlt.
Am Ende steht eine Technologie, die die Spreu vom Weizen trennt – aber die falschen Körner als Spreu bezeichnet. Ehrliche Nutzer bekommen einen schleichenden Qualitätsverlust. Unehrliche Nutzer weichen auf andere Tools aus. Und die Leser stehen unter einem vagen Generalverdacht. Ein miserabler Deal für alle – der Autor nennt es „Perversion des Schreibens“.
Quelle: daringfireball.net
