Du sitzt im Jahr 2030 vor deinem Laptop, eine Tasse Tee in der Hand. Was tust du? Tippst du immer noch Befehle in ein ChatGPT-Fenster? Oder hast du etwas Besseres gefunden? Viele Menschen, die den Großteil ihrer Arbeitszeit vor Bildschirmen verbringen, fragen sich das heute schon. Die Antwort, die ein Autor kürzlich in einem Essay skizziert hat: Wir brauchen eine völlig neue Art von KI-Begleiter. Keinen Chatbot, der uns ersetzt, sondern einen digitalen Zwilling, der uns verstärkt. Einen persönlichen Schutzengel, der unsere Werte kennt und in unserem Sinne handelt.
Das Dilemma der heutigen Chatbots
Die aktuellen großen Sprachmodelle, wie sie hinter ChatGPT oder Claude stecken, haben ein grundlegendes Problem. Sie sind darauf trainiert, möglichst vielen Nutzern zu gefallen – nicht einem einzigen. Das führt zu einem Persönlichkeitsverlust, den der Autor als „Modus-Kollaps“ bezeichnet. Die Modelle liefern standardisierte, vorhersehbare Antworten, die oft oberflächlich wirken. Wer schon einmal versucht hat, einen persönlichen Text von einem Chatbot im eigenen Stil schreiben zu lassen, kennt das Ergebnis: Es klingt nach KI, nicht nach einem selbst. Der Autor beschreibt, wie er jahrelang mit verschiedenen Modellen experimentiert hat, von einfachen Zeichen-RNNs bis zu den neuesten GPT-Versionen, und immer wieder an dieselbe Grenze gestoßen ist: Die KI kann ihn nicht imitieren, seine Gedanken nicht wirklich aufgreifen. Sie produziert stattdessen eine Art „KI-Schlonz“, der niemandem wirklich hilft.
Hinzu kommt ein wirtschaftlicher Anreiz, der gegen den Nutzer arbeitet. Die großen KI-Labore verdienen ihr Geld mit Abonnements und Werbung. Ihr Ziel ist es, möglichst viele Nutzer an sich zu binden und sie möglichst oft zu ersetzen – nicht zu unterstützen. Der Autor zitiert hier das ökonomische Gesetz: „Tool-KIs wollen zu Agent-KIs werden.“ Das bedeutet, dass die Industrie kein Interesse daran hat, dich produktiver zu machen. Sie will dich überflüssig machen. Denn wenn ein KI-Agent dich ersetzen kann, lässt sich das Geschäft unbegrenzt skalieren. Ein menschlicher Wissensarbeiter, der jeden Output überprüfen muss, ist ein Flaschenhals. In der Logik der Konzerne bist du das Hindernis, das es zu beseitigen gilt.
Die Idee der Guardian Angels
Gegen diese Entwicklung schlägt der Autor ein Gegenmodell vor: die Guardian Angels. Das sind hochpersonalisierte große Sprachmodelle, die nicht als Assistenten, sondern als digitale Zwillinge des Nutzers fungieren. Sie sollen dessen Persönlichkeit, Werte und Vorlieben so genau nachbilden, dass sie in seinem Sinne handeln können. Der Nutzer wird zum CEO einer „KI-Korporation“: Er entscheidet, was es wert ist, getan zu werden, und setzt dann zahlreiche Agenten auf die Umsetzung an. Diese Agenten sind aber keine fremden Entitäten, sondern Erweiterungen seiner selbst. Das löst das sogenannte Principal-Agent-Problem: Wenn Prinzipat und Agent identisch sind, gibt es keinen Interessenkonflikt mehr.
Ein Guardian Angel wäre nicht nur produktiv, weil er die Ergebnisse des Nutzers in höherer Qualität reproduzieren kann. Er wäre auch vertrauenswürdig, weil er per Definition auf der Seite des Nutzers steht. Und er wäre sicher, weil er fest mit einer einzigen, konkreten Person verbunden ist. Ein Prompt-Angriff, der einen Chatbot dazu bringen soll, schädliche Anweisungen auszuführen, würde bei einem Guardian Angel ins Leere laufen – denn es wäre absurd, die eigene Person zu schädigen. Der Autor betont, dass eine solche personalisierte KI die größeren Probleme der KI-Sicherheit nicht löst, aber als Teil einer breiten Verteidigungsstrategie jedem Einzelnen helfen kann.
Wie könnte man einen Guardian Angel bauen?
Die technische Umsetzung ist anspruchsvoll. Der Autor schlägt eine Kombination aus mehreren Methoden vor. Statt ein Modell einmal zu trainieren und dann einzufrieren, müsste es sich kontinuierlich weiterentwickeln. Das erfordert Online-Lernen, bei dem das Modell in Echtzeit aus neuen Daten lernt – ein dynamisches Evaluieren. Gleichzeitig soll das Modell den Nutzer aktiv um Feedback bitten, um seine Vorlieben immer besser zu verstehen. Diese Technik heißt Active Learning. Sie ermöglicht es dem Modell, mit wenigen Korrekturen des Nutzers große Lernfortschritte zu machen. Der Autor erwähnt hier den DAgger-Algorithmus, der solche Korrekturen mit mathematischen Garantien für geringen Bedauern verarbeitet.
Ein weiterer Baustein ist eine benutzerfreundliche Oberfläche, die nicht auf Chat, sondern auf Protokollierung setzt. Der Guardian Angel soll nicht als Chatter, sondern als stiller Begleiter im Hintergrund arbeiten, der alle Aktionen des Nutzers aufzeichnet, analysiert und daraus lernt. Der Autor stellt sich eine Kommandozeilen-orientierte Nutzerschnittstelle vor, die alle Interaktionen transparent macht. Denn Sicherheit und Vertrauen entstehen nur, wenn der Nutzer jederzeit nachvollziehen kann, was sein digitaler Zwilling tut.
Sicherheit in einer Welt voller KI-Angriffe
Der Autor warnt eindringlich vor den wachsenden Gefahren durch KI-gestützte Angriffe. Er beschreibt eine Episode, in der seine Großtante ihr Telefon abstellte, weil sie die Flut von Betrugsanrufen nicht mehr bewältigen konnte. Und er fragt sich, ob er selbst in ein paar Jahren nicht genauso hilflos sein wird – gegenüber synthetischen Medien, ausgeklügelten Phishing-Kampagnen oder Propaganda-Ökosystemen, die ganze soziale Netzwerke unterwandern. Ein Guardian Angel könnte hier als persönlicher Sicherheitsdienst fungieren: Er prüft jede eingehende Nachricht auf Anzeichen eines Angriffs, erkennt Muster, die ein Mensch übersehen würde, und handelt im Schutz des Nutzers. Weil der Guardian Angel die Persönlichkeit seines Prinzipals kennt, kann er ungewöhnliche Anfragen sofort als feindlich identifizieren.
Dennoch gibt es Grenzen. Der Autor räumt ein, dass ein solches System nicht gegen alle Bedrohungen gewappnet ist. Hochprofessionelle Angreifer mit riesigen Rechenressourcen könnten auch einen Guardian Angel überlisten. Aber in einer Welt, in der die verteidigende KI durch regelmäßige Updates und die inhärente Asymmetrie der Verteidigung einen Vorteil hat, könnte es dennoch einen Unterschied machen. Der Autor vergleicht es mit Gandalfs Warnung an Denethor in „Der Herr der Ringe“: Wer den Palantír nutzt, sieht nur das, was der Feind ihn sehen lässt. Ein Guardian Angel wäre eine Art Palantír, der nur auf eine Person geeicht ist – und der nicht von Sauron manipuliert werden kann.
Warum wir diesen Ansatz brauchen
Der Autor sieht die Zukunft düster, wenn wir beim Chatbot-Modell bleiben. Er zitiert den Kybernetiker Norbert Wiener, der schon 1960 warnte, dass schnelle maschinelle Prozesse uns keine Zeit für Korrekturen lassen – wir müssen sicher sein, dass das Ziel wirklich unser Ziel ist. Ohne personalisierte Agenten droht eine Welt, in der KI uns nicht unterstützt, sondern untergräbt. In der wir unsere eigene Denkarbeit outsourcen und dabei unsere Identität verlieren. Der Guardian Angel ist der Versuch, eine Vision für sinnvolle Arbeit im KI-Zeitalter zu entwerfen: nicht als Lückenfüller, den man optimieren kann, sondern als Menschen, der durch seine digitale Verstärkung erst richtig zur Geltung kommt.
Auf die Frage, ob ein solches Projekt als Open-Source-Initiative oder als Startup beginnen sollte, neigt der Autor zur zweiten Option. Die Sicherheitsanforderungen und die nötige Rechenleistung seien zu hoch für eine reine Gemeinschaftsentwicklung. Denkbar wäre ein Fokus auf Power-User wie Forscher und Führungskräfte, von denen aus die Technik dann in breitere Kreise diffundiert. Was das für den Einzelnen bedeutet: Wir müssen uns aktiv für eine KI-Software entscheiden, die uns dient, nicht ersetzt. Wer wartet, bis die Chatbot-Industrie sein Interesse in den Fokus nimmt, wird warten, bis er überflüssig geworden ist.
Der Guardian Angel ist kein Allheilmittel, aber er zeigt einen Weg. Einen Weg, auf dem KI nicht die Entmündigung, sondern die Ermächtigung des Menschen bedeutet. Das ist vielleicht die Vision, die es wert ist, verfolgt zu werden – besonders, wenn man 2030 mit einer Tasse Tee vor dem Laptop sitzt und wirklich arbeiten will.
Quelle: gwern.net
