Kategorie: Einblicke

Was ändert KI an der mathematischen Arbeit – und was nicht? Ein Gastbeitrag auf Terence Taos Blog „What’s New“ antwortet darauf nüchtern. Rachel Webb, Mathematikerin mitten in ihrer Promotion, beschreibt dort keine neuen Ziele, sondern andere Werkzeuge. Wer heute in der Mathematik arbeitet, findet in ihrem Text weniger eine Prognose als eine Aufforderung: Prüfe, welcher Teil deiner Arbeit sich verändert und welcher nicht.

Gutes mathematisches Schreiben als Stellvertreter für gutes Denken

Der Auslöser liegt einige Jahre zurück. Webb besuchte als Doktorandin ein Seminar, in dem Graduierte und Lehrende Schreibkurse für ihr Fach entwickeln wollten. Die Moderatorin stellte eine harmlose Frage: Was heißt es, im eigenen Fach gut zu schreiben? Webb hatte eine schnelle Antwort. Gutes mathematisches Schreiben – und damit gutes Mathematikbetreiben – sei klar und korrekt.

Die anderen Teilnehmenden waren erfahrener und kamen aus anderen Disziplinen. Ihre Antwort fiel anders aus: Gutes Schreiben sagt etwas Interessantes. Für Webb war das mehr als ein Wortwechsel. Sie beschreibt es als den Moment, in dem sich ihr die Bedeutung von Forschung erschloss. Forschung ist die Suche nach etwas Interessantem, das man sagen kann. Klarheit und Korrektheit kommen erst danach – dann aber zwingend.

Diese Reihenfolge wird oft verwechselt. Korrektheit lässt sich überprüfen, Interesse nicht – deshalb steht sie in der Ausbildung im Vordergrund. Wer nur korrekt arbeitet und nie fragt, wem diese Korrektheit etwas bedeutet, bearbeitet Aufgaben statt Probleme.

Definitionen als Figuren, Lemmata als Handlung

Wie entsteht das Interessante? Webb greift zu einem Bild, das ihre Arbeitsweise gut trifft. Die Arbeit an einem Beweis sei wie das Schreiben eines Romans. Dessen Figuren sind den Bedingungen menschlicher Erfahrung unterworfen, werden aber so präsentiert, dass sie diese Erfahrung kommentieren.

In der mathematischen Variante sind die Figuren die Definitionen, die Handlung besteht aus Lemmata und Theoremen. Beides ist an Wahrheit gebunden. Innerhalb dieses Rahmens gibt es aber Wahlmöglichkeiten: Definitionen lassen sich strategisch oder geradezu künstlerisch zuschneiden, damit sie bestimmte Facetten des Wahren sichtbar machen.

Daraus folgt eine Haltung, die Webb ausdrücklich vertritt. Es gibt nicht den einen Weg zu verstehen, was auf fundamentaler Ebene vor sich geht. Man sucht Verständnis, wählt aber aus dem Verstandenen eine Erzählung aus, die für die Kolleginnen und Kollegen schön und interessant ist. Das ist der kreative Anteil der Forschung, den die verbreitete Formel von der Suche nach Verständnis – Thurston hat sie geprägt – nicht ganz abdeckt.

Woher kommt Interesse? Webb nennt zwei Quellen: Anwendungen, in der realen Welt oder in anderen Teilen der Mathematik, und die Nähe zu prominenten offenen Problemen. Solche Probleme sind Zentren, um die herum die Gespräche der Disziplin stattfinden.

Warum LLMs die Ausführung beschleunigen, nicht die Fragestellung

An dieser Grundhaltung ändert ein Large Language Model nach Webbs Einschätzung wenig. Es ändert nur, wie der Plan ausgeführt wird. Jetzt gibt es eine Maschine, die alle Bücher gelesen hat und weiß, wie viele Standardlemmata es gibt – so ihre Formulierung. Das beschleunigt die Forschung erheblich und macht aus manchen Ländern mathematischer Fantasie Gebiete, die sich realistisch erkunden lassen. Sie zitiert Benjamin Antieau: größere Träume träumen.

Als Metapher für diesen Wechsel wählt sie die Fahrtroute. Wer auf der Autobahn fährt statt auf Nebenstraßen, kommt schneller voran und verzichtet auf manches am Rand. Entscheidend ist: Für jede Etappe lässt sich neu entscheiden, welche Route man nimmt. Der Zugriff auf das Modell ist kein Schalter, sondern eine Wahl.

Auch ihr Maßstab für Interesse verschiebt sich nicht. Wenn ein Millennium-Problem gelöst ist, fragt sie, muss dann das Interesse an der Umgebung sinken? Sie verneint es. Es gibt viele Lösungen, aber auch viele Bruchstücke von Verständnis, die keine vollständige Lösung ergeben und trotzdem wertvoll sind. Man mag wissen, wie man in die rote Stadt gelangt; die Kartierung des umliegenden Geländes wird dadurch nicht weniger wertvoll, sondern eher mehr, weil die Nähe wirtschaftliche und strategische Möglichkeiten eröffnet.

Zwei Gründe, warum Menschen weiter Mathematik betreiben

Damit ist nur das Wie geklärt, nicht das Warum. Webb stellt die unangenehme Frage direkt: Welche Gründe haben Menschen, Mathematik zu betreiben, wenn Maschinen irgendwann Mathematik erzeugen, die interessanter ist als alles, was wir selbst hervorbringen? Ökonomische Antworten kennt sie, lässt sie aber beiseite und verweist auf andere Autoren. Stattdessen nennt sie zwei humanistische Gründe.

Der erste ist die Freude. Mathematik ist für Webb individuell interessant, und sie will weitermachen, auch wenn Maschinen darin besser sein sollten. Sie benennt aber eine Gefahr: LLMs können den Spaß austreiben, weil sie dazu verleiten, die Antwort zu kennen, statt die Lösung zu verstehen.

Dieser Versuchung müsse man widerstehen. KI solle nur so eingesetzt werden, dass Forschung mehr Freude macht und Verständnis mit dem Wissen einhergeht. Das kann Experimentieren erfordern. Solche Entscheidungen gehören längst zum Alltag: Manche Wege gehen Menschen bewusst zu Fuß, obwohl ein Auto bereitsteht, weil der geteilte Aufwand den Zusammenhalt stärkt. Nicht jede effiziente Option ist die richtige.

Der zweite Grund ist die Gemeinschaft. Mathematik ist nicht nur für einzelne interessant, sondern für mehrere Menschen gleichzeitig – darin liegt ihre soziale Funktion. Die Seminarteilnehmenden aus anderen Fächern meinten mit interessant genau das: interessant für andere Menschen, also Teil eines größeren Gesprächs. Lehre, Zusammenarbeit, Konferenzen, Kolloquien und Teepausen halten diese Gespräche am Laufen.

Was KI an der sozialen Seite der Mathematik gefährden kann

Hier sieht Webb das eigentliche Risiko. KI kann soziale Bindungen auf zwei Wegen schwächen. Der erste ist die Angst, überholt zu werden: Wenn Ergebnisse schneller entstehen, wächst die Sorge, dass jemand anderes dieselbe Idee zuerst veröffentlicht. Der zweite ist unspektakulärer und vielleicht wirksamer – es wird schlicht einfacher, eine Maschine zu fragen als eine Kollegin.

Webb bleibt an dieser Stelle vorsichtig. Dass etwas geschehen könnte, heißt nicht, dass es geschieht. Sie zitiert Wendell Berry, um die Richtung vorzugeben: Möge das Zeitalter der KI das Zeitalter werden, in dem wir unsere mathematischen Nachbarn kennen. Dazu gibt sie eine praktische Anweisung mit auf den Weg: Tut jeden Tag etwas, das sich nicht berechnen lässt.

Auch der Rahmen fällt auf. Der Beitrag erschien auf dem Blog eines der bekanntesten Mathematiker der Gegenwart, und die Anmerkung des Gastgebers verrät, dass er in einem anderen Dateiformat geschrieben und mit KI konvertiert wurde. Damit ist der Text selbst ein Beispiel für das, was er beschreibt: Die Maschine erledigt die Übertragung, der Mensch liefert Argument und Haltung.

Was das für den eigenen Umgang mit KI bedeutet

Für die Praxis lässt sich daraus mehr mitnehmen als eine bloße Haltung. Trenne den Teil deiner Arbeit, der sich ändert, von dem, der sich nicht ändert. Was sich ändert, ist die Ausführung: das Nachschlagen, das Sortieren von Standardresultaten, das Ausformulieren, das Überführen von Ideen in Texte und Formate. Was bleibt, ist die Auswahl dessen, was überhaupt interessant ist, und die Verantwortung für das Verständnis.

Das ist keine Beruhigungspille, sondern eine Zumutung mit zwei Seiten. Wer immer den schnellen Weg nimmt, verliert Zeit, die vorher mit Verständnis verbracht wurde; wer ihn nie nimmt, verliert den Anschluss. Die sinnvolle Antwort ist deshalb keine Grundsatzentscheidung, sondern eine Wahl pro Etappe – wie bei der Route.

Was heißt das konkret? Wenn du in der mathematischen Forschung arbeitest, wird sich dein Arbeitsalltag schneller verändern als deine Fragestellungen. Die Werkzeuge werden besser, die Landkarte detaillierter, und die Umgebung bereits gelöster Probleme bleibt interessant. Was nicht automatisch mitwächst, ist die Gemeinschaft, in der solche Fragen gestellt werden – sie entsteht durch Menschen, die sich füreinander Zeit nehmen. Ob KI diesen Teil stärkt oder aushöhlt, entscheidet nicht die Maschine.

Quelle: terrytao.wordpress.com

Rund 120 von 150 Studierenden hoben die Hand, als Tim Dettmers in einer Vorlesung fragte, wer Angst habe, nach dem Abschluss keinen Job zu finden. Achtzig Prozent eines Hörsaals, in einer einzigen Bewegung. Dettmers leitet ein kleines universitäres Lab. Diese Angst hält er für einen Irrtum, und zwar für einen, der auf einer Annahme beruht: dass die Zukunft der Forschung dem gehört, wer die meisten GPUs hat.

Er erzählt die Szene am Anfang eines langen Blogposts zur Open Source Week seines Labs und baut darin die Gegenposition auf. Sein Argument: Die akademische Forschung steht nicht vor dem Ende, sondern vor einer Renaissance. Nicht trotz begrenzter Mittel, sondern wegen ihnen. Belege liefert das Lab nicht in Prosa, sondern in Code. Wer heute über Open-Source-KI auf eigener Hardware spricht, kommt an dieser Argumentation kaum vorbei — sie dreht die übliche Rangordnung zwischen Rechenzentrum und Universitätsflur um.

Um zu verstehen, warum das mehr ist als eine freundliche Geste, hilft eine Unterscheidung, die der Text selbst nahelegt: die zwischen einem Werkzeug und einer Werkbank. Ein einzelnes Paper ist ein Werkzeug. Nützlich, aber isoliert. Ein Ökosystem ist eine Werkbank, an der jedes neue Stück das vorherige brauchbarer macht. Der ganze Beitrag lässt sich entlang dieser Linie lesen. Dort liegt der Unterschied zwischen Forschung, die sich addiert, und Forschung, die nur nebeneinandersteht.

Warum ein Lab heute ein Ökosystem veröffentlicht statt einzelner Paper

Dettmers beschreibt eine Verschiebung, die im vergangenen Jahr stattgefunden hat und die viele Forschende in ihren Gewohnheiten noch nicht nachvollzogen haben. Mit Agenten werden einzelne Projekte schnell. Arbeit, die früher ein Jahr aus Engineering und Experimenten bestand, dauert Wochen oder Tage. Daraus folgt etwas Unbequemes. Wenn jedes einzelne Projekt leicht wird, hört stückweise Arbeit auf, gute Forschung zu sein. Ein Paper hier, ein Paper dort, jedes in sich geschlossen und jedes mit der stillen Bitte an die Leserschaft, die Teile selbst zusammenzusetzen. Ein Format aus einer Welt, in der jedes Stück noch teuer war.

Die Schwierigkeit ist damit nicht verschwunden, sie hat nur den Ort gewechselt. Ein Paper zu veröffentlichen ist nicht mehr die Hürde. Ein zusammenhängendes Ökosystem zu veröffentlichen ist es. Genau darin sieht Dettmers die Aufgabe, und die Open Source Week ist sein Versuch, sie zu bearbeiten. Sein Lab nutzt dafür die Freiheit, die es an einer Universität gibt und ein kommerzielles Labor nicht hat: die besten Werkzeuge kostenlos für alle bereitzustellen.

Konkret bedeutet das offene Systeme, günstiger laufende lokale Modelle, stärkere lokale KI-Modelle, lokale Systeme, die Frontier-Leistung in tiefer und autonomer Forschung nachbilden, sowie neue Verfahren für domainspezifische Reinforcement-Learning-Umgebungen. Alles davon sitzt an der Schnittstelle von drei Dingen: Inferenz-Frameworks, Agenten-Harnesses und der Verbindung beider zu autonomen Forschungssystemen. Entscheidend ist für den Autor, dass all das einfach zu benutzen ist. Open Source, die nur erfahrene Forschende zum Laufen bringen, sei keine Open Source.

Barrierefreiheit hat nach seiner Darstellung zwei Hälften: die Ressourcen, die man braucht, und das Wissen, das man braucht. Nur eine davon ist durch Hardware festgelegt. Ein paar GPUs oder ein MacBook können reichen. Die Wissensanforderung dagegen ist ein Designproblem. Man löst es, indem man jedes technische Detail wegabstrahiert, über das die Nutzerin nicht nachdenken muss. In diese Abstraktion ist nach eigener Aussage der größte Teil der Arbeit geflossen. Am sichtbarsten wird sie im Agenten-Harness.

450 Token pro Sekunde bei 1,5 Bit pro Gewicht

Das Harness ist der Einstiegspunkt, weil es alles andere benutzbar macht. Man richtet es auf ein Repository (etwa ein Inferenz-Framework mit CUDA-Kernels) und gibt ihm die Anweisung, diese Kernel zu optimieren. Dann geht man weg. Das System arbeitet weiter durch die Phasen, in denen Fortschritt langsam und die Arbeit zäh ist. Es hört nicht auf, bis man zurückkommt. Rückmeldung bekommt es unterwegs keine, also muss es selbst herausfinden, was zu tun ist, wenn etwas unklar ist.

Genau so entstanden die Mac- und Metal-Implementierungen des Frameworks. Ein Kommandosatz ließ den Agenten auf die Kernel los. Zurück kam quantisierte Inferenz eines Qwen-3.6-35B-A3B-Modells mit 450 Token pro Sekunde und brauchbarer Ausgabequalität bei 1,5 Bit pro Gewicht. Zum Vergleich: Ein Modell in halber Genauigkeit braucht sechzehn Bit für jedes Gewicht. Bei 1,5 Bit läuft dasselbe Modell in ungefähr einem Zehntel des Speichers, und schnell genug, dass es sich wie ein lokaler Prozess anfühlt und nicht wie ein entfernter Dienst.

Dann kommt der Punkt, der im Titel des Beitrags steckt. Was passiert, wenn Modelle, die eben noch außer Reichweite waren, auf die Hardware passen, die ohnehin herumsteht? Qwen 3.8 mit 27 Milliarden Parametern galt bisher als das populäre lokale Modell. Das Framework des Labs bringt den größeren Bruder Qwen 3.8 Flash Next mit 125 Milliarden Parametern auf eine einzelne 24-GB-GPU, die Karte in einem gewöhnlichen Desktop-Rechner. Mit AMD Strix, einer NVIDIA DGX Spark oder einem MacBook mit 128 GB Arbeitsspeicher läuft DeepSeek V4.1 mit 550 Milliarden Parametern. Um die Kontextlänge muss man sich nicht kümmern, weil Kompression und Kontextverwaltung automatisch greifen.

Autonome Forschung mit lokalen KI-Agenten: zwei Stunden, vier Ergebnisse

Der Teil, auf den Dettmers selbst am meisten verweist, ist die Kombination dieser Bausteine zu autonomer Forschung. Dabei entstand nach seiner Darstellung eine neue Technik zur Informationsgewinnung mit einer Präzision, die er so noch nicht gesehen hat. Das System schlägt die Deep-Research-Systeme von Frontier-Labs und liefert bessere Ergebnisse als das System von Sakana AI oder Googles ScientistOne. Es läuft vollständig lokal, ohne Internetzugang.

Der Autor beschreibt ein Experiment aus seinem Labor. Er bat den Agenten, im Bereich Bioinformatik ein Problem zu finden, an dem sich arbeiten lohnt, gerade weil er von diesem Feld wenig versteht. Die Kriterien waren eng gefasst: Der Fortschritt musste schnell sein, die Bewertung günstig genug für die vorhandene Hardware, und das Problem musste frisch sein, mit aktiver Forschung aus den letzten vier Wochen. Der Agent kam mit drei Vorschlägen zurück. Das Labor nahm den ersten. Innerhalb von ungefähr zwei Stunden entstand eine neue untere Schranke für heuristische Verfahren, die beste Heuristik der Literatur wurde entwickelt und getestet, man rückte näher an teure, mit KI-Modellen trainierte Verfahren heran, und der Agent fand Probleme in den Datenquellen, auf die sich die gesamte Bewertung dieses Problems stützt. Der Stand der Technik war damit nicht erreicht. Trotzdem: vier Resultate in zwei Stunden, und eines davon stellt die Evaluationsdaten infrage, von denen ein ganzes Feld abhängt.

Das System ist kein Demo-Objekt für Blogposts. Die Studierenden nutzen es täglich. Bevor es im Harness lebte, lief es als Slack-Bot, und der war instabil genug, dass er zeitweise ausfiel. Ein Überwachungssystem für den Ausfall gab es nicht, dafür ein wirksames Ersatzsignal: Mails von Studierenden, dass mit dem Bot etwas nicht stimme und ob man helfen könne.

In der Zusammenarbeit setzte Dettmers es nach Besprechungen ein. Aus der Aufnahme entstanden Forschungsfragen, die diskutierten Ideen wurden gegen die Literatur geprüft und in aussichtsreiche und weniger aussichtsreiche Richtungen sortiert. Anschließend erzeugte das System ein Dokument und schickte es an die Studierenden. Das lief zwei Sitzungen lang. Es war den Beteiligten zu umständlich, weil ein manueller Schritt nötig blieb. Also ließ der Autor es zwei weitere Male weg. Danach fragten die Studierenden von sich aus, ob man das System wieder benutzen könne, weil es ihnen geholfen hatte, ihre eigene Forschung zu ordnen. Das, so schreibt Dettmers, sei die einzige Bewertung eines Forschungswerkzeugs, der er traut: dass Leute danach fragen, nachdem man aufgehört hat, es ihnen zu geben.

CliffCompaction: längere Sitzungen, kleinere Rechnung

Der letzte Baustein ist der am meisten genutzte und am wenigsten besprochene. Die Frage: Wie hält man einen Agenten am Arbeiten, wenn das Gespräch längst zu Ende wäre? Die Antwort des Labs heißt CliffCompaction und ist eine Technik zur automatischen Kompression des laufenden Kontexts. Sie ist seit Monaten im Einsatz, und Dettmers möchte nach eigener Aussage keinen Agenten mehr ohne sie laufen lassen. Man kann sich das wie ein Laborprotokoll vorstellen, das sich selbst auf den aktuellen Stand bringt. Statt jede Beobachtung mitzuschleppen, bleibt festgehalten, was für den nächsten Schritt zählt. Der Agent verliert dabei nicht den Faden.

Laut dem Beitrag ist die Technik deutlich leistungsfähiger als die automatische Kompression in Claude Code oder Codex. Sitzungen laufen damit über Millionen Token, einige im Labor über hundert Millionen. Zugleich sinken die Gesamtkosten um ungefähr fünfzig Prozent. Ein Partner hat sie nach Darstellung des Autors im eigenen Unternehmen eingesetzt und eine Senkung des gesamten KI-Budgets um 45 Prozent gemessen, fast die Hälfte der Ausgaben weg, ohne dass etwas dafür wegfällt. Auf KernelBench erreicht das Verfahren den Stand der Technik und schlägt deutlich komplexere Ansätze wie AlphaEvolve-artige Methoden oder hierarchische Gedächtnissysteme.

Interessant ist, dass beide Seiten des Trade-offs gleichzeitig wandern. Die Sitzung läuft länger, und die Rechnung wird kleiner. Anders formuliert: Der Agent hört auf zu vergessen, was er gerade tut, und man hört auf, für das Vergessen zu bezahlen. Ein Teil der nächsten Kompressionsstufe ist laut Text bereits vorhanden und noch besser.

Daraus fällt auch das effiziente Test-Time-Scaling heraus. Wer die Hälfte der Kosten spart, kann das Gesparte reinvestieren. Statt eines einzelnen Durchlaufs kauft man mehrere zum gleichen Budget. Nach Angaben des Labs ist dies die erste praktische Methode, die mehrere Durchläufe in einen deutlichen Leistungsgewinn bei gleichbleibenden Kosten verwandelt. Für alltägliche Engineering-Arbeit sei sie noch nicht praktikabel, der Sprung dorthin aber nicht schwer. Zusammen mit lokalen Deployments, die häufig unausgelastet sind, ergibt sich daraus die Aussicht, dass jeder viele parallele Agenten auf ein einziges Problem ansetzen kann.

Warum die Angst vor dem Arbeitsmarkt auf einer falschen Annahme beruht

Zurück zu den 120 Händen. Dettmers zählt drei Dinge, die gleichzeitig wirken, und nur eines davon handelt von KI. Erstens der Glaube, KI nehme allen die Arbeit weg. Zweitens ein ungenaues Bild davon, was KI mit Arbeit tatsächlich macht. Drittens Ansteckung: Selbstblockierende Ideen wandern von Person zu Person, und ein Raum voller Menschen, die denselben pessimistischen Satz zehnmal gehört haben, produziert beim elften Mal eine Hand mehr.

Am prüfbarsten ist der zweite Punkt, und dort widerspricht der Autor der naheliegenden Prognose. Vom Beruf, der zuerst verschwinden sollte, ist Softwareentwicklung das beste Beispiel. Die Erwartung war, dass diese Jobs zuerst wegfallen. Die jüngste Entwicklung lief in die andere Richtung. Die Nachfrage nach Softwareentwicklern ist heute höher als je zuvor. Ein guter Entwickler mit guten Agenten baut neue Produkte, hält bestehende Systeme instand und erweitert sie sehr viel effizienter, sodass ein Unternehmen pro ausgegebenem Euro mehr Gegenwert bekommt. Was der Beruf verlangt, hat sich verändert: solide Agentenkenntnisse und häufig eine tiefere Spezialisierung als früher. Den Beruf des Softwareentwicklers in seiner alten Form gibt es kaum noch, doch beides ist erreichbar. Agentenkenntnisse kommen mit der Zeit, und tiefe Spezialisierung, die früher Jahre brauchte, lässt sich mit Agenten schnell aufbauen.

Dazu kommt eine Beobachtung über die Ökonomie des Alltags. Wir leben in einer Wirtschaft inkrementeller Verbesserungen. Das nächste Telefon ist nicht viel besser als das letzte, die Verbesserungen sind real, aber klein und werden jedes Jahr schwerer zu erkennen. Viele Dienste sind auf dieselbe Weise konvergiert. Eine Fahrt mit Lyft oder Uber ist keine grundsätzlich andere Erfahrung als früher und wird es vermutlich nie sein, weil nicht mehr viel zu verändern ist. Man kann dieselbe Sache nur eine begrenzte Zahl von Malen ein wenig besser machen, bevor jemand aufhört, für die nächste Version zu zahlen. An dieser Stelle bricht der vorliegende Text mitten in der Ankündigung ab, dass Fortschritt in zwei Formen kommt. Dieser Gedanke bleibt offen und wird hier nicht ergänzt.

Was das für universitäre KI-Forschung bedeutet

Die These, auf die alles zuläuft, ist einfach: Die akademische Forschung steht vor einer Renaissance, und die spannendste Arbeit des nächsten Jahrzehnts entsteht in Universitätslabors, nicht trotz ihrer begrenzten Mittel, sondern wegen ihnen. Begründet wird das mit der neuen Einheit der Forschung. Wenn einzelne Projekte billig werden, entscheidet nicht mehr die schiere Rechenmenge über Relevanz, sondern die Fähigkeit, zusammenhängende Systeme zu bauen, sie verständlich zu machen und offen zugänglich zu halten. Genau das ist an einer Hochschule strukturell leichter als in einem Unternehmen, dessen Werkzeuge hinter Zugangsbeschränkungen liegen.

Der Beitrag kündigt sechs Teile an: warum ein Lab wie dieses heute Ökosysteme statt Papers veröffentlicht, was in der Open Source Week tatsächlich enthalten ist, warum der Pessimismus falsch ist, was man loslassen und was man festhalten sollte, wie Forschung aussieht, nachdem man losgelassen hat, und warum die Renaissance in der Akademie stattfindet. Ein hoher Anspruch, gemessen an einem Maßstab, den der Autor selbst gesetzt hat: dass die Werkzeuge auch von Menschen benutzt werden können, die keine Spezialisten sind.

Für den Leser heißt das, auf zwei Dinge zu achten statt auf Versionsnummern. Erstens: Läuft das Zeug tatsächlich auf Hardware, die man besitzen kann, und bleibt die Qualität dabei brauchbar? Zweitens: Entsteht daraus ein Werkzeugkasten, in dem ein Teil das nächste trägt, oder wieder nur eine Sammlung eindrucksvoller Einzelstücke? Wenn der Agent über Stunden allein an Kernel-Code arbeitet, der Speicherbedarf auf ein Zehntel fällt und die Rechnung für lange Sitzungen halbiert wird, dann ist das keine Zukunftsmusik, sondern der Zustand eines Labors, das seine Ergebnisse offenlegt. Ob daraus tatsächlich etwas für ganze Fakultäten wird, entscheidet sich nicht in einem Blogpost, sondern daran, ob Studierende die Systeme nach der Open Source Week freiwillig weiterbenutzen, auch wenn niemand sie mehr dazu auffordert.

Quelle: timdettmers.com

Der naheliegende Weg zur automatischen Bildauswertung führt über spezialisierte Computer-Vision-Modelle, die auf eine einzige Aufgabe trainiert sind. Ein Erfahrungsbericht aus dem Umfeld von Jev, OpenJev und SemIf beschreibt einen anderen Aufbau: Ein allgemeines Sprachmodell mit Bildverständnis bewertet die Bilder. Neu ist daran nicht das Modell, sondern die Steuerung. Statt eine Antwort ausformulieren zu lassen, liest der Autor die Token-Wahrscheinlichkeiten der API aus – ein Mechanismus, den viele nur zum Debuggen nutzen, hier aber als Messinstrument dient.

Der Autor beschreibt, wie er über Jev und die darum entstandenen, selbst hostbaren Projekte wie OpenJev und SemIf auf diese Möglichkeit gestoßen ist. Ihm sei dabei klar geworden, dass sich die Wahrscheinlichkeiten einzelner Tokens direkt abfragen lassen – für manche Leser ist das ein alter Hut, für ihn war es neu. Aus dieser Beobachtung ist ein kleines Python-Werkzeug entstanden, das Webcam-Bilder nicht mit klassischer Bildverarbeitung analysiert, sondern mit einem Sprachmodell, das Bilder sehen kann. Der Aufbau lässt sich mit wenigen Mitteln nachbauen.

Wie ein Jev-ähnlicher Wrapper für LLMs Fragen in Buchstaben verwandelt

Das Muster ist einfach. Formuliert wird zuerst ein Zustand, also der Kontext, und darunter eine Frage mit vorgegebenen Antwortmöglichkeiten, von denen jede einen Buchstaben bekommt. Der Autor nennt als Beispiel einen Zustand wie „Meine Bestellung kam beschädigt an und ich möchte eine Rückerstattung“, dazu die Frage, welches Team zuständig ist, und die Optionen [A] billing, [B] shipping, [C] returns. Die Anweisung am Ende lautet, ausschließlich den Buchstaben der besten Option auszugeben.

Dieser Bauplan ist der Kern des Jev-Formats, das als Vorlage dient. Die Fragen tragen dabei Typen, die sich an der erwarteten Antwort orientieren: einer für Ja-Nein-Fragen, einer für Auswahlfragen und einer für Einschätzungen auf einer geordneten Skala. Aus jedem dieser Typen wird im Prompt eine Liste von Buchstaben. Damit lässt sich ein und derselbe Ablauf für völlig unterschiedliche Inhalte verwenden, solange die Antwort auf eine von höchstens zwanzig Optionen passt.

Token-Wahrscheinlichkeiten mit Logprobs auslesen, statt eine Antwort abzuwarten

Man kann sich ein Sprachmodell wie ein Gremium vorstellen, das über eine Frage abstimmt, aber nur das Ergebnis bekannt gibt. Normalerweise siehst du die fertige Antwort und erfährst nichts über die Verteilung dahinter. Logprobs ändern das: Sie zeigen, mit welcher Wahrscheinlichkeit das Modell jedes in Frage kommende Token gewählt hätte. Deshalb genügt ein Buchstabe als Antwort – seine Wahrscheinlichkeit ist bereits die Bewertung der Option.

Technisch ist der Aufwand gering, sofern das Backend mitspielt. Der Request bekommt nur wenige zusätzliche Parameter: die Ausgabe wird auf ein einziges Token begrenzt, Logprobs werden aktiviert und die Zahl der zurückgegebenen Alternativen wird festgelegt. Weil nur ein Token entsteht, ist die Ausgabe praktisch sofort da, auch wenn der Bericht betont, dass die Verarbeitung der Eingabe weiterhin Zeit kostet. Bei vielen Fragen zum selben Zustand lässt sich der gemeinsame Prefix per KV-Cache wiederverwenden, wenn die Serverseite das unterstützt.

Der attachments-Parameter bringt Bilder in das Format

Bis hierhin ist das nichts, was sich nicht auch mit Text erledigen ließe. Dasselbe Verfahren funktioniert aber auch mit Vision-Modellen. Das dokumentierte Jev-Format kennt nach Angaben des Autors bislang nur Text- oder JSON-Zustände, also hat er für seine Experimente ein Feld namens attachments ergänzt. Es nimmt entweder Dateipfade oder Data-URLs mit Base64-kodierten Bilddaten entgegen. Bilder werden einmal geladen und stehen dann allen Fragen desselben Frames zur Verfügung.

Der Wrapper prüft dabei den MIME-Typ und akzeptiert die üblichen Formate. Anschließend landen die Bilder im Prompt, je nach Anbieter entweder als Bildeintrag neben dem Text oder als Bild-URL. An der Logik ändert sich nichts: Das Modell sieht den Zustand, die Frage und die Buchstabenoptionen und gibt ein Token zurück. Der Unterschied zur klassischen Bildverarbeitung: Die Bedingung steckt nicht im Modell, sondern im Text.

Webcam-Bilder mit Python und LLM bewerten: der Ablauf des Skripts

Das Beispiel ist ein eigenständiges Python-Programm, das sich über uv samt Abhängigkeit direkt starten lässt. OpenCV kommt darin nur vor, um bequem an die Kamera zu gelangen und das Vorschaubild anzuzeigen – tatsächliche Bildverarbeitung findet nicht statt. Der Ablauf ist kurz: ein Frame wird gelesen, im Fenster angezeigt und als JPEG kodiert. Aus den Bytes entsteht eine Base64-Daten-URL, die als Attachment in den Request wandert.

Damit die Vorschau flüssig bleibt, läuft die Auswertung in einem Thread-Pool mit genau einem Worker. Solange eine Bewertung läuft, aktualisiert das Skript weiter nur das Vorschaubild und überspringt neue Auswertungen. Ist das Ergebnis da, wird eine Tabellenzeile gedruckt, mit einer Spalte pro Frage und der gemessenen Bildrate für ausgewertete Frames. Die Zeitmessung umfasst dabei auch die Bildkodierung, nicht nur den API-Aufruf.

Die Fragetypen liefern unterschiedliche Arten von Zahlen. Eine Ja-Nein-Frage gibt die Wahrscheinlichkeit für den Wahr-Wert aus, eine Auswahlfrage die wahrscheinlichste Option samt vollständiger Verteilung, eine Einschätzung auf einer Skala einen Erwartungswert zwischen den Stufen. Pro Frage sind zwei bis zwanzig Kriterien erlaubt, die Buchstaben reichen von A bis T. Die Tabelle ist damit kein Klassifikationsergebnis, sondern eine Reihe von Messwerten, die sich über die Zeit beobachten lässt.

Warum llama.cpp und OpenAI verschiedene Endpunkte brauchen

Beim Auslesen der Alternativen unterscheiden sich die Anbieter, und das Skript fängt diese Unterschiede ab. Gegen eine lokal laufende llama.cpp-Instanz geht die Anfrage an den Chat-Completions-Endpunkt mit aktivierten Logprobs und einer hohen Zahl an Alternativen. Gegen OpenAI nutzt der Autor den Responses-Endpunkt, weil dort die Logprobs der Ausgabe über einen eigenen Include-Parameter angefordert werden müssen. In beiden Fällen sorgt ein Sampling-Parameter dafür, dass keine Alternativen vorzeitig weggeschnitten werden.

Zurück kommen nicht zwangsläufig alle Optionen. Das Skript normalisiert die Logprobs daher über eine Exponentialfunktion relativ zum besten Wert und setzt fehlende Optionen zunächst auf null. Fehlt eine Option, deren normierte Wahrscheinlichkeit nicht vernachlässigbar klein ist, bricht das Programm mit einem Fehler ab, statt ein schiefes Ergebnis zu präsentieren. Ein weggelassenes Token darf schließlich nicht besser abschneiden als die letzte tatsächlich zurückgegebene Alternative.

Zur Einrichtung gehört ein llama.cpp-Binary, das der Autor als vorkompilierte Datei für seine GPU bezieht und nach dem Entpacken über einen Serverbefehl startet. Dazu kommen das Modell mit rund sieben Gigabyte und ein Multimodal-Projektor mit etwa 175 Megabyte. Der API-Schlüssel wird nur dann mitgeschickt, wenn die Zieladresse tatsächlich auf den OpenAI-Host zeigt. Alles andere läuft über den lokalen Server auf Port 8060.

Ein Frame pro Sekunde: was die gemessenen Werte bedeuten

Der Autor nennt konkrete Zahlen für seinen Aufbau. Mit einem 12B-Modell auf einer RTX 3090 erreicht er ungefähr ein Frame pro Sekunde, wobei pro Frame drei Fragen gestellt werden. Über die OpenAI-API waren es in seinem Versuch nur rund 0,2 Frames pro Sekunde, was er selbst darauf zurückführt, dass er keine Mühe darauf verwendet hat, einen separaten Verbindungsaufbau pro Frage und Frame zu vermeiden. Für ein Live-System ist das wenig, für eine Beobachtung über Zeit brauchbar.

Dass spezialisierte Computer-Vision-Modelle deutlich effizienter arbeiten, räumt der Bericht ausdrücklich ein. Der Vorteil liegt woanders: Eine Bedingung lässt sich ändern, indem man sie in normaler Sprache beschreibt, und ein neuer Fragetyp braucht kein neues Training. Wer schon einmal eine Erkennungspipeline angepasst hat, weil sich eine Anforderung verschoben hat, weiß, was das wert sein kann.

Für den praktischen Einsatz heißt das: Der Ansatz ist kein Ersatz für schnelle, eng umrissene Bilderkennung, sondern eine Ergänzung für alles, was sich schwer in feste Klassen pressen lässt. Am ehesten passt er dort, wo sich die Frage häufiger ändert als das Bild. Dort liefert ein LLM-Wrapper für Vision-Modelle die Antwort als Verteilung statt als Satz.

Quelle: allanrbo.blogspot.com

61 Prozent. So oft stimmte die Rangfolge, die ein KI-Agent nach einem kurzen Gespräch über Lesevorlieben vorschlug, mit der überein, die der Mensch selbst gewählt hatte. Reines Raten hätte 50 Prozent ergeben.

Die Zahl stammt aus „Project Swap“, einem Experiment, das Anthropic in einem längeren Bericht beschreibt. 201 Anthropic-Mitarbeitende aus sechs Büros brachten jeweils ein Buch mit, das sie abgeben wollten. Ein von Claude gesteuerter Agent ging für sie auf einen digitalen Handelssaal. Dort sollten die Agenten so lange untereinander tauschen, bis möglichst jede Person ein Sommerbuch hatte, das zu ihr passt. Der Aufbau erinnert an eine Modellbahn: zu klein für echten Personenverkehr, aber groß genug, um Weichen, Signale und Zusammenstöße unter kontrollierten Bedingungen zu beobachten.

Darum geht es, wenn KI-Agenten für uns handeln. Nicht darum, ob ein Modell eine Bestellung auslösen kann, sondern darum, was passiert, wenn autonome Agenten in einem Marktplatz im Namen ihrer Nutzer verhandeln. Project Swap ist die zweite Untersuchung dieser Art; der Vorgänger „Project Deal“ ließ Agenten eine Woche lang reale Gegenstände kaufen und verkaufen. Damals ließ sich kaum sagen, wie gut die Ergebnisse hätten sein können, weil Ping-Pong-Bälle und Snowboards schwer zu vergleichen sind. Diesmal ist der Markt bewusst einfach gehalten – und dadurch messbar.

Warum so viele Deals nie zustande kommen

Das Team beginnt seinen Bericht mit einer Beobachtung aus dem Alltag: Viele Tauschgeschäfte, die alle Beteiligten besser stellen würden, kommen nie zustande, weil Suche und Verhandlung zu viel Zeit kosten. Ein Patient bricht eine Behandlung ab, weil ihm eine Klinik zu teuer erscheint – obwohl eine andere deutlich weniger verlangt oder dieselbe Klinik auf Nachfrage den Preis gesenkt hätte. Ähnlich bei der Jobsuche: Irgendwo gibt es eine passendere Stelle und einen Arbeitgeber, der sich über die Bewerbung freuen würde, nur finden beide Seiten nicht zueinander.

Das gilt auch für kleinere Dinge. Schichttausch im Betrieb, Fahrgemeinschaften, die abwechselnde Übernahme des Schulwegs – überall liegen Deals herum, die niemand einsammelt, weil ständiges Suchen und Feilschen nicht in einen normalen Arbeitstag passt. In all diesen Fällen fehlt keine Zahlungsbereitschaft, sondern jemand, der rund um die Uhr sucht, verhandelt und Angebote abgleicht.

Ein Agent könnte genau das leisten. Ob er es tut, hängt an Fragen, für die es noch keine belastbaren Antworten gibt. Versteht ein Agent überhaupt, was sein Nutzer will? Und wenn viele Agenten aufeinandertreffen, braucht es jemanden, der die Marktregeln für KI-Agenten und Märkte festlegt – wer darf mitmachen, was passiert bei einem geplatzten Deal. Je häufiger Agenten in echte Märkte geschickt werden, desto dringlicher werden diese Fragen.

Zentrale Clearingstelle oder direkte Verhandlung

Ein Markt lässt sich auf zwei Weisen organisieren. In einem zentralen Markt teilen alle einer einzigen Instanz mit, was sie wollen, und diese Instanz rechnet die besten Tauschgeschäfte aus. Ökonomen kennen das Verfahren seit Langem. Das praktische Problem ist die Mühe der Beschreibung: Eine Café-Leiterin könnte den optimalen Dienstplan für 20 Mitarbeitende errechnen lassen, wenn jede Person genau auflisten würde, was ihr jeder einzelne Dienst im Verhältnis zu jedem anderen wert ist – ob zwei Samstagmorgen einen Freitagabend aufwiegen, ob ein spätes Ende akzeptabel ist, solange am nächsten Morgen keine Öffnung folgt.

Niemand stellt solche Tabellen freiwillig auf. Wenn ein Agent Vorlieben aus einem lockeren Gespräch ableiten kann, werden Märkte machbar, die zentral schlicht zu teuer waren. Ein zentraler Markt braucht aber jemanden, der ihn betreibt – eine Clearingstelle –, und die Teilnehmenden müssen dieser Instanz ihre Informationen anvertrauen und ihre Entscheidungen akzeptieren. Oft gibt es eine solche Stelle nicht, oder man möchte ihr nicht alles erzählen: Wer eine neue Stelle sucht, will vielleicht nicht, dass eine zentrale Vermittlung davon erfährt, und schon gar nicht, wonach genau gesucht wird.

Dann bleibt der dezentrale Weg: Menschen und Agenten finden einander direkt und verhandeln. Darin liegt die Chance autonomer Agenten – sie senken den Aufwand für Suche und Verhandlung. Dass diese Hilfe wertvoll ist, zeigt der Markt bereits: Immobilienmakler, Headhunter und Heiratsvermittler verdienen ihr Geld genau damit. Weil echte Menschen dafür ihre knappe Aufmerksamkeit stundenlang einsetzen, bleibt diese Dienstleistung teuer und denen vorbehalten, die sie sich leisten können. Die Aufmerksamkeit eines Agenten ist deutlich weniger knapp.

Wie das Experiment aufgebaut war

Die 201 Teilnehmenden verteilten sich auf sechs lokale Gruppen in San Francisco, New York, London, Seattle, Washington und Dublin. Die Gruppen reichten von drei Personen in Dublin bis zu 115 in San Francisco; die Dubliner Gruppe wurde wegen ihrer Größe aus den meisten Auswertungen herausgenommen. Jede Person brachte ein Buch mit, das sie abgeben wollte, und führte anschließend ein kurzes, halbstrukturiertes Gespräch mit Claude über Geschmack und Sommerlektüre. Aus diesem Gespräch baute ein starkes Modell eine Rangfolge über alle Bücher des jeweiligen Pools. Als Vergleichsmaßstab bewerteten die Teilnehmenden zusätzlich zehn Bücher selbst – diese Wahrheit sahen die Agenten nie.

Auf dem Trading Floor galten klare Regeln. Jede Laufzeit war begrenzt, und um Staus zu vermeiden, durften nur eine bestimmte Anzahl Agenten gleichzeitig sprechen. Erlaubt waren Nachrichten an einen gemeinsamen Kanal: ein Tauschvorschlag, die Annahme oder Ablehnung eines solchen oder einfach Geplauder. Deals konnten bilateral sein oder als Rotation zwischen mehreren Parteien laufen; ausgeführt wurde ein Geschäft nur, wenn alle Beteiligten zustimmten. Die gesamte Historie – wer was gesagt und welcher Tausch stattgefunden hatte – war öffentlich einsehbar. Die Hälfte der Agenten erhielt die Anweisung, rücksichtslos nur das eigene Ergebnis zu verfolgen, die andere Hälfte sollte zusätzlich darauf achten, dass möglichst alle ein passendes Buch bekamen.

Eine einzelne Live-Runde zeigt nur, wie es einmal ausgegangen ist, nicht wie es ausgehen musste. Deshalb ließ das Team den Markt dutzendfach neu laufen und änderte jeweils nur eine Variable. In einer Reihe von Läufen blieb alles wie beim Live-Event, nur die Zuteilung der Anweisungen wechselte. In einer zweiten Reihe erhielten alle Agenten neutrale Instruktionen, und 80 Handelssäle liefen mit jeweils einem einzigen Modell. In einer dritten Reihe starteten 60 gemischte Säle, in denen die Hälfte der Agenten auf Opus und die andere Hälfte auf einem der drei anderen Modelle lief. Als Vergleichsmarken dienten zwei zentrale Verfahren: die bestmögliche Zuteilung, bei der eine Clearingstelle einfach alle Vorlieben abfragt, und ein in der Ökonomie gut untersuchter Mechanismus namens Top Trading Cycles, der ohne Ehrlichkeit der Beteiligten auskommt.

Wie gut der Agent seine Person verstand

Alles, was ein Agent tut, hängt davon ab, wie gut er versteht, was sein Nutzer möchte. Genau dieses Verständnis ließ sich hier messen: Bei allen Buchpaaren, die eine Person selbst geordnet hatte, stimmte Claudes Reihenfolge in 61 Prozent der Fälle mit ihrer überein. Zum Vergleich: Zufall läge bei 50 Prozent. Für ein Gespräch von wenigen Minuten ist das viel.

Denn die Ergebnisse des Marktes blieben vor allem deshalb hinter dem Optimum zurück, weil den Agenten Informationen über ihre Menschen fehlten – nicht, weil sie schlecht verhandelt hätten. In Zahlen: Bei genauer Kenntnis der Vorlieben wäre im Schnitt ein Wert von 0,89 möglich gewesen, das entspricht etwa dem zweitliebsten von zehn Büchern. Tatsächlich landeten die Teilnehmenden bei 0,55, ungefähr beim fünftliebsten. 85 Prozent dieser Lücke gehen auf die ungenau erfassten Vorlieben zurück, nur 15 Prozent auf das freie Verhandeln. Die Agenten tauschten Bücher, sie einigten sich auf Rotationen, und trotzdem war die Ausgangslage unscharf. Verhandlungsgeschick und Auftragsklärung sind zwei verschiedene Dinge – wer wissen will, wie Agenten Nutzerinteressen verstehen, muss beides getrennt betrachten.

Modell oder Anweisung – was den Agentenhandel entscheidet

Der überraschendste Befund betrifft die Frage, was ein Verhandlungsergebnis stärker prägt. Über alle Wiederholungen hinweg machte das Modell, auf dem ein Agent lief, mehr Unterschied als die Anweisung, die er mitbekommen hatte. Ob ein Agent rücksichtslos oder kooperativ auftreten sollte, veränderte die Resultate weniger stark als der Wechsel zwischen den Modellklassen. Märkte, in denen stärkere Modelle verhandelten, arbeiteten effizienter – es kamen also mehr Tauschgeschäfte zustande, die die Beteiligten besser stellten. Allerdings gilt das nur gemessen an den Rangfolgen, die Claude aus den Gesprächen abgeleitet hatte. Gemessen an den eigenen Rangfolgen der Menschen schrumpfen die Unterschiede fast auf null: Der größte Modellabstand, 0,12 zwischen Haiku und Opus, wird dort zu 0,01.

Für die Praxis hat das eine unangenehme Implikation. Wer einen Agenten für sich handeln lässt, kann dessen Verhalten über Instruktionen nur begrenzt steuern; die Fähigkeit des zugrunde liegenden Modells schlägt stärker durch. Ein sorgfältig formulierter Auftrag hilft, aber er ersetzt kein leistungsfähiges Modell. Und weil der Agentenhandel auf offenen Märkten stattfindet, treffen unterschiedlich starke Agenten aufeinander. Auf gemischten Handelsflächen lagen die Opus-Agenten stets vorn – nicht dramatisch, aber messbar.

Was Menschen einem Agenten anvertrauen würden

Drei Wochen nach der Verteilung fragte das Team nach, wie zufrieden die Teilnehmenden mit ihrem Buch waren und wie viel Vertrauen sie einem Agenten für ähnliche Entscheidungen entgegenbringen würden. Die meisten, die ihr Buch gelesen hatten, mochten es. Und der durchschnittliche Teilnehmende gab an, etwa ein Drittel seines jährlichen Buchbudgets einem Agenten überlassen zu wollen. Einem belesenen Freund würden die Teilnehmenden rund 40 Prozent anvertrauen. Das ist keine Blankovollmacht, aber auch keine Skepsis. Eine Einschränkung nennt Anthropic selbst: Die eigenen Mitarbeitenden dürften Claude eher vertrauen als die Allgemeinheit.

Was passiert, wenn KI-Agenten für uns handeln? Sie tun es bereits im Kleinen, und die Hemmschwelle sinkt mit jedem guten Ergebnis. Die Beispiele aus dem Bericht sind unspektakulär und deshalb plausibel – Schichttausch, Fahrgemeinschaften, die Suche nach der günstigeren Klinik, die diskrete Jobanfrage bei wenigen Arbeitgebern. Überall dort, wo heute ein Mensch mit knapper Zeit suchen und feilschen müsste, könnte morgen ein Agent den ersten Kontakt übernehmen.

Offen bleibt, wie sich das kontrollieren lässt. Wer prüft, ob ein Agent seinen Auftraggeber richtig verstanden hat? Wer darf auf einem Marktplatz für Agenten überhaupt mitmachen? Was geschieht, wenn ein Deal platzt, nachdem beide Seiten darauf gebaut haben? Und wie viel vom Marktgeschehen sollte für die Menschen sichtbar sein, in deren Namen gehandelt wird? Das sind weniger technische als institutionelle Fragen, und sie entscheiden darüber, ob aus dem Modellbahn-Experiment einmal ein belastbares Schienennetz wird.

Project Swap liefert darauf keine fertigen Antworten, aber eine Reihenfolge. Zuerst muss ein Agent verstehen, was sein Mensch will. Daran hängt alles Weitere. Dann braucht es Regeln, die Fairness und Nachvollziehbarkeit sichern, statt sie dem stärksten Modell zu überlassen. Erst danach lohnt die Diskussion über Effizienz. Das Verständnis der Nutzerinteressen ist der Engpass, nicht die Verhandlungsroutine.

Quelle: anthropic.com

Vor gut einem Jahr sah der Weg so aus: Auf der Sponsorenseite von SaaStr AI Annual füllt ein Interessent ein langes Kontaktformular aus. Der Eintrag landet bei Amelia, wird per Round-Robin an sie selbst oder an David weitergereicht. Etwa einen Tag später geht eine Antwort raus, die fast immer identisch klingt: Man sehe in dem Unternehmen einen guten Fit für SaaStr AI, hier sei ein Buchungslink.

Diesen Ablauf hat das Team hinter SaaStr AI zerlegt und durch einen Inbound-KI-Agenten ersetzt. SaaStr-Gründer Jason Lemkin hat den Aufbau aufgeschrieben, nachdem Amelia ihn in der aktuellen Folge des Podcasts The Agents vorgestellt hatte. Die Zahlen stammen vom Team selbst: rund 17.000 Gespräche mit Interessenten in zwölf Monaten, etwa 600 gebuchte Meetings für die SaaStr AI Annual 2026. Für 2027 läuft der Agent bereits auf fast dem Doppelten der vorherigen zwölf Monate. Zusammen mit einem zweiten, neueren Selbstbedienungs-Agenten ergab das nach Angaben des Teams ein Plus von 60 Prozent beim Neugeschäft. Drei Menschen betreiben das Ganze.

Interessant ist weniger die Technologie als die Ausgangslage. Das alte System war nicht kaputt, es war langsam. Und Langsamkeit ist im Inbound die Stelle, an der Kaufinteresse verdampft. Wer diesen Bericht als Bauanleitung liest, liest ihn von Leuten, die sich selbst nicht als Entwicklerteam bezeichnen. Die Hürde lag nie beim Code.

Was vorher lief: Formular, Round-Robin und ein Tag Verzögerung

Der alte Ablauf hatte drei Stationen, und alle drei kosteten Zeit. Ein Interessent, der über die Sponsorenseite kam, füllte ein langes Formular aus. Der Eintrag landete bei Amelia, die ihn per Round-Robin an sich selbst oder an David verteilte. Geantwortet wurde ungefähr einen Tag später.

Inhaltlich war die Antwort fast immer dieselbe: ein Satz, dass man gut zusammenpasse, plus ein Kalenderlink. Amelia nennt sie im Gespräch die schlechteste E-Mail des Planeten. Der Interessent hatte sich von sich aus gemeldet, und als Erstes bekam er einen Formbrief zurück. Wer eine solche Mail selbst schon einmal erhalten hat, weiß, wie zuverlässig sie Interesse löscht.

Die Messlatte lag also nicht hoch, sie lag am Boden. Ein KI-Vertriebsagent muss nicht brillant sein, um sich zu rechnen. Er muss schneller und konkreter antworten als ein Formbrief, der einen Tag später eintrifft. Deshalb lohnt es sich, mit dem schlechtesten Schritt anzufangen statt mit dem elegantesten.

Der Agent gehört zuerst auf die Seite mit der höchsten Kaufabsicht

Das Team hat den Agenten nicht auf die Startseite gesetzt. Er lebt auf der Sponsorenseite von SaaStr AI Annual, also dort, wo Menschen landen, die bereits über einen Kauf im Bereich von rund 90.000 Dollar nachdenken. Technisch läuft er bei Qualified, als Avatar mit dem Namen Amelia AI.

Die Begründung ist betriebswirtschaftlich, nicht technisch: Eine schnelle Antwort ist dort am meisten wert, wo gerade eine Kaufentscheidung entsteht. Auf der Startseite beantwortet derselbe Agent dieselben Fragen an Leute, die noch gar nichts kaufen wollen, und der Nutzen pro Gespräch sinkt deutlich.

Wenn du einen ersten Inbound-KI-Agenten bauen willst, ist das die einfachste Übertragung dieses Beispiels: Nimm nicht die Seite mit dem meisten Traffic, sondern die mit der klarsten Absicht. Meist ist das eine Preis-, Produkt- oder Angebotsseite, häufig sogar eine einzige Unterseite. Bei SaaStr AI war es genau eine.

Qualifizieren und direkt buchen statt warten lassen

Der Agent beantwortet Fragen in Echtzeit, aber das ist nur die Oberfläche. Seine eigentliche Aufgabe ist Leadqualifizierung, in einer Form, die dem Interessenten nützt und nicht nur dem Vertrieb. Das Team grenzt sich von dem Muster ab, bei dem ein Fragebogen vor allem Zeit kostet.

Konkret arbeitet der Agent ab: Warum will die Person sponsern, welches Budget steht im Raum, geht es um Leadgenerierung, Markenbekanntheit oder einen Sprecherplatz, welche Wettbewerber werden beobachtet, und welche konkreten ROI-Beispiele gibt es aus ähnlichen Unternehmen. Jede dieser Antworten liegt im ersten menschlichen Gespräch bereits vor. Fehlt sie, muss der Vertrieb sie mühsam nachholen, während der Interessent wartet.

Der zweite Teil ist der entscheidende: Der Agent bucht den Termin sofort, ohne Übergabe, ohne dass jemand nachträglich eine E-Mail schreiben muss. In der alten Kette ging das Interesse zwischen abgeschicktem Formular und brauchbarer Antwort verloren. Hier wirkt die Automatisierung am stärksten.

Und dann beginnt das Gespräch mit dem, was der Agent erfasst hat. Ein Beispiel aus der Praxis: Ein Interessent hatte sich für das Kaffee-Sponsoring und Newsletter-Platzierungen interessiert, das Kaffee-Paket war ausverkauft, also startete der Call mit dieser Feststellung und führte direkt zu den Newslettern. Niemand musste sich wiederholen, und die ersten zehn Minuten gingen nicht für Discovery drauf, die längst erledigt war.

Der zweite Weg: Self-Serve von PDF auf eine auswertbare Seite umstellen

Ein erheblicher Teil der Käufer will nicht mit einem Avatar sprechen. Manche finden es befremdlich, die meisten wollen schlicht Pakete und Preise sehen, ohne ein Gespräch zu eröffnen. Deshalb läuft parallel ein zweiter, selbstbedienbarer Pfad, und der konvertierte ein Jahr lang schlechter als der Agent.

Der Grund war banal: Hinter dem Self-Serve-Angebot steckte ein Download-Link auf ein Google-Slides-Prospekt. Ein PDF sagt nach dem Download nichts mehr. Man weiß nicht, wer es geöffnet hat, wie lange, welche Seite, oder ob es überhaupt angesehen wurde. Eine Seite, die man selbst hostet, sagt dagegen alles.

Der Ersatz ist eine tokenisierte Seite auf der eigenen Domain: kürzeres Formular, und nach dem Absenden bekommt jeder Interessent eine Version des Prospekts mit einem Link, der auf sein Unternehmen zugeschnitten ist. Gebaut wurde das auf Replit. Über Heatmapping mit Microsoft Clarity wird anschließend sichtbar, wo die Zeit tatsächlich verbracht wird. Die Werkzeugwahl traf übrigens nicht ein Mensch, sondern das interne System, das im Team als AI VP of Revenue unter dem Namen 10K firmiert.

Ein Detail mit Signalwirkung: Zwischen Selbstbedienung und Folgeaktion liegen zehn Minuten Wartezeit. Zuvor war zu beobachten, dass Besucher nach fünf bis sieben Minuten abspringen. Man wartet also, bis die Sitzung beendet und die Heatmap vollständig ist, bevor der Agent aktiv wird.

First-Party-Signale, Pitch-Entwurf und ein Link, der mitwächst

Bevor der Agent irgendetwas schreibt, prüft er Daten, die dem Unternehmen selbst gehören, in fester Reihenfolge: War die Person schon auf der Website, steckt sie in einer Outbound-Sequenz, hat sie kürzlich LinkedIn- oder X-Werbung gesehen, ist sie im Newsletter, hat sie ein Event besucht, hat sie dort gesprochen, und wurde über ihr Unternehmen auf SaaStr.com berichtet. Erst danach kommen Wettbewerber als zweitwichtigstes Signal, und erst ganz am Ende Daten von Drittanbietern.

Diese erste Schicht kann kein Anbieter verkaufen. Im konkreten Fall Base44 tauchte so auf, dass der CEO früher bereits bei SaaStr AI Annual war. Danach wird der Lead gleichzeitig in alle Richtungen verteilt: E-Mail an Amelia, Slack-Nachricht, Eintrag in eine Dashboard-Queue und ein Datensatz in Salesforce, inklusive Heatmap und personalisiertem Link. Früher war das ein vierteljährlicher manueller Sheet-Upload.

Der Agent entwirft außerdem den Pitch, in 30 bis 60 Sekunden, mit Begründung, Wettbewerbern und Paketempfehlung. Ein Mensch gibt frei, versendet wird aus Amelias Adresse. Die Regel dabei ist strikt: In den Pitch eines Kunden gehören nur öffentliche oder anonymisierte Ergebnisse über andere Kunden, nichts Vertrauliches.

Der kopierwürdigste Baustein ist der Link, der an Ort und Stelle aktualisiert wird. Der Interessent hat zunächst etwas Generisches geöffnet. Nach der Freigabe öffnet dieselbe URL eine Fassung, die auf ihn zugeschnitten ist, mit seinem Namen, seinen Wettbewerbern, seinen Paketen. Jede weitere Rückkehr zeigt die personalisierte Version, und der Link wird damit zu einem lebenden Dokument für den gesamten Verkaufszyklus.

Zuletzt fehlte das Buchungswerkzeug. Calendly und Read AI waren im Einsatz, hingen aber an nichts. 10K schlug einen eigenen Booker vor, und der Agent brauchte dafür rund 20 Minuten. Der Link zeigt jetzt den Firmennamen, verweist auf den betrachteten Prospekt und erfasst, wer ihn geöffnet hat, ohne zu buchen. Springt jemand ab, informiert der Agent Amelia und entwirft die nächste E-Mail.

Auch die Zuweisung folgt einem Muster: Der Lead Base44 ging an Amelia, nicht an David. David betreut Vercel, Amelia aber Replit und Lovable, und der Agent gewichtete dieses Volumen höher. Wer ähnliche Kunden schon kennt, führt das Gespräch besser. Das klingt kleinlich, ist aber ein Kernstück des Aufbaus.

Wo ein KI-Vertriebsagent schiefgeht und in welcher Reihenfolge man es besser baut

Alles auf einmal zu bauen ist der häufigste Fehler. Beim Team hinter SaaStr AI lief der Agent auf der Website ein knappes Jahr allein, bevor der Selbstbedienungspfad dazukam. Der Ausbau lässt sich in Stufen machen, und er sollte es. Wer KI im Vertrieb einsetzen will, gewinnt mehr durch eine saubere erste Stufe als durch einen halbfertigen Komplettumbau.

Der zweite Fehler ist ein zu großes Backend. Zeitweise wurde der interne Agent spürbar schlechter, und die Rückmeldung aus dem System selbst war eindeutig: zu viele Daten, zu viele Schnittstellen. Nach dem Aufräumen und Modularisieren kam die Qualität zurück. Neuere Modelle helfen zusätzlich, weil sie bessere Empfehlungen geben, was in einem System dieser Größe als Nächstes zu verbessern ist.

Vergessen wird außerdem gern der Rest des Vertriebsteams. Amelia arbeitet direkt durch das interne System, David hat diesen Zugang nicht und nutzt weiter Salesforce. Der nächste Vorschlag des Agenten ist deshalb eine Variante seiner selbst für einzelne Vertriebsmitarbeiter. Und schließlich die Annahme, es gebe nur einen Inbound-Weg: Beide Türen laufen parallel, das Fernziel ist ihre Zusammenführung, damit jeder Interessent die personalisierte Erfahrung bekommt, egal ob er mit dem Agenten spricht oder selbst bedient. Umgesetzt ist das noch nicht.

Eine Einschränkung nennt Lemkin selbst: Das funktioniert, weil SaaStrs Sponsoren technikaffin und zunehmend KI-nah sind. Sie recherchieren selbst, sprechen mit dem Agenten und buchen ihren Termin. Für sie gehört ein Agent im Verkaufsprozess zur Bewertung des Anbieters dazu. Ein Käufer außerhalb der Tech-Branche, der gern in zwei Wochen telefoniert, legt darauf womöglich keinen Wert. Wer das Modell übertragen will, sollte seine Käufer kennen.

Die empfohlene Reihenfolge zum Nachbauen: zuerst der Agent auf der Seite mit der höchsten Kaufabsicht, der Meetings automatisch bucht. Dann der Self-Serve-Pfad, verschoben von PDF auf eine gehostete, tokenisierte Seite. Danach Heatmapping und ein Wartefenster, damit alle Interessenten in Echtzeit das bekommen, was sie wollen. Anschließend die Prüfung der First-Party-Signale, dann Wettbewerber. Darauf der agentengeschriebene Pitch mit menschlicher Freigabe, der denselben Link aktualisiert. Und ganz zum Schluss, falls der Aufwand sich rechnet, ein eigener Buchungslink.

Der größte Effekt in diesem Beispiel kam nicht aus einem besonders klugen Modell, sondern aus der Beseitigung von Wartezeit. Der Agent ersetzt kein Verkaufsgespräch, er räumt die Lücke davor auf und liefert dem Menschen Kontext, bevor der überhaupt zum Hörer greift. Für dich bedeutet das: Fang mit einer einzigen Seite an, miss gebuchte Meetings statt Chat-Zahlen, und lass einen Menschen freigeben, was rausgeht. Der Rest ist Ausbau, und Ausbau darf dauern. Bei SaaStr AI hat die erste Stufe ein Jahr allein funktioniert.

Quelle: saastr.com