Kategorie: Erklärer

  • Die EU schmiedet Pläne zur Verringerung der Abhängigkeit von US-Cloud-Anbietern

    Die EU schmiedet Pläne zur Verringerung der Abhängigkeit von US-Cloud-Anbietern

    Wenn ein Vermieter einen Generalschlüssel für jede Tür hätte, könnte er die Möbel umstellen oder den Strom abdrehen. Dieses Unbehagen verspüren viele europäische Organisationen bei US-Cloud-Anbietern. Die Sorge vor einem digitalen Kill Switch – dem Abschalten von Diensten durch US-Behörden – ist gewachsen. Die EU-Kommission hat nun Maßnahmen vorgestellt, die dieses Problem angehen sollen: Regulierung von Cloud-Diensten für den öffentlichen Sektor und Stärkung der heimischen Tech-Industrie.

    Am 3. Juni 2026 veröffentlichte die EU-Kommission das „European Technological Sovereignty Package“ mit zwei Gesetzesvorschlägen: dem Cloud and AI Development Act (CAIDA) und dem überarbeiteten Chips Act 2.0, plus einer Open-Source-Strategie für den Energiesektor. Matthew Finnegan berichtet auf Computerworld darüber. US-Anbieter werden nicht verboten, aber öffentliche Auftraggeber müssen bei sensiblen Workloads bestimmte Kriterien beachten. Vizepräsidentin Henna Virkkunen: „Technologische Souveränität bedeutet nicht Protektionismus. Europa bleibt offen, partnerschaftlich und setzt auf fairen Wettbewerb.“ Ziel ist, Abhängigkeiten von einzelnen Anbietern zu vermeiden.

    Ein Balanceakt zwischen Offenheit und Unabhängigkeit. Der CAIDA zielt darauf ab, die Rechenzentrumskapazität in der EU zu verdreifachen – in fünf bis sieben Jahren. Genehmigungsverfahren werden vereinfacht, Anreize geschaffen. Öffentliche Auftraggeber müssen in vier Stufen Souveränitätskriterien erfüllen. Stufe 1 verlangt nur Datenzentren in der Region – das erfüllen US-Anbieter bereits. Stufe 4 fordert vollständige Kontrolle über den Software-Stack, inklusive Cybersecurity-Zertifizierungen und Unabhängigkeit von der Eigentümerstruktur. Laut Finnegan fallen 70 Prozent der öffentlichen Workloads unter Stufe 1, 20 Prozent unter Stufe 2, 9 Prozent unter Stufe 3 und nur 1 Prozent unter Stufe 4. Die EU greift gezielt dort ein, wo die Risiken am größten sind.

    Für private Unternehmen ändert sich vorerst nichts. Die Regulierung betrifft nur öffentliche Beschaffungen. Die Kriterien könnten aber als Standards dienen. Europäische Cloud-Anbieter könnten von den höheren Souveränitätsstufen profitieren. Der Chips Act 2.0 fördert die Halbleiterproduktion in Europa. Ziel ist eine widerstandsfähige Wertschöpfungskette von der Hardware bis zur Cloud-Infrastruktur.

    Die Vorschläge müssen noch vom Europäischen Parlament und dem Rat der EU verhandelt werden. Die endgültigen Regeln könnten anders aussehen. Die EU will ihre technologische Souveränität stärken, ohne sich von der Welt abzukoppeln. Es ist ein vorsichtiger Schritt, kein radikaler Bruch. Für Tech-Anwender heißt das: Die Cloud-Landschaft in Europa wird sich verändern. Die Frage ist, wie schnell und ob der Preis in Form höherer Kosten oder geringerer Innovation zu hoch ist.

    Quelle: computerworld.com

  • Wie KI die Engineering-Organisation neu definiert: Einblicke aus dem Claude-Code-Team

    Wie KI die Engineering-Organisation neu definiert: Einblicke aus dem Claude-Code-Team

    Du leitest eine Werkstatt, in der früher jeder Handgriff teuer war und minutiös geplant werden musste. Schablonen, Arbeitsabläufe, genaue Zeitpläne. Heute stehen Maschinen in der Werkstatt, die Sägen, Schleifen und Zusammenbauen in Sekundenschnelle erledigen. Die Flaschenhälse verschieben sich. Wer prüft die Arbeit der Maschinen? Wie kommt ein fehlerfreies Produkt raus? Und was machen erfahrene Handwerker, wenn die Maschine 80 Prozent der Routinearbeiten übernimmt?

    Genau diese Verschiebung erlebt die Softwareentwicklung. Jahrelang war die teuerste Ressource im Engineering die Zeit der Entwickler: Code schreiben, testen, refactoren. Darauf waren alle Prozesse ausgelegt. Jetzt übernehmen KI-Assistenten wie Claude Code weite Teile des Programmierens. Eine Führungskraft des Claude-Code-Teams hat beschrieben, wie sie ihre Organisation umgebaut hat. Wer die alten Prozesse nicht hinterfragt, wird von der Beschleunigung überrollt.

    Planung: Von der Monatsvorschau zur Just-in-Time-Strategie

    Früher: Plane langfristig, Codeänderungen sind teuer. Ein sechsmonatiger Roadmap war Standard. Wochenlange Diskussionen über Features, Design-Dokumente, Prioritäten – dann Umsetzung. Im Claude-Code-Team hielt das nicht einmal drei Monate. Die KI veränderte die technische Landschaft so schnell, dass detaillierte Planung obsolet war, bevor die erste Deadline kam.

    Die Lösung: Just-in-Time-Planung. Statt aufwändiger Dokumente setzt das Team auf schnelle Prototypen. Bau etwas, lass interne Nutzer damit arbeiten, sammle Feedback. Aus diesem Kreislauf entstehen die nächsten Schritte – fast wie beim JIT-Compilieren. Weniger Produkt-Reviews, mehr Hands-On. Entscheidungen fallen in Pull-Requests und Prototypen, nicht in Besprechungsräumen.

    Wissenstransfer: Frag nicht den Autor, frag die KI

    Eine große Veränderung betrifft den Wissenstransfer. Bisher: Wer hat diesen Code geschrieben? Dann suchte man die Person, unterbrach sie, fragte nach dem Warum. Mit KI-generierten Commits wird das sinnlos. Der „Autor“ ist jetzt ein Prompt – und die Person, die den Prompt eingegeben hat, kann nicht mehr alle Details erklären.

    Der neue Reflex: Stell die Frage zuerst Claude. Die KI hat Zugriff auf den gesamten Codebase, die Commit-Historie und oft mehr Kontext als der Mensch. Frag dich gleich mit, ob dieser Wissensabruf automatisiert werden kann. Beispiel: Die Teamleitung las morgens manuell Kundenfeedback-Kanäle. Heute fasst ein automatisiertes Claude-Analyse-Skript die Erkenntnisse zusammen, ohne dass jemand extra eingreift. Das spart Zeit und liefert konsistentere Ergebnisse.

    Code-Review: Vertrauen, aber prüfen, wo es zählt

    Code-Reviews waren die heilige Kuh der Qualitätssicherung. Jeder Pull-Request wurde von mindestens einem Entwickler gegengelesen. In einer KI-gestützten Organisation hält das nicht stand – die Menge an generiertem Code überfordert jeden Menschen. Die Antwort des Teams ist eine klare Arbeitsteilung.

    Claude übernimmt Stilprüfung, Linting, Bugerkennung und automatisches Hinzufügen von Tests. Das ist schnell, zuverlässig und 24/7 verfügbar. Der Mensch bleibt eingebunden, wo es auf Expertise ankommt: bei Sicherheitsfragen, juristischen Risiken, Produktentscheidungen. Product Manager und Designer prüfen, ob der Code den Funktionsumfang trifft und das Nutzererlebnis stimmt. Die Führungskraft betont, dass dieses Gleichgewicht dynamisch bleibt – was heute menschliche Expertise erfordert, kann die nächste KI-Generation vielleicht selbst übernehmen. Die Grenzen regelmäßig neu ausloten.

    Teamstruktur: Warum Rollen verschwimmen und welche Profile jetzt zählen

    Wenn KI die Routinearbeit erledigt, verändern sich die Anforderungsprofile. Product Manager prototypen jetzt selbst – früher undenkbar. Entwickler entdecken Design und Content. Klassische Rollenbilder lösen sich auf. Zwei besonders wertvolle Profile entstehen: der kreative Baumeister mit Produktverständnis und der Tiefenexperte für Systemarchitektur.

    Der kreative Baumeister hat Visionen, versteht das Problem und leitet die KI geschickt an. Er ist neugierig, probiert aus, scheitert schnell und lernt daraus. Der Systemexperte sorgt dafür, dass die KI überall laufen kann – vom lokalen Rechner bis zur Cloud. Reine Schreibgeschwindigkeit von Code wird unwichtiger. Die Kunst liegt in der Orchestrierung: Wo braucht es menschliches Urteilsvermögen? Dort wird investiert.

    Die Umstellung: Wenige Prinzipien, viel Freiheit

    Wie führt man tiefgreifende Veränderungen ein? Die Führungskraft beschreibt einen Ansatz aus verbindlichen Teamprinzipien und dezentraler Freiheit für Unterteams (Pods). Drei Prinzipien sind nicht verhandelbar: Erstens, jeder im Team nutzt das eigene Produkt – Claude Code und Claude Cowork – tagtäglich. Zweitens, die Teamstruktur bleibt flach. Manager arbeiten zunächst selbst als Entwickler mit, bevor sie führen. Drittens, keine falsche Nostalgie: Prozesse, die nicht mehr funktionieren, werden sofort abgeschafft.

    Innerhalb dieses Rahmens haben die Pods große Autonomie. Sie entscheiden selbst, wie sie Claude ins Triage-System einbinden, Standups gestalten, Workflows als erstes „claudifizieren“. Diese Mischung aus klarer Richtung und lokaler Anpassung verhindert Erstarrung, aber auch Chaos.

    Metriken für den Wandel: Drei Zahlen, die jede Führungskraft verfolgen sollte

    Wie misst man, ob die neue Arbeitsweise greift? Die Führungskraft schlägt drei konkrete Kennzahlen vor. Erstens, die Einarbeitungszeit neuer Teammitglieder sinkt. Im Claude-Code-Team liefern Engineers in der ersten Woche produktiven Code. Früher dauerte das Monate. Zweitens, die Durchlaufzeit eines Pull-Requests wird kürzer. Wenn sie nicht sinkt oder steigt, liegt das Problem oft in der Build-Infrastruktur oder CI-Pipeline, nicht im Code-Review. Drittens, der Anteil KI-gestützter Commits steigt. Zielmarke: 100 Prozent. Seit Monaten gebe es im Team keinen nicht assistierten Commit mehr.

    Wichtig: Höherer Durchsatz ist kein Selbstzweck. Er ist nur wertvoll, wenn er das eigentliche Ziel unterstützt – Probleme schneller lösen, bessere Produkte liefern. Blind auf mehr Code setzen, ohne Qualität und Ausrichtung zu kontrollieren, führt ins Leere.

    Für den Start: Der lauteste Workflow ist der erste Kandidat

    Wenn du vor der Frage stehst, wo du anfangen sollst: Such dir den Workflow, der am meisten Lärm macht – den teuersten, unbeliebtesten, den, vor dem dein Team zurückschreckt. Frag dich: Dient er noch seinem Zweck? Falls ja, kann ich ihn automatisieren? Die Führungskraft erinnert an ein eigenes Beispiel: ein wöchentliches Review-Meeting mit vielen Teilnehmern, die teilnahmslos auf ihre Laptops starrten. Die einfache Frage „Warum haben wir dieses Meeting?“ offenbarte: Es war ein Relikt. Das Meeting wurde gestrichen.

    Für die nächste Woche: Nimm dir einen Prozess vor. Vielleicht den Code-Review-Workflow, die Planungssitzung, die Art, wie ihr Tickets priorisiert. Frag, welchen Teil ein KI-Assistent übernehmen kann – nicht nur Schreiben, sondern auch Analysieren, Zusammenfassen, Vorschlagen. Die Antwort wird nicht perfekt sein, aber sie wird den Weg zeigen.

    Quelle: claude.com

  • Die Token-Abrechnung: Warum KI teurer ist als gedacht und was das bedeutet

    Die Token-Abrechnung: Warum KI teurer ist als gedacht und was das bedeutet

    Du schaltest im Hochsommer die Klimaanlage ein, die Fenster sind offen, die Kälte entweicht. Die Stromrechnung steigt, die Wohnung bleibt warm. Viele Unternehmen mit Künstlicher Intelligenz geht es ähnlich. Die Kosten für KI, gemessen in Tokens, den kleinsten Verarbeitungseinheiten von Sprachmodellen, explodieren. Ein Großteil der Ausgaben bringt kein Produkt hervor.

    Sam Altman, CEO von OpenAI, sagte im Juni 2025, Intelligenz werde bald so billig sein wie Strom. Ein Jahr später sind KI-Kosten eher wie eine Stromrechnung im Hochsommer bei offenen Fenstern. Unternehmen berichten, ihr Jahresbudget für Tokens sei in wenigen Monaten aufgebraucht. Manche Firmen überdenken oder canceln KI-Initiativen komplett. Schlagzeilen über „Tokenmaxxing“ – exzessiven Token-Verbrauch – und explodierende Budgets lassen Zweifel am KI-Hype aufkommen. Das Problem ist nicht der Verbrauch an sich, sondern die Verschwendung von Tokens für unproduktive Zwecke.

    Das Startup EntelligenceAI veröffentlichte eine Zahl: Von jedem Dollar für KI landen nur 18 Cent in der Produktion. 82 Cent fließen in Fehlerbehebungen, Umschreibungen, Code-Überarbeitungen und Reviews. Die Schätzung mag ungenau sein, zeigt aber eine klare Tendenz. Tokenmaxxing lässt sich durch Budgetkontrollen oder Entfernen von Leaderboards eindämmen. Das eigentliche Problem ist die unproduktive Nutzung. Die Lösung ist nicht mehr Kontrolle, sondern echte produktive Anwendungen zu finden.

    Andrew Macdonald, COO von Uber, sagte, KI-Ausgaben seien schwer zu rechtfertigen, weil sie nicht direkt zu Produktivitätssteigerungen führen. Sein Tweet wurde viel geteilt. Wenn Ubers Erfahrung repräsentativ ist, steht der Branche eine Phase langsamen Wachstums bevor. Negative Geschichten über KI verbreiten sich schneller als positive. Viele Unternehmen finden durchaus produktive Einsätze. Trotzdem muss die Branche den Return on Investment klären, sonst droht ein Rückschlag.

    Die Lage ist angespannt. Microsoft Build Anfang Juni wird voraussichtlich neue KI-Modelle und Updates für Copilot bringen. Gleichzeitig eskaliert der Konflikt zwischen Medien und KI-Firmen: A.G. Sulzberger, Verleger der New York Times, warf OpenAI, Google, Meta und Perplexity vor, Journalismus zu untergraben. Floridas Generalstaatsanwalt verklagte OpenAI und Sam Altman wegen angeblicher Schäden durch Chatbots für Minderjährige – erstmals klagt ein US-Bundesstaat so.

    NVIDIA kündigte den Superchip RTX Spark an, der Windows-PCs für persönliche KI-Agenten antreiben soll. Das bringt NVIDIA in direkten Wettbewerb mit Intel, Qualcomm, AMD und Apple. OpenAI veröffentlichte ein „Frontier Governance Framework“ und stellte 250 Millionen Dollar über die OpenAI Foundation bereit, um Arbeitskräfte auf KI-bedingte Umwälzungen vorzubereiten.

    Anthropic schloss eine Serie-H-Finanzierung über 65 Milliarden Dollar bei einer Bewertung von 965 Milliarden Dollar ab. Damit ist Anthropic das wertvollste KI-Startup der Welt, vor OpenAI. Der annualisierte Umsatz lag im Mai bei 48 Milliarden Dollar. Anthropic launchte Claude Opus 4.8 mit Verbesserungen in Codierung, Agentenaufgaben, Finanzanalyse, Schreiben und Wissensarbeit. Die Kosten pro Token sind dreimal niedriger, die Geschwindigkeit 2,5-mal höher als beim Vorgänger. Kunden wie Shopify, Cursor, Harvey, BrowserBase, Bridgewater, Thomson Reuters und Databricks nutzen es. OpenAIs Codex bleibt für alltägliche Programmieraufgaben stärker. Anthropic kündigte auch dynamische Workflows in Claude Code an, die parallele Sub-Agenten orchestrieren, etwa für Bug-Jagden oder Stresstests. Zudem reichte Anthropic den Börsengang ein.

    Die Frage bleibt: Sind die Investitionen in KI gerechtfertigt? Unternehmen wie Uber zeigen, dass hoher Token-Verbrauch nicht automatisch Produktivität bringt. Firmen investieren in KI, weil sie glauben, dass Konkurrenten es tun. Dann steigen die Kosten, ohne klare Ergebnisse. Manche Analysten vergleichen die Situation mit den Anfängen des Internets, als viel Geld in unausgereifte Technologien floss. Der Unterschied heute: Die Technologie funktioniert, aber die Anwendung hinkt hinterher.

    Speicherchips werden knapp und teuer, weil Rechenzentren ausgebaut werden. Wenn die Tokens nicht in produktive Anwendungen fließen, bleibt die Nachfrage künstlich. Robinhood erlaubt inzwischen, dass Chatbots für dich handeln. Eine andere Frage: Würdest du dein Gmail mit ChatGPT verbinden? Und würdest du deine Wohnung kostenlos putzen lassen, wenn der Putzroboter die Aufnahmen für Trainingdaten nutzt? Diese Fragen zeigen die Nähe zwischen Nutzen und Datenschutz.

    Die Token-Abrechnung ist ein Weckruf. Unternehmen müssen weg vom bloßen Verbrauch und hin zu messbarem Nutzen. Wer blind Tokens verbrennt, steht morgen mit leeren Kassen da. Wer auf echte Produktivität setzt, kann profitieren. Der Weg dorthin erfordert Disziplin, nicht nur Technologie.

    Quelle: bigtechnology.com

  • Wie ein KI-Agent einen dreijährigen Performance-Bug in einer Query-Engine aufspürte

    Wie ein KI-Agent einen dreijährigen Performance-Bug in einer Query-Engine aufspürte

    Ein Team von PostHog in Lissabon ließ einen KI-Agenten auf ihre Datenbank-Query-Engine los. Der Agent fand einen Bug, der fast drei Jahre lang unentdeckt in der Codebasis lag. Der Fix verbesserte die Performance deutlich – ohne Änderung der Abfragelogik.

    Die Grundidee stammt von Andrej Karpathy. Im März 2026 veröffentlichte er das Repository „Autoresearch“. Der Kern: ein KI-Agent bekommt ein kleines System, einen Benchmark und ein Budget. Er durchläuft eine Schleife: eine Änderung vorschlagen, den Benchmark ausführen, Verbesserungen behalten und Verschlechterungen verwerfen. Karpathy ließ den Agenten zwei Tage auf einem kleinen neuronalen Netz laufen. Er fand rund zwanzig Änderungen, die den Validierungsfehler senkten. Einige übertrugen sich auf größere Modelle. Das Prinzip ist nicht neu – DeepMind veröffentlichte 2023 FunSearch, Sakana 2024 den AI Scientist. Karpathys Version ist jedoch konkret genug, um an einem Nachmittag eine eigene Implementierung zu bauen.

    Das PostHog-Team nutzte diesen Ansatz für ein Hackathon-Projekt auf einem Offsite. Ziel: die Performance von ClickHouse automatisieren, der Datenbank hinter ihrer Produktanalytik. Sie verwendeten pi, einen Terminal-Coding-Agenten von Mario Zechner, der mit jedem LLM spricht. Dazu kam pi-autoresearch, eine Community-Erweiterung von davebcn87, die Karpathys Schleife in pi integriert. Darüber bauten sie eine Kampagnen-Orchestrierung, die den Optimierungsprozess strukturiert, damit der Agent systematisch vorgeht.

    Der Aufbau: Eine Kampagne hat eine langsame Query und einen Git-Branch. Sie ist in Lanes unterteilt – Optimierungsrichtungen wie Prädikatsreihenfolge, JSON-Parsing, Zeitzonen-Handling, Primärschlüssel-Nutzung. Jede Lane enthält eine konkrete, testbare Hypothese. Jede Hypothese wird in einem Experiment mit genau einem Durchlauf, Benchmark und Urteil getestet. Nach jedem Experiment muss der Agent eine Reflexion durchführen. Dazu kommt ein eigener ClickHouse-Testcluster mit denselben Daten wie die Produktion, aber anonymisiert und auf günstigerer Hardware. So bleibt die Iterationsgeschwindigkeit hoch und Kundenabfragen werden nicht gestört.

    Das Team fütterte dem Agenten zunächst händisch langsame Queries – solche, über die sie sich bereits geärgert hatten, und solche aus system.query_log. Eine dieser Queries war ein Trichter über sieben Tage für ein echtes Team. Hier stieß der Agent auf den sogenannten „Drei-Jahres-Bug“.

    ClickHouse ist schnell, weil es Arbeit überspringen kann. Die Tabelle events ist nach toYYYYMM(timestamp) partitioniert. Der Primärschlüssel ist (team_id, toDate(timestamp), event, …). Eine gut geschriebene Query mit Zeitstempel-Filter sollte ClickHouse erlauben, ganze Monate zu überspringen (Partition Pruning) und direkt zur richtigen Woche zu springen. Das passierte nicht. Im April 2023 hatte das Team Zeitzonen-Unterstützung für HogQL hinzugefügt. Der vernünftige Weg: Jeden Verweis auf timestamp in toTimeZone(timestamp, team_tz) wickeln. Was sie nicht bedachten: Der ClickHouse-Queryplaner kann nicht durch toTimeZone() hindurchsehen. Er kann nicht ableiten, dass die Bedingung toTimeZone(timestamp, tz) >= '2024-03-01' bedeutet, dass toYYYYMM(timestamp) auf bestimmte Monate reduziert werden kann. Partition Pruning war ausgeschaltet. Auch der Primärschlüssel toDate(timestamp) wurde nicht genutzt – er beschränkte sich auf team_id und event und hörte dann auf.

    Warum der Bug nicht früher auffiel? ClickHouse hat einen MinMax-Skip-Index auf timestamp. Ein MinMax-Index speichert den kleinsten und größten Wert einer Spalte pro Granula (8192 Zeilen). Vergleicht man toTimeZone(timestamp, tz) mit einer Konstanten, kann ClickHouse pro Granula prüfen, ob der Bereich überlappt, und Granulas ohne Treffer überspringen. Das ist viel schwächer als Partition Pruning, aber es funktioniert. Queries waren nicht katastrophal langsam – nur messbar langsamer als sie sein sollten. Diese Art Bug versteckt sich: Sie ist langsam, aber nicht alarmierend. Jede Query ist betroffen, niemand kann einen A/B-Vergleich mit einer „guten“ Version machen. Der Beweis liegt in der Ausgabe von EXPLAIN PLAN indexes=1, json=1, die niemand ausführt, es sei denn, er vermutet bereits etwas.

    Der Agent führte genau dieses EXPLAIN aus. Er bemerkte Partition: Condition='true' (kein Pruning) und probierte zwei Ansätze: Erstens indexHint() mit nackten Zeitstempel-Grenzen, zweitens die Umschreibung des Vergleichs, sodass auf der Feldseite der nackte timestamp steht und die Konstante die Zeitzone trägt. Der zweite Ansatz gewann deutlich. Die Semantik ist identisch – toTimeZone() ändert nur die Anzeige-Metadaten, der Unix-Timestamp bleibt gleich. Der Planer sieht jetzt einen nackten timestamp und kann arbeiten. Auf der Benchmark-Query über sieben Tage: beste Laufzeit von 2.824 ms auf 2.192 ms (–22%), getrimmter Mittelwert der mittleren drei Läufe von 4.694 ms auf 2.954 ms (–37%), Anzahl der vom Skip-Index gescannten Granulas von 60.683 auf 23.291 (–62%).

    Der Geschwindigkeitszuwachs ist am größten bei kurzen Zeiträumen, weil Partition Pruning dort am meisten bringt. Bei einem 90-Tage-Zeitraum ist die relative Verbesserung kleiner, aber messbar. Die Granula-Reduktion ist bei jedem Zeitraum real – sie übersetzt sich nur in kleinere Wanduhr-Verbesserungen, wenn absolut mehr Granulas gescannt werden müssen.

    Das Team handelte während des Hackathons noch händisch. Sie bauen jetzt eine Pipeline, die das automatisiert: Sie holt langsame Queries aus system.query_log, startet pro Kandidaten-Query eine Sandbox, lässt pi-autoresearch laufen, dedupliziert die Vorschläge per LLM und lässt einen anderen Agenten (PostHog Code) die eigentliche Änderung mit Tests und Benchmarks in die Codebasis schreiben. Die Pull-Requests landen im Team-Slack, wo ein Mensch sie prüft und merged.

    Das zeigt: Selbst in einer gut gewarteten Codebase überleben subtile Performance-Probleme über Jahre, einfach weil kein Mensch den Anreiz oder die Zeit hat, sie systematisch zu suchen. Ein KI-Agent hat diese Nachteile nicht. Er hat keine Betriebsblindheit. Er behandelt einen dreijährigen Ausdruck mit derselben Skepsis wie die Zeile von gestern. Die Methode ist nicht auf langsame Queries beschränkt. Wenn du eine Metrik in deinem System hast, die du stillschweigend tolerierst – Geschwindigkeit, Speicher, Kosten, Genauigkeit, Fehlerrate – baue eine Testumgebung, setze einen Agenten darauf, und schau, was zurückkommt.

    Quelle: posthog.com

  • Token-Diebstahl bei KI-APIs: Angriffsmethoden und Schutzstrategien

    Token-Diebstahl bei KI-APIs: Angriffsmethoden und Schutzstrategien

     

    Du betreibst einen Champagnerbrunnen im Garten. Jeder Gast darf sich einmal bedienen. Ein Dieb schließt heimlich einen Schlauch an und zapft den ganzen Tag Liter ab, um den Champagner weiterzuverkaufen. Deine Rechnung am Monatsende? Zehntausende Euro. Genau das passiert mit KI-Endpunkten, die für die Öffentlichkeit oder Kunden freigeschaltet sind. Nur kommt der Champagner hier aus den teuren Berechnungen großer Sprachmodelle. Der Dieb heißt Inference Theft – der unbefugte Diebstahl von KI-Inferenz, zur eigenen Nutzung oder zum gewinnbringenden Weiterverkauf.

    Der Begriff klingt technisch, ist aber ein wirtschaftliches Problem. Eine HTTP-Anfrage kostet Bruchteile eines Cents – Vercel gibt einen Richtwert von etwa zwei Dollar pro Million Anfragen an. Ein einziger Prompt an ein modernes KI-Modell wie Claude oder GPT kann locker zwei Dollar verschlingen. Das ist eine Million Mal teurer. Genau deshalb ist Inference Theft ein profitables Geschäftsfeld für Angreifer. Sie zahlen nichts für die Rechenleistung, sondern klauen sie und verkaufen sie zu einem Spottpreis weiter.

    Wie Inference Theft funktioniert

    Der Angriff ist einfach und raffiniert. Du stellst einen KI-Chatbot oder eine API bereit, die einem Benutzer die Kontrolle über ein großes Sprachmodell gibt. Das kann ein öffentliches Playground sein, ein Support-Bot oder ein Dokumentationsassistent. Der Angreifer nimmt deine API und verpackt sie in einen Adapter. Das ist ein kleines Stück Software, das deine API-Schnittstelle in das Format eines großen Anbieters wie OpenAI oder Anthropic übersetzt. Sobald der Adapter läuft, kann jeder Coding-Agent oder SDK, der für die Schnittstelle von OpenAI geschrieben wurde, deine teure Inferenz nutzen – ohne dass du etwas merkst.

    Der Angreifer ruft deine API nicht direkt von seiner IP auf. Er mietet tausende Residential-Proxy-IPs, also IP-Adressen von echten Privatgeräten, über die er die Anfragen streut. Deine IP-basierten Ratenbegrenzungen greifen dann nicht, weil jede Anfrage aus einer anderen Ecke der Welt kommt. Wenn du eine Authentifizierung verlangst, legt der Angreifer tausende Wegwerf-Konten an. Der Aufwand lohnt sich, weil der Gewinn pro gestohlener Anfrage enorm ist.

    Selbst wenn du denkst, dein System sei sicher, weil die System-Prompts serverseitig festgelegt sind – Angreifer haben gelernt, Modelle mit geringem Aufwand um feste Anweisungen herumzumanövrieren. Das senkt die Qualität der gestohlenen Antworten kaum, und der Weiterverkauf bleibt profitabel. Besonders gefährlich sind offene KI-Playgrounds, bei denen der Aufrufer maximale Kontrolle über Prompt, Modell und Parameter hat. Aber auch Support-Bots sind nicht immun.

    Warum klassische Websicherheit nicht hilft

    Du denkst vielleicht: „Ich habe doch Rate Limits und einen Log-in. Reicht das nicht?“ Leider nein. Diese Mechanismen wurden für Angriffe mit niedrigeren Kosten pro Aufruf entwickelt. Damals, als Diebstahl von Rechenleistung kaum profitabel war, haben Angreifer nicht Unmengen in Residential-Proxys und Fake-Konten investiert. Heute ist der Hebel riesig: Ein Angreifer kann dir mit einem einzigen Adapter und ein paar Dollar Infrastruktur Kosten von mehreren Zehntausend Dollar pro Tag verursachen. Die Anschaffung von tausend IPs ist billig.

    Das Problem liegt in der Architektur: Die meisten Sicherheitsgates prüfen die Identität eines Nutzers nur beim Einloggen oder zu Beginn einer Sitzung. Einmal eingeloggt, wird jede weitere Anfrage dieser Sitzung vertraut. Genau das nutzen Angreifer. Sie umgehen das Session-Gate einmal – durch ein gestohlenes Token oder ein Fake-Konto – und können dann tausende Anfragen durchschleusen, ohne erneut geprüft zu werden. Die Kosten für die Umgehung amortisieren sich über die vielen gestohlenen Aufrufe. Du brauchst eine Verteidigung, die jeden einzelnen API-Aufruf überprüft, nicht nur den Start der Sitzung.

    Der Trick: Du musst die Überprüfung so günstig machen, dass sie für dich kaum ins Gewicht fällt, aber für den Angreifer so teuer, dass sich das Umgehen nicht lohnt. Teure Inferenz (dein Champagner) steht gegen billige Verifikation (deine Wache). Wenn die Wache jeden Schluck prüft, wird der Dieb müde.

    Ein realer Angriff auf Vercel

    Ein gutes Beispiel liefert Vercel selbst. Im April 2026 beobachteten die Ingenieure einen plötzlichen Traffic-Anstieg auf ihrem KI-Dokumentations-Chatbot. Die Anfragen auf das Modell Claude Haiku 4.5 stiegen auf etwa das Zehnfache des Normalvolumens – bis zu 1.300 Anfragen pro Minute. Das hätte, wäre der Angriff nicht gestoppt worden, zu Inferenzkosten von über zehntausend Dollar pro Tag geführt. Die Angreifer nutzten Residential-Proxys, sodass IP-basierte Rate Limits nichts ausrichten konnten. Über zwei Tage hinweg schickten sie Hunderttausende von Bot-Anfragen.

    Vercel setzte daraufhin eine tiefgehende Analyse namens BotID ein, die innerhalb des Routen-Handlers vor jeder KI-Anfrage läuft. Innerhalb von Minuten wurden mehr als zehntausend Bot-Anfragen erkannt und blockiert. Nach 24 Stunden war der Traffic wieder normal. Der Schlüssel: Die Verifikation geschah für jeden einzelnen Request, nicht nur zu Sitzungsbeginn.

    So implementierst du Request-Verifikation mit BotID

    Was genau ist BotID? Es ist eine unsichtbare CAPTCHA-Technologie, die auf clientseitigem maschinellem Lernen basiert. Der Benutzer muss kein Bildrätsel lösen – das Verfahren läuft im Hintergrund und unterscheidet Menschen von Bots, ohne die User Experience zu beeinträchtigen. Dadurch kann es auf jedem Request ausgeführt werden, ohne zu nerven.

    Die Implementierung erledigst du mit wenigen Zeilen Code. Zuerst deklarierst du auf der Client-Seite, welcher Endpunkt geschützt werden soll:

    // instrumentation.client.ts
    import { initBotId } from 'botid/client/core';
    initBotId({
      protect: [{ path: '/api/ai-chat', method: 'POST' }],
    });
    

    Auf der Server-Seite rufst du dann in deinem Routen-Handler checkBotId() auf. Ist das Ergebnis ein Bot, lehnst du die Anfrage mit einem 403-Status ab:

    // app/api/ai-chat/route.ts
    import { checkBotId } from 'botid/server';
    import { NextRequest, NextResponse } from 'next/server';
    
    export async function POST(request: NextRequest) {
      const verification = await checkBotId();
      if (verification.isBot) {
        return NextResponse.json({ error: 'Zugriff verweigert' }, { status: 403 });
      }
      // Dein bestehender KI-Aufruf
    }
    

    Wichtig: Der Client muss die Pfade korrekt deklarieren, sonst fehlen die Challenge-Header, und checkBotId() schlägt fehl. Die vollständige Einrichtung mit dem next.config.ts-Wrapper findest du in der BotID-Dokumentation.

    Warum jeder Request einzeln geschützt werden muss

    Der entscheidende Punkt ist die Kostenasymmetrie. Ein Angreifer hat einmalige Kosten für den Bau des Adapters und die Beschaffung der Proxys. Danach ist jeder gestohlene API-Aufruf für ihn praktisch kostenlos. Wenn du nur das Session-Gate prüfst, bezahlt er die Umgehung einmal und erntet tausende Aufrufe. Wenn du aber bei jedem Aufruf eine günstige Prüfung durchführst, muss er für jeden Diebstahl erneut eine Hürde nehmen. Die günstige Prüfung (z. B. BotID) kostet dich weniger als ein Zehntausendstel eines Cents – verglichen mit den zwei Dollar für die Inferenz ein Schnäppchen. Selbst wenn der Bypass für einen Angreifer fünf Cent kostet, lohnt sich das nicht mehr, wenn er pro Aufruf nur zwei Dollar spart, aber fünf Cent zahlen muss – bei tausend Aufrufen wären das fünfzig Euro, die er vorstrecken müsste. Und wenn die Erfolgsquote nicht 100 % ist, erst recht nicht.

    Was das für deine KI-Endpunkte bedeutet

    Inference wird auf absehbare Zeit um Größenordnungen teurer sein als die Anfragen, die sie transportieren. Das Geschäftsmodell der Angreifer bleibt profitabel, solange es ungeschützte oder schlecht geschützte Endpunkte gibt. Du solltest sofort prüfen, welche deiner KI-APIs im Internet erreichbar sind. Priorisiere nach Angriffswahrscheinlichkeit: Je mehr Kontrolle der Aufrufer über den Prompt hat, desto leichter ist das Ziel. Ein öffentlicher Playground ist akut gefährdet; ein Support-Bot mit festem System-Prompt ist weniger exponiert, aber nicht immun.

    Der zweite Schritt: Implementiere eine Verifikation, die auf jedem Request läuft. Rate Limits allein reichen nicht, Authentifizierung allein auch nicht. Eine Kombination aus unsichtbarem CAPTCHA (wie BotID) und serverseitiger Prüfung stellt sicher, dass nur echte Menschen deine teuren Ressourcen verbrauchen. Der Aufwand ist gering, der Schutz massiv.

    Und zu guter Letzt: Vergiss nicht, dass auch Systeme, die hinter einem Login stehen, verwundbar sind – wenn der Login einmal umgangen wurde, fließt der Champagner ungehindert. Mach das Tor nicht nur am Eingang zu, sondern prüfe jeden Schluck.

     

    Quelle: vercel.com