Suchergebnisse für: „Claude“

Du hast die Schlagzeile vermutlich schon gelesen: Die EU habe den AI Act verschoben, der „Digitale Omnibus“ sorge für großes Aufatmen. Ein aktuelles Video der Projektmanagerin Nancy vom Kanal „Projects To Profit“ widerspricht genau hier – und zwar mit einem Argument, das man kennen sollte, bevor man sich entspannt zurücklehnt. Verschoben wurde nämlich ein Teil des Gesetzes. Geblieben ist ausgerechnet der Teil, der dich betrifft, sobald du Claude, Gemini oder ChatGPT im Büro nutzt. Und der greift in wenigen Wochen, am 2. August 2026. Stell dir das Gesetz wie eine Ampel vor: Manche Bauarbeiten an der Kreuzung wurden vertagt, aber die Ampel für deinen Alltag ist längst in Betrieb. Lohnt sich, einmal genau hinzuschauen, welche Farbe gerade leuchtet.

Verschoben – aber nicht für dich

Der Strafrahmen im AI Act klingt zunächst wie eine Konzernangelegenheit: bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes. Doch das Video macht früh klar, dass die Verantwortung nicht beim Hersteller des Tools liegt, sondern bei der Person, die auf „Senden“ klickt. Das ist der Perspektivwechsel, um den es geht. Nicht Google oder Microsoft stehen am Ende gerade, sondern die Anwenderin und der Anwender im ganz normalen Office.

Um das Gesetz greifbar zu machen, teilt das Video es in drei Zonen: eine rote für das, was verboten ist, eine orange für das Riskante und eine grüne für die saubere tägliche Arbeit. Diese Ampel-Logik zieht sich durch alles Weitere. Und sie hilft, den entscheidenden Punkt nicht zu verpassen: Der Omnibus hat einzelne Fristen nach hinten geschoben, aber nicht die Ampel ausgeschaltet, an der du jeden Tag stehst.

Rote Zone: Was komplett verboten ist

In der roten Zone liegen Praktiken, die die EU als inakzeptables Risiko einstuft – streng verboten, ohne Ausnahme, ohne dass irgendeine Checkliste hilft. Wichtig dabei: Genau diese Verbote hat der Omnibus nicht angefasst. Der erste Reflex lautet meist: „Ich baue doch keine Überwachungssysteme, ich bin nur im Office.“ Und genau hier wird es laut Video trickreich, vor allem im Personalbereich.

Zwei Beispiele zeigen, wie schnell man hineinrutscht. Wer ein aufgezeichnetes Bewerbungsgespräch in eine KI lädt und fragt, ob die Person beim Thema Gehalt nervös gewirkt habe, betreibt Emotionserkennung am Arbeitsplatz – und die ist unter dem AI Act weitgehend verboten. Wer ein Jahr Teamkommunikation hochlädt und Mitarbeitende „nach Loyalität ranken“ lässt, bewegt sich Richtung Social Scoring, ebenfalls rote Zone. Die Faustregel ist einfach: KI nutzen, um Menschen zu kategorisieren, Emotionen zu erkennen oder daraus Entscheidungen abzuleiten, die Rechte einschränken – sofort stopp. Für diese Verstöße gilt der höchste Strafrahmen, und die Verantwortung trägt, wer den Knopf drückt.

Orange Zone: Hochrisiko – und die Falle mit den generischen Tools

In der orangen Zone liegen die meisten echten Bürofälle, vor allem alles rund ums Personal: Bewerbungen filtern, Kandidaten ranken, Beförderungen vorschlagen. Hier kommt der Omnibus zum ersten Mal ins Spiel. Die vollen Pflichten für diesen Hochrisikobereich – Daten-Governance, Protokollierung, Aufsicht – greifen jetzt erst ab Dezember 2027 statt im August. Das klingt nach Entwarnung, ist aber keine.

Denn zwei Dinge gelten trotzdem schon heute. Erstens: Sobald du dabei Emotionen oder Absichten bewertest, bist du sofort wieder in der roten Zone. Zweitens – und das ist der Punkt, den fast alle übersehen: Wenn du fünfzig Lebensläufe in Claude oder ein anderes generisches KI-Tool lädst und „wähle die Top fünf“ sagst, nutzt du ein Werkzeug für einen Zweck, für den es nie gebaut wurde, ohne die Leitplanken, die zertifizierte HR-Software haben muss. Das Tool ist nicht das Problem. Der Einsatzzweck ist es. Dazu gehört auch der zweite Teil der orangen Zone, die Transparenz: Ein Chatbot auf der Webseite oder eine automatische Antwort auf Kundenbeschwerden, die kein Mensch liest, müssen gekennzeichnet sein. Die Mail dagegen, die du mit Claude entworfen, dann selbst geprüft und verantwortet hast, ist in der Regel in Ordnung. Der Unterschied ist immer derselbe: Prüfst du selbst, oder entscheidet die Maschine allein?

Transparenzpflicht ab 2. August: der eigentliche Knackpunkt

Hier liegt das, was das Video den teuersten Denkfehler des Jahres nennt. Am 2. August 2026 greifen die erweiterten Transparenzpflichten für KI-generierte Inhalte – und genau die hat der Digitale Omnibus nicht verschoben, anders als die Hochrisikopflichten, die auf Dezember 2027 gerutscht sind. Wer also glaubt, die EU habe alles vertagt und man sei „safe“, liegt falsch. Verschoben wurde der Teil, der den Büroalltag nie betroffen hat. Geblieben ist der Teil, der täglich greift.

Konkret heißt das: KI-erzeugte Texte, Bilder und Videos musst du ab dann kennzeichnen, wenn sie ungeprüft hinausgehen. Ein fair zu erwähnendes Detail: Die technische Wasserzeichenpflicht für die Anbieter selbst rutscht auf Dezember 2026 – deine Pflicht als Anwender, gekennzeichnet herauszugeben, was die KI erzeugt hat, bleibt davon unberührt. Der Newsletter, den die KI komplett geschrieben hat und der ungeprüft rausgeht, gehört gekennzeichnet. Das KI-generierte Bild auf der Firmenwebseite ebenso. Für den Bericht, den du nur als Entwurf von Claude erstellen lässt und danach inhaltlich prüfst und überarbeitest, übernimmst du dagegen selbst die Verantwortung – das ist der sicherste Weg.

Ein praktischer Rat aus dem Video lässt sich sofort umsetzen: Leg dir jetzt einen Standard-Footer als Textbaustein an, etwa „erstellt mit KI-Unterstützung, geprüft und verantwortet von [Name]“. Einmal anlegen, immer einfügen. Damit erfüllst du den Geist der Transparenzpflicht und bist Wochen vor allen anderen fertig. Und wenn die Chefin im August fragt, wie das Team aufgestellt ist, bist du die Person mit der Antwort.

Grüne Zone: Vier Schritte für den sauberen Alltag

Die grüne Zone ist der Bereich, in dem du produktiv arbeitest, ohne dir ein Verfahren einzuhandeln. Das Video bündelt sie in vier Schritten. Schritt eins ist der Anonymisierungsfilter: Bevor irgendetwas ins Tool geht – egal ob Claude, Gemini oder ein anderes – keine Namen, keine Adressen, keine Kundennamen, sondern nur Platzhalter wie „Kunde A“ oder „Mitarbeiter X“. Schritt zwei ist der Mensch in der Schleife: Kein KI-Output geht ungeprüft raus, du bist der Editor, du prüfst und änderst. So wird aus einer streng regulierten automatisierten Entscheidung eine KI-assistierte Entscheidung.

Schritt drei ist die Transparenz: der Footer von eben, plus Kennzeichnung überall dort, wo KI ohne menschliche Prüfung antwortet. Schritt vier ist die Zweckbindung: das richtige Tool für den richtigen Job – und KI grundsätzlich nicht auf HR-Konflikte, Bewerbervergleiche oder Mitarbeiterbewertungen loslassen, solange keine dafür zugelassene Lösung im Haus ist. Wer diese vier Schritte lebt, zeigt nachweisbar Sorgfalt. Und genau das zählt, wenn jemand nachfragt.

Artikel 4: Die Schulungspflicht, die seit Februar 2025 läuft

Zum Schluss nennt das Video die Pflicht, die viele Unternehmen gerade ignorieren, obwohl sie längst gilt: Artikel 4 des EU AI Act. Seit Februar 2025 müssen alle Mitarbeitenden, die KI einsetzen, nachweisbar geschult sein – und auch das hat der Omnibus nicht gekippt. „Nachweisbar“ bedeutet dokumentiert, mit Datum, Inhalten und Teilnehmenden. Das gilt für jedes Unternehmen, auch für den Fünf-Personen-Betrieb.

Die Realität dahinter: Die Marktüberwachung wird ab August 2026 ernst, auch für kleine Büros. Wer dann keine Schulungsdokumentation vorweisen kann, ist das schwächste Glied. Die Lösung ist überschaubar – eine rund 45-minütige Einführung plus eine schriftliche Nutzungsrichtlinie mit Tools, Ampelregeln und Ansprechpartner. Damit wandelt sich die Rolle: Wer KI im Büro nutzt, ist kein Zuschauer mehr, sondern Pilot statt Passagier. Du kontrollierst, was das System bekommt, und du verifizierst, was es ausgibt.

Was das konkret bedeutet

Legt man die Aufschub-Schlagzeile beiseite, bleibt ein nüchternes Bild. Der EU AI Act verlangt nicht weniger KI, sondern sorgfältige KI. Die wirklich harten Hochrisiko-Pflichten haben mit Dezember 2027 zwar Luft bekommen, doch die Verbote der roten Zone und die Transparenzpflicht ab dem 2. August gelten unverändert – und Artikel 4 ohnehin schon seit über einem Jahr. Wer sensible Daten anonymisiert, jeden Output selbst prüft, KI-Inhalte kennzeichnet und Werkzeuge zweckgebunden einsetzt, muss den Stichtag nicht fürchten. Es ist weniger eine juristische Hürde als eine Haltung – und genau die unterscheidet am Ende den Piloten vom Passagier.

Häufig gestellte Fragen

Wurde der EU AI Act durch den Digitalen Omnibus komplett verschoben?

Nein, nur teilweise. Der Omnibus hat vor allem die vollen Pflichten für Hochrisikosysteme – Daten-Governance, Protokollierung, Aufsicht – auf Dezember 2027 verschoben. Die Verbote der roten Zone und die erweiterten Transparenzpflichten ab dem 2. August 2026 blieben unangetastet. Genau diese betreffen den täglichen KI-Einsatz im Büro, weshalb die pauschale Entwarnung in die Irre führt.

Was passiert konkret am 2. August 2026?

Ab diesem Datum greifen die erweiterten Transparenzpflichten für KI-generierte Inhalte. Texte, Bilder und Videos, die von einer KI erzeugt wurden und ungeprüft veröffentlicht werden, müssen als solche gekennzeichnet sein. Inhalte, die du nur als Entwurf erstellst und anschließend selbst prüfst und verantwortest, fallen anders aus, weil hier ein Mensch die Verantwortung übernimmt.

Darf ich Bewerbungen mit Claude oder ChatGPT vorsortieren?

Das ist heikel. Generische KI-Tools sind nicht für HR-Entscheidungen gebaut und haben nicht die Leitplanken zertifizierter HR-Software. Lädst du Lebensläufe hoch und lässt die „Top fünf“ auswählen, nutzt du das Werkzeug zweckwidrig. Sobald dabei Emotionen oder Absichten bewertet werden, landest du sogar in der verbotenen roten Zone. Ohne zugelassene Lösung sollte man darauf verzichten.

Wie kennzeichne ich KI-Inhalte am einfachsten?

Das Video empfiehlt einen festen Textbaustein als Footer, etwa „erstellt mit KI-Unterstützung, geprüft und verantwortet von [Name]“. Einmal angelegt, lässt er sich überall einfügen. Damit erfüllst du den Geist der Transparenzpflicht, ohne jedes Mal neu nachzudenken, und bist vor dem Stichtag vorbereitet.

Was verlangt Artikel 4 und seit wann gilt er?

Artikel 4 verlangt, dass alle Mitarbeitenden, die KI einsetzen, nachweisbar geschult sind – dokumentiert mit Datum, Inhalten und Teilnehmenden. Diese Pflicht gilt bereits seit Februar 2025 und betrifft jedes Unternehmen, auch sehr kleine. Eine rund 45-minütige Einführung samt schriftlicher Nutzungsrichtlinie reicht in der Regel aus, um die Anforderung zu erfüllen.

Drohen kleinen Büros wirklich Konsequenzen?

Die Höchststrafen von 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes zielen auf die schwersten Verstöße großer Akteure. Für kleine Büros ist die praktische Gefahr eher, ohne Schulungsdokumentation oder Kennzeichnung als schwächstes Glied aufzufallen, wenn die Marktüberwachung ab August 2026 ernster wird. Die Verantwortung liegt immer bei der Person, die die KI tatsächlich einsetzt.

Quelle: youtube.com

Du öffnest einen Pull Request mit 30 geänderten Dateien. Du scrollst durch die Diff-Ansicht, suchst nach Fehlern, aber nach fünf Dateien lässt die Konzentration nach. Ein Kollege reviewed später und übersieht genau den Nullzeiger, der dich nachts um drei wachhält. Dieses Szenario hatte Alibaba vor Augen, als sie ihr internes KI-Code-Review-Tool entwickelten – und jetzt als Open Source veröffentlichen.

Das Tool heißt Open Code Review (OCR). Es ist kein generischer KI-Agent, den du mit einem Prompt anlernst, sondern ein Hybrid aus deterministischen Pipelines und einem Large-Language-Model-Agenten. Die Maschine übernimmt stupide, aber kritische Prüfungen, während das KI-Modell dort glänzt, wo Kontextverständnis gefragt ist. Schauen wir uns an, was dahintersteckt.

Das Problem mit generischen KI-Agenten

Vielleicht hast du schon Claude Code oder einen anderen universellen Agenten für Code-Reviews eingesetzt. Die Ergebnisse sind oft ernüchternd. Bei großen Änderungssätzen neigen diese Agenten dazu, „Ecken abzuschneiden“ – sie reviewen nur einen Teil der Dateien und lassen andere aus. Die berichteten Probleme sitzen oft nicht auf der richtigen Codezeile; die Positionsangaben driften ab. Und die Qualität schwankt massiv, sobald du den Prompt geringfügig änderst.

Warum passiert das? Die Ursache liegt in einer rein sprachgetriebenen Architektur. Ein LLM hat keine harten Zwänge, keine Garantie, dass es wirklich alle Dateien anschaut oder die Zeilennummern stimmen. Es folgt Wahrscheinlichkeiten, nicht Regeln. Für eine Aufgabe wie Code-Review, bei der es auf Vollständigkeit und Genauigkeit ankommt, ist das ein Problem.

Der Hybrid-Ansatz von Open Code Review

Die Entwickler von Alibaba haben sich für eine klare Trennung entschieden: Deterministische Ingenieurslogik übernimmt alles, was nicht schiefgehen darf. Der KI-Agent kümmert sich um dynamische Entscheidungen, die Kontext erfordern. Stell dir vor, du hast einen Assistenten, der automatisch die richtigen Aktenordner aus dem Regal zieht (deterministisch) – und dann einen zweiten, der die Akten liest und dir die relevanten Stellen zusammenfasst (KI). Beide arbeiten Hand in Hand, aber jeder macht das, was er am besten kann.

Deterministische Säule: Harte Zwänge für kritische Schritte

Die erste Säule ist ein System aus fest programmierten Regeln und Pipelines. Sie garantieren:

• Präzise Dateiauswahl: Das Tool bestimmt exakt, welche Dateien reviewed werden müssen und welche ignoriert werden können. Keine wichtige Änderung wird übersehen.
• Intelligentes Bündeln: Zusammenhängende Dateien – etwa message_en.properties und message_zh.properties – werden zu einem Review-Bundle zusammengefasst. Jedes Bundle läuft als eigener Sub-Agent mit isoliertem Kontext. Das ist eine Divide-and-Conquer-Strategie: Selbst bei sehr großen Changesets bleibt das Tool stabil, und die Reviews laufen nebenläufig.
• Fein abgestimmtes Regel-Matching: Statt das LLM mit allgemeinen Prompts zu füttern, werden spezifische Review-Regeln an die Eigenschaften jeder Datei geknüpft. Das hält den Fokus des Modells scharf und eliminiert Informationsrauschen. Im Vergleich zu rein sprachgesteuerten Regelwerken ist eine Template-Engine stabiler und vorhersagbarer.
• Externe Positionierungs- und Reflexionsmodule: Zwei unabhängige Module korrigieren systematisch die Positionsgenauigkeit und die inhaltliche Korrektheit der KI-Kommentare. So landen die Hinweise exakt auf der richtigen Codezeile und sind inhaltlich treffsicher.

KI-Agent: Dynamische Intelligenz für Kontext und Entscheidungen

Auf der anderen Seite steht der LLM-Agent. Er wird nicht mit einem vagen „Reviewe diesen Code“-Prompt losgeschickt, sondern nutzt speziell für Code-Review optimierte Prompt-Vorlagen. Diese Vorlagen senken den Token-Verbrauch und steigern die Effektivität. Der Agent hat ein maßgeschneidertes Toolset – basierend auf einer Analyse von Millionen von Tool-Call-Traces aus der Produktion. Die Entwickler haben sich angeschaut, welche Werkzeuge wie oft verwendet werden, wie hoch die Wiederholungsraten sind und wie sich neue Tools auf die gesamte Aufrufkette auswirken. Das Ergebnis ist eine stabile, vorhersagbare Tool-Ausstattung, die genau auf Code-Reviews zugeschnitten ist – nicht die generische Toolbox eines Allround-Assistenten.

Mit diesem Setup kann der Agent nicht nur den Diff anschauen, sondern auch den vollständigen Dateiinhalt lesen, im Codebase suchen und andere geänderte Dateien zur Kontextgewinnung heranziehen. Er liefert tiefgehende Reviews, nicht nur oberflächliches Feedback zum Diff.

Wie du Open Code Review nutzt

Du kannst das Tool als CLI installieren – über npm, als Binär von GitHub Releases oder aus dem Quellcode. Der Befehl ocr review startet den Review auf deinem Workspace, einem Branch-Vergleich oder einem einzelnen Commit. Du bestimmst die Ausgabe im Text- oder JSON-Format, die Anzahl der parallelen Reviews und den Timeout.

Ein Beispiel: Um alle Änderungen zwischen main und einem Feature-Branch zu reviewen, reicht ocr review --from main --to feature-branch. Möchtest du vorab sehen, welche Dateien reviewed werden, nutzt du ocr review --preview. Das ist hilfreich, um ein Gefühl für die Abdeckung zu bekommen.

Die Konfiguration des LLM-Anbieters erfolgt über die Kommandozeile – du gibst Endpunkt, API-Key und Modell an. OpenAI-kompatible und Anthropic-Modelle werden unterstützt. Das Tool liest auch die Umgebungsvariablen von Claude Code, sodass du sie nicht doppelt pflegen musst.

Integration in CI/CD und Coding Agents

Open Code Review ist nicht nur für die lokale Nutzung gedacht. Es lässt sich in CI/CD-Pipelines einbauen, um Pull Requests automatisch zu reviewen. Mit dem Flag --format json erhältst du maschinenlesbare Ergebnisse, die dein CI-Skript weiterverarbeiten kann. Alibaba liefert Beispiele für GitHub Actions und GitLab CI mit.

Du kannst das Tool direkt in KI-Coding-Agents wie Claude Code als Slash-Command integrieren. Es gibt fertige Plugins und Skills, die dem Agenten beibringen, ocr aufzurufen, die Ergebnisse zu kategorisieren und sogar automatisch Fixes vorzuschlagen. Das Bindeglied ist immer die installierte CLI – der Agent selbst wird nicht mit der Review-Logik belastet, sondern delegiert an die deterministische Pipeline.

Was das für die Praxis bedeutet

Mit Open Code Review bekommst du ein Werkzeug, das die Stärken von deterministischen Systemen und KI vereint. Du musst keine langen Prompts optimieren oder hoffen, dass der Agent alle Dateien erwischt. Die harten Zwänge garantieren Vollständigkeit und Positionsgenauigkeit – zwei Schwachstellen reiner KI-Lösungen. Gleichzeitig profitiert der KI-Agent von einem spezialisierten Toolset und optimierten Prompts, die aus Jahren Erfahrung bei Alibaba destilliert wurden.

Für Entwicklerteams, die regelmäßig große Code-Reviews durchführen, bedeutet das eine Entlastung. Die KI erledigt Standardprüfungen (Nullzeiger, Thread-Safety, XSS, SQL-Injection) zuverlässig und liefert tiefgehendes Feedback, das sonst nur ein erfahrener Senior-Entwickler geben kann. Weil das Tool Open Source ist, kannst du es an deine eigenen Bedürfnisse anpassen, eigene Regeln definieren oder die Tool-Ausstattung erweitern.

Die Veröffentlichung zeigt einen Trend: KI-Tools für Entwickler werden erwachsener. Statt jedes Problem mit einem allmächtigen LLM zu erschlagen, setzt sich der hybride Ansatz durch – wie in der Luftfahrt, wo Autopilot und Pilot zusammenarbeiten. Open Code Review ist ein Beispiel, wie man KI sinnvoll in bestehende Arbeitsabläufe integriert, ohne die Kontrolle aus der Hand zu geben. Es lohnt sich, einen Blick darauf zu werfen – besonders, wenn du eine verlässliche, automatisierte Code-Review-Lösung suchst.

Quelle: github.com

Du schaltest im Hochsommer die Klimaanlage ein, die Fenster sind offen, die Kälte entweicht. Die Stromrechnung steigt, die Wohnung bleibt warm. Viele Unternehmen mit Künstlicher Intelligenz geht es ähnlich. Die Kosten für KI, gemessen in Tokens, den kleinsten Verarbeitungseinheiten von Sprachmodellen, explodieren. Ein Großteil der Ausgaben bringt kein Produkt hervor.

Sam Altman, CEO von OpenAI, sagte im Juni 2025, Intelligenz werde bald so billig sein wie Strom. Ein Jahr später sind KI-Kosten eher wie eine Stromrechnung im Hochsommer bei offenen Fenstern. Unternehmen berichten, ihr Jahresbudget für Tokens sei in wenigen Monaten aufgebraucht. Manche Firmen überdenken oder canceln KI-Initiativen komplett. Schlagzeilen über „Tokenmaxxing“ – exzessiven Token-Verbrauch – und explodierende Budgets lassen Zweifel am KI-Hype aufkommen. Das Problem ist nicht der Verbrauch an sich, sondern die Verschwendung von Tokens für unproduktive Zwecke.

Das Startup EntelligenceAI veröffentlichte eine Zahl: Von jedem Dollar für KI landen nur 18 Cent in der Produktion. 82 Cent fließen in Fehlerbehebungen, Umschreibungen, Code-Überarbeitungen und Reviews. Die Schätzung mag ungenau sein, zeigt aber eine klare Tendenz. Tokenmaxxing lässt sich durch Budgetkontrollen oder Entfernen von Leaderboards eindämmen. Das eigentliche Problem ist die unproduktive Nutzung. Die Lösung ist nicht mehr Kontrolle, sondern echte produktive Anwendungen zu finden.

Andrew Macdonald, COO von Uber, sagte, KI-Ausgaben seien schwer zu rechtfertigen, weil sie nicht direkt zu Produktivitätssteigerungen führen. Sein Tweet wurde viel geteilt. Wenn Ubers Erfahrung repräsentativ ist, steht der Branche eine Phase langsamen Wachstums bevor. Negative Geschichten über KI verbreiten sich schneller als positive. Viele Unternehmen finden durchaus produktive Einsätze. Trotzdem muss die Branche den Return on Investment klären, sonst droht ein Rückschlag.

Die Lage ist angespannt. Microsoft Build Anfang Juni wird voraussichtlich neue KI-Modelle und Updates für Copilot bringen. Gleichzeitig eskaliert der Konflikt zwischen Medien und KI-Firmen: A.G. Sulzberger, Verleger der New York Times, warf OpenAI, Google, Meta und Perplexity vor, Journalismus zu untergraben. Floridas Generalstaatsanwalt verklagte OpenAI und Sam Altman wegen angeblicher Schäden durch Chatbots für Minderjährige – erstmals klagt ein US-Bundesstaat so.

NVIDIA kündigte den Superchip RTX Spark an, der Windows-PCs für persönliche KI-Agenten antreiben soll. Das bringt NVIDIA in direkten Wettbewerb mit Intel, Qualcomm, AMD und Apple. OpenAI veröffentlichte ein „Frontier Governance Framework“ und stellte 250 Millionen Dollar über die OpenAI Foundation bereit, um Arbeitskräfte auf KI-bedingte Umwälzungen vorzubereiten.

Anthropic schloss eine Serie-H-Finanzierung über 65 Milliarden Dollar bei einer Bewertung von 965 Milliarden Dollar ab. Damit ist Anthropic das wertvollste KI-Startup der Welt, vor OpenAI. Der annualisierte Umsatz lag im Mai bei 48 Milliarden Dollar. Anthropic launchte Claude Opus 4.8 mit Verbesserungen in Codierung, Agentenaufgaben, Finanzanalyse, Schreiben und Wissensarbeit. Die Kosten pro Token sind dreimal niedriger, die Geschwindigkeit 2,5-mal höher als beim Vorgänger. Kunden wie Shopify, Cursor, Harvey, BrowserBase, Bridgewater, Thomson Reuters und Databricks nutzen es. OpenAIs Codex bleibt für alltägliche Programmieraufgaben stärker. Anthropic kündigte auch dynamische Workflows in Claude Code an, die parallele Sub-Agenten orchestrieren, etwa für Bug-Jagden oder Stresstests. Zudem reichte Anthropic den Börsengang ein.

Die Frage bleibt: Sind die Investitionen in KI gerechtfertigt? Unternehmen wie Uber zeigen, dass hoher Token-Verbrauch nicht automatisch Produktivität bringt. Firmen investieren in KI, weil sie glauben, dass Konkurrenten es tun. Dann steigen die Kosten, ohne klare Ergebnisse. Manche Analysten vergleichen die Situation mit den Anfängen des Internets, als viel Geld in unausgereifte Technologien floss. Der Unterschied heute: Die Technologie funktioniert, aber die Anwendung hinkt hinterher.

Speicherchips werden knapp und teuer, weil Rechenzentren ausgebaut werden. Wenn die Tokens nicht in produktive Anwendungen fließen, bleibt die Nachfrage künstlich. Robinhood erlaubt inzwischen, dass Chatbots für dich handeln. Eine andere Frage: Würdest du dein Gmail mit ChatGPT verbinden? Und würdest du deine Wohnung kostenlos putzen lassen, wenn der Putzroboter die Aufnahmen für Trainingdaten nutzt? Diese Fragen zeigen die Nähe zwischen Nutzen und Datenschutz.

Die Token-Abrechnung ist ein Weckruf. Unternehmen müssen weg vom bloßen Verbrauch und hin zu messbarem Nutzen. Wer blind Tokens verbrennt, steht morgen mit leeren Kassen da. Wer auf echte Produktivität setzt, kann profitieren. Der Weg dorthin erfordert Disziplin, nicht nur Technologie.

Quelle: bigtechnology.com

 

Du betreibst einen Champagnerbrunnen im Garten. Jeder Gast darf sich einmal bedienen. Ein Dieb schließt heimlich einen Schlauch an und zapft den ganzen Tag Liter ab, um den Champagner weiterzuverkaufen. Deine Rechnung am Monatsende? Zehntausende Euro. Genau das passiert mit KI-Endpunkten, die für die Öffentlichkeit oder Kunden freigeschaltet sind. Nur kommt der Champagner hier aus den teuren Berechnungen großer Sprachmodelle. Der Dieb heißt Inference Theft – der unbefugte Diebstahl von KI-Inferenz, zur eigenen Nutzung oder zum gewinnbringenden Weiterverkauf.

Der Begriff klingt technisch, ist aber ein wirtschaftliches Problem. Eine HTTP-Anfrage kostet Bruchteile eines Cents – Vercel gibt einen Richtwert von etwa zwei Dollar pro Million Anfragen an. Ein einziger Prompt an ein modernes KI-Modell wie Claude oder GPT kann locker zwei Dollar verschlingen. Das ist eine Million Mal teurer. Genau deshalb ist Inference Theft ein profitables Geschäftsfeld für Angreifer. Sie zahlen nichts für die Rechenleistung, sondern klauen sie und verkaufen sie zu einem Spottpreis weiter.

Wie Inference Theft funktioniert

Der Angriff ist einfach und raffiniert. Du stellst einen KI-Chatbot oder eine API bereit, die einem Benutzer die Kontrolle über ein großes Sprachmodell gibt. Das kann ein öffentliches Playground sein, ein Support-Bot oder ein Dokumentationsassistent. Der Angreifer nimmt deine API und verpackt sie in einen Adapter. Das ist ein kleines Stück Software, das deine API-Schnittstelle in das Format eines großen Anbieters wie OpenAI oder Anthropic übersetzt. Sobald der Adapter läuft, kann jeder Coding-Agent oder SDK, der für die Schnittstelle von OpenAI geschrieben wurde, deine teure Inferenz nutzen – ohne dass du etwas merkst.

Der Angreifer ruft deine API nicht direkt von seiner IP auf. Er mietet tausende Residential-Proxy-IPs, also IP-Adressen von echten Privatgeräten, über die er die Anfragen streut. Deine IP-basierten Ratenbegrenzungen greifen dann nicht, weil jede Anfrage aus einer anderen Ecke der Welt kommt. Wenn du eine Authentifizierung verlangst, legt der Angreifer tausende Wegwerf-Konten an. Der Aufwand lohnt sich, weil der Gewinn pro gestohlener Anfrage enorm ist.

Selbst wenn du denkst, dein System sei sicher, weil die System-Prompts serverseitig festgelegt sind – Angreifer haben gelernt, Modelle mit geringem Aufwand um feste Anweisungen herumzumanövrieren. Das senkt die Qualität der gestohlenen Antworten kaum, und der Weiterverkauf bleibt profitabel. Besonders gefährlich sind offene KI-Playgrounds, bei denen der Aufrufer maximale Kontrolle über Prompt, Modell und Parameter hat. Aber auch Support-Bots sind nicht immun.

Warum klassische Websicherheit nicht hilft

Du denkst vielleicht: „Ich habe doch Rate Limits und einen Log-in. Reicht das nicht?“ Leider nein. Diese Mechanismen wurden für Angriffe mit niedrigeren Kosten pro Aufruf entwickelt. Damals, als Diebstahl von Rechenleistung kaum profitabel war, haben Angreifer nicht Unmengen in Residential-Proxys und Fake-Konten investiert. Heute ist der Hebel riesig: Ein Angreifer kann dir mit einem einzigen Adapter und ein paar Dollar Infrastruktur Kosten von mehreren Zehntausend Dollar pro Tag verursachen. Die Anschaffung von tausend IPs ist billig.

Das Problem liegt in der Architektur: Die meisten Sicherheitsgates prüfen die Identität eines Nutzers nur beim Einloggen oder zu Beginn einer Sitzung. Einmal eingeloggt, wird jede weitere Anfrage dieser Sitzung vertraut. Genau das nutzen Angreifer. Sie umgehen das Session-Gate einmal – durch ein gestohlenes Token oder ein Fake-Konto – und können dann tausende Anfragen durchschleusen, ohne erneut geprüft zu werden. Die Kosten für die Umgehung amortisieren sich über die vielen gestohlenen Aufrufe. Du brauchst eine Verteidigung, die jeden einzelnen API-Aufruf überprüft, nicht nur den Start der Sitzung.

Der Trick: Du musst die Überprüfung so günstig machen, dass sie für dich kaum ins Gewicht fällt, aber für den Angreifer so teuer, dass sich das Umgehen nicht lohnt. Teure Inferenz (dein Champagner) steht gegen billige Verifikation (deine Wache). Wenn die Wache jeden Schluck prüft, wird der Dieb müde.

Ein realer Angriff auf Vercel

Ein gutes Beispiel liefert Vercel selbst. Im April 2026 beobachteten die Ingenieure einen plötzlichen Traffic-Anstieg auf ihrem KI-Dokumentations-Chatbot. Die Anfragen auf das Modell Claude Haiku 4.5 stiegen auf etwa das Zehnfache des Normalvolumens – bis zu 1.300 Anfragen pro Minute. Das hätte, wäre der Angriff nicht gestoppt worden, zu Inferenzkosten von über zehntausend Dollar pro Tag geführt. Die Angreifer nutzten Residential-Proxys, sodass IP-basierte Rate Limits nichts ausrichten konnten. Über zwei Tage hinweg schickten sie Hunderttausende von Bot-Anfragen.

Vercel setzte daraufhin eine tiefgehende Analyse namens BotID ein, die innerhalb des Routen-Handlers vor jeder KI-Anfrage läuft. Innerhalb von Minuten wurden mehr als zehntausend Bot-Anfragen erkannt und blockiert. Nach 24 Stunden war der Traffic wieder normal. Der Schlüssel: Die Verifikation geschah für jeden einzelnen Request, nicht nur zu Sitzungsbeginn.

So implementierst du Request-Verifikation mit BotID

Was genau ist BotID? Es ist eine unsichtbare CAPTCHA-Technologie, die auf clientseitigem maschinellem Lernen basiert. Der Benutzer muss kein Bildrätsel lösen – das Verfahren läuft im Hintergrund und unterscheidet Menschen von Bots, ohne die User Experience zu beeinträchtigen. Dadurch kann es auf jedem Request ausgeführt werden, ohne zu nerven.

Die Implementierung erledigst du mit wenigen Zeilen Code. Zuerst deklarierst du auf der Client-Seite, welcher Endpunkt geschützt werden soll:

// instrumentation.client.ts
import { initBotId } from 'botid/client/core';
initBotId({
  protect: [{ path: '/api/ai-chat', method: 'POST' }],
});

Auf der Server-Seite rufst du dann in deinem Routen-Handler checkBotId() auf. Ist das Ergebnis ein Bot, lehnst du die Anfrage mit einem 403-Status ab:

// app/api/ai-chat/route.ts
import { checkBotId } from 'botid/server';
import { NextRequest, NextResponse } from 'next/server';

export async function POST(request: NextRequest) {
  const verification = await checkBotId();
  if (verification.isBot) {
    return NextResponse.json({ error: 'Zugriff verweigert' }, { status: 403 });
  }
  // Dein bestehender KI-Aufruf
}

Wichtig: Der Client muss die Pfade korrekt deklarieren, sonst fehlen die Challenge-Header, und checkBotId() schlägt fehl. Die vollständige Einrichtung mit dem next.config.ts-Wrapper findest du in der BotID-Dokumentation.

Warum jeder Request einzeln geschützt werden muss

Der entscheidende Punkt ist die Kostenasymmetrie. Ein Angreifer hat einmalige Kosten für den Bau des Adapters und die Beschaffung der Proxys. Danach ist jeder gestohlene API-Aufruf für ihn praktisch kostenlos. Wenn du nur das Session-Gate prüfst, bezahlt er die Umgehung einmal und erntet tausende Aufrufe. Wenn du aber bei jedem Aufruf eine günstige Prüfung durchführst, muss er für jeden Diebstahl erneut eine Hürde nehmen. Die günstige Prüfung (z. B. BotID) kostet dich weniger als ein Zehntausendstel eines Cents – verglichen mit den zwei Dollar für die Inferenz ein Schnäppchen. Selbst wenn der Bypass für einen Angreifer fünf Cent kostet, lohnt sich das nicht mehr, wenn er pro Aufruf nur zwei Dollar spart, aber fünf Cent zahlen muss – bei tausend Aufrufen wären das fünfzig Euro, die er vorstrecken müsste. Und wenn die Erfolgsquote nicht 100 % ist, erst recht nicht.

Was das für deine KI-Endpunkte bedeutet

Inference wird auf absehbare Zeit um Größenordnungen teurer sein als die Anfragen, die sie transportieren. Das Geschäftsmodell der Angreifer bleibt profitabel, solange es ungeschützte oder schlecht geschützte Endpunkte gibt. Du solltest sofort prüfen, welche deiner KI-APIs im Internet erreichbar sind. Priorisiere nach Angriffswahrscheinlichkeit: Je mehr Kontrolle der Aufrufer über den Prompt hat, desto leichter ist das Ziel. Ein öffentlicher Playground ist akut gefährdet; ein Support-Bot mit festem System-Prompt ist weniger exponiert, aber nicht immun.

Der zweite Schritt: Implementiere eine Verifikation, die auf jedem Request läuft. Rate Limits allein reichen nicht, Authentifizierung allein auch nicht. Eine Kombination aus unsichtbarem CAPTCHA (wie BotID) und serverseitiger Prüfung stellt sicher, dass nur echte Menschen deine teuren Ressourcen verbrauchen. Der Aufwand ist gering, der Schutz massiv.

Und zu guter Letzt: Vergiss nicht, dass auch Systeme, die hinter einem Login stehen, verwundbar sind – wenn der Login einmal umgangen wurde, fließt der Champagner ungehindert. Mach das Tor nicht nur am Eingang zu, sondern prüfe jeden Schluck.

 

Quelle: vercel.com