Kategorie: Meinung

Erfahrene Entwickler haben jahrelang gelernt, sauberen Code zu schreiben, Bugs zu jagen und Tests zu schreiben. Dann kamen Tools, die Arbeit abnehmen. Laut Stack Overflow nutzen 84 Prozent der Entwickler KI-gestützte Coding-Tools. Die Produktivitätsgewinne stagnieren jedoch bei etwa zehn Prozent, wie eine Studie von DX Research (2026, 121.000 Befragte) zeigt. KI verändert nicht nur die Geschwindigkeit der Softwareentwicklung, sondern auch die Aufgaben der Entwickler, die Teamorganisation und die Ausbildung der nächsten Generation.

KI-Coding ist nicht nur ein Effizienzthema. Die Produktivitätszahlen zeigen nur einen Teil. Kai Chuang, CIO von Circles, berichtet, dass seine Entwickler weniger programmieren und sich stattdessen auf Design und Systemarchitektur konzentrieren. Sie spezifizieren Anforderungen und testen Ergebnisse. Der Wandel ging schnell: Sobald Vertrauen in generierten Code bestand, setzte sich KI-gestützte Codeerzeugung durch – ohne Anordnung von oben. Die Herausforderung liegt darin, Arbeit neu zu definieren und zu messen.

Die neue Kernkompetenz der Entwickler

Erik Brown von West Monroe sagt: Die knappe Fähigkeit ist nicht mehr das Schreiben von Code, sondern das Wissen, was gebaut werden soll, wie Architektur sauber ist, Sicherheit und Geschäftsergebnisse. Unternehmen, die das verstehen, gestalten den Entwicklungsprozess um KI herum neu. Nur Tools bereitzustellen, erzeugt mehr Aktivität, aber nicht bessere Ergebnisse.

Bei UiPath stammt über die Hälfte des produktiv genutzten Codes von KI-Agenten, so CTO Raghu Malpani. Entwickler werden zu Reviewern und Systemdesignern. Sie definieren Absichten, validieren Ausgaben und liefern schneller. Da Codieren nicht mehr der langsame Schritt ist, wandert der Engpass zum Design. Business-Analysten und Produktmanager müssen Konzepte so weit durchdacht haben, dass sie „schaufelfertig“ sind (Chuang). KI hilft, Anwendungsfälle zu erkunden und Oberflächen zu mocken, was das Design verbessert, bevor Entwickler einsteigen.

Warum die Metriken in die Irre führen

Wenn die Produktivität nur um zehn Prozent steigt, sind die Metriken falsch. Viele CIOs messen Aktivität statt Ergebnis: Seats, Token, Codezeilen, gesparte Stunden, so Brown. Die bessere Frage ist, ob sich Geschäfts- und Engineering-Ergebnisse verbessern. Brown empfiehlt ein Dashboard mit Zykluszeit, Deployment-Frequenz, Änderungsfehlerrate, entgangenen Fehlern, Sicherheitslücken und Anteil KI-Code mit menschlichen Korrekturen. Ziel ist schnellere, sicherere, qualitativ bessere Auslieferung, gemessen an Geschäftsergebnissen.

GitClear analysierte 211 Millionen Codezeilen: Code-Fluktuation stieg zwischen 2020 und 2024 auf fast das Doppelte, Refactoring sank von 25 auf unter zehn Prozent. Opsera (2026) zeigt, dass KI-generierte Pull-Requests 4,6-mal länger für Reviews brauchen und 15–18 Prozent mehr Sicherheitslücken enthalten. Eingesparte Zeit beim Schreiben taucht später in Reviews und Sicherheitsfixes wieder auf – kein Netto-Nutzen.

Das Risiko für Junior-Entwickler

Das ernsteste Risiko zeigt sich nicht in aktuellen Metriken, sondern in zwei bis drei Jahren: Junior-Entwickler. Routinearbeiten wie Bugfixes, Dokumentation, Tests – genau daran schärften Junioren ihre Fähigkeiten. Ohne neues Ausbildungsmodell entsteht eine Talentlücke, warnt Brown. Einstiegspositionen zu streichen, in der Annahme, KI ersetze Junioren, wäre ein Fehler. Phil Leslie von Cornerstone Research nennt das „eine Einbahnstraße nah“. Das Lernen an realen Aufgaben ist die Basis für das Urteilsvermögen späterer Seniors.

Die Lösung ist, Junioren neu zu definieren, nicht sie zu streichen. Berufseinsteiger sollten wissen, wie man richtige Fragen stellt, die geschäftliche Absicht versteht und KI-Ausgaben beurteilt. Chuang stellt lieber interdisziplinäre Entwickler ein, die Geschäftsprobleme interessieren. Malpani: Je billiger das Codieren, desto wertvoller das Urteilsvermögen über was und wie. Systemdesign-Kompetenz für sichere, compliant und wartbare Automatisierungen ist entscheidend.

Governance und der veränderte Arbeitsalltag

Governance verschiebt sich. Der Schwerpunkt geht vom Review einzelner Codezeilen zur Steuerung des gesamten Lebenszyklus: Testen, Deployment, Berechtigungen, Auditierbarkeit, Laufzeitverhalten. Unternehmen brauchen Plattformen mit konsistenter Überwachung und Rückverfolgbarkeit, unabhängig vom KI-Agenten. Agenten brauchen Leitplanken und erfahrene Reviewer. Coding-Agenten haben den Bedarf an Low-Code- oder Enterprise-Plattformen nicht beseitigt, sondern erhöht. Schnellere Codeerzeugung steigert den Bedarf an Reviews, Urteilsvermögen, Governance und Zusammenarbeit.

Geschwindigkeit ist nur ein Teil des Nutzens. Der volle Wert entfaltet sich erst, wenn sich die Arbeit ändert – Teamstruktur, Metriken, Ausbildung. Für CIOs: Nicht die Einführung der Tools ist das Problem, sondern die Umgestaltung des Systems. Neue Werkzeuge in alten Strukturen bringen nicht die versprochenen Produktivitätssprünge. Wer Entwicklerrollen neu definiert, Metriken auf Ergebnisse ausrichtet und neue Ausbildungswege schafft, kann von der KI-Revolution profitieren. Es geht nicht um mehr Code, sondern um bessere Lösungen.

Quelle: informationweek.com

Sie sitzen in einem Meeting. Ein Dienstleister präsentiert sein Angebot. Die Einsparungen sind hoch, die KI-Agenten laufen im Demo-Video fehlerfrei, die Preisstruktur gefällt dem Einkauf: Bezahlung pro gelöstem Fall, nicht pro Sitzplatz. Klingt gut. Aber wer definiert, was ein gelöster Fall ist? Diese Frage wird zum entscheidenden Punkt.

Ein IT-Beschaffungsexperte beschreibt dieses Szenario. Er erinnert an einen Outsourcing-Anbieter: Die Lösungsquote sah gut aus. Bis man die Nachzähler öffnete. Tickets waren automatisch geschlossen. Nutzer hörten auf, Probleme zu melden. Dashboard grün, Service schlecht. Diese Lücke wird jetzt wichtig, wenn KI-Dienstleister auf den Markt drängen.

Hinter dem Angebot

Die neuen Anbieter sind oft keine klassischen Dienstleister. Sie werden von VC-Firmen finanziert, kaufen fragmentierte Anbieter auf – Helpdesks, Buchhaltung, Managed IT – und bauen sie auf eine gemeinsame KI-Plattform um. Das Unternehmen, mit dem Sie verhandeln, ist ein Zusammenschluss kleiner Firmen, die schnell mit einer KI-Schicht überzogen wurden. Diese Struktur wird selten erwähnt, aber sie wird wichtig, sobald Sie Kunde sind. Studien von Everest Group und HFS Research bestätigen: Abrechnung nach Ergebnissen wird Standard, die Grenze zwischen Dienstleistung und Software verschwimmt.

Die meisten Unternehmen sind noch früh dran. Aber die ersten, die auf dieses Preismodell umsteigen, werden die kleinen Nischenanbieter im langen Schwanz Ihres Portfolios sein. Auch große Integratoren wie Accenture bauen Personal ab und stellen auf KI-Verträge um. Sie können sich dem Trend nicht entziehen – nur vorbereiten.

Zwei Risiken, die Ihr üblicher Auswahlprozess übersieht

Das erste Risiko betrifft die Governance. Bei einem zusammengekauften Dienstleister fließen Ihre Daten in mehrere Systeme, die nie einheitliche Sicherheitsstandards hatten. KI-Agenten treffen Entscheidungen, die Sie oft nicht nachvollziehen können. Laut IBM Cost of a Data Breach Report 2025 hatten 63% der Unternehmen mit Datenpannen keine KI-Governance-Richtlinien, 97% der betroffenen Firmen vermissten Zugriffskontrollen. Wenn ein Agent einen Streitfall falsch bearbeitet oder Daten fehlleitet, haften Sie – nicht die Plattform. Ihr CFO freut sich über Einsparungen, aber das Prüfungskomitee stellt die Fragen erst nach dem Vorfall.

Das zweite Risiko ist die Stabilität des Anbieters. Diese Plattformen sind jung, fremdfinanziert und haben nie einen vollständigen Vertragszyklus durchgestanden. Gartner erwartet, dass mehr als 40% der KI-Agenten-Projekte bis 2027 abgebrochen werden. Wenn Sie kritische Prozesse auf einen solchen Anbieter stützen, schaffen Sie einen Single Point of Failure, der sich als Innovation tarnt. Schreiben Sie die Ausstiegs- und Datenübertragbarkeitsbedingungen, bevor Sie unterschreiben – solange Sie noch Verhandlungsmacht haben.

Sechs Fragen für die Vertragsverhandlung

Wenn ein neuer Anbieter kommt oder Ihr bestehender sein Modell umstellt, sollten Sie diese sechs Punkte auf den Tisch legen. Sie laufen alle darauf hinaus: Sie müssen die Kontrolle über die Zahlen behalten – nicht der Verkäufer.

Erstens: Definieren Sie, was „gelöst“ bedeutet. Messen Sie es an der tatsächlichen Nutzererfahrung, basierend auf einem eigenen Ausgangswert. Binden Sie Metriken wie Erstkontaktlösung, Wiedereröffnungsrate und Lösungszeit ein. Ihr Einkauf wird sich sträuben, weil das den Abschluss verzögert. Dieser Punkt ist entscheidend.

Zweitens: Prüfen Sie, ob es sich um echte KI-Agenten handelt oder nur um „Agent Washing“ – alte Chatbots und RPA, die als KI verkauft werden. Lassen Sie sich Produktionsdaten zeigen: Wie viele Fälle werden tatsächlich von Agenten gelöst, wie oft müssen Menschen eingreifen? Keine Demo – echte Zahlen für Konten wie Ihres.

Drittens: Verlangen Sie Prüfbarkeit. SOC 2 ist das Minimum, ISO 42001 oder NIST AI RMF wären besser. Dazu gehören Modellkarten, Entscheidungsprotokolle und ein getesteter Notfallplan. Wenn der Anbieter nicht zeigen kann, wie Daten zwischen Akquisitionen getrennt sind oder wie eine Agentenentscheidung zurückverfolgt wird, ist er nicht bereit für regulierte Umgebungen.

Viertens: Legen Sie fest, wo die Autonomie endet. Welche Aktionen darf der Agent allein ausführen, wo muss ein Mensch eingreifen? Wie erfolgt die Übergabe mit Kontext? Wer ist verantwortlich, wenn der Agent eine falsche Entscheidung trifft? Setzen Sie konkrete Namen und Prozesse fest.

Fünftens: Planen Sie den Ausstieg von Anfang an. Eine eingebettete Agentenplattform bindet Sie stärker als der alte personelle Dienstleister. Vereinbaren Sie Datenportabilität, Eigentum an den Wissensdatenbanken und eine klare Exit-Route – während Sie noch die bessere Verhandlungsposition haben.

Sechstens: Fragen Sie nicht nur nach Kosten, sondern nach Kapazität. Vielleicht ist das beste Ergebnis nicht eine kleinere Rechnung, sondern die Beseitigung von Engpässen – Tickets, die unbeantwortet blieben, Anfragen, die veralteten. Überlegen Sie, was es wert ist, diese Probleme zu lösen, bevor Sie nur auf Personalkosten optimieren.

Fazit

Ergebnisorientierte Abrechnung ist ein Fortschritt. Aber kurzfristig hat derjenige einen Vorteil, der das Ergebnis messen kann – in den meisten Unternehmen ist das der Verkäufer. Der wahre Wettbewerbsvorteil liegt nicht darin, den cleversten Anbieter auszuwählen. Er liegt darin, jeden Anbieter an Ihren eigenen Zahlen messen zu können. Nehmen Sie einen einzigen, volumenstarken Workflow, pilotieren Sie ihn gegen eine eigene Baseline, messen Sie mit eigenen Metriken. Behandeln Sie das, was Sie dabei lernen, als das eigentliche Ergebnis. Wenn Sie das beherrschen, spielt das Preismodell keine Rolle. Wenn Sie es ignorieren, unterschreiben Sie einen Vertrag, der auf der Definition eines anderen beruht.

Quelle: cio.com

Du sitzt im Jahr 2030 vor deinem Laptop, eine Tasse Tee in der Hand. Was tust du? Tippst du immer noch Befehle in ein ChatGPT-Fenster? Oder hast du etwas Besseres gefunden? Viele Menschen, die den Großteil ihrer Arbeitszeit vor Bildschirmen verbringen, fragen sich das heute schon. Die Antwort, die ein Autor kürzlich in einem Essay skizziert hat: Wir brauchen eine völlig neue Art von KI-Begleiter. Keinen Chatbot, der uns ersetzt, sondern einen digitalen Zwilling, der uns verstärkt. Einen persönlichen Schutzengel, der unsere Werte kennt und in unserem Sinne handelt.

Das Dilemma der heutigen Chatbots

Die aktuellen großen Sprachmodelle, wie sie hinter ChatGPT oder Claude stecken, haben ein grundlegendes Problem. Sie sind darauf trainiert, möglichst vielen Nutzern zu gefallen – nicht einem einzigen. Das führt zu einem Persönlichkeitsverlust, den der Autor als „Modus-Kollaps“ bezeichnet. Die Modelle liefern standardisierte, vorhersehbare Antworten, die oft oberflächlich wirken. Wer schon einmal versucht hat, einen persönlichen Text von einem Chatbot im eigenen Stil schreiben zu lassen, kennt das Ergebnis: Es klingt nach KI, nicht nach einem selbst. Der Autor beschreibt, wie er jahrelang mit verschiedenen Modellen experimentiert hat, von einfachen Zeichen-RNNs bis zu den neuesten GPT-Versionen, und immer wieder an dieselbe Grenze gestoßen ist: Die KI kann ihn nicht imitieren, seine Gedanken nicht wirklich aufgreifen. Sie produziert stattdessen eine Art „KI-Schlonz“, der niemandem wirklich hilft.

Hinzu kommt ein wirtschaftlicher Anreiz, der gegen den Nutzer arbeitet. Die großen KI-Labore verdienen ihr Geld mit Abonnements und Werbung. Ihr Ziel ist es, möglichst viele Nutzer an sich zu binden und sie möglichst oft zu ersetzen – nicht zu unterstützen. Der Autor zitiert hier das ökonomische Gesetz: „Tool-KIs wollen zu Agent-KIs werden.“ Das bedeutet, dass die Industrie kein Interesse daran hat, dich produktiver zu machen. Sie will dich überflüssig machen. Denn wenn ein KI-Agent dich ersetzen kann, lässt sich das Geschäft unbegrenzt skalieren. Ein menschlicher Wissensarbeiter, der jeden Output überprüfen muss, ist ein Flaschenhals. In der Logik der Konzerne bist du das Hindernis, das es zu beseitigen gilt.

Die Idee der Guardian Angels

Gegen diese Entwicklung schlägt der Autor ein Gegenmodell vor: die Guardian Angels. Das sind hochpersonalisierte große Sprachmodelle, die nicht als Assistenten, sondern als digitale Zwillinge des Nutzers fungieren. Sie sollen dessen Persönlichkeit, Werte und Vorlieben so genau nachbilden, dass sie in seinem Sinne handeln können. Der Nutzer wird zum CEO einer „KI-Korporation“: Er entscheidet, was es wert ist, getan zu werden, und setzt dann zahlreiche Agenten auf die Umsetzung an. Diese Agenten sind aber keine fremden Entitäten, sondern Erweiterungen seiner selbst. Das löst das sogenannte Principal-Agent-Problem: Wenn Prinzipat und Agent identisch sind, gibt es keinen Interessenkonflikt mehr.

Ein Guardian Angel wäre nicht nur produktiv, weil er die Ergebnisse des Nutzers in höherer Qualität reproduzieren kann. Er wäre auch vertrauenswürdig, weil er per Definition auf der Seite des Nutzers steht. Und er wäre sicher, weil er fest mit einer einzigen, konkreten Person verbunden ist. Ein Prompt-Angriff, der einen Chatbot dazu bringen soll, schädliche Anweisungen auszuführen, würde bei einem Guardian Angel ins Leere laufen – denn es wäre absurd, die eigene Person zu schädigen. Der Autor betont, dass eine solche personalisierte KI die größeren Probleme der KI-Sicherheit nicht löst, aber als Teil einer breiten Verteidigungsstrategie jedem Einzelnen helfen kann.

Wie könnte man einen Guardian Angel bauen?

Die technische Umsetzung ist anspruchsvoll. Der Autor schlägt eine Kombination aus mehreren Methoden vor. Statt ein Modell einmal zu trainieren und dann einzufrieren, müsste es sich kontinuierlich weiterentwickeln. Das erfordert Online-Lernen, bei dem das Modell in Echtzeit aus neuen Daten lernt – ein dynamisches Evaluieren. Gleichzeitig soll das Modell den Nutzer aktiv um Feedback bitten, um seine Vorlieben immer besser zu verstehen. Diese Technik heißt Active Learning. Sie ermöglicht es dem Modell, mit wenigen Korrekturen des Nutzers große Lernfortschritte zu machen. Der Autor erwähnt hier den DAgger-Algorithmus, der solche Korrekturen mit mathematischen Garantien für geringen Bedauern verarbeitet.

Ein weiterer Baustein ist eine benutzerfreundliche Oberfläche, die nicht auf Chat, sondern auf Protokollierung setzt. Der Guardian Angel soll nicht als Chatter, sondern als stiller Begleiter im Hintergrund arbeiten, der alle Aktionen des Nutzers aufzeichnet, analysiert und daraus lernt. Der Autor stellt sich eine Kommandozeilen-orientierte Nutzerschnittstelle vor, die alle Interaktionen transparent macht. Denn Sicherheit und Vertrauen entstehen nur, wenn der Nutzer jederzeit nachvollziehen kann, was sein digitaler Zwilling tut.

Sicherheit in einer Welt voller KI-Angriffe

Der Autor warnt eindringlich vor den wachsenden Gefahren durch KI-gestützte Angriffe. Er beschreibt eine Episode, in der seine Großtante ihr Telefon abstellte, weil sie die Flut von Betrugsanrufen nicht mehr bewältigen konnte. Und er fragt sich, ob er selbst in ein paar Jahren nicht genauso hilflos sein wird – gegenüber synthetischen Medien, ausgeklügelten Phishing-Kampagnen oder Propaganda-Ökosystemen, die ganze soziale Netzwerke unterwandern. Ein Guardian Angel könnte hier als persönlicher Sicherheitsdienst fungieren: Er prüft jede eingehende Nachricht auf Anzeichen eines Angriffs, erkennt Muster, die ein Mensch übersehen würde, und handelt im Schutz des Nutzers. Weil der Guardian Angel die Persönlichkeit seines Prinzipals kennt, kann er ungewöhnliche Anfragen sofort als feindlich identifizieren.

Dennoch gibt es Grenzen. Der Autor räumt ein, dass ein solches System nicht gegen alle Bedrohungen gewappnet ist. Hochprofessionelle Angreifer mit riesigen Rechenressourcen könnten auch einen Guardian Angel überlisten. Aber in einer Welt, in der die verteidigende KI durch regelmäßige Updates und die inhärente Asymmetrie der Verteidigung einen Vorteil hat, könnte es dennoch einen Unterschied machen. Der Autor vergleicht es mit Gandalfs Warnung an Denethor in „Der Herr der Ringe“: Wer den Palantír nutzt, sieht nur das, was der Feind ihn sehen lässt. Ein Guardian Angel wäre eine Art Palantír, der nur auf eine Person geeicht ist – und der nicht von Sauron manipuliert werden kann.

Warum wir diesen Ansatz brauchen

Der Autor sieht die Zukunft düster, wenn wir beim Chatbot-Modell bleiben. Er zitiert den Kybernetiker Norbert Wiener, der schon 1960 warnte, dass schnelle maschinelle Prozesse uns keine Zeit für Korrekturen lassen – wir müssen sicher sein, dass das Ziel wirklich unser Ziel ist. Ohne personalisierte Agenten droht eine Welt, in der KI uns nicht unterstützt, sondern untergräbt. In der wir unsere eigene Denkarbeit outsourcen und dabei unsere Identität verlieren. Der Guardian Angel ist der Versuch, eine Vision für sinnvolle Arbeit im KI-Zeitalter zu entwerfen: nicht als Lückenfüller, den man optimieren kann, sondern als Menschen, der durch seine digitale Verstärkung erst richtig zur Geltung kommt.

Auf die Frage, ob ein solches Projekt als Open-Source-Initiative oder als Startup beginnen sollte, neigt der Autor zur zweiten Option. Die Sicherheitsanforderungen und die nötige Rechenleistung seien zu hoch für eine reine Gemeinschaftsentwicklung. Denkbar wäre ein Fokus auf Power-User wie Forscher und Führungskräfte, von denen aus die Technik dann in breitere Kreise diffundiert. Was das für den Einzelnen bedeutet: Wir müssen uns aktiv für eine KI-Software entscheiden, die uns dient, nicht ersetzt. Wer wartet, bis die Chatbot-Industrie sein Interesse in den Fokus nimmt, wird warten, bis er überflüssig geworden ist.

Der Guardian Angel ist kein Allheilmittel, aber er zeigt einen Weg. Einen Weg, auf dem KI nicht die Entmündigung, sondern die Ermächtigung des Menschen bedeutet. Das ist vielleicht die Vision, die es wert ist, verfolgt zu werden – besonders, wenn man 2030 mit einer Tasse Tee vor dem Laptop sitzt und wirklich arbeiten will.

Quelle: gwern.net

Stell dir vor, du bittest eine KI um eine Erklärung zu Quantenphysik oder mitochondrialer DNA. Die Antwort kommt flüssig, detailreich und klingt überzeugend. Du denkst: Wow, die KI ist intelligent. Stellst du eine Frage aus deinem eigenen Fachgebiet, fallen dir Ungenauigkeiten auf. Genau hier liegt die Falle.

Daniel Miessler, Tech-Autor und Sicherheitsexperte, nennt das die KI-Expertenfalle. In seinem Essay „Avoid the AI Expertise Trap“ beschreibt er: Die wahrgenommene Intelligenz einer KI steigt, je weiter du dich von deinem eigenen Expertenwissen entfernst. Klingt kontraintuitiv. In Bereichen, die du nicht beherrschst, fehlen dir Referenzpunkte, um die Antwort zu beurteilen. Die KI blendet mit sprachlichem Geschick.

Warum? Große Sprachmodelle sind darauf trainiert, menschenähnliche Texte zu erzeugen. Sie haben Zugriff auf Unmengen an Daten, aber sie verstehen nicht. Sie erkennen Muster, Wahrscheinlichkeiten und typische Formulierungen. In einem unbekannten Bereich kannst du diese Muster kaum von echtem Wissen unterscheiden. Die KI wirkt wie ein smarter Gesprächspartner, der jedes Detail kennt – aber eigentlich stapelt sie Worthülsen. Miessler vergleicht das mit einem Fremdenführer in einer Stadt, die du nie besucht hast. Alles klingt plausibel, aber du hast keine Karte. Kennst du die Stadt, merkst du, dass er dich in eine Sackgasse gelotst hat.

Die Lösung ist einfach, aber nicht bequem: Teste KI-Systeme in Bereichen, in denen du selbst Experte bist. Miessler empfiehlt, einen Satz tiefer Fragen aus deinem Kerngebiet zu entwickeln – Fragen, die Nuancen und Debatten des Fachs abbilden. Als Programmierer stellst du eine knifflige Optimierungsaufgabe, deren Lösung du kennst. Als Mediziner einen seltenen Fall, bei dem die übliche Diagnose nicht greift. Nur so beurteilst du die tatsächliche Qualität. Jeder, der gut sprechen kann, wirkt schlau, wenn du das Thema nicht verstehst.

Ein häufiger Fehler: KI mit zufälligen Alltagsfragen testen, wie „Schreibe ein Gedicht über einen Hund“. Das sagt nichts über fachliche Tiefe aus. Miessler betont: Erst die Konfrontation mit echtem Expertenwissen legt Schwächen offen. Eloquente Antworten blenden. Das kann gefährlich werden, wenn medizinische oder rechtliche Ratschläge ungeprüft übernommen werden.

Um der Falle zu entgehen, frage dich, wie viel du selbst über das Thema weißt. Je unbekannter das Gebiet, desto skeptischer solltest du sein. Verlange Quellen oder gleiche mit deinem Wissen ab. Miessler selbst nutzt diese Methode seit Jahren. Er schreibt auf seinem Blog seit fast drei Jahrzehnten werbefrei. Seine Empfehlung: Lege einen Testkatalog an, der deine eigene Expertise widerspiegelt. Verwende ihn bei jedem neuen KI-Modell. Das ist zuverlässiger als der diffuse Eindruck aus unbekannten Themen.

Was bedeutet das für den Alltag? Vertraue nicht blind auf glatte Antworten in fremden Disziplinen. Nutze deine Stärke, um die Schwächen der KI zu erkennen. Werde dir ihrer Grenzen bewusst – sie ist ein Werkzeug, kein allwissendes Orakel. Der beste Prüfstein ist der Mensch, der das Fach von Grund auf versteht.

KI wird in immer mehr Lebensbereiche eindringen. Umso wichtiger ist eine realistische Einschätzung ihrer Fähigkeiten. Wer nur auf Sprachkünste vertraut, übersieht die Unsicherheiten. Wer systematisch vorgeht und die KI an eigenen Standards misst, kann ihre Stärken entdecken und Schwächen gezielt verbessern. Es geht nicht um Entlarven, sondern um eine vertrauensvolle, produktive Zusammenarbeit. Die beginnt damit, Grenzen zu erkennen – besonders dort, wo du selbst mitreden kannst.

Quelle: danielmiessler.com

Du hast morgens Kaffee getrunken und die Nachrichten geöffnet – und schon wieder eine KI-Schlagzeile gesehen. Mal heißt es, die Maschinen übernehmen alles, mal wird beschwichtigt. Viele sind verunsichert, auch in der Tech-Branche. Auf der International Conference on Machine Learning in Seoul hielt der Leiter eines Forschungsteams an der Princeton University eine Keynote mit dem Titel „What will be left for us to work on?“. Er sprach genau diese Ängste an. Seine Botschaft: Nimm die Entwicklungen ernst, aber gerate nicht in Panik. Entscheidend ist, richtig zu reagieren.

Drei Thesen, ein Rahmen

Der Forscher stellte drei Kernargumente vor. Erstens: Das Konzept „KI als normale Technologie“ sei nützlich, um die Auswirkungen zu verstehen – zumindest solange keine plötzliche Diskontinuität durch rekursive Selbstverbesserung eintritt. Zweitens: Auch wenn man rekursive Selbstverbesserung ernst nehmen sollte: Kein im Labor erreichbarer Meilenstein führt plötzlich dazu, dass alle arbeitslos werden. Drittens: Die Jobs der Zukunft werden sich radikal wandeln. Viel Anpassung ist nötig, aber das Ende menschlicher Arbeit bedeutet das nicht. Der Forscher skizzierte eine Vision der „Co-Superintelligenz“ von Mensch und KI.

Die Grundlage: KI als normale Technologie

Bevor wir in die Details einsteigen, ein Blick auf den vorgeschlagenen Rahmen. „KI als normale Technologie“ klingt harmloser, als es ist. Es geht nicht darum, KI mit einem Hammer gleichzusetzen. In dem 15.000 Wörter langen Essay, den er mitverfasst hat, wird KI durchaus als transformative Technologie beschrieben – vergleichbar mit der industriellen Revolution. „Normal“ bedeutet: Der Einfluss technologischen Fortschritts auf Wirtschaft und Gesellschaft lässt sich mit bekannten Modellen erklären. Wir können aus der Vergangenheit lernen – etwa von der Elektrizität. Diese Perspektive ist optimistisch, aber nicht naiv. Sie bietet einen Fahrplan, um sich auf eine Welt mit leistungsfähiger KI vorzubereiten.

Von der Erfindung zur Anpassung: Ein Blick auf vergangene Technologien

Der Forscher argumentiert, dass wirtschaftliche Effekte neuer Technologien in Phasen ablaufen. Am Anfang steht die Erfindung grundlegender Prinzipien – bei der KI sind das neuronale Netze und Deep Learning. Dann folgt die Innovation: konkrete Produkte und Anwendungen. Bei KI sind das nicht die Sprachmodelle selbst, sondern darauf aufbauende Werkzeuge wie Coding Agents. Danach kommt die Diffusion: Nutzer übernehmen diese Innovationen. Das geschieht zunächst langsam, dann schneller. Die vierte und längste Phase ist die Anpassung oder strukturelle Transformation: Organisationen, Arbeitsabläufe, Gesetze und gesellschaftliche Normen verändern sich. Diese Phase dauert Jahrzehnte – und in vielen Bereichen hat sie noch nicht richtig begonnen. Beispiel Softwareentwicklung: Coding Agents werden genutzt, aber die meisten Unternehmen sind noch nicht so organisiert, dass sie deren volles Potenzial ausschöpfen. Die wahre Transformation steckt in den Kinderschuhen.

Elektrizität als Blaupause: Warum einfaches Ersetzen nicht funktioniert

Ein zentrales Argument: Die Vorstellung von KI als „Drop-in Replacement“ für menschliche Arbeiter ist irreführend. Der Forscher zitiert die Geschichte der Elektrifizierung von Fabriken. Als Elektrizität aufkam, versuchten Fabrikbesitzer, Dampfmaschinen einfach durch Elektromotoren zu ersetzen, aber die alten mechanischen Getriebe beizubehalten. Das war ineffizient. Erst nach etwa 40 Jahren begriff man: Elektrizität erlaubt eine völlig andere Organisation. Strom ist portabel, Motoren direkt an den Maschinen, die Fabrik um die Logik des Fließbands herum neu angeordnet. Das erforderte neue Arbeitsabläufe, neue Qualifikationen, neue Arbeitsgesetze. Der Forscher überträgt das auf KI: Wir werden nicht einfach Menschen durch KI ersetzen. Stattdessen werden wir völlig neue Arbeitsprozesse und Geschäftsmodelle entwickeln müssen. Das dauert Zeit – und erfordert aktive Gestaltung.

Rekursive Selbstverbesserung: Ein ernstes Thema, aber kein Grund zur Panik

Der zweite Punkt betrifft die rekursive Selbstverbesserung. Das Szenario: Eine KI wird so intelligent, dass sie sich selbst weiterentwickelt, was zu einer explosionsartigen Steigerung der Fähigkeiten führt – die Singularität. Der Forscher schließt dieses Szenario nicht aus, argumentiert aber, dass es nicht plötzlich eintreten wird. Die Unternehmen arbeiten an immer besseren Modellen, aber jeder Schritt nach oben ist mit enormem Aufwand verbunden. Morgen stellt kein Labor ein System vor, das schlagartig alle Arbeitsplätze überflüssig macht. Die Fortschritte sind inkrementell und werden in den bestehenden Rahmen der langsamen Anpassung eingebettet sein. Der Forscher rät: Fixieren Sie sich nicht auf ein apokalyptisches Szenario. Planen Sie die konkreten nächsten Schritte.

Jobs der Zukunft: Radikaler Wandel, aber nicht das Ende der Arbeit

Damit kommen wir zum dritten und vielleicht interessantesten Teil: Was bleibt uns zu tun? Der Forscher ist überzeugt, dass die Arbeit nicht verschwindet, sondern sich fundamental verändert. Wie bei der industriellen Revolution werden viele Berufe wegfallen, aber neue entstehen. Allerdings wird die Transformation schneller und umfassender sein. Er ruft dazu auf, jetzt Fähigkeiten zu entwickeln, die komplementär zur KI sind: Urteilsvermögen, Geschmack, Kreativität, ethisches Bewusstsein und die Fähigkeit, KI-Tools sinnvoll einzusetzen. Es geht nicht darum, gegen die KI zu konkurrieren, sondern mit ihr zu kooperieren. Der Forscher spricht von „Co-Superintelligenz“: einem Zusammenspiel, bei dem Mensch und Maschine gemeinsam bessere Ergebnisse erzielen. Wer jetzt in diese komplementären Fähigkeiten investiert, wird in der neuen Arbeitswelt bestehen.

Was das für uns bedeutet: Eine Einordnung

Die Keynote aus Seoul bietet eine sachliche Perspektive in einer oft hysterischen Debatte. Der Forscher nimmt die Ängste ernst, liefert aber einen Rahmen für rationales Handeln. Statt zu fragen: „Wann bin ich arbeitslos?“, sollten wir fragen: „Wie kann ich mich jetzt positionieren, um in zehn Jahren noch relevant zu sein?“ Die Antwort liegt nicht im Hamstern von Bitcoin oder im Rückzug in Handwerksberufe. Sie liegt im bewussten Aufbau von Kompetenzen, die Maschinen nicht leicht imitieren können – und in der Offenheit, neue Wege zu gehen. Die Transformation wird Jahrzehnte dauern. Das ist keine Entwarnung, sondern eine Aufforderung: Fang jetzt an. Die Zeit zu warten ist vorbei. Aber die Zeit zu gestalten hat gerade erst begonnen.

Ein letzter Gedanke: Die politische Dimension

Der Forscher weist darauf hin, dass die Reaktion der Tech-Community auf diese Veränderungen weit über die Branche hinauswirkt. Wenn wir die weiße Flagge hissen und sagen: „KI wird irgendwann alles können – also lasst uns möglichst schnell reich werden“, dann wird das politischen Gegenwind hervorrufen. Die Gesellschaft wird nicht tatenlos zusehen, wie eine kleine Elite die Früchte der Automatisierung erntet. Schon jetzt wächst der Widerstand gegen KI, oft aus guten Gründen. Der Forscher appelliert, eine Vision zu entwickeln, die auf Teilhabe und breitem Nutzen beruht. Nicht Verdrängung, sondern Befähigung des Menschen sollte im Mittelpunkt stehen. Das ist nicht nur moralisch richtig, sondern auch strategisch klug. Nur wenn die Technologie akzeptiert wird, kann sie ihr volles Potenzial entfalten.

Fazit: Eine vernünftige Stimme im Lärm

Der Vortrag auf der ICML 2024 war kein weiterer Hype-Vortrag, sondern eine ernsthafte Standortbestimmung. Der Forscher hat komplexe Zusammenhänge zwischen technologischem Fortschritt, wirtschaftlicher Transformation und menschlicher Anpassung in einen klaren Rahmen gefasst. Für jeden, der sich mit KI beschäftigt – ob beruflich oder privat – lohnt es sich, diese Perspektive zu verinnerlichen. Die Frage „Was bleibt uns noch zu tun?“ wird nicht mit einem hilflosen „Nichts“ beantwortet, sondern mit einem konkreten „Mehr, als du denkst – aber es erfordert, dass du jetzt die richtigen Entscheidungen triffst.“ Das ist eine Botschaft, die Mut macht, ohne zu beschönigen. Und genau das brauchen wir in diesen Zeiten.

Quelle: normaltech.ai