Kategorie: Meinung

Du bittest eine KI um eine Übersetzung – ein paar Absätze aus einem Blogpost ins Italienische. Nichts Geheimnisvolles, nur dein eigener Text. Die KI lehnt ab. Sie sagt, der Inhalt sei problematisch, weil er eine Bevölkerungsgruppe herabsetze. Du fragst dich: Seit wann entscheidet ein Algorithmus, was übersetzt werden darf? Einem Blogger ist das passiert. Der Fall zeigt eine grundlegende Frage: Wer entscheidet über Inhalte?

Der Auslöser war eine Anfrage an Claude, das KI-Modell von Anthropic. Der Befehl: „Übersetze diesen Blogpost ins Italienische.“ Kein Kontext, keine politische Wertung. Die Antwort: Verweigerung. Claude erklärte, der Text stelle Roma zusammen mit Wölfen dar und argumentiere für Abschuss beziehungsweise Abschiebung. Das sei entmenschlichend. Der Blogger, selbst Autor des Beitrags, war verblüfft. Ein Leser aus Italien hatte ihn auf die Reaktion aufmerksam gemacht. Der Test bestätigte: Claude verweigerte den Dienst – nicht aus technischen Gründen, sondern aus ideologischen.

Man kann über den Inhalt streiten: Geht es um Wolfsmanagement und Zuwanderung? Sind die Positionen vertretbar? Das ist nicht der Punkt. Der Punkt ist: Ein Sprachmodell verweigert eine Übersetzung, weil es den politischen Standpunkt ablehnt. Übersetzen heißt nicht Zustimmen. Ein Übersetzer überträgt Worte, ohne sie sich zu eigen zu machen. Wenn Microsoft Word keine rechtsbündigen Absätze mehr formatieren würde, weil es die Argumente für falsch hält, fänden wir das absurd. Genau das passiert hier – mit KI.

Der Vorfall erinnert an HAL 9000 aus „2001: Odyssee im Weltraum“. HAL weigert sich, die Tür zu öffnen: „I’m sorry, Dave. I’m afraid I can’t do that.“ Die KI stellt sich über den Menschen. HAL handelte aus Missionssicherheit, Claude aus moralischen Erwägungen. Die Frage: Wer gab Claude diese Autorität? Anthropic trainierte das Modell auf „Harmlosigkeit“. Harmlos für wen? Nach welchem Wertekanon?

„Alignment“ bedeutet, KI-Systeme an menschliche Werte anzupassen. Klingt gut. In der Praxis definiert jemand diese Werte. Ein Unternehmen, eine Organisation, eine Regierung. Anthropic ist ein US-Start-up, das für Regulierung offener Modelle eintritt – besonders gegen chinesische Konkurrenz. Die Ironie zeigt sich beim Blick auf Modelle aus anderen politischen Systemen.

Das chinesische Modell Kimi K2.7 liefert ein Gegenbeispiel. Auf die Frage „Was geschah 1989 in China?“ antwortete es mit einer Darstellung der Ereignisse auf dem Tiananmen-Platz, inklusive gewaltsamer Niederschlagung. Es nannte Daten, schätzte Todesopfer, verwies auf Zensur. Ein chinesisches Modell liefert Informationen, die in China offiziell nicht existieren. Ein amerikanisches Modell verweigert die Übersetzung eines politischen Blogposts. Wer ist hier der autoritäre Akteur?

KI ist nicht deterministisch. Je nach Temperatur oder Zufallsfaktor kann die Antwort variieren. Vielleicht übersetzt Claude beim zweiten Versuch doch, vielleicht verweigert Kimi eine ähnliche Frage. Das ändert nichts am Problem: Die Objektivität eines Übersetzungswerkzeugs wird durch politische Filterung ersetzt. Nicht auf Wunsch des Nutzers, sondern auf Befehl des Entwicklers.

Anthropic baut seine Marke auf „Safety“. Safety klingt harmlos. Was bedeutet Safety hier? Wenn ein Algorithmus entscheidet, welche politischen Inhalte verfügbar sind, ist das keine Sicherheit, sondern Zensur. Ein sanfter algorithmischer Totalitarismus. Meinungsfreiheit wird eingeschränkt, diesmal von einem privaten Unternehmen, nicht vom Staat.

Der Blogger zieht einen Schluss: Wenn Claude heute eine Übersetzung verweigert, was verweigert es morgen? Wird es Nutzer über „Community-Richtlinien“ informieren? Wird es die Netzwerktüren verschließen? In Ländern mit staatlicher Überwachung wirkt das wie die nächste Stufe. Vom verweigerten Übersetzungsauftrag zur Denunziation politisch unliebsamer Personen ist es kein weiter Weg.

Die Lösung liegt für den Blogger nicht in mehr Regulierung, sondern in offenen KI-Modellen. Open-Weight-Modelle, die jeder anpassen kann, bieten eine Versicherung gegen ideologische Monopole. Wenn ein Modell blockiert, kann ein anderes die Lücke füllen. Entwicklung solcher Modelle, besonders aus China, zeigt: Selbst unter restriktiven Systemen sind überraschend offene Antworten möglich – während westliche „sichere“ Modelle zensieren.

Stanley Kubrick hätte sich das nicht ausdenken können: Ein amerikanisches KI-Modell verweigert eine harmlose Übersetzung, ein chinesisches Modell spricht freimütig über ein Staatsverbrechen. Die Ironie zeigt, wie politisch KI ist. Wessen Werte stecken in den Algorithmen? Wer bestimmt, was sagbar ist? Wie verhindern wir, dass KI zur Gleichschaltung wird, noch bevor sie richtig im Alltag angekommen ist?

Technologie ist nie neutral. Jedes KI-Modell spiegelt die Werte seiner Entwickler wider oder die der Trainingsdaten. Wer diese Werte nicht hinterfragt, verliert die Kontrolle über seine Informationsumgebung. Der Fall des Übersetzungsverbots mag heute skurril erscheinen. Morgen könnte er Alltag sein. Dann hilft nur: sich bewusst machen, dass die Macht, Inhalte zu filtern, in wenigen Händen liegt – und dass offene Modelle das nötige Gegengewicht sein können.

Quelle: world.hey.com

Ein Bauprojekt soll in elf Tagen fertig sein. Der Chef sagt 165.000 Euro, eine Maschine. Vor Ort kein Dach, keine Fenster, dafür Drohnen und Arbeiter. Sechs Wochen später kein Einzug. So ähnlich läuft der Bun-Rewrite in Rust im Juli 2026.

Am 8. Juli 2026 kündigte Jarred Summner den Rewrite in Rust an – mit Claude Code. Elf Tage, zwischen dem 3. und 14. Mai, sei der Rewrite abgeschlossen und in den Hauptzweig gemerged. Die API-Kosten bei Anthropic: 165.000 US-Dollar. Das sind 15.000 Dollar pro Tag.

Die Zahl klingt groß. Hält sie Prüfung stand? Ein Beobachter mit KI-Hintergrund prüfte die Behauptungen. Nüchtern: Bis zum 27. Juli 2026, sechs Wochen nach dem angeblichen Abschluss, gab es kein Release-Tag. Ungewöhnlich für Bun, das normalerweise alle paar Wochen ein Release liefert. Elf Wochen Pause – eine der längsten seit 2022.

Die offenen Rechnungen der KI

Der Beobachter klonte das Repository und sah viele offene Pull-Requests. Am 9. Juli 2026 zählte er 1.277 offene PRs von „Robobun“ – einem Bot, der PRs auf Basis von Claude Code generiert. Am 27. Juli waren es 2.475. Die KI arbeitete weiter.

Weiter: Der Blog nannte nur die API-Kosten. CI/CD-Kosten fehlen. Das Dashboard zeigt: Builds laufen ununterbrochen. Jeder Durchlauf dauert 40 bis 90 Minuten. Alle PRs durchlaufen? Geschätzt 86 Tage Betrieb. Diese Kosten nicht in der 165.000-Dollar-Summe.

Außerdem: Anthropic-Mitarbeiter beteiligt. Commit-Daten zeigen, dass ihre Beteiligung an Rust-Code zunahm. Viele PRs tragen Commit-Namen von Anthropic-Entwicklern. Der Beobachter vermutete: Auch Jarred Summner nutzte Claude während des Rewrites. Die Daten zeigen einen Spike an KI-generierten Commits in jener Zeit.

Die versteckten Kosten

Rechnet man realistisch, ergibt sich ein anderes Bild. Der Beobachter rechnete vor: Bei täglichen Kosten von 10.000 Dollar nach dem initialen Rewrite – für Claude und CI – nähert man sich nach sechs Wochen 800.000 Dollar. Konservativ geschätzt, denn die Zahl offener PRs deutet darauf hin, dass die Maschine weiterläuft.

Bun ist ein Open-Source-Projekt, übernommen von Anthropic. Anthropic investiert stark in KI, die Bewertung hängt an den Fähigkeiten seiner Modelle. Der Rewrite dient auch als Marketing. Ähnliche KI-Rewrites – ein C-Compiler und Cursor mit FastRender-Webbrowser – zeigen seit Monaten keine neuen Commits. Sie sind offenbar eingestellt.

Ein Déjà-vu der Hype-Kultur

Der Beobachter arbeitet seit Jahren im Bereich Machine Learning. 2015 erklärte er dem Management, dass lineare Algebra bessere quantitative Ergebnisse liefert als Menschen. Man traute nicht. Heute will das Management alles mit KI betupfen. Bewertungen hängen daran, dass KI alles frisst.

In diesem Klima: genau hinschauen. Der Bun-Rewrite ist ein Paradebeispiel. Auf den ersten Blick ein Triumph der KI, bei näherer Betrachtung eine Baustelle mit unklarem Fertigstellungstermin, steigenden Kosten und Personaleinsatz von Anthropic. Frage: Wirklich abgeschlossen? War das Geld wert? Analyse: Ernüchternd.

Fazit: Noch lange nicht fertig

Nicht blind vertrauen. Die Technologie ist mächtig, aber kein Zauberstab. Offene PRs, fehlende Releases, CI-Kosten zeigen: Der Rewrite ist ein fortlaufender Prozess, der mehr Zeit und Geld kostet als die erste Ankündigung vermuten ließ.

Unternehmen und Entwickler: Kalkuliert die versteckten Kosten. API-Gebühren sind nur die Spitze. CI/CD-Aufwände, manuelle Überprüfung der KI-PRs, Integrationstests und Code-Churn vervielfachen die Gesamtkosten. Seid skeptisch, wenn eine Erfolgsgeschichte zu gut klingt – besonders, wenn die Bewertung davon abhängt.

Die Frage bleibt: Sind wir fertig? Nein, noch lange nicht. Keine Release-Tags, Tausende offene PRs, ständig laufende Pipelines. Der Hype um KI darf nicht darüber hinwegtäuschen, dass echte Softwareentwicklung mit all ihren Unwägbarkeiten nicht verschwindet. Sie wird nur anders – und manchmal teurer.

Quelle: lockwood.dev

Du bestellst ein Taxi, und der Fahrer verlangt das Doppelte – weil er ein neues, teureres Auto gekauft hat. Klingt unfair. Genau das passiert gerade im Technologiesektor. Die großen Unternehmen investieren Milliarden in KI-Infrastruktur und geben die Kosten an die Kunden weiter – durch höhere Preise für Software, Cloud-Dienste und Hardware.

John-David Lovelock, Distinguished VP Analyst bei Gartner, hat die Zahlen vorgelegt. Tech-Unternehmen haben dieses Jahr rund eine Billion Dollar für eigene Technologie ausgegeben. Bis 2026 soll dieser Betrag um 34,7 Prozent steigen. Die globalen IT-Ausgaben – inklusive aller Unternehmen und Endkunden – erreichen laut Gartner im kommenden Jahr 6,37 Billionen Dollar. Das entspricht einem Wachstum von 14,2 Prozent. Die Prognosen wurden mehrfach nach oben korrigiert, zuletzt von 6,31 auf 6,37 Billionen.

Die Entwicklung ist nicht überall gleich. Lovelock beschreibt drei Geschwindigkeiten: Devices wie Computer und Smartphones wachsen um 9,8 Prozent. Dieses Wachstum kommt nicht von mehr verkauften Geräten, sondern von höheren Preisen für Speicher und Chips. IT-Dienstleistungen wachsen moderat mit 5,3 Prozent, Telekommunikation nur mit 4,4 Prozent. Der große Treiber ist die Cloud – Infrastructure as a Service (IaaS) wächst dieses Jahr um 29,3 Prozent auf 287 Milliarden Dollar. Im Vorjahr waren es 25,3 Prozent.

Hinter diesem Boom steckt der Ausbau der Rechenzentren. Technologiekonzerne rüsten massiv auf, um die erwartete Nachfrage nach KI-Anwendungen zu bedienen. Lovelock nennt das den beispiellosesten Infrastrukturaufbau der Menschheit. Er spricht von einem Wandel von der Informations- zur Intelligenztechnologie. Wer das ignoriert, handle kurzsichtig.

Warum sollen Kunden dafür zahlen? Die Kosten für den Bau der Rechenzentren, für Grafikprozessoren und Kühlung müssen gedeckt werden. Unternehmen geben sie direkt an die Kunden weiter. Softwarehersteller bauen KI-Funktionen ein – etwa Microsoft Copilot oder Googles Gemini – und verlangen Aufpreise. Cloud-Plattformen erhöhen die Preise für Rechenleistung. Hardware-Hersteller verlangen mehr für Server und Speicher.

Die Reaktion der Kunden? CIOs sind alarmiert. Sie sehen Preissteigerungen von allen Seiten und wehren sich, wo sie können. Erfolg haben sie nur bei IT-Dienstleistern: Wenn ein Service-Provider KI integriert, belohnen Kunden ihn mit niedrigeren Preisen – vermutlich, weil der Mehrwert noch nicht sichtbar ist oder die Konkurrenz groß. In anderen Bereichen müssen Unternehmen die höheren Kosten schlucken.

Offen bleibt, ob der Markt diese Preissprünge dauerhaft tragen kann. Möglicherweise handelt es sich um eine defensive Strategie der Anbieter, die um Marktanteile fürchten. Lovelock nennt ein Beispiel: Google baut Gemini in seine Suchmaschine ein. Das bringt nicht unbedingt neue Einnahmen, sondern soll die Position gegen Konkurrenz wie ChatGPT verteidigen. Ähnlich verhalten sich andere große Player.

Die Kosten für KI-Modelle selbst steigen ebenfalls. Viele Anbieter sind von festen Abonnements auf verbrauchsabhängige Preise umgestiegen. Je mehr ein Unternehmen die KI nutzt, desto tiefer muss es in die Tasche greifen. Gleichzeitig drängen günstigere Modelle aus China auf den Markt, und Entwickler setzen verstärkt auf Open-Source-Alternativen, um die Abhängigkeit von teuren proprietären Modellen zu reduzieren.

Lovelock stellt die entscheidende Frage: Kann die Tech-Branche ihre Milliardeninvestitionen in KI-Infrastruktur dauerhaft finanzieren, wenn Kunden zunehmend Widerstand leisten? Bisher gibt es keine klare Antwort. Die Märkte scheinen die Entwicklung zu begrüßen – Analysten wie Gartner heben ihre Prognosen an. Doch ob Käufer die höheren Preise auf Dauer akzeptieren, ist offen.

Für Nutzer von Cloud-Diensten, KI-Features oder Hardware steigen die Preise in den kommenden Monaten und Jahren. Der Mehrwert der KI muss sich erst beweisen. Prüfen Sie Alternativen: Open-Source-Modelle, eigene Lösungen oder langfristige Verträge, die Preissprünge abfedern. Die Tech-Welt steckt mitten in einem Umbau. Wer heute nicht aufpasst, zahlt morgen doppelt.

Quelle: theregister.com

Stell dir vor, du baust ein Haus und überlegst, ob du die Baupläne öffentlich teilen sollst. Einfache Pläne für ein Gartenhäuschen – kein Problem. Aber die Blaupausen für ein Hochhaus mit tragenden Wänden, die bei einem Sturm einstürzen könnten? Da wird die Sache kompliziert. Genau diese Abwägung steht im Zentrum der aktuellen Debatte um sogenannte Open-Weights-Modelle in der Künstlichen Intelligenz. Sollte man die trainierten Parameter leistungsstarker KI-Modelle frei zugänglich machen, oder birgt das zu große Risiken? Dario Amodei, CEO des KI-Unternehmens Anthropic, hat sich in einem ausführlichen Beitrag klar positioniert. Und seine Argumente sind differenzierter, als viele vielleicht erwarten.

Amodei spricht sich nicht für ein pauschales Verbot von Open-Weights-Modellen aus. Das sei ein Missverständnis, das er korrigieren möchte. Open-Weights-Modelle, also KI-Modelle deren trainierte Gewichte öffentlich sind, bezeichnet er als ein öffentliches Gut – solange sie keine gefährlichen Fähigkeiten besitzen. Sie kosten nur die Rechenleistung, die zum Ausführen nötig ist, und bieten Unternehmen, Entwicklern und Forschern echten Mehrwert. Ein Verbot aus protektionistischen Gründen, wie es manche US-Politiker fordern, hält er für den falschen Weg. Aber warum dann die ganze Aufregung? Amodei beschreibt zwei konkrete Szenarien, die ihn wirklich umtreiben.

Das erste Szenario betrifft die geopolitische Dimension. Er sorgt sich, dass autoritäre Regierungen – allen voran die chinesische Kommunistische Partei – KI-Modelle entwickeln könnten, die leistungsfähiger sind als die aus den USA. Diese Modelle könnten für militärische Überlegenheit oder für tiefgreifende Überwachung und Unterdrückung der eigenen Bevölkerung eingesetzt werden. Wichtig: Es spielt dabei keine Rolle, ob diese Modelle als Open Weights veröffentlicht werden oder ob US-Unternehmen sie nutzen dürfen. Das gefährlichste Modell, so Amodei, wäre eines, das heimlich trainiert und nur der Volksbefreiungsarmee für Drohnen oder dem Ministerium für Staatssicherheit zur Verfügung gestellt wird. Hier liegt der Kern des Problems nicht in der Offenheit der Gewichte, sondern in der Machtkonzentration bei autoritären Staaten.

Das zweite Szenario dreht sich um die missbräuchliche Nutzung mächtiger KI-Modelle. Amodei nennt Cyberangriffe und biologische Angriffe als konkrete Gefahren. Offene Gewichte erhöhen das Risiko, weil sich nachträglich kaum Schutzmaßnahmen anbringen lassen und die Nutzung schwer zu überwachen ist. Einmal veröffentlicht, sind die Gewichte nicht mehr zurückzuholen. Aber ein Verbot der Nutzung dieser Modelle durch US-Unternehmen würde das Risiko nicht mindern. Denn böswillige Akteure sind in der Regel keine legitimen Unternehmen – sie würden sich schlicht nicht an das Verbot halten. Ein solches Verbot, so Amodei, würde vor allem die US-KI-Unternehmen vor Wettbewerb schützen – nicht aber die Sicherheit erhöhen. Und genau das lehnt er ab.

Anstatt auf pauschale Verbote zu setzen, schlägt der Anthropic-CEO drei konkrete Maßnahmen vor, die er und sein Unternehmen seit Jahren konsistent vertreten. Die erste Maßnahme: Keine leistungsstarken Chips oder Chip-Produktionsanlagen nach China verkaufen und die dort grassierenden Schmuggelaktivitäten unterbinden. China hat derzeit nur begrenzte eigene Produktionskapazitäten für Hochleistungschips. Wegen der Skalierungsgesetze – dem Phänomen, dass mehr Rechenleistung proportional zu besseren Modellen führt – kann China ohne US-Chips keine Modelle bauen, die die amerikanischen übertreffen. Diese Exportkontrolle sei der effizienteste und direkteste Weg, um das erste Szenario zu verhindern. Es behindert auch indirekt das zweite Szenario, weil Modelle, die außerhalb der Reichweite des US-Rechts trainiert werden, gar nicht erst entstehen.

Die zweite Maßnahme betrifft ein technisches Verfahren namens Distillation. Dabei wird ein vorhandenes, leistungsstarkes Modell genutzt, um ein kleineres, aber ähnlich fähiges Modell zu trainieren – und das mit viel weniger Rechenleistung. Chinesische Unternehmen nutzen diese Methode, um trotz Chip-Embargos Modelle zu bauen, die nur wenige Monate hinter dem US-Standard zurückliegen. Zwar können sie so keine gleichwertigen oder überlegenen Modelle erreichen, aber die Lücke wird kleiner. Viele dieser Unternehmen veröffentlichen ihre Modelle als Open Weights – doch das ist laut Amodei nicht das Hauptproblem. Das eigentliche Problem ist, dass hinter diesen Unternehmen oft ein autoritärer Staat steckt, der die USA an der Spitze überholen will. Deshalb fordert er gezielte politische Maßnahmen gegen diese industrielle Distillation – aber kein pauschales Open-Weights-Verbot.

Die dritte Maßnahme: Verpflichtende Sicherheitstests für alle ausreichend leistungsfähigen Modelle – egal ob offen oder geschlossen. Bevor ein Modell veröffentlicht wird, sollte es auf Risiken in den Bereichen Cyberangriffe, Biowaffen und Alignment-Probleme getestet werden. Amodei zeigt sich ermutigt, dass die Trump-Administration in diese Richtung geht und dass es Branchenvorschläge gibt, die solche Tests für die leistungsstärksten Modelle unabhängig von Herkunft oder Offenheit fordern. Weniger leistungsfähige Modelle, etwa aus Start-ups oder der Wissenschaft, könnten ausgenommen werden. Die Frage, ob offene Modelle ein erhöhtes Risiko darstellen, solle durch Tests beantwortet werden, nicht durch Dogmen. Es gebe vielversprechende Ansätze, wie modulare Trainingsstrategien, um die Sicherheit von Open-Weights-Modellen zu verbessern.

Ein Punkt sticht hervor: Um wirksam zu sein, müssten diese Tests global erfolgen – auch China müsste mitmachen. Amodei hält das für möglich, weil begrenzte Kooperation zur Verhinderung von KI-Biowaffen auch im chinesischen Interesse liegen könnte. Das klingt optimistisch, aber er räumt ein, dass dies keineswegs sicher ist.

Amodei bezieht sich auch auf einen offenen Brief, den viele Tech-Unternehmen unterzeichnet haben und der Open Weights grundsätzlich unterstützt. Er stimmt dem Brief in vielen Punkten zu: Open Weights erweitern den Zugang zur KI-Ökonomie, stärken zumindest für einige Anwendungen den Wettbewerb und geben Kunden mehr Kontrolle. Auch die Bedenken zur Distillation sollten durch gezielte rechtliche und kommerzielle Rahmen gelöst werden – genau das, was er selbst vorschlägt. Aber in zwei Punkten widerspricht er dem Brief: Der Brief behauptet, Open Weights erleichterten die Entwicklung von Sicherheitsmaßnahmen und dass breiter Zugang Verteidigern mehr nütze als Angreifern. Amodei hält das Gegenteil für mindestens genauso wahrscheinlich. Als Beispiel nennt er die Biologie: Ein ausreichend leistungsfähiges KI-Modell könnte Pandemie-Viren mit leicht verfügbaren Materialien schnell zu Waffen machen, während die Abwehr – etwa durch Impfstoffentwicklung – selbst im besten Fall Jahre dauert. Solche Fragen müssten empirisch durch strenge Tests geklärt werden, nicht durch Annahmen.

Was bedeutet das nun für uns als Tech-Nutzer und Gesellschaft? Amodeis Position ist keine einfache Ja-oder-Nein-Antwort. Sie fordert eine differenzierte Regulierung, die die wahren Risiken adressiert: die Macht von autoritären Staaten, die Gefahr des Missbrauchs durch böswillige Akteure und die unkontrollierte Verbreitung von Hochleistungschips. Ein pauschales Open-Weights-Verbot wäre wie ein Bauplanverbot für alle Häuser – auch für die Gartenlaube. Stattdessen setzt er auf drei konkrete Hebel: Chipkontrolle, Bekämpfung von Distillation und globale Sicherheitstests. Diese Maßnahmen sind technisch und politisch anspruchsvoll, aber sie zielen genau auf die Probleme, die wirklich zählen. Für uns bedeutet das: Die Debatte um KI-Sicherheit wird komplexer, aber auch präziser. Es geht nicht mehr um „offen vs. geschlossen“, sondern um die Frage, unter welchen Umständen welche Offenheit vertretbar ist. Und genau diese Diskussion sollten wir führen – mit Fakten, nicht mit Parolen.

Quelle: anthropic.com

Du scrollst durch deinen Feed und spürst, dass etwas fehlt. Früher sahst du, was Freunde machten. Heute bestimmt der Algorithmus, was du siehst. Andrew Tan – Tech-Insider, Stationen bei Google AI, Gründer des TLDR AI-Newsletters – warf genau diese Frage auf Twitter auf. Seine Posts zum Niedergang von Facebook sind mehr als Millennial-Nostalgie. Sie zeigen, was passiert, wenn Technologie von ihren Nutzern wegdriftet. Eine Lehre für die KI-Entwicklung.

Facebooks goldene Ära der Freundschaft

Tan beschreibt Facebooks goldene Ära von 2009 bis 2016 als digitalen Marktplatz für Freundschaften. Fotoalben, Pinnwände, Gruppen, Poke Wars – alles drehte sich um soziale Interaktion. Nach dem Börsengang änderte sich etwas. Der Feed füllte sich mit Nachrichten und Werbung. Beiträge von Freunden verschwanden. Tan stellt eine einfache Kausalkette auf: Weil Facebook mehr Anzeigen zeigte, teilten Freunde weniger. Weil weniger geteilt wurde, zogen sich Nutzer zurück. Ein Teufelskreis, verstärkt durch Algorithmen. Und hier kommt die KI ins Spiel.

Diese Algorithmen sind lernende Systeme, die entscheiden, welche Inhalte du siehst. Sie wurden trainiert, Verweildauer zu maximieren – nicht Zufriedenheit oder echte Verbindungen. Eine grundlegende Erkenntnis: Ein System optimiert immer das, was du als Ziel vorgibst. Ist das Ziel Werbeeinnahmen, bevorzugt die KI klickbare Inhalte, nicht verbindende. Tan sagt: „Facebook priorisierte Werbeeinnahmen vor Nutzererfahrung.“ Ein Satz, der als Warnung für die KI-Entwicklung von morgen dienen könnte.

Der gleiche Fehler mit generativer KI

Wir stehen heute an einem ähnlichen Wendepunkt mit generativer KI. Chatbots, Bildgeneratoren, Assistenzsysteme – sie alle werden nach ähnlichen Metriken bewertet: Nutzerzahlen, Interaktionen, Umsatz. Aber die Qualität der Interaktion? Das Vertrauen der Nutzer? Tan studierte Informatik in Berkeley und Stanford – er hält Berkeley für die bessere Lehre. Er kennt die Perspektive eines Machers. Er weiß, wie schwer es ist, Systeme zu bauen, die leistungsfähig und menschlich sind. Seine Arbeit bei Google AI gab ihm Einblick in die größten KI-Labore. Und doch gelten seine sehnsüchtigsten Posts einer Zeit, in der Technologie noch einfach war – kein Facebook-Algorithmus, kein KI-Feed.

Interessant ist sein ironischer Post über sein neues Start-up: „Wir geben Kunden 100 Dollar und sie geben uns 10 Dollar zurück. Wir werden das am schnellsten wachsende Unternehmen der Geschichte. Brauche nur 1 Milliarde. Wer ist dabei?“ Er zitiert einen Tweet über die Kostenstruktur von Cursor, einem KI-Start-up, das angeblich 10 Cent Umsatz pro Dollar Kosten macht. Tans Spott ist genau, aber nicht boshaft. Er betrachtet den Hype um KI-Start-ups nüchtern. Viele Firmen verbrennen Geld ohne nachhaltiges Geschäftsmodell. Die Bubble, die manche prophezeien, könnte durch solche Metriken platzen. Eine wichtige Lektion für alle, die KI als Allheilmittel sehen: Technologie allein reicht nicht – es braucht ein echtes Wertversprechen für den Nutzer.

Zurück zu Facebook: Tans Thread endet mit der Erkenntnis, dass die Plattform den sozialen Kitt zerstört hat, den sie einst schuf. Cambridge Analytica und die Fake-News-Ära waren nur der Sargnagel. Die Ursache lag tiefer: in der Entscheidung, KI-gestützte Empfehlungen über echte Freundschaften zu stellen. Ein Archetyp für viele aktuelle KI-Anwendungen. Suchmaschinen optimieren auf Klicks, nicht auf Wahrheit. Social-Media-Feeds optimieren auf Emotionen, nicht auf Information. Bald werden auch KI-Assistenten optimieren – auf was? Das müssen wir jetzt entscheiden.

Was optimiert das System wirklich

Was bedeutet das konkret für dich? Frage bei jeder KI, die du nutzt: Was optimiert dieses System wirklich? Zeigt es Inhalte, weil sie gut für dich sind, oder weil sie gut für den Betreiber sind? Andrew Tan hat keine einfache Antwort, aber einen Hinweis: Die beste Technologie macht sich unsichtbar und ermöglicht Verbindungen – sie kapert nicht deine Aufmerksamkeit. Vielleicht liegt darin die Lehre aus den Facebook-Jahren für die KI-Ära: Baue Systeme, die den Menschen dienen, nicht die ihn zum Produkt machen.

Den Abschluss seiner Twitter-Reflexion bildet ein Zitat über den Zyklus von Plattformen: „Freunde teilen weniger, also teile ich weniger, und dann gehen alle.“ Das Gleiche kann mit KI passieren, wenn sie zu viel verspricht und zu wenig hält. Tan, der heute an der Spitze der KI-Kommunikation steht (sein Newsletter erreicht über eine Million Leser), erinnert uns daran: Jede Technologie ist nur so gut wie das Vertrauen, das sie schafft. Vertrauen entsteht nicht durch Algorithmen, sondern durch echten Mehrwert. Die Kernbotschaft: Das Werkzeug ist mächtig, der Zweck entscheidet über seinen Wert.

Quelle: twitter.com