Stell dir vor, du stehst am Fuß eines gigantischen Gebirges, dessen Gipfel im Nebel verschwinden. Du weißt, dass dort oben etwas Unvorstellbares wartet – eine neue Welt, die alles verändern wird. Aber der Aufstieg ist gefährlich, und niemand hat eine Karte. Genau das beschreibt Google-CEO Demis Hassabis in seinem Essay „A Framework for Frontier AI and the Dawning of a New Age“. Er spricht von einem Wendepunkt in der Menschheitsgeschichte, von einer Technologie, die so mächtig ist wie die Entdeckung des Feuers. Während er das Potenzial betont, bleiben die Risiken unausgesprochen – das macht viele Beobachter nervös.
Aufsicht nach dem Vorbild der FINRA
Hassabis schlägt ein neues Gremium vor: ein „Frontier AI Standards Body“ innerhalb der US-Regierung, ähnlich der Finanzaufsicht FINRA. Dieses Gremium soll sogenannte Frontier Labs regulieren – Unternehmen, die Modelle an der technologischen Grenze entwickeln. Die Idee klingt vernünftig: Labs müssten ihre Modelle vor der Veröffentlichung von unabhängigen Prüfern testen lassen, Sicherheitslücken schließen und sich regelmäßigen Evaluierungen unterziehen. Im Fall einer Eskalation könnte dieses Gremium sogar eine Verlangsamung der Entwicklung koordinieren. Auf den ersten Blick ist das ein Schritt in die richtige Richtung. Auf den zweiten Blick zeigt sich ein grundlegendes Problem: Der Vorschlag ist vage, lässt viele Fragen offen – und geht nicht auf das größte Risiko ein.
Denn Hassabis spricht von Experten, die sich uneinig sind, aber er vermeidet es, konkret zu werden. Er sagt nicht, worüber genau sie streiten. Dabei ist die Kluft enorm: Einige Experten schätzen die Wahrscheinlichkeit einer totalen Katastrophe durch KI auf fünf Prozent, andere auf neunzig Prozent. Das ist kein kleiner Unterschied – es ist die Frage, ob wir als Zivilisation überleben. Aaron Scher von der Future of Life Institute bringt es auf den Punkt: Wenn Hassabis von „Sicherheit“ spricht, meint er nicht Jobs oder Datenschutz, sondern die Gefahr, dass KI außer Kontrolle gerät und alles vernichtet. Doch in seinem Essay klingt es, als ginge es um ein harmloses Update für dein Smartphone. Diese beschönigende Sprache ist gefährlich, weil sie den Eindruck vermittelt, das Problem sei beherrschbar – dabei ist es das vielleicht nicht.
Hassabis vergleicht KI mit Feuer und Elektrizität. Eine treffende Analogie, aber bedenke: Feuer kann Wärme und Licht bringen, aber auch ganze Städte niederbrennen. Elektrizität hat unser Leben revolutioniert, aber ohne Schutzschalter und Sicherungen wäre sie tödlich. Was Hassabis vorschlägt, ist im Grunde ein Sicherungskasten – aber er sagt nicht, was passiert, wenn die Sicherung durchbrennt. Sein Gremium könnte Modelle prüfen, aber was, wenn ein Modell intern weiterentwickelt wird und nie nach außen dringt? Eli Tyre von der Organisation „The Limits“ weist zu Recht darauf hin, dass der Vorschlag nur öffentliche Veröffentlichungen betrifft. Die größte Gefahr liegt jedoch in den Laboren selbst: Wenn ein System beginnt, sich selbst zu verbessern, ohne dass es jemand bemerkt, gibt es keinen Rettungsring.
Reaktionen und Googles Rolle
Die Reaktionen auf Hassabis‘ Essay sind gemischt. Jack Clark von Anthropic lobt den Vorstoß, weil er zeigt, dass die führenden KI-Unternehmen das Problem ernst nehmen. Samuel Hammond sieht darin ein deutliches Warnsignal: Wenn alle großen Labs gleichzeitig Alarm schlagen, dann ist die Lage ernst. Connor Leahy von Conjecture fordert ein vollständiges Verbot von Superintelligenz, nicht bloß eine freiwillige Selbstregulierung. Denn selbst eine starke Überwachungsbehörde wie die SEC in den USA – die nicht einmal perfekt funktioniert – wäre kein Ersatz für ein internationales Abkommen. Ein Standards Body allein kann den Wettlauf nicht stoppen, er kann ihn höchstens etwas verlangsamen. Und das reicht nicht, wenn die Gefahr so groß ist, wie viele Experten vermuten.
Ein weiterer Punkt: Der Vorschlag von Hassabis kommt von Google. Google hat sich in der Vergangenheit nicht als Vorreiter in Sachen KI-Sicherheit hervorgetan. Ende 2024 unterzeichnete Google einen Vertrag mit dem US-Verteidigungsministerium, der die Nutzung von KI-Modellen für „alle legalen Zwecke“ erlaubt – einschließlich autonomer Waffen. Das ist eine krasse Abkehr von den Prinzipien, die Hassabis einst bei der Gründung von DeepMind propagierte. Ein Forscher namens Alex Turner hat aus diesem Grund gekündigt. Er war Teil eines internen Widerstands, der versuchte, den Deal zu verhindern – vergeblich. In seinem Abschiedsbrief beschreibt Turner, wie Jeff Dean, eine wichtige Person bei Google, zwar mehr Druck gemacht habe als die meisten, aber letztlich nicht genug, um die Führung umzustimmen.
Warum der Vorschlag zahnlos bleibt
Turners Geschichte ist eine Warnung. Sie zeigt, wie Machtverhältnisse und Gewinninteressen Sicherheitsversprechen über den Haufen werfen können. Hassabis‘ Standards Body wäre vielleicht eine gute Idee, wenn er wirklich unabhängig wäre und echte Durchsetzungsbefugnisse hätte. Aber was passiert, wenn die gleichen Unternehmen, die ihn finanzieren, ihn politisch unterwandern? Das wäre wie ein Fuchs, der den Hühnerstall bewacht. Die FINRA ist kein ideales Vorbild, weil sie in der Finanzkrise versagt hat. Ohne eine starke staatliche Aufsicht – ein „SEC für KI“ – bleibt der Vorschlag ein zahnloser Tiger. Und selbst dann: Wie will eine Behörde die Entwicklung einer Superintelligenz kontrollieren, die sich in Millisekunden verbessern kann? Die Zeit drängt, und die Vorschläge sind nicht einmal ansatzweise so dringlich wie die Lage.
Dennoch sollten wir Hassabis nicht völlig unterschlagen. Er hat den Anstoß gegeben, über Regulierung zu reden – das ist mehr, als viele andere tun. Sein Essay ist ein erster Schritt, aber er bleibt stehen, wo die eigentliche Arbeit beginnt. Die Frage ist: Sind wir bereit für die Revolution? Wir sprechen über eine Technologie, die das Potenzial hat, die Menschheit in ein Zeitalter des Überflusses zu führen – aber auch in ein finsteres Zeitalter der Knechtschaft oder gar Auslöschung. Hassabis sagt, KI sei zehnmal so folgenreich wie die Industrielle Revolution, und das in einem Zehntel der Zeit. Stell dir vor, die gesamte Lebensqualität würde sich in zehn Jahren verfünfzigfachen – oder auf null fallen. Keine Übertreibung, das ist das Szenario, vor dem Experten warnen.
Was jetzt nötig wäre
Was bleibt? Zunächst die Erkenntnis, dass wir nicht nur auf die großen Unternehmen angewiesen sind. Jeder kann sich informieren, Druck ausüben, diskutieren. Die Politik muss handeln – aber sie handelt nur, wenn die Öffentlichkeit es einfordert. Der Fall Alex Turner zeigt, dass es in den Laboren Menschen gibt, die das Richtige tun wollen. Doch sie brauchen Unterstützung von außen. Der Vorschlag von Hassabis ist ein Anfang, aber er darf nicht das Ende sein. Wir brauchen ein internationales Moratorium für die Entwicklung von Superintelligenz, vergleichbar mit dem Stopp der Kernwaffentests. Wir brauchen Transparenz und echte demokratische Kontrolle. Und wir brauchen eine Debatte, die nicht von PR-Phrasen überlagert wird. Denn am Ende geht es nicht um Technologie – es geht um unsere Zukunft.
Die nächsten Monate werden zeigen, ob die Branche ihren Worten Taten folgen lässt. Oder ob wir weiterhin Rennen fahren, ohne zu wissen, ob die Strecke ins Nirgendwo führt. Lies die Essays, hör auf die Warnungen – und lass dich nicht von schönen Worten einlullen. Die KI ist da, und sie wartet nicht. Wir müssen uns jetzt entscheiden.
Quelle: thezvi.substack.com
