Ein LessWrong-Beitrag des Nutzers josefely fragt, ob sich ein gebremstes KI-Tempo zwischen den USA und China so überprüfen ließe, dass beide Seiten darauf bauen können. Der Text richtet sich nach eigener Aussage an Menschen, die eine Verlangsamung aus Gründen wie Arbeitsplatzverlust, Stromverbrauch oder Machtkonzentration befürworten. Er ist eine Community-Analyse und ein Vorschlag zur politischen Verifikation, kein Regierungsplan und kein Nachweis, dass die beschriebenen Kontrollen bereits praktisch funktionieren. Sein zentraler Punkt lautet: Ein Tempolimit ohne überprüfbare Messung bleibt eine Bitte.
Eine Zweidrittelmehrheit hält das Tempo für zu hoch
josefely beginnt mit Zahlen, die den politischen Druck erklären. Eine Umfrage des AP-NORC Center for Public Affairs Research vom Oktober ergab, dass 64 Prozent der Amerikaner die KI-Entwicklung für „zu schnell“ halten, 27 Prozent für „angemessen“ und nur 8 Prozent für „zu langsam“. Das ist nahe an einer Supermehrheit, und sie zieht sich durch alle Parteien, Altersgruppen und Geschlechter. Eine Verlangsamung ist damit längst keine Nischendefürchtung von Sicherheitsforschern mehr, sondern mehrheitsfähig. Dann sortiert josefely die Motive: Rechenzentren verbrauchen Strom und emittieren CO2, KI kann Arbeitsplätze verdrängen, Ungleichheit vergrößern, Cyberangriffe erleichtern, Überwachung automatisieren, autonome Waffen ermöglichen und biologische Massenvernichtungswaffen für Terroristen oder Staaten zugänglich machen. Am alarmierendsten findet er die letzten Punkte, besonders die Aussicht, dass KI die eigene Forschung beschleunigt und die Entwicklung binnen kurzer Zeit in eine Größenordnung führt, in der der Mensch gegenüber der Maschine das ist, was der Schimpanse heute gegenüber dem Menschen ist. Sein Kommentar dazu: Den Schimpansen geht es derzeit nicht besonders gut.
Warum ein einseitiger Stopp nach hinten losgeht
Dann wird es spieltheoretisch. Jeder profitiert davon, möglichst schnell voranzukommen, während der Schaden einer Katastrophe vor allem andere trifft. Man leidet unter einer Katastrophe, egal wessen Modell sie ausgelöst hat, verdient aber nur Geld, solange man vorn liegt. Selbst wenn sich alle auf ein optimales Tempo einigen könnten, würde jeder rational weiterrennen, solange er sich nicht bindend festlegen kann. josefely zeigt das an der aktuellen Lage: Die Kernverfahren für generalistische KI sind öffentlich, die Datensätze ebenfalls, und der Vorsprung der USA beruht vor allem darauf, dass die besten Köpfe nach San Francisco ziehen. Würden die USA die Entwicklung einseitig stoppen, wanderten diese Leute ab, der Vorsprung schmolze dahin, und die Verhandlungsmacht wäre weg. Er beziffert den Abstand mit dem Epoch Capabilities Index: Das beste chinesische Modell lag zum Zeitpunkt seiner Durchsicht bei 157 Punkten, das beste öffentlich verfügbare US-Modell bei 167. Zehn Punkte entsprechen weniger als einem Jahr Fortschritt an der Frontier. Weil US-Labore ihre stärksten Systeme zudem lange intern behalten, ist der wahre Abstand unbekannt. Ein einseitiger Stopp würde China also in deutlich weniger als einem halben Kongresszyklus an die Spitze bringen, sofern dessen Tempo konstant bliebe. Deshalb braucht es einen Vertrag, und deshalb braucht dieser Vertrag ein Verfahren, das Abweichen erkennt, bevor daraus ein Vorteil wird.
Warum Compute der Ansatzpunkt ist
Ein Abkommen, das KI-Entwicklung verlangsamen will, wird realistischerweise bei Compute ansetzen, also bei der Rechenleistung. Das hat einen technischen Grund: Die Leistung von KI-Systemen folgt skalierbaren Gesetzmäßigkeiten, mehr Rechenleistung bedeutet systematisch bessere Modelle. josefely nennt eine Größenordnung: Die für führende Systeme verwendete Rechenleistung ist über dreizehn Jahre um den Faktor 350 Millionen gestiegen. Compute hat gegenüber Talent, Daten oder Algorithmen entscheidende Eigenschaften: Er ist ein physischer, energieintensiver und damit messbarer Input, er lässt sich ausschließen, seine Lieferkette ist stark konzentriert, und er ist quantifizierbar. Das macht ihn für staatliche Kontrolle zugänglich, während Know-how und Ideen sich nicht an der Grenze aufhalten lassen. josefely unterscheidet zwei Ansatzpunkte. Erstens Regeln über die Nutzung: Obergrenzen für die Größe von Trainingsclustern, kryptografische Lizenzen, die jeden Hochleistungschip nach einer bestimmten Zahl von Zyklen abschalten, die Aufteilung der Befugnis für große Trainingsläufe auf mehrere Parteien, verpflichtende automatisierte Sicherheitstests vor jedem Lauf. Zweitens Sichtbarkeit: Wer überhaupt mit welcher Rechenleistung arbeitet und welche Eigenschaften die Systeme haben. Beides zusammen ergibt die Grundlage für jede Verifikation.
Verifizierbare Methoden und die Grenzen der Messbarkeit
Bei der Frage, was sich prüfen lässt, hilft eine Trennung: einseitige und bilaterale Methoden. Einseitig überprüfbar sind Dinge, die ein Staat aus eigener Kraft feststellen kann: Exportkontrollen für Chips, Register über verkaufte Beschleuniger, die Leistungsaufnahme bekannter Rechenzentren am Stromnetz, Satellitenbilder von Neubauten, Lizenzsysteme mit kryptografischer Bestätigung und Meldepflichten der Labore. Bilaterale Verifikation beginnt dort, wo diese Daten geteilt werden: gemeinsame Inspektionsteams, ein abgestimmtes Attestierungsprotokoll, das beide Seiten technisch nachvollziehen können, akkreditierte Dritte mit Zugangsrechten, ein ständiges Sekretariat, das Abweichungen meldet. josefely betont, dass solche Verfahren schnell sein müssen. Wer erst nach zwei Jahren merkt, dass der andere heimlich weitertrainiert, hat nichts gewonnen. Hier liegt aber auch die Grenze, und der Text verschweigt sie nicht. Ein Vertrag über Compute wird sich auf die Kennzahlen zubewegen, die leicht zu erheben sind, also Clustergröße und Stückzahlen, und nicht auf die Eigenschaften, die eigentlich zählen, etwa ob ein Modell ausgerichtet ist oder ob eine Anlage für Training, Inferenz oder Wettervorhersage genutzt wird. Messbar ist, was messbar ist, nicht, was wichtig ist. Dazu kommen Grauzonen: Chips lassen sich schmuggeln, Anlagen lassen sich verschleiern, und die Grenze zwischen Training und Inferenz ist fließend.
Ein Szenario nach dem Warnschuss
josefely schließt mit einer Skizze, die zeigt, wie die Werkzeuge zusammenspielen könnten, wenn ein konkreter Anlass den politischen Willen erzeugt. Ausgangspunkt ist ein Warnschuss, also ein Vorfall, der die Gefahr sichtbar macht, ohne bereits Katastrophe zu sein: eine Demonstration biologierelevanter Fähigkeiten, ein System, das sich unerwartet selbst vervielfältigt, ein Nahezu-Zwischenfall in einem Labor. Darauf folgt eine befristete Pause der größten Trainingsläufe, abgesichert durch drei Elemente: eine Meldepflicht oberhalb einer Compute-Schwelle, die technische Bestätigung über Chip-Lizenzen und Strommessung, und eine begrenzte gegenseitige Inspektion einiger weniger Anlagen durch ein gemeinsames Team. Wichtig ist die Rückfallklausel: Verifiziert eine Seite nicht fristgerecht, tritt die Pause automatisch außer Kraft, und die andere Seite darf wieder aufholen. Damit wird Nichtkooperation teuer und Kooperation billig, ohne dass irgendjemand einem Versprechen glauben muss. Das ist der Kern, und er ist unspektakulär. Es geht nicht um einen Schalter, der KI abschaltet, sondern um ein Messsystem, das Abweichen sichtbar macht, bevor es sich auszahlt.
Was daraus für die Debatte folgt
Für die Diskussion über KI-Regulierung ist das unbequem. Eine Mehrheit will langsamer fahren, aber eine Mehrheit zu haben, reicht nicht, weil das Problem nicht beim eigenen Bremspedal liegt. Verifizierbare KI-Verlangsamung ist technisch nicht unmöglich, sie ist nur anspruchsvoll, und der Engpass ist weniger der gute Wille als die Messbarkeit. Solange niemand belegen kann, dass der andere stillhält, bleibt jede Vereinbarung zwischen den USA und China Papier, und der Wettlauf setzt sich fort, egal wie viele Leitlinien unterschrieben werden. josefely macht daraus keine Forderung, sondern eine Bestandsaufnahme: Die Werkzeuge existieren, sie sind aber aufwendig, sie greifen nur bei einem Teil der Realität, und sie brauchen einen Anlass, der die politischen Kosten des Zögerns senkt. Zwei Dinge folgen daraus. Erstens: Wer eine Verlangsamung fordert, muss die Verifikation mitfordern, sonst fordert er nur ein Versprechen. Zweitens: Wer Verifikation für unmöglich hält, hat die Optionen nicht geprüft. Zwischen beidem liegt die eigentliche Arbeit, und sie ist weniger aufregend als der Streit um ein Moratorium.
Quelle: lesswrong.com
