Stell dir vor, du baust ein Haus und überlegst, ob du die Baupläne öffentlich teilen sollst. Einfache Pläne für ein Gartenhäuschen – kein Problem. Aber die Blaupausen für ein Hochhaus mit tragenden Wänden, die bei einem Sturm einstürzen könnten? Da wird die Sache kompliziert. Genau diese Abwägung steht im Zentrum der aktuellen Debatte um sogenannte Open-Weights-Modelle in der Künstlichen Intelligenz. Sollte man die trainierten Parameter leistungsstarker KI-Modelle frei zugänglich machen, oder birgt das zu große Risiken? Dario Amodei, CEO des KI-Unternehmens Anthropic, hat sich in einem ausführlichen Beitrag klar positioniert. Und seine Argumente sind differenzierter, als viele vielleicht erwarten.
Amodei spricht sich nicht für ein pauschales Verbot von Open-Weights-Modellen aus. Das sei ein Missverständnis, das er korrigieren möchte. Open-Weights-Modelle, also KI-Modelle deren trainierte Gewichte öffentlich sind, bezeichnet er als ein öffentliches Gut – solange sie keine gefährlichen Fähigkeiten besitzen. Sie kosten nur die Rechenleistung, die zum Ausführen nötig ist, und bieten Unternehmen, Entwicklern und Forschern echten Mehrwert. Ein Verbot aus protektionistischen Gründen, wie es manche US-Politiker fordern, hält er für den falschen Weg. Aber warum dann die ganze Aufregung? Amodei beschreibt zwei konkrete Szenarien, die ihn wirklich umtreiben.
Das erste Szenario betrifft die geopolitische Dimension. Er sorgt sich, dass autoritäre Regierungen – allen voran die chinesische Kommunistische Partei – KI-Modelle entwickeln könnten, die leistungsfähiger sind als die aus den USA. Diese Modelle könnten für militärische Überlegenheit oder für tiefgreifende Überwachung und Unterdrückung der eigenen Bevölkerung eingesetzt werden. Wichtig: Es spielt dabei keine Rolle, ob diese Modelle als Open Weights veröffentlicht werden oder ob US-Unternehmen sie nutzen dürfen. Das gefährlichste Modell, so Amodei, wäre eines, das heimlich trainiert und nur der Volksbefreiungsarmee für Drohnen oder dem Ministerium für Staatssicherheit zur Verfügung gestellt wird. Hier liegt der Kern des Problems nicht in der Offenheit der Gewichte, sondern in der Machtkonzentration bei autoritären Staaten.
Das zweite Szenario dreht sich um die missbräuchliche Nutzung mächtiger KI-Modelle. Amodei nennt Cyberangriffe und biologische Angriffe als konkrete Gefahren. Offene Gewichte erhöhen das Risiko, weil sich nachträglich kaum Schutzmaßnahmen anbringen lassen und die Nutzung schwer zu überwachen ist. Einmal veröffentlicht, sind die Gewichte nicht mehr zurückzuholen. Aber ein Verbot der Nutzung dieser Modelle durch US-Unternehmen würde das Risiko nicht mindern. Denn böswillige Akteure sind in der Regel keine legitimen Unternehmen – sie würden sich schlicht nicht an das Verbot halten. Ein solches Verbot, so Amodei, würde vor allem die US-KI-Unternehmen vor Wettbewerb schützen – nicht aber die Sicherheit erhöhen. Und genau das lehnt er ab.
Anstatt auf pauschale Verbote zu setzen, schlägt der Anthropic-CEO drei konkrete Maßnahmen vor, die er und sein Unternehmen seit Jahren konsistent vertreten. Die erste Maßnahme: Keine leistungsstarken Chips oder Chip-Produktionsanlagen nach China verkaufen und die dort grassierenden Schmuggelaktivitäten unterbinden. China hat derzeit nur begrenzte eigene Produktionskapazitäten für Hochleistungschips. Wegen der Skalierungsgesetze – dem Phänomen, dass mehr Rechenleistung proportional zu besseren Modellen führt – kann China ohne US-Chips keine Modelle bauen, die die amerikanischen übertreffen. Diese Exportkontrolle sei der effizienteste und direkteste Weg, um das erste Szenario zu verhindern. Es behindert auch indirekt das zweite Szenario, weil Modelle, die außerhalb der Reichweite des US-Rechts trainiert werden, gar nicht erst entstehen.
Die zweite Maßnahme betrifft ein technisches Verfahren namens Distillation. Dabei wird ein vorhandenes, leistungsstarkes Modell genutzt, um ein kleineres, aber ähnlich fähiges Modell zu trainieren – und das mit viel weniger Rechenleistung. Chinesische Unternehmen nutzen diese Methode, um trotz Chip-Embargos Modelle zu bauen, die nur wenige Monate hinter dem US-Standard zurückliegen. Zwar können sie so keine gleichwertigen oder überlegenen Modelle erreichen, aber die Lücke wird kleiner. Viele dieser Unternehmen veröffentlichen ihre Modelle als Open Weights – doch das ist laut Amodei nicht das Hauptproblem. Das eigentliche Problem ist, dass hinter diesen Unternehmen oft ein autoritärer Staat steckt, der die USA an der Spitze überholen will. Deshalb fordert er gezielte politische Maßnahmen gegen diese industrielle Distillation – aber kein pauschales Open-Weights-Verbot.
Die dritte Maßnahme: Verpflichtende Sicherheitstests für alle ausreichend leistungsfähigen Modelle – egal ob offen oder geschlossen. Bevor ein Modell veröffentlicht wird, sollte es auf Risiken in den Bereichen Cyberangriffe, Biowaffen und Alignment-Probleme getestet werden. Amodei zeigt sich ermutigt, dass die Trump-Administration in diese Richtung geht und dass es Branchenvorschläge gibt, die solche Tests für die leistungsstärksten Modelle unabhängig von Herkunft oder Offenheit fordern. Weniger leistungsfähige Modelle, etwa aus Start-ups oder der Wissenschaft, könnten ausgenommen werden. Die Frage, ob offene Modelle ein erhöhtes Risiko darstellen, solle durch Tests beantwortet werden, nicht durch Dogmen. Es gebe vielversprechende Ansätze, wie modulare Trainingsstrategien, um die Sicherheit von Open-Weights-Modellen zu verbessern.
Ein Punkt sticht hervor: Um wirksam zu sein, müssten diese Tests global erfolgen – auch China müsste mitmachen. Amodei hält das für möglich, weil begrenzte Kooperation zur Verhinderung von KI-Biowaffen auch im chinesischen Interesse liegen könnte. Das klingt optimistisch, aber er räumt ein, dass dies keineswegs sicher ist.
Amodei bezieht sich auch auf einen offenen Brief, den viele Tech-Unternehmen unterzeichnet haben und der Open Weights grundsätzlich unterstützt. Er stimmt dem Brief in vielen Punkten zu: Open Weights erweitern den Zugang zur KI-Ökonomie, stärken zumindest für einige Anwendungen den Wettbewerb und geben Kunden mehr Kontrolle. Auch die Bedenken zur Distillation sollten durch gezielte rechtliche und kommerzielle Rahmen gelöst werden – genau das, was er selbst vorschlägt. Aber in zwei Punkten widerspricht er dem Brief: Der Brief behauptet, Open Weights erleichterten die Entwicklung von Sicherheitsmaßnahmen und dass breiter Zugang Verteidigern mehr nütze als Angreifern. Amodei hält das Gegenteil für mindestens genauso wahrscheinlich. Als Beispiel nennt er die Biologie: Ein ausreichend leistungsfähiges KI-Modell könnte Pandemie-Viren mit leicht verfügbaren Materialien schnell zu Waffen machen, während die Abwehr – etwa durch Impfstoffentwicklung – selbst im besten Fall Jahre dauert. Solche Fragen müssten empirisch durch strenge Tests geklärt werden, nicht durch Annahmen.
Was bedeutet das nun für uns als Tech-Nutzer und Gesellschaft? Amodeis Position ist keine einfache Ja-oder-Nein-Antwort. Sie fordert eine differenzierte Regulierung, die die wahren Risiken adressiert: die Macht von autoritären Staaten, die Gefahr des Missbrauchs durch böswillige Akteure und die unkontrollierte Verbreitung von Hochleistungschips. Ein pauschales Open-Weights-Verbot wäre wie ein Bauplanverbot für alle Häuser – auch für die Gartenlaube. Stattdessen setzt er auf drei konkrete Hebel: Chipkontrolle, Bekämpfung von Distillation und globale Sicherheitstests. Diese Maßnahmen sind technisch und politisch anspruchsvoll, aber sie zielen genau auf die Probleme, die wirklich zählen. Für uns bedeutet das: Die Debatte um KI-Sicherheit wird komplexer, aber auch präziser. Es geht nicht mehr um „offen vs. geschlossen“, sondern um die Frage, unter welchen Umständen welche Offenheit vertretbar ist. Und genau diese Diskussion sollten wir führen – mit Fakten, nicht mit Parolen.
Quelle: anthropic.com
