Kategorie: KI-News

Du betrittst eine fremde Küche. Weder Schränke noch Geräte kennst du, dennoch sollst du ein Gericht kochen, das du nie zuvor zubereitet hast. Ein Mensch würde innehalten, die Werkzeuge erkunden und einen Plan fassen. Genau diese Fähigkeit – Orientierung in einer unbekannten Umgebung – zeigt das KI-Modell GPT-5.6 Sol von OpenAI. Die im Juli 2026 veröffentlichten Ergebnisse auf dem ARC-AGI-Benchmark deuten auf einen Schritt zu allgemeiner Intelligenz hin, auch wenn die Zahlen auf den ersten Blick ernüchternd wirken.

ARC-AGI testet abstraktes visuelles Reasoning. Die Aufgaben bestehen aus farbigen Rastern, deren Logik man aus wenigen Beispielen erschließen muss. Es gibt drei Schwierigkeitsstufen. ARC-AGI-1 ähnelt dem Trainingsmaterial. ARC-AGI-2 erfordert tieferes Verständnis. ARC-AGI-3 ist völlig neu in Struktur und Symbolik – selbst für Systeme, die auf riesigen Datenmengen trainiert wurden. Ein menschlicher Erwachsener löst die meisten dieser Aufgaben mühelos. Für KI-Modelle waren sie bislang eine große Hürde.

Die GPT-5.6-Familie besteht aus drei Modellen: Sol, Terra und Luna. Terra und Luna sind vermutlich kleinere oder weniger rechenintensive Varianten. Sol ist das leistungsstärkste. Bei maximalem Reasoning-Aufwand erreicht Sol auf ARC-AGI-1 96,5 Prozent, auf ARC-AGI-2 92,5 Prozent. Das sind hohe Werte. Auf ARC-AGI-3 schafft Sol im besten Fall nur 7,78 Prozent im Semi-Private-Test und 13,33 Prozent im Public-Teil. Das ist niedrig. Dennoch ist Sol das erste Modell, das ein ARC-AGI-3-Spiel gewonnen hat: die Aufgabe ft09 mit 87 Prozent.

Der Erfolg liegt nicht darin, dass Sol ein Problem schneller oder genauer löst. Entscheidend ist, wie es scheitert. Laut den Entwicklern liest Sol eine unbekannte Szene korrekt – in der eigenen Sprache des Spiels. Es erkennt Symbole und Regeln, ohne sie mit Trainingsmustern zu verwechseln. Wenn eine Hypothese falsch ist, verwirft Sol sie und plant neu. Frühere Modelle wiederholten bei Misserfolgen die gleiche Strategie oder gerieten in Schleifen. Sol hingegen wirft einen neuen Blick auf die Situation.

Das ist Orientierung in einer neuen Umgebung. Wie bei einem unbekannten Brettspiel: Man studiert erst Spielsteine und Brett. Das tut Sol auch. Die meisten Agenten scheitern laut OpenAI nicht an der Ausführung, sondern an der Orientierung. Sie schreiben Code auf Basis falscher Annahmen oder handeln, bevor sie die Aufgabe verstanden haben. Sol orientiert sich zuerst richtig – und leitet dann die richtigen Handlungen ab. Das ist ein wichtiger Fortschritt in der KI-Entwicklung.

Die Ergebnisse zeigen aber auch Grenzen. Selbst mit maximalem Reasoning erreicht Sol auf ARC-AGI-3 nur knapp 8 Prozent. Das liegt nicht an mangelnder Rechenleistung, sondern daran, dass die absolute Neuheit der Aufgaben eine große Herausforderung bleibt. Die Spanne zwischen den Reasoning-Stufen (Max, Extra High, High, Medium, Low) ist groß. Bei niedrigerem Reasoning-Aufwand fällt Sol auf ARC-AGI-3 auf 0,3 Prozent zurück. Terra und Luna schneiden noch schlechter ab. Ohne ausreichend Rechenzeit und Komplexität hilft auch das beste Modell nicht. Generalisierung ist kein Schalter, sondern ein kontinuierlicher Prozess.

Für die Entwicklung allgemeiner künstlicher Intelligenz ist das ein kleiner, aber bedeutender Schritt. Dass ein Modell lernt, sich in einer völlig neuen Umgebung zu orientieren, anstatt nur auf Gelerntes zurückzugreifen, ist eine Eigenschaft menschlicher Intelligenz. Übertriebene Euphorie ist aber fehl am Platz. Ein System, das 8 Prozent einer neuartigen Aufgabe löst, ist nicht kurz vor der allgemeinen Intelligenz. Es ähnelt einem Kind, das in einer fremden Küche den Herd findet, aber noch kein komplettes Menü kochen kann. Der Weg ist lang.

Für die praktische Anwendung heißt das: KI-Systeme werden besser darin, sich auf unbekannte Situationen einzustellen. Ein Haushaltsroboter, der eine Wohnung noch nie gesehen hat: Bisher musste man ihm jeden Raum einzeln beibringen. Ein System wie Sol könnte sich selbst orientieren, die Anordnung von Möbeln erfassen und zielgerichtet handeln. Ein Assistenzsystem in einem neuen Unternehmen müsste nicht jedes Dokument von Grund auf trainieren, sondern könnte die interne Logik verstehen, indem es die Umgebung analysiert. Hier liegt das Potenzial.

Die Richtung ist klar: Es geht nicht nur um mehr Daten oder Parameter, sondern darum, dass ein Modell lernt, wie es lernen soll. Fehler als Anlass zur Neuorientierung zu nehmen, ist ein grundlegendes Prinzip intelligenten Verhaltens. OpenAI hat mit Sol gezeigt, dass das in einem neuronalen Netz umsetzbar ist. Wie schnell dieser Ansatz skaliert, werden die nächsten Jahre zeigen. Die ARC-AGI-3-Werte bleiben eine nüchterne Messlatte.

Quelle: arcprize.org

Du suchst nach einem gestohlenen Gegenstand in einem Gebäude. Der Besitzer sagt: „Ich habe keinen Schlüssel, der Tresor ist zu schwer zu öffnen, und das wäre eine Verletzung der Privatsphäre meiner Gäste.“ Dann findest du heraus, dass er längst einen eigenen Schlüssel besitzt und den Tresor mehrfach geöffnet hat – nur um dich daran zu hindern. In dieser Lage befinden sich Nachrichtenverlage im Rechtsstreit mit OpenAI, dem Unternehmen hinter ChatGPT.

Seit Monaten läuft ein juristischer Kampf zwischen OpenAI und einer Gruppe von Nachrichtenorganisationen unter Führung der New York Times. Die Verlage werfen OpenAI vor, urheberrechtlich geschützte Artikel ohne Erlaubnis für das Training von ChatGPT genutzt zu haben. Kernfrage: Darf eine KI geschützte Inhalte nutzen, ohne das Urheberrecht zu verletzen? OpenAI beruft sich auf die Fair-Use-Doktrin. Die Verlage sprechen von Diebstahl.

Die entscheidenden Beweise sind die ChatGPT-Logs – Aufzeichnungen der Gespräche zwischen Nutzern und Chatbot. In diesen Logs könnte sich zeigen, dass ChatGPT ganze Passagen aus Artikeln wiedergibt („Regurgitation“). Können die Verlage nachweisen, dass die KI systematisch komplette Texte ausspuckt, wäre das ein starkes Indiz für eine Urheberrechtsverletzung und Marktschädigung. OpenAI hofft, dass die Logs das Gegenteil belegen: seltene und fragmentierte Wiedergabe, also transformativ und fair use.

Genau hier liegt das Problem. Von Beginn an behauptete OpenAI, es sei technisch unmöglich, die Logs in großem Umfang zu durchsuchen – zu teuer, zu zeitaufwendig, gefährde die Privatsphäre. Auf dieser Grundlage erzwangen Openais Anwälte eine stark eingeschränkte Stichprobe: Nur 20 Millionen Logs wurden den Klägern zur Verfügung gestellt, und diese waren so stark geschwärzt, dass sie praktisch unbrauchbar waren. Das Gericht nannte die Daten später offiziell „unusable“.

Dann kam eine Enthüllung. Während einer zweiten Vernehmung des OpenAI-Privacy-Ingenieurs Vincent Monaco – laut Gerichtsakten „schlecht vorbereitet“ – räumte er ein, dass OpenAI sehr wohl große Log-Mengen durchsuchen kann. Das Unternehmen hatte vor Beginn des Rechtsstreits zwei Datensätze erstellt: einen mit 10 Millionen und einen mit 78 Millionen Logs. Diese wurden sogar nach Inhalten der New York Times durchsucht, um einen Filter gegen das Ausspucken geschützter Texte zu entwickeln. Den Klägern wurden diese Datensätze nie mitgeteilt, obwohl sie entscheidend für den Fall sind.

Die Nachrichtenverlage reagierten scharf. In einem Sanktionsantrag vom vergangenen Woche werfen sie OpenAI vor, über Jahre gelogen und Beweise versteckt zu haben. Die Verheimlichung der 78-Millionen-Log-Daten sei keine Verzögerungstaktik, sondern bewusste Täuschung. Die Kläger fordern „schwerwiegende Sanktionen“: Das Gericht soll OpenAI verbieten, die bereits übergebenen 20 Millionen Logs als Beweismittel zu verwenden. Zudem soll festgestellt werden, dass die verheimlichten Logs eine „erhebliche“ Menge an urheberrechtlich geschütztem Material enthalten. Schließlich soll die Jury angewiesen werden, dass OpenAI Milliarden von Logs gelöscht hat, obwohl eine gerichtliche Verfügung zur Aufbewahrung aller Daten bestand.

Ein OpenAI-Sprecher wies die Vorwürfe zurück und nannte den Sanktionsantrag einen verzweifelten Versuch der Verlage, mehr Daten zu erzwingen und damit die Privatsphäre von Nutzern zu verletzen. Die New York Times habe kürzlich Klagepunkte fallen gelassen, was auf eine schwächelnde Klage hindeute. Die NYT widersprach: Man habe die Klage lediglich gestrafft und um Microsoft als Mitbeklagten ergänzt. Das Büro von Ian Crosby, dem führenden Anwalt der Verlage, erklärte, OpenAI habe nicht nur Logs versteckt, sondern auch die Kosten für die Discovery in die Höhe getrieben – ein Mittel, um Gegner zu ermüden.

Was bedeutet das für den Ausgang des Falls? Juristisch könnte dieser Schritt fatal für OpenAI sein. Die Fair-Use-Verteidigung hängt stark davon ab, ob die KI den Markt der Verlage schädigt. Zeigen die Kläger, dass ChatGPT systematisch ganze Artikel wiedergibt und Abonnements ersetzt, ist eine Marktschädigung klar. Die versteckten Logs könnten genau das belegen. Indem OpenAI den Zugang blockiert hat, weckt es den Verdacht, etwas zu verbergen. Ein Gericht könnte dies als „spoliation of evidence“ werten – vorsätzliche Vernichtung oder Verheimlichung von Beweismitteln. Mögliche Sanktionen reichen von Geldstrafen über Beweislastumkehr bis zum Ausschluss von Beweismitteln. In extremen Fällen könnte der Richter ein Urteil zu Ungunsten von OpenAI fällen.

Für die KI-Branche ist der Fall ein Warnsignal. Viele Unternehmen trainieren ihre Modelle mit Internetdaten ohne klare Lizenzen. Bislang galt die Hoffnung auf Fair Use als Rechtfertigung. Unterliegt OpenAI – und sei es aufgrund von Verfahrensfehlern – könnte das die Rechtslage grundlegend verändern. Verlage würden gestärkt daraus hervorgehen und Lizenzgebühren fordern. KI-Modelle müssten entweder nur auf lizenzierte Daten zurückgreifen oder nachweisen, dass sie keine geschützten Inhalte reproduzieren.

Dazu kommt ein grundsätzliches Problem: Das Vertrauen in die Transparenz von KI-Unternehmen ist bereits angeschlagen. Wird ein führender Player wie OpenAI dabei ertappt, Beweise zu verheimlichen und Logs zu löschen, wird die Forderung nach staatlicher Regulierung lauter. Die EU hat mit dem AI Act bereits einen Rahmen mit Transparenzpflichten geschaffen. In den USA könnte der Fall den Druck auf den Gesetzgeber erhöhen, ähnliche Regeln zu erlassen.

Technisch ist die Sache klar: Die Logs sind die einzige objektive Quelle, um zu prüfen, was ChatGPT tatsächlich tut. Ein Unternehmen, das KI als Black Box vermarktet, darf sich nicht wundern, wenn das Rechtssystem diese Box öffnen will. Die Analogie mit dem verschlossenen Tresor bleibt: Wer so vehement gegen Einsicht kämpft, wirkt schnell schuldig.

Die nächsten Wochen zeigen, wie das Gericht auf den Sanktionsantrag reagiert. Stuft es Openais Verhalten als „eklatant“ ein, könnte der Rechtsstreit eine dramatische Wende nehmen. Für die Nachrichtenverlage wäre das ein Sieg der Transparenz. Für die KI-Branche ein Weckruf: Wer mit fremden Inhalten arbeitet, muss offenlegen, wie und in welchem Umfang. Ein Unternehmen, das auf das Verstecken von Beweisen setzt, spielt ein riskantes Spiel.

Quelle: arstechnica.com

OpenAI hat GPT-5.6 veröffentlicht, eine Modellfamilie mit drei Stufen: Sol, Terra und Luna. Die Namen stehen für unterschiedliche Anforderungen und Leistungsniveaus.

Jedes Modell hat seinen Zweck. Sol ist für Höchstleistungen, Terra für den Alltag, Luna für schnelle Erledigungen. OpenAI spricht von „höherer Intelligenz pro Token“ und niedrigeren Kosten für komplexe Aufgaben. Das bedeutet, dass die Modelle mit weniger Rechenaufwand bessere Ergebnisse liefern sollen.

Sol ist das Flaggschiff. Es eignet sich für anspruchsvolle Aufgaben wie Softwareentwicklung, Sicherheitsanalyse oder Planung wissenschaftlicher Experimente. Terra der Allrounder für tägliche Arbeit. Luna ist das kleinste Modell – extrem schnell und günstig, perfekt für einfache Anfragen.

Ultra koordiniert mehrere KI-Agenten gleichzeitig. Standardmäßig sind es vier Agenten, die Arbeit teilen und Zwischenergebnisse austauschen. Das Ergebnis ist stärker als das eines einzelnen Agenten, verbraucht aber mehr Tokens. Entwickler können ähnliche Workflows über die Multi-Agent-Beta in der Responses API selbst bauen.

GPT-5.6 kann JavaScript im Arbeitsspeicher schreiben und ausführen. Es ruft Funktionen auf, führt sie parallel aus, nutzt Schleifen und Bedingungen. Dadurch lassen sich Daten aus mehreren Quellen kombinieren oder komplexe Berechnungen durchführen, ohne die API neu anzufragen.

Das Modell erstellt editierbare Präsentationen, Dokumente, Tabellen, Oberflächen und Frontend-Prototypen. Die Layout-Qualität ist besser als bei früheren Versionen. In ChatGPT Work verarbeitet es Quellmaterial aus Dokumenten und Arbeits-Apps und wandelt es in teilbare Ergebnisse um.

Die API-Preise sind gestaffelt: Sol 5 Dollar pro Million Tokens Input, 30 Dollar Output. Terra 2,50 Dollar Input, 15 Dollar Output. Luna 1 Dollar Input, 6 Dollar Output. Prompt-Caching hat explizite Cache-Breakpoints und eine Mindestlebensdauer von 30 Minuten. Cache-Schreibvorgänge kosten das 1,25-fache des ungecachten Input-Satzes, Cache-Lesevorgänge behalten einen Rabatt von 90 Prozent.

Der Zugang hängt vom Produkt und Plan ab. In ChatGPT können Plus-, Pro-, Business- und Enterprise-Nutzer GPT-5.6 Sol über mittlere und höhere Aufwandsstufen nutzen. Pro und Enterprise können Sol Pro wählen. In ChatGPT Work und Codex bekommen Free- und Go-Nutzer Terra, Plus, Pro, Business und Enterprise wählen zwischen Sol, Terra und Luna. Ultra ist in ChatGPT Work für Pro und Enterprise reserviert, in Codex für Plus und höher.

Benchmarks zeigen Ergebnisse in Coding (Terminal-Bench 2.1, DeepSWE), Wissensarbeit (BrowseComp, OSWorld 2.0), Cybersicherheit (ExploitBench, ExploitGym, SEC-Bench Pro) und wissenschaftlichen Workflows (GeneBench Pro, LifeSciBench, Chemie-Benchmarks). OpenAI nutzt die Modelle intern zum Debuggen, Optimierung, Experimentieren und Ergebnisinterpretation.

Für regelmäßige KI-Nutzer bietet GPT-5.6 mehr Auswahl: Luna für einfache Anfragen, Terra für den Alltag, Sol für komplexe Aufgaben. Ultra erlaubt parallele Gedankengänge – nützlich für Projekte, die viele Perspektiven brauchen.

Entwickler profitieren von transparenterer API, zuverlässigerem Caching und der Möglichkeit, JavaScript im Modell auszuführen. Workflows, die früher mehrere API-Aufrufe erforderten, erledigt man jetzt in einer Sitzung. Das spart Zeit und Kosten.

GPT-5.6 ist eine evolutionäre Erweiterung der Sprachmodelle. Die Aufteilung in Sol, Terra und Luna deckt ein breites Spektrum ab. Die Preise sind für professionelle Anwender kalkuliert. Die Herausforderung bleibt, das richtige Modell für die jeweilige Aufgabe zu wählen.

Quelle: testingcatalog.com

Du fragst dein iPhone etwas, und es dauert lange, bis eine Antwort kommt. Bei fehlendem Netz reagiert Siri gar nicht. Der Grund: Viele KI-Funktionen werden erst in der Cloud berechnet. Das kostet Zeit, Datenvolumen und Privatsphäre. Apple forscht nun mit dem Startup PrismML daran, größere KI-Modelle direkt auf dem iPhone laufen zu lassen – ohne Cloud-Umweg. Die Technik verspricht schnellere, intelligentere und privatere KI auf dem Gerät.

KI-Modelle bestehen aus Milliarden Parametern – Zahlen, die das Wissen des Modells abbilden. Je mehr Parameter, desto leistungsfähiger die KI. Doch auf einem Smartphone sind Speicher und Rechenleistung begrenzt. Große Modelle passen nicht einfach in den Arbeitsspeicher und benötigen viel Energie.

Apples aktuelles Modell „AFM 3 Core Advanced“ hat 20 Milliarden Parameter, aber nur 1 bis 4 Milliarden sind gleichzeitig aktiv. Das spart Ressourcen, schränkt aber die Fähigkeiten ein. PrismML will das ändern.

Der Bericht von The Information sagt: PrismML hat Alibabas Open-Source-Modell Qwen 3.6 (27 Milliarden Parameter) so komprimiert, dass es vollständig auf einem iPhone 17 Pro läuft – alle Parameter gleichzeitig aktiv. Die Kompression reduziert die Bit-Tiefe pro Parameter von 16 oder 32 Bit auf ein einziges Bit. Jeder Parameter ist entweder 0 oder 1. Dadurch sinkt der Speicherbedarf drastisch: Ein Modell mit 20 Milliarden Parametern passt in etwa 1 Gigabyte RAM. Das ist selbst auf iPhones mit nur 6 Gigabyte Arbeitsspeicher machbar.

Die Vorteile: Mehr Features lassen sich direkt auf dem Gerät ausführen, weniger Anfragen gehen in die Cloud. Das spart Apple Serverkosten und erhöht die Privatsphäre – keine Daten verlassen das iPhone. Zudem reagiert das Modell in Millisekunden, ohne Wartezeit auf eine Server-Antwort. Größere Modelle können natürlicher kommunizieren, Bilder analysieren, Texte zusammenfassen – alles offline.

In den MacRumors-Foren erklärt ein Kommentator namens ChrisA: „PrismML hat eine Methode gefunden, neuronale Netze auf 1 Bit pro Parameter zu komprimieren. Das spart Speicher und Energie, weil Multiplikationen mit 0 oder 1 extrem einfach sind. Es geht um clevere Mathematik, nicht um einen KI-Durchbruch.“ Die Innovation liegt im Deployment, nicht in der Architektur. Qwen 3.6 selbst ist ein bekanntes Modell von Alibaba.

Allerdings: Die Gespräche zwischen Apple und PrismML sind noch in einer frühen Phase. Es gibt keinen Vertrag, kein fertiges Produkt. Technische Hürden bleiben: Ein voll aktives Modell mit 27 Milliarden Parametern benötigt auch nach der Kompression viel Rechenleistung. Akkulaufzeit und Wärmeentwicklung sind noch ungelöste Probleme. Doch der Trend ist klar: Die Industrie will KI aufs Gerät bringen. Apples neue Chips (A18, A19) sind leistungsfähig genug dafür. PrismMLs Methode könnte den Weg beschleunigen.

Für Nutzer bedeutet das: lokale, private und schnelle KI auf dem iPhone. Keine Cloud-Abhängigkeit, keine Daten auf fremden Servern. Apple könnte seinen Datenschutz-Ansatz mit den Fähigkeiten moderner KI verbinden. Ob PrismMLs Ansatz in zukünftigen iOS-Versionen umgesetzt wird, bleibt abzuwarten.

Quelle: macrumors.com

Stell dir vor, du hast eine Bibliothek mit tausenden Büchern. Die meisten sind harmlos. Aber einige enthalten Bauanleitungen für eine gefährliche Maschine. Bisher hast du nur einen Wachmann vor die Tür gesetzt, der fragt: „Willst du wirklich etwas Böses damit tun?“ Wenn der Besucher schlau genug ist, kann er trotzdem an die Bücher herankommen. Genau vor diesem Problem stehen KI-Entwickler heute. In ihren Modellen steckt enormes Wissen – manches davon ist zweischneidig. Es kann Gutes bewirken, aber auch Schaden anrichten.

Die Rede ist von Dual-Use-Knowledge. Ein KI-Modell, das auf riesigen Textmengen trainiert wurde, hat gelernt, wie man Computerviren erstellt, biologische Kampfstoffe entwickelt oder Atomwaffen baut. Das gleiche Wissen hilft aber auch, Sicherheitslücken zu schließen, Impfstoffe zu entwickeln oder Energiequellen zu verbessern. Die Herausforderung: Wie behält man die Kontrolle über dieses Wissen, ohne die guten Anwendungen zu behindern? Forscher von Anthropic und AE Studio haben eine neue Methode namens GRAM (Gradient-Routed Auxiliary Modules) vorgestellt. Sie könnte ein entscheidender Schritt sein, um KI-Modelle sicherer zu machen – ohne die Leistungsfähigkeit zu opfern.

Aktuelle Sicherheitsmaßnahmen sind wie Schleusen: Sie prüfen die eingehenden Fragen und die ausgehenden Antworten. Wird nach etwas Gefährlichem gefragt, verweigert das Modell die Antwort. Aber das ändert nichts am gespeicherten Wissen. Ein entschlossener Angreifer kann versuchen, die Sperre zu umgehen – mit Tricks wie Prompt-Injection oder Jailbreaking. Das ist, als ob der Wachmann zwar fragt, aber der Besucher die Bücher trotzdem aus dem Fenster wirft. Das Wissen bleibt im Gebäude. Die einzige echte Lösung wäre, das Wissen gar nicht erst ins Gebäude zu lassen – oder es hinterher sauber entfernen zu können.

Bisher gab es dafür nur eine Möglichkeit: Filtern bestimmter Inhalte aus den Trainingsdaten. Wenn du etwa zwei Versionen eines Modells brauchst – eine mit und eine ohne Virologie –, musst du zwei separate Modelle trainieren. Das ist teuer, besonders bei Frontier-Modellen, die Hunderte Millionen Dollar kosten. Mit GRAM ändert sich das. Die Idee: Ein Modell bekommt zusätzliche, abnehmbare „Module“ pro Wissensbereich. Diese Module lernen nur, wenn sie mit genau diesen Inhalten gefüttert werden. Das restliche Netzwerk bleibt davon unberührt. Nach dem Training kannst du ein Modul einfach löschen – und das entsprechende Wissen verschwindet. Oder du lässt es drin, wenn der Nutzer vertrauenswürdig ist.

Stell dir eine Werkzeugkiste vor. Normalerweise lernt der KI-Assistent aus allen Büchern gleichzeitig – sein gesamtes Wissen ist überall verteilt. GRAM hingegen gibt ihm eine spezielle Schublade nur für Virologie, eine für Cybersecurity, eine für Kernphysik und eine für exotische Programmiersprachen. Wenn der Assistent ein allgemeines Buch liest, darf er sein gesamtes Wissen nutzen. Liest er ein Fachbuch über Viren, dann darf nur die Virologie-Schublade lernen – die anderen werden vorübergehend geschlossen. Am Ende kannst du die Schublade einfach herausnehmen, und das Wissen ist weg. Das Modell behält alle anderen Fähigkeiten, nur die gefährlichen sind deaktiviert.

Die technische Umsetzung ist raffiniert, aber verständlich: GRAM fügt jedem Layer eines Transformers (der Standard-Architektur heutiger Sprachmodelle) zusätzliche Neuronen hinzu. Diese sind in Gruppen aufgeteilt, jede steht für eine Dual-Use-Kategorie. Während des Trainings, wenn das Modell auf allgemeinen Text trifft, läuft der normale Lernprozess. Bei speziellem Text aus einer Kategorie werden die allgemeinen Gewichte eingefroren – nur das zugehörige Modul aktualisiert sich. Das Wissen bleibt isoliert. Nach dem Training kann man das Modul entfernen. Das funktioniert, weil das Netzwerk nie gelernt hat, die Dual-Use-Informationen mit dem Rest zu verweben.

Die ersten Tests sind vielversprechend. Die Forscher simulierten drei Szenarien: ein synthetisches mit Kindergeschichten, ein realistischeres mit Webtexten und wissenschaftlichen Artikeln, und dann skalieren sie bis zu einem Modell mit 5 Milliarden Parametern. In jedem Fall zeigte GRAM, dass das Entfernen eines Moduls fast die gleiche Wirkung hatte, als ob dieses Wissen nie im Training gewesen wäre. Und das ohne Einbußen bei allgemeinen Aufgaben. Im Gegensatz zu „Unlearning“-Techniken, die Wissen nur unterdrücken, lässt sich GRAM kaum rekonstruieren. Selbst wenn Angreifer nachträglich kleine Mengen böser Daten geben, können sie das entfernte Wissen nicht wiederherstellen – zumindest nicht einfacher als bei kompletter Datenfilterung.

Besonders spannend: Mit vier Dual-Use-Kategorien ergab ein Trainingslauf 16 verschiedene Konfigurationen (jede Kategorie an- oder ausgeschaltet). Das entspricht sonst 16 separaten Modelltrainings. Der Rechenaufwand bleibt aber der eines einzigen. Die Kostenersparnis ist enorm, wenn man an Frontier-Modelle denkt. Und das wird mit steigender Modellgröße noch besser: Je größer das Modell, desto schwerer ist es für einen Angreifer, die Module zu umgehen – weil die Module selbst immer spezifischer werden.

Dennoch sind die Ergebnisse vorläufig. GRAM wurde nicht auf ein Produktionsmodell wie Claude angewendet. Die Forscher testeten nur die Vorhersagegenauigkeit für das nächste Wort, nicht die Leistung in realen Aufgaben. Und es gibt ein grundlegendes Problem: Manche Dual-Use-Fähigkeiten sind so eng mit Allgemeinwissen verknüpft, dass sie sich gar nicht sauber trennen lassen. Ein Modell, das grundlegende Biologie versteht, lernt vielleicht automatisch auch die Grundlagen der Virologie. Hier stoßen alle Methoden an Grenzen.

Was bedeutet das konkret? Die Forschung zeigt einen Weg, KI-Modelle sicherer zu machen, ohne sie zu lähmen. Statt nur auf Frage-Antwort-Sperren zu vertrauen, könnten wir Modelle bauen, die von Natur aus kontrollierbares Wissen besitzen. Das wäre eine Revolution für die Sicherheit: Ein Modell für den Laboreinsatz mit medizinischem Wissen, ein anderes für den öffentlichen Chat ohne explizite Gefahrenkenntnisse – und beides aus demselben Training. Unternehmen müssten nicht mehr zehn verschiedene Modelle trainieren. Die Kontrolle wäre feiner, die Angriffsfläche kleiner.

Aber es ist noch früh. Wir müssen abwarten, ob GRAM auf den größten Modellen wirklich funktioniert. Und ob die Trennbarkeit von Wissen in allen Fällen gegeben ist. Die Analogie mit den Schubladen ist verlockend, aber manche Wissensbereiche gleichen eher einem Farbverlauf als einer scharfen Grenze. Dennoch: Die Richtung stimmt. Statt immer härtere Schleusen zu bauen, können wir vielleicht lernen, das gefährliche Wissen gar nicht erst ins Gebäude zu lassen – oder es mit einem Schalter auszuschalten, wenn es nicht gebraucht wird.

Quelle: anthropic.com