„KI ist eine Form fremder Intelligenz, die über nicht-menschliche kognitive Mechanismen arbeitet.“ Das sagt Melanie Mitchell, Kognitionswissenschaftlerin und Informatikerin am Santa Fe Institute. Der Satz klingt harmlos, stellt aber eine Debatte auf den Kopf. Wenn Maschinen nicht wie Menschen denken, können wir sie nicht mit menschlichen Maßstäben messen – und nicht so einfach vertrauen.
Mitchell beschäftigt sich seit Jahrzehnten mit künstlicher Intelligenz, lange bevor ChatGPT in die Öffentlichkeit schwappte. In der aktuellen Folge des Podcasts „The Joy of Why“ von Quanta Magazine spricht sie mit Steven Strogatz darüber, was Intelligenz bei Maschinen bedeutet. Mitchells These: Wir brauchen eine vergleichende Kognitionsforschung für KI, ähnlich wie die Entwicklungspsychologie sie für Babys oder die Verhaltensbiologie für Tiere betreibt. Die Frage, ob ein Sprachmodell wirklich denkt oder nur überzeugend denkt, ist nicht akademisch. Sie entscheidet, wo wir KI einsetzen können, wie eng wir sie überwachen müssen und welche Fehler wir ihr verzeihen.
Das Problem mit Benchmarks und menschlichen Maßstäben
Wer KI bewerten will, stößt schnell auf Leistungstabellen. Sprachmodelle schneiden bei vielen Benchmarks besser ab als Menschen. Doch diese Zahlen sagen weniger über Intelligenz aus, als es scheint. Mitchell erinnert an ein Beispiel aus einem früheren Gespräch mit Strogatz: Ein Atari-Modell spielte ein Videospiel meisterhaft, scheiterte aber völlig, als man das Spielfeld um ein paar Pixel verschob. Das System hatte nicht das Prinzip verstanden, sondern nur eine einzelne, starre Strategie gelernt.
Heute sind die Modelle größer und flexibler. Sie werden mit fast allem trainiert, was im Internet an Text, Bildern und Code verfügbar ist. Die Frage nach der Übertragbarkeit wird dadurch paradox: Weil die Modelle angeblich „alles“ gesehen haben, lässt sich kaum unterscheiden, ob sie etwas wirklich verstehen oder nur ein Muster aus den Trainingsdaten reproduzieren. Mitchell weist darauf hin, dass selbst ein scheinbar kreativer Durchbruch – etwa die KI-Unterstützung bei einem offenen Mathematikproblem – schwer einzuordnen ist. Das Modell wurde mit Unmengen mathematischer Literatur gefüttert. Es hat zwei Gebiete kombiniert, aber ob dieser Prozess dem Denken eines Mathematikers gleicht, bleibt offen.
Die Gefahr ist, dass wir menschliche Fähigkeiten auf Maschinen projizieren. Wenn ein Modell eine komplexe Frage beantwortet, klingt das nach Verstehen. Doch ein Sprachmodell ist zunächst ein Wahrscheinlichkeitssystem. Es erzeugt Text, der für uns wie Argumentation aussieht, weil es gelernt hat, solche Texte nachzuahmen. Seine innere Mechanik hat mit menschlicher Logik nicht zwangsläufig etwas zu tun.
Wie Psychologen fremde Intelligenz untersuchen
Hier setzt Mitchells Vorschlag an. Die Entwicklungspsychologie steht vor einem ähnlichen Problem wie die KI-Forschung: Sie will verstehen, was in einem Wesen vorgeht, das uns nicht direkt erklären kann, wie es denkt. Babys sind in gewissem Sinne „fremde Intelligenzen“. Sie reagieren auf Reize, zeigen Überraschung, lösen einfache Aufgaben – aber ihre kognitiven Prozesse müssen aus dem Verhalten erschlossen werden. Dasselbe gilt für Tiere. Vögel, Hunde und Delfine zeigen beeindruckende kognitive Leistungen, die oft nach anderen Regeln funktionieren als das menschliche Denken.
Mitchell plädiert dafür, diese Methoden auf KI-Systeme zu übertragen. Statt nur zu fragen, ob ein Modell eine Aufgabe richtig löst, sollte man beobachten, wie es Fehler macht. Man sollte Situationen verändern, unsichtbare Hilfen entfernen oder Störungen einbauen, um zu sehen, ob das System wirklich etwas verstanden hat. Besonders wichtig sind Interventionen: Was passiert, wenn man das Modell mit einer Version der Welt konfrontiert, die nicht in den Trainingsdaten vorkam?
Einen Anstoß gab unter anderem der Psychologe Mike Frank von der Stanford University. Er schlug vor, dass KI-Forschende sich an der experimentellen Psychologie orientieren sollten. Statt unüberschaubare Tests immer größer zu machen, braucht es präzise, kontrollierte Experimente. Diese liefern meist kleinere Erkenntnisse, aber dafür verlässlichere. Man lernt nicht nur, ob ein System eine Sache kann, sondern auch, unter welchen Bedingungen es versagt.
Sechs Prinzipien für bessere Messung maschineller Kognition
In der Folge von „The Joy of Why“ skizziert Mitchell sechs Prinzipien, die helfen sollen, KI-Intelligenz realistischer zu beurteilen. Sie sind weniger als Checkliste gedacht, sondern als Haltung – als Abschied von der einfachen Frage „Schlau oder nicht?“.
Erstens: Verhalten und Ergebnis trennen. Ein Modell kann richtig antworten, ohne das Richtige zu meinen. Man muss nicht nur das Ergebnis bewerten, sondern den Weg dorthin. Zweitens: Die Distanz zum Training messen. Wer ein Modell testet, sollte wissen, welche Aufgaben nicht aus dem Trainingskorpus stammen. Nur dann lässt sich Verallgemeinerung erkennen. Drittens: Kausalität einfordern. Viele Muster in Sprache sind reine Korrelationen. Echte Intelligenz zeigt sich darin, dass ein System Ursache und Wirkung unterscheiden kann.
Viertens: Robustheit prüfen. Wenn schon kleine Änderungen in der Formulierung eine völlig andere Antwort erzeugen, steckt keine stabile Konzeptbildung dahinter. Fünftens: Andere Intelligenzen als Vergleich heranziehen. Tiere und Kinder haben je eigene kognitive Stärken und Grenzen. Daran lässt sich zeigen, was an KI-Leistung wirklich intelligent ist und was nur nachgeahmt wird. Sechstens: Die eigenen Messinstrumente hinterfragen. Benchmarks haben eine Tücke: Sobald ein Test bekannt ist, kann man darauf hintrainieren. Dann misst man nicht mehr Intelligenz, sondern das Auswendiglernen von Aufgaben.
Der kluge Hans und die Falle des Vertrauens
Dass solche Messprobleme nicht neu sind, zeigt Mitchell mit einem historischen Beispiel: dem klugen Hans. Das Pferd, das im frühen 20. Jahrhundert mit Rechenaufgaben berühmt wurde, schien zu addieren, zu subtrahieren und Prozentrechnungen zu lösen. Tatsächlich reagierte es nur auf minimale, unwillkürliche Körpersignale seines Besitzers – zum Beispiel auf ein leichtes Kopfbewegen, wenn die richtige Antwort erreicht war. Das Pferd war intelligent, aber nicht im Sinne von Mathematik. Es hatte gelernt, Menschen zu lesen.
Diese Geschichte enthält eine Warnung für den Umgang mit KI. Auch ein Sprachmodell kann überfordern, weil es so souverän wirkt. Wir projizieren Verstehen in die Antworten, weil uns die Sprache vertraut ist. Doch wir wissen nicht, ob das Modell die Konzepte hinter den Wörtern erfasst. Ohne passende Experimente bleiben wir auf Vermutungen angewiesen. Genau deshalb braucht es eine Wissenschaft, die sich ernsthaft mit maschineller Kognition beschäftigt – nicht als PR-Maßnahme, sondern als Grundlagenforschung.
Mitchells Ansatz ist ungewöhnlich, weil er KI nicht als Tagesthema behandelt. Sie interessiert sich dafür, welche Art von Denken Maschinen unter welchen Bedingungen zeigen können. Das klingt unspektakulär, ist aber die Grundlage für verantwortungsvollen Einsatz. Wer KI nicht versteht, kann nicht beurteilen, wann sie irrt.
Was das konkret für dich bedeutet
Auch wenn sich vieles nach Grundlagenforschung anhört, hat die Diskussion einen praktischen Kern. Wenn du KI-Tools für Arbeit, Bildung oder Alltag nutzt, bist du auf deren Selbstauskunft angewiesen – und auf die Benchmarks der Hersteller. Beide Quellen überschätzen die Fähigkeiten systematisch. Deshalb hilft es, Modelle wie eine Kollegin zu behandeln, die hervorragend formuliert, aber kein begründetes Vertrauen genießt. Man prüft wichtige Ergebnisse nach, bevor man sie übernimmt.
Das klingt nach mehr Aufwand, ist aber ehrlicher als die Vorstellung, eine KI sei ein Computer, der nur schneller denkt. Die fremde Intelligenz braucht Begleitung. Nicht, weil sie dumm ist, sondern weil sie anders kognitiv tickt – mit anderen Stärken und anderen Blindstellen. Wer diese Perspektive akzeptiert, fragt nicht mehr „Ist die KI schlauer als wir?“, sondern „Wann ist sie hilfreich, und wann braucht sie Supervision?“.
Mitchell liefert damit einen Gegenentwurf zu den lautstarken Extremen der Debatte. Weder ist das Sprachmodell eine allwissende Superintelligenz, noch ist es ein bloßes Geschwätz ohne Wert. Es ist eine neue Form von Kognition, die wir erst lesen lernen müssen. Der erste Schritt dorthin ist Bescheidenheit: zugestehen, dass wir weder menschliches noch maschinelles Denken vollständig verstehen. Aber wir können lernen, beides besser zu beobachten. Das ist mehr, als die meisten Diskussionen über KI bisher geleistet haben.
Quelle: quantamagazine.org
