Warum halten wir Maschinen für klüger, als sie sind?
Der Mensch ist ein soziales Wesen. Unser Gehirn sucht überall nach Absichten, Gedanken, Gefühlen – selbst dort, wo keine sind. Sobald ein System flüssig formuliert, vermuten wir ein denkendes Gegenüber dahinter.
Schon ELIZA, ein simples Chatprogramm aus den 1960er-Jahren, erzeugte bei Nutzern echte emotionale Reaktionen. Dabei spiegelte es lediglich Fragen zurück, ohne auch nur zu ahnen, was eine Frage eigentlich ist. Menschen berichteten von tiefen, bedeutsamen Gesprächen. Mit einem Programm, das ungefähr so komplex war wie ein Toaster.
Heute sind die Systeme dramatisch komplexer. Die Illusion wirkt entsprechend stärker. Und die Toaster sind deutlich besser geworden.
Wenn ein Sprachmodell den Satz „Paris ist die Hauptstadt von …” ergänzt, versteht es nicht, was eine Hauptstadt ist, was Frankreich bedeutet oder warum das überhaupt jemanden interessiert. Es weiß nur: Diese Kombination taucht in den Trainingsdaten häufig auf. Das ist kein Denken. Das ist ein Spiel mit der Wahrscheinlichkeit … mit sehr guter Pressestelle.
KI halluziniert – weil sie keine Ahnung hat, was Fakten sind
Hier liegt ein zentrales Problem, das man nicht wegdefinieren kann. Wahrheit ist kein statistisches Phänomen. Eine Aussage kann selten vorkommen und trotzdem wahr sein. Eine millionenfach wiederholte Behauptung kann komplett falsch sein – das Internet liefert dafür täglich frische Belege.
Sprachmodelle operieren ausschließlich auf der Ebene der Wahrscheinlichkeit. Sie erfinden Fakten, weil sie kein Konzept von Fakten besitzen. Das nennt sich in der Fachsprache „Halluzination” – ein fast poetischer Begriff für ein ernstes strukturelles Problem. Die Maschine lügt nicht. Sie weiß nur nicht, dass sie falsch liegt. Ein feiner, aber wichtiger Unterschied.
In der Philosophie wird diese Unterscheidung seit Jahrhunderten debattiert: Wahrheit bezeichnet die Übereinstimmung zwischen Aussage und Wirklichkeit. Wahrscheinlichkeit beschreibt lediglich die Häufigkeit eines Musters. KI kann das eine sehr gut simulieren. Das andere kennt sie nicht.