Was darf eine Maschine entscheiden — und was niemals? Catrin Misselhorn denkt darüber nach, seit KI noch kein Modewort war. Sie ist Professorin für Philosophie in Göttingen und eine der klarsten Stimmen zur Maschinenethik im deutschsprachigen Raum.
Juni 26. Im Gespräch mit Tilo Jung, dem Gründer des YouTube-Formats Jung & Naiv, entwickelt sie in ungewöhnlicher Schärfe, warum KI kein Denkproblem ist — sondern ein Verantwortungsproblem. Warum Maschinen zwar handeln, aber nie haften. Warum Einsamkeit kein Softwarefehler ist. Und warum uns die scheinbar kleinen Fragen — wer entscheidet, wer haftet, wer versteht — mehr verraten über unsere Gesellschaft als jede Hochglanz-Debatte über Superintelligenz. Die wichtigsten Gedanken des Gesprächs — verdichtet, erklärt, zum Weiterdenken. … und auf Seite 3 zum Nachhören.
Positionen einer Philosophin
Ersetzen statt Helfen
Warum greift KI ausgerechnet dort ein, wo wir am meisten wir selbst sind?
KI ersetzt ausgerechnet dort, wo es wehtut: Kreativität, Empathie, soziale Beziehung. Nicht die schmutzige Arbeit wird übernommen — sondern die bedeutungsvolle. Das ist kein Zufall, sondern im Ursprung des KI-Projekts angelegt. Schon in den 1950ern war das Ziel nicht, Fließbandarbeit zu simulieren — sondern menschliche Intelligenz selbst. Dieses Forschungsprogramm zieht bis heute seine Kreise.
Vermenschlichungstendenz
Schützt uns Wissen über unsere eigene Naivität — oder nicht?
Wir neigen zur Anthropomorphisierung — das bedeutet: Wir schreiben Dingen menschliche Eigenschaften zu, die keine haben. Das geschah schon beim simplen Chatbot Eliza in den 1960ern: Ein Programm stellte Gegenfragen, und Menschen fühlten sich verstanden. Je besser KI wird, desto stärker wirkt dieser Reflex — und desto gefährlicher. Wissen allein schützt uns nicht davor. Die Tendenz sitzt tiefer als der Verstand.
Illusion statt Täuschung
Was bedeutet es für unser Selbstbild, wenn wir wissen, dass wir manipuliert werden — und es trotzdem wirkt?
Empathie gegenüber Robotern ist keine Täuschung, sondern eine Illusion. Der Unterschied ist entscheidend: Bei einer Täuschung glauben wir etwas Falsches. Bei einer Illusion wissen wir, dass es falsch ist — und erleben es trotzdem so. Wie bei der Müller-Lyer-Illusion: Wir wissen, dass die Linien gleich lang sind — und sehen es trotzdem anders. Diese Illusion lässt sich nicht wegdenken, nur unterdrücken.
Empathie kultivieren
Formt der Umgang mit Maschinen unseren Charakter — auch wenn wir das gar nicht bemerken?
Wer Roboter misshandelt, beschädigt seine eigene Empathiefähigkeit — also die Fähigkeit, sich in andere hineinzuversetzen und mitzufühlen. Das ist eine moralische Pflicht gegen sich selbst. Nicht der Roboter hat Rechte — aber unsere moralischen Fähigkeiten verdienen Schutz. Wer täglich mit Gewalt gegen menschenähnliche Figuren umgeht, trainiert etwas. Die Frage ist nur: was.
Einsamkeit und Simulation
Ab wann wird eine Linderung zur Verhinderung von Heilung?
Chatbots gegen Einsamkeit einzusetzen ist billiger als echte Lösungen. Sie beheben die Ursache nicht — sie überdecken sie. Wer jemanden vor den Fernseher setzt, lindert auch Einsamkeit. Das ersetzt keine Gesellschaft. Ein Schmerzmittel ist kein Arzt. Und ein Gesprächsbot ist keine Freundschaft — auch wenn er sich so anfühlt.
Tech-Solutionismus
Welche sozialen Wunden haben wir aufgehört zu behandeln, weil Technik sie erträglich gemacht hat?
Tech-Solutionismus bezeichnet die Tendenz, gesellschaftliche Probleme mit technischen Mitteln lösen zu wollen — statt ihre strukturellen Ursachen anzugehen. Pflegenotstand, Einsamkeit, Isolation — das sind politische Aufgaben. Maschinen können zuarbeiten, aber nicht entscheiden, wie wir zusammenleben wollen. Wer Pflegeroboter baut, statt Pflegekräfte fair zu bezahlen, löst nichts. Er verschiebt das Problem.
Rechnen ist nicht Denken
Kann etwas, das nie versteht, jemals wirklich irren — oder nur falsch rechnen?
Es gibt einen grundlegenden Unterschied zwischen Syntax und Semantik. Syntax meint: die Form von Zeichen und Regeln. Semantik meint: ihre Bedeutung. Formale Operationen — also das Verknüpfen von Zeichen nach Regeln — führen nie automatisch zu Verstehen. John Searles Gedankenexperiment zeigt das: Wer in einem Zimmer chinesische Zeichen nach einem Regelwerk sortiert, versteht kein Chinesisch. Genauso wenig versteht eine KI, was sie produziert.
Kein phänomenales Bewusstsein
Würde es moralisch etwas ändern, wenn wir nie mit Sicherheit wissen könnten, ob eine Maschine leidet?
Phänomenales Bewusstsein — auch Qualia genannt — bezeichnet das subjektive Erleben: Wie es sich anfühlt, Schmerz zu haben, Rot zu sehen, Musik zu hören. Ein Computer kann das nicht haben. Selbst wenn er jeden Turing-Test bestünde — also von einem Menschen in einem Gespräch nicht zu unterscheiden wäre — bliebe das so. Bewusstsein ist nicht Funktion. Es ist Erleben.
Keine Pflicht zu töten
Was passiert mit dem Begriff des Kriegsverbrechens, wenn niemand mehr entschieden hat?
Im Krieg gibt es keine moralische Pflicht zu töten — es gibt allenfalls Erlaubnisse unter bestimmten Bedingungen. Deshalb muss jede Tötungshandlung verantwortet werden. Autonome Waffensysteme — Drohnen oder Kampfroboter, die selbstständig Ziele auswählen und angreifen — höhlen genau das aus. Sie machen Verantwortung strukturell unmöglich. Am Ende hat niemand entschieden. Und niemand haftet.
Verantwortungslücke
Ist die Verantwortungslücke ein Versagen der Technik — oder politisch so gewollt?
Die Verantwortungslücke entsteht, wenn ein Schaden eingetreten ist — aber niemand zur Rechenschaft gezogen werden kann, weil niemand die Entscheidung bewusst getroffen und kontrolliert hat. Das klingt nach Entlastung — ist aber moralisches Versagen. Wer diese Lücke bewusst nutzt, etwa indem er ein autonomes System einsetzt, um sich aus der Schusslinie zu nehmen, handelt trotzdem schuldhaft. Die Lücke entbindet nicht — sie verschiebt.
Substanzielle Verantwortungsübernahme
Wie viel Transparenz braucht ein Algorithmus, damit Verantwortung überhaupt möglich wird?
Menschen müssen substanziell für KI-Entscheidungen haften — nicht nur formal auf dem Papier. Substanziell bedeutet: Wer haftet, muss die Entscheidung auch wirklich nachvollziehen, prüfen und korrigieren können. Ein Beispiel: In den USA wurden Sozialleistungen per Algorithmus vergeben — die Auszahlungen sanken um 30 Prozent. Niemand konnte erklären, warum. Das ist keine Verantwortung. Das ist Delegation ins Leere.
Autonomes Fahren und Tötungsverbot
Darf man eine Situation bauen, die zwingend eine unmögliche Wahl erzwingt?
KI darf nicht entscheiden, ob die Kinder oder die alte Frau sterben — das ist das sogenannte Trolley-Problem, übertragen auf den Straßenverkehr. Es gibt keine zwingend richtige Lösung — und genau deshalb muss ein Mensch die Verantwortung tragen. Besser noch: Die Infrastruktur muss so gestaltet werden, dass diese Entscheidung gar nicht anfällt — etwa durch abgetrennte Fahrspuren für autonome Fahrzeuge, fern von Fußgängern.
Sexroboter als Pornografie
Was verrät ein Markt über uns, wenn er bestimmte Simulationen massenhaft produziert?
Sexroboter sind keine Hilfsmittel — sie sind relationale Artefakte. Das bedeutet: Sie sind so gebaut, dass sie Beziehung simulieren — proaktives Verhalten, emotionale Reaktion, scheinbare Bedürfnisse. Sie manifestieren die Objektivierung von Frauen als Marktform: Der überwältigende Teil dieser Produkte ist weiblich geformt, passiv programmiert, käuflich. Simulation von Einverständnis ist kein Einverständnis. Und ein Markt, der das normalisiert, formt Einstellungen.
Fake Art
Was verlieren wir, wenn wir aufhören zu fragen, wer etwas gemacht hat?
KI produziert keine Kunst — sie produziert Dinge, die wie Kunst aussehen. Der Unterschied liegt in der Autorschaft: Ein Kunstwerk ist nicht durch sein Aussehen definiert, sondern dadurch, wer ästhetisch verantwortlich dafür ist. Marcel Duchamps Urinal war Kunst — nicht wegen seiner Form, sondern wegen der Entscheidung, es auszustellen. Eine Maschine trifft keine solche Entscheidung. Sie optimiert. Das ist etwas grundlegend anderes.
KI in der Wissenschaft
Verändert ein Werkzeug, dem wir zu sehr vertrauen, still unsere Fähigkeit zum Zweifeln?
Wer KI zur Recherche nutzt, muss die Quellen selbst prüfen. Verantwortung bedeutet hier: nachschauen, ob es stimmt. KI-Systeme halluzinieren — das heißt, sie erfinden Quellen, Zitate, Fakten, die plausibel klingen, aber nicht existieren. Das ist kein Randphänomen. Es ist strukturell angelegt, weil diese Systeme auf Wahrscheinlichkeit optimieren — nicht auf Wahrheit.