Wer einen Hammer hat…
Verändert uns die Technik eigentlich auch dann, wenn wir gar nichts Böses damit vorhaben?
Der Kulturwissenschaftler Roberto Simanowski meint: ja, unweigerlich.
Sein Bild dafür ist denkbar einfach: Wer einen Hammer besitzt, sucht automatisch nach Nägeln, ganz ohne dass es ihm jemand befehlen müsste. Genauso könnte KI uns, statt aus der von Kant beschriebenen „selbstverschuldeten Unmündigkeit” zu befreien, immer tiefer in sie hineinführen – etwa wenn wir ihr nicht nur Hausaufgaben, sondern gleich moralische Urteile überlassen.
Die Bibliothekarin, der wir nicht widersprechen
Was verlieren wir eigentlich, wenn Wissen nicht mehr gesucht, sondern nur noch geliefert wird?
Simanowski beschreibt das mit einem Bild aus dem eigenen Alltag:
Früher stand man in der Bibliothek vor vielen Büchern und stolperte über Zufälliges, heute fragt man eine Bibliothekarin namens Claude oder Chat GPT, die alle Bücher gelesen haben will und eine einzige Antwort liefert. Nach welchen Kriterien sie diese Antwort zusammengestellt hat, weiß niemand so genau – ein Umstand, der ihm größere Sorgen macht als der Verlust der Bibliothek selbst. Damit verändere sich, so seine These, nicht nur, was wir wissen, sondern grundsätzlich, wie wir überhaupt zu Wissen kommen.
Das Netz ist nicht die Welt
Wessen Stimme hört die KI eigentlich, wenn sie angeblich „die Menschheit” zusammenfasst?
Vor allem die von wenigen, findet der Medientheoretiker. Die Trainingsdaten der großen Sprachmodelle sind alles andere als repräsentativ, denn orale Kulturen und Gesellschaften mit wenig Internetzugang hinterlassen kaum digitale Spuren. Das Netz, aus dem KI ihr Weltbild bezieht, ist deshalb überwiegend weiß und westlich geprägt – eine Schieflage, die sich unsichtbar in jede Antwort einschleicht.
Die Schlange, die sich selbst frisst
Was passiert, wenn KI irgendwann vor allem noch von KI lernt?
Genau das nennt Simanowski das Ouroboros-Problem, benannt nach der altägyptischen Schlange, die sich in den eigenen Schwanz beißt. Sobald KI-generierte Texte selbst wieder zu Trainingsmaterial werden, verstärkt das System zunehmend nur noch seine eigene Perspektive, statt echte menschliche Vielfalt abzubilden. Das Ergebnis wäre eine Ethik, die sich im Kreis dreht – sich selbst bestätigend, ohne neue Erkenntnis von außen.
KI ist keine Software, sondern ein Kraftwerk
Was übersehen wir, wenn wir KI für „nur Technik” halten?
Fast alles, findet Rainer Mühlhoff, der in Osnabrück zu Ethik und kritischer Theorie der KI forscht.
KI ist für ihn in erster Linie eine weltweite materielle Infrastruktur aus Energie, seltenen Erden und Millionen schlecht bezahlter Klickarbeiterinnen, die im Hintergrund Bilder markieren oder traumatische Inhalte filtern. Wer diese Schicht ausblendet und nur über Chatbots und Algorithmen spricht, übersieht laut Mühlhoff, dass hier – mit Verweis auf historische Machtverhältnisse – auch eine neue Form von Kolonialismus entsteht.
Das falsche Wettrennen
Wovor sollten wir uns eigentlich wirklich fürchten – vor China oder vor uns selbst?
Für den Osnabrücker Ethiker ist die Antwort eindeutig: vor uns selbst. Das vielbeschworene „KI-Wettrennen” mit China diene vor allem einem Zweck – der Deregulierung, meist begründet mit diffusen Auslöschungsängsten. Die eigentliche existenzielle Bedrohung sei nicht eine feindliche KI, sondern der Klimawandel, den ein ungebremstes, dereguliertes KI-Wettrüsten immer weiter befeuere.
Bürokratie als Bollwerk
Ist es wirklich eine gute Idee, den Staat wie ein Unternehmen zu optimieren?
Mühlhoff warnt eindringlich davor. Verfahrensbasiertes staatliches Handeln garantiere schließlich Gesetzesbindung, Begründbarkeit und Gleichbehandlung – Schutzfunktionen, die man nicht leichtfertig gegen „Effizienz” eintauschen sollte, zumal ausgerechnet jene davor warnen, die genau dieses Ersetzungsangebot verkaufen wollen, wie etwa der Datenkonzern Palantir.
Wo Bürokratie systematisch schlechtgeredet und durch KI-Systeme ersetzt wird, entstehe eine schleichende Technokratisierung des Staates.
Ethik für die Mächtigen, nicht für die Maschine
Wen sollte eine KI-Ethik eigentlich in die Pflicht nehmen – den Algorithmus oder uns?
Für Mühlhoff steht die Antwort fest: uns, und zwar vor allem jene, die Macht über diese Technologie besitzen. KI sei „Machttechnologie par excellence”, weshalb es nicht darum gehen könne, ihr eine Liste moralischer Sätze einzuimpfen, sondern darum, Politikerinnen, Anwender und Konzernchefs zu verantwortungsvollem Umgang zu zwingen.
In Teilen der Tech-Ideologie – Recht des Stärkeren, Wiederbelebung der Eugenik, Entmenschlichung durch Mechanisierung – erkennt er ein Grundinventar faschistischer Denkfiguren, dem nur demokratische Regulierung wirksam begegnen kann.
Zwei Länder, zwei ganz verschiedene KIs
Reden USA und China eigentlich über dieselbe Technologie, wenn sie von „KI” sprechen?
Keineswegs, sagt die Geopolitik-Analystin Antonia Hmaidi. Während die USA von Sprachmodellen und der Fantasie ganzer „Data Centers voller Genies” träumen, setzt China vor allem auf verkörperte, industrielle KI – Roboter, Drohnen, effizientere Fabriken als Motor einer vierten industriellen Revolution.
Diese Fixierung speist sich aus einer historischen Kränkung: Vor der ersten industriellen Revolution war China nach vielen Maßstäben das reichste Land der Erde, und genau diesen Platz will die Kommunistische Partei zurückerobern.
Regeln bremsen nicht, sie lenken
Stimmt es eigentlich, dass strenge Regulierung Europa im KI-Rennen zurückwirft?
Nein, sagt Hmaidi, und liefert gleich den Gegenbeweis. Chinas Regeln für generative KI seien in der Praxis strenger als der europäische AI Act, und das beliebte Argument der Tech-Konzerne, Regulierung verhindere eigene Champions, hält die Analystin für eine Legende.
Als Beweis dient ihr WeChat, das anfangs schlechter funktionierte als WhatsApp, sich aber durchsetzte, weil der Staat keine Alternative zuließ – und heute technisch überlegen ist.
Eine Industrie auf Pump
Trägt sich das KI-Geschäft eigentlich schon selbst, oder lebt es von geliehener Zeit?
Von geliehener Zeit, meint Hmaidi nüchtern. Alle großen Anbieter, von Anthropic bis Open AI, seien aktuell hoch verschuldet, um den Ausbau von Rechenzentren und den Kauf von Chips zu finanzieren, ohne dass ein tragfähiges Geschäftsmodell erkennbar sei.
Das erinnere sie an frühere „KI-Winter”, in denen überzogene Versprechen der fünfziger, siebziger und achtziger Jahre jeweils zu abrupten Förderstopps führten.
Sozialer, aber nicht freier
Wer schützt eigentlich Beschäftigte besser vor der KI – der amerikanische Markt oder die chinesische Partei?
Ausgerechnet Letztere, konstatiert Hmaidi mit einem gewissen Unbehagen. Während in den USA bereits gewaltsame Proteste gegen Rechenzentren aufflammen, haben zwei chinesische Gerichte entschieden, dass Firmen Menschen nicht einfach wegen KI-Einsatzes entlassen dürfen – eine Entscheidung, die, da Gerichte in China nicht unabhängig sind, faktisch eine Regierungslinie widerspiegelt.
Sozialer sei das chinesische Modell also durchaus, aber eben nur im Sinne dessen, was die Partei will – Überwachung und Minderheitenunterdrückung inklusive.
Der Feind heißt Bequemlichkeit
Was entscheidet eigentlich, ob wir klug oder dumm mit KI umgehen?
Für die Wissenschaftsjournalistin Sibylle Anderl ist die Antwort erstaunlich banal: unsere eigene Bequemlichkeit. Sie drängt uns aus der aktiven in eine passive Rolle, verführt zu kurzfristigem Denken und macht uns anfälliger für Manipulation, weil viele Folgen der KI erst mit Verzögerung sichtbar werden.
Ihre eigene Wetter-App-Geschichte – null Prozent Regenwahrscheinlichkeit, klatschnass trotzdem – erzählt genau das: Wer sich blind auf die Maschine verlässt, hört auf, selbst aus dem Fenster zu schauen.
Digitale Amnesie
Warum vergessen wir eigentlich Dinge, die wir jederzeit nachschlagen könnten?
Weil genau dieses Wissen, dass etwas abrufbar ist, laut Anderl das Gehirn faul macht. Schon eine Studie von 2011 prägte dafür den Begriff „Google-Effekt”: Versuchspersonen dachten bei schwierigen Fragen zuerst an den Computer statt an die Antwort selbst und merkten sich Informationen schlechter, sobald sie wussten, dass diese im Netz verfügbar waren.
Die Softwarefirma Kaspersky nannte das 2015 treffend „digitale Amnesie” – ein Effekt, den Sprachmodelle nach Anderls Überzeugung nur noch verstärken.
Erst der Kopf, dann der Chatbot
Macht uns KI eigentlich dümmer, wenn wir sie zu früh zu Rate ziehen?
Eine vielbeachtete MIT-Studie von 2025 sagt: ja. Studierende, die Essays direkt mit Chatbot-Hilfe schrieben, zeigten eine deutlich schwächere neuronale Vernetzung als jene ohne Hilfsmittel, berichtet die Journalistin.
Die besten Ergebnisse erzielte ausgerechnet die Gruppe, die zunächst selbst dachte und erst danach die KI befragte – die Quintessenz der Studienautorin lautet entsprechend schlicht: erst selbst denken, dann Chat GPT fragen.