Vielleicht kennst du das Gefühl: Du stehst nach dem Arzttermin mit zwei Seiten Befund allein auf dem Flur, und alles steht drauf, nur nicht, was du jetzt tun sollst.
Genau so fühlt es sich an, wenn eine Maschine über dich entschieden hat. Und das passiert öfter, als du denkst. Ein Portal sortiert deine Wohnungsanfrage aus, bevor ein Mensch sie liest. Eine Versicherung berechnet dir einen anderen Preis als deinem Nachbarn. Ein Programm entscheidet, welche Bewerbung liegen bleibt. Dahinter steckt inzwischen fast immer dasselbe: künstliche Intelligenz, die aus deinen Daten ausrechnet, was du wahrscheinlich bist, und danach handelt. Du erfährst nie, warum. Und schon gar nicht, wen du fragen könntest. Bei wem du dich beschweren könntest.
Genau darum geht es hier. Nicht um schicke putzende Roboter, nicht um die Frage, ob Maschinen irgendwann Bewusstsein entwickeln. Sondern um das, was dir heute schon passiert, leise, im Hintergrund, im Amt, in der Schule deiner Kinder, bei der Kreditvergabe deiner Bank.
In Wisconsin hat eine KI elf Jahre lang Schulkinder in grün, gelb und rot sortiert, wie an einer Ampel. Rot hieß: Das Kind schafft den Schulabschluss wahrscheinlich nicht. Kein Lehrer hatte das kompetent beurteilt, keine Mutter konnte anrufen und die Einstufung verhindern, eine Maschine hatte menschliche Schicksale geprägt. Wie kann das sein?
Drei Fragen kannst du an jede Bank, jedes Amt und jede Schule stellen, die KI einsetzt: Wer hat das entschieden? Wem kann ich widersprechen? Und wenn sich herausstellt, dass die Maschine falsch lag: Wird dann nur mein Fall korrigiert, oder ändert sich die Regel für alle, die nach mir kommen?
Das Wichtigste in Kürze
Eine KI entscheidet, aber sie kann für ihre Entscheidung nicht geradestehen. Ihr fehlt, was jede menschliche Entscheidung hat, auch die schlechteste: ein Gesicht, ein Grund, den man hören kann, und jemand, dem man ins Wort fallen darf. Der Designforscher Jürgen Faust sagt, solche Entscheidungen werden eingefroren. Irgendwann hat ein Mensch festgelegt, welche Daten zählen, und dieser Moment liegt seitdem in der Software wie unter einer Eisschicht: unsichtbar, unerreichbar. Bei dir kommt nur noch das Ergebnis an, die Absage, der höhere Preis, das rote Licht, und du nimmst es hin wie schlechtes Wetter, weil es niemanden gibt, den du fragen könntest. Eine Erklärung, warum die Maschine so gerechnet hat, hilft dir wenig, solange niemand antworten muss und nichts sich ändern kann. Und weil ein einzelner Mensch in seiner eigenen Akte nie sieht, ob das System bei Leuten wie ihm reihenweise danebenliegt, müssen auch Gruppen widersprechen dürfen, Eltern, Lehrer, Verbände.
Und hier geht es um notwendigen Streit. Solange du mit jemandem streiten kannst, weißt du, dass da jemand ist. Mit dem Wetter streitet niemand. Wo also kein Streit mehr ist, hat nicht der Friede gewonnen, sondern die Stille. Wer weiterliest, erfährt, wie das in Wisconsin und in den Niederlanden ausgegangen ist, was Künstlerinnen und Philosophen dazu sagen, und warum ein guter Streit am Ende billiger ist als jahrelanges Schweigen.
Transparenz ist wichtig. Aber ohne verändernde Auseinandersetzung bleibt sie blutleer.