Wer trägt die Verantwortung, wenn die Maschine entscheidet?
Das Problem. Design war lange begründbare. Und ehrlich. Wer eine Persona anlegte oder einen Prototypen baute, legte die Karten auf den Tisch — hier sind meine Annahmen, hier meine Gründe, hier meine Bauchgefühle, die ich höflich in Kriterien umbenannt habe. Drei Wochen später, wenn niemand mehr wusste, warum das Button rot und nicht blau geworden war, lag die Antwort noch im Dokument. Nachlesen, revidieren, widersprechen — alles möglich. Das Konzeptpapier war kein Kunstwerk. Aber es war ehrlich. Es zeigte, wie eine Entscheidung zustande gekommen war. Und wer anderer Meinung war, konnte genau dort ansetzen.
Generative KI bricht diesen Zusammenhang auf. Nicht weil sie schlechter wäre als menschliches Urteilen. Sondern weil sie anders funktioniert: Entscheidungsbeiträge entstehen in hochdimensionalen mathematischen Räumen, die sich einer direkten symbolischen Lesbarkeit entziehen. Das Modell entscheidet — aber es begründet nicht. Es produziert — aber es erklärt sich nicht. Was früher in einer Skizze stand, steckt heute in einem Prompt, einem Trainingsdatensatz, einer Gewichtungsfunktion. Sichtbar für niemanden. Wirksam für alle.
Das ist kein technisches Randproblem. Es ist eine strukturelle Verschiebung, die Designmethodologie, Governance und Professionsethik gleichermaßen betrifft.
Die Verschiebung. Klassische Designmethoden gründeten auf einer stillschweigenden Annahme: Entscheidungsrationalität lässt sich grundsätzlich artikulieren. Man kann fragen, warum. Man kann revidieren, widersprechen, verbessern. Das Artefakt — Skizze, Storyboard, Konzeptpapier — war der Ort, an dem diese Rationalität wohnte.
In KI-vermittelten Designprozessen wohnt sie woanders: in Modellarchitekturen, Trainingskorpora, Parametereinstellungen, Bewertungsmetriken. Diese Strukturen treffen normative Entscheidungen — welche Nutzergruppe als Zielgruppe gilt, welche Qualität zählt, welche Abweichung als Fehler gewertet wird — ohne dass diese Entscheidungen als Entscheidungen erkennbar sind. Sie operieren, ohne sich auszuweisen.
Das ist mehr als ein Transparenzproblem. Es ist eine epistemische Transformation: Der Ort, an dem Designrationalität sich materialisiert, hat sich verändert. Und mit ihm die Frage, wer überhaupt Rechenschaft schuldet.
Die Prüfung
Ein strukturierter Ansatz lautet: Wenn das Modell selbst nicht lesbar ist, muss die Entscheidungsarchitektur drumherum dokumentiert werden. Also: Entscheidungen erfassen, auflisten – Was ist hier eigentlich alles passiert? Verantwortung klar zuweisen, Versionen protokollieren, Begründungen festhalten. Transparenz!
Das ist pragmatisch, handhabbar.
Aber – es ist nicht unschuldig. Michel Foucault hat gezeigt, dass Dokumentationspflichten selbst Machtstrukturen sind: Wer dokumentieren muss, richtet sein Handeln danach aus, was dokumentierbar ist. Wer die Kriterien des Audits bestimmt, definiert, was als gutes Design gilt.
Transparenz schafft Sichtbarkeit. Aber sie schafft noch lange keine keine Gerechtigkeit. Sie ist ein notwendiger, kein hinreichender Schritt.