KI-Bias

KI-Bias bezeichnet systematische Verzerrungen in den Ergebnissen von KI-Modellen. Sie entstehen nicht durch böse Absicht, sondern durch die Trainingsdaten: Ein Modell lernt aus dem, was im Netz fotografiert, geschrieben und verschlagwortet wurde - und übernimmt die Schieflagen, die dort schon drinstecken.

Bei Bildmodellen zeigt sich das als eingebautes „Normal": Ohne ausdrückliche Anweisung erzeugen sie überwiegend junge, schlanke, weiße Menschen ohne sichtbare Behinderung. Studien zeigen sogar, dass Modelle Klischees schärfer zeichnen, als sie in der Realität sind - gut bezahlte Berufe werden noch männlicher und hellhäutiger dargestellt, als es die Berufsstatistik hergibt.

Wichtig für die Praxis: Bias verschwindet nicht von selbst und nur teilweise durch Prompts. Selbst explizite Angaben werden vom Modell oft in Richtung seines gelernten Normals zurückgezogen. Wer KI-Inhalte veröffentlicht, braucht deshalb einen prüfenden Blick vor jeder Veröffentlichung - die Verantwortung für das Ergebnis bleibt beim Menschen.