Algorithmischer Bias

Algorithmischer Bias bezeichnet systematische Verzerrungen in Ergebnissen oder Auswirkungen algorithmischer Systeme. Ursachen können unter anderem nicht repräsentative oder bereits verzerrte Trainingsdaten, ungeeignete Zielgrößen, Modellannahmen, Messfehler oder der Einsatz in einem anderen Kontext als vorgesehen sein.

Eine statistisch ähnliche Fehlerquote für eine Gruppe garantiert nicht automatisch Fairness; welche Unterschiede relevant sind, hängt unter anderem von Aufgabe, betroffenem Personenkreis und rechtlichen Anforderungen ab. Prüfungen sollten Daten, Modell, Schwellenwerte und tatsächliche Einsatzfolgen einbeziehen. Algorithmischer Bias ist mit Datenqualität, Datenethik und dem NIST AI RMF verbunden.