Die Untersuchung der NYDFS zeigt ein typisches Dilemma automatisierter Bonitätsprüfungen. Die Kreditentscheidungen waren statistisch und regulatorisch konsistent, da Personen mit vergleichbarem Profil ähnliche Kreditlinien erhielten. Die wahrgenommene Diskriminierung entstand vor allem durch Missverständnisse über den Unterschied zwischen primären Kontoinhabern und reinen Zusatznutzern (Authorized Users) sowie durch eine unzureichende Kommunikation des Anbieters. Goldman Sachs und Apple delegierten Erklärungen faktisch an Black-Box-Prozesse und blockierten Beschwerden monatelang. Dies unterstreicht, dass bei algorithmischen Systemen die begleitende UX, Kundensupport und transparente Kriterien genauso entscheidend für die Akzeptanz sind wie die mathematische Fairness des Modells.