Zahl des Tages: „So wurde beispielsweise für das US-amerikanische Gesundheitssystem bereits im Jahr 2019 im Fachblatt Science gezeigt, dass kommerziell erhältliche neuronale Netzwerke, die in Ambulanzen darüber entscheiden, ob eine stationäre Aufnahme erfolgen soll oder nicht, dunkelhäutige Patienten wesentlich häufiger abwiesen als hellhäutige… Dies lag daran, dass das Netzwerk trainiert wurde, die Behandlungskosten und nicht die Schwere der Krankheit vorherzusagen. Dies führte dazu, dass von der KI beim Lernen auch der ungleiche Zugang zu Versicherungs- und Versorgungsleistungen mitgelernt wurde, der durch die signifikanten Einkommensunterschiede bedingt ist. Das Durchschnittseinkommen der afroamerikanischen (‚schwarzen‘) Bevölkerung liegt in den USA bei nur 60 bis 70 Prozent des Einkommens der ‚weißen‘ Bevölkerung. Beim Vermögen ist der Unterschied noch größer: Das Vermögen eines durchschnittlichen ‚schwarzen‘ Haushalts beträgt 5 bis 10 Prozent dessen, was ein ‚weißer‘ Haushalt an Vermögen aufweist… Für dunkelhäutige Patienten wird aus diesem Grund auch im Gesundheitsbereich weniger Geld ausgegeben als für hellhäutige. Da nun das Netzwerk darauf trainiert war, Geld zu sparen, wies es hellhäutige Patienten bei gleicher Krankheitsschwere 2,5-mal häufiger ein als dunkelhäutige. Diese Verzerrung aufgrund der Hautfarbe (racial bias) hatte zur Folge, dass der Prozentsatz der dunkelhäutigen Patienten, die nach dem Besuch der Ambulanz stationär behandelt worden, nur bei 17,7 Prozent lag, hellhäutige Patienten hingegen kamen auf 46,5 Prozent…“.

(Manfred Spitzer, Künstliche Intelligenz – Dem Menschen überlegen – wie KI uns rettet und bedroht, 2023, S. 218 f.)