Das Rassenvorurteil in einem Algorithmus zur Bevölkerungs-Gesundheitssteuerung analysieren

Rassenvorurteil in Gesundheitsalgorithmen Das US-amerikanische Gesundheitssystem verwendet kommerzielle Algorithmen zur Steuerung von Gesundheitsentscheidungen. Obermeyer et al. zeigen Hinweise auf ein rassistisches Vorurteil in einem weit verbreiteten Algorithmus, sodass schwarze Patient:innen, die vom Algorithmus dasselbe Risikoniveau zugewiesen bekommen, kränker sind als weiße Patient:innen (vgl. die Perspektive von Benjamin). Die Autor:innen schätzten, dass dieses rassistische Vorurteil dazu führt, dass die Anzahl der schwarzen Patient:innen, die für zusätzliche Versorgung identifiziert werden, mehr als halbiert wird. Das Vorurteil entsteht, weil der Algorithmus Gesundheitskosten als Proxy für Gesundheitsbedürfnisse verwendet. Weniger Geld wird für schwarze Patient:innen mit demselben Bedarf ausgegeben, und der Algorithmus schlussfolgert daher fälschlicherweise, dass schwarze Patient:innen gesünder sind als gleich kranke weiße Patient:innen. Eine Neugestaltung des Algorithmus, welche die Kosten nicht mehr als Proxy für Bedürfnisse verwendet, beseitigt das rassistische Vorurteil bei der Vorhersage, wer zusätzliche Versorgung benötigt. Science, diese Ausgabe, S. 447; siehe auch S. 421