Entscheidungen treffen: Bias in künstlicher Intelligenz und datenbasierten Diagnosetools

HINTERGRUND: Obwohl zahlreiche Studien das Potenzial von Systemen der künstlichen Intelligenz (KI) zur drastischen Verbesserung der klinischen Praxis gezeigt haben, gibt es Bedenken, dass diese KI-Systeme bestehende Bias replizieren könnten. ZIEL: Dieses Papier bietet einen kurzen Überblick über „algorithmische Verzerrung“, die sich auf die Tendenz einiger KI-Systeme bezieht, bei benachteiligten oder marginalisierten Gruppen schlechte Leistungen zu erbringen. DISKUSSION: KI basiert auf Daten, die von Menschen generiert, gesammelt, aufgezeichnet und gekennzeichnet werden. Wenn KI-Systeme nicht kontrolliert werden, werden alle in der realen Welt bestehenden Verzerrungen, die in Daten eingebettet sind, in die KI-Algorithmen integriert. Algorithmische Verzerrung kann als Erweiterung, wenn nicht sogar als neue Erscheinungsform bestehender sozialer Vorurteile angesehen werden, verstanden als negative Einstellungen gegenüber oder diskriminierende Behandlung bestimmter Gruppen. In der Medizin kann algorithmische Verzerrung die Patientensicherheit gefährden und das Risiko bergen, bestehende Unterschiede in Versorgung und Ergebnis zu perpetuieren. Daher sollten Kliniker das Risiko von Verzerrungen berücksichtigen, wenn sie KI-gestützte Werkzeuge in ihrer Praxis einsetzen.