Aller au-delà de « le biais algorithmique est un problème de données »

Une croyance étonnamment persistante est qu'un modèle d'apprentissage automatique reflète simplement le biais algorithmique existant dans le jeu de données et ne contribue pas lui-même aux préjudices. Pourquoi, malgré des preuves claires du contraire, le mythe du modèle impartial continue-t-il de séduire autant au sein de notre communauté de recherche ? Les algorithmes ne sont pas impartiaux, et certains choix de conception sont meilleurs que d'autres. Reconnaître comment la conception du modèle impacte les préjudices ouvre la voie à de nouvelles techniques d'atténuation moins contraignantes que la collecte exhaustive des données.