Una exploración cualitativa de las percepciones sobre la equidad algorítmica

Los sistemas algorítmicos configuran cada vez más la información a la que las personas están expuestas e influyen en decisiones sobre empleo, finanzas y otras oportunidades. En algunos casos, los sistemas algorítmicos pueden ser más o menos favorables para ciertos grupos o individuos, generando un debate considerable sobre la equidad algorítmica en círculos de políticas públicas, la academia y la prensa. Ampliamos esta discusión explorando cómo se sienten los miembros de comunidades potencialmente afectadas acerca de la equidad algorítmica. Realizamos talleres y entrevistas con 44 participantes de varias poblaciones tradicionalmente marginadas por categorías de raza o clase en los Estados Unidos. Aunque el concepto de equidad algorítmica era en gran medida desconocido, el aprendizaje sobre la (in)equidad algorítmica provocó sentimientos negativos que se conectan con las discusiones nacionales actuales sobre injusticia racial y desigualdad económica. Además de sus preocupaciones sobre los posibles daños para ellos mismos y la sociedad, los participantes indicaron que la equidad algorítmica (o su ausencia) podría afectar sustancialmente su confianza en una empresa o producto.