La inteligencia artificial (IA) está cada vez más integrada en el soporte de decisiones clínicas, flujos de trabajo de diagnóstico y gestión de la salud poblacional, ofreciendo el potencial para mejorar la entrega de atención y expandir el acceso a gran escala. Sin embargo, cuando se desarrolla sin una atención explícita a la equidad en salud, los sistemas de IA corren el riesgo de reproducir o amplificar disparidades impulsadas por determinantes sociales de la salud (DSS), inequidades estructurales y acceso desigual a la atención. La evidencia empírica demuestra que los algoritmos clínicos ampliamente desplegados pueden desventajar sistemáticamente a las poblaciones históricamente marginadas cuando se utilizan proxies sesgados, etiquetas inequitativas o datos incompletos para estimar la necesidad o riesgo de salud. Este documento examina cómo surgen las inequidades a lo largo del ciclo de vida de la IA médica, incluyendo la formulación del problema, recolección y etiquetado de datos, desarrollo de modelo, evaluación, implementación y uso post-implementación. Sintetizamos evidencia de la literatura clínica, ética y de aprendizaje automático para mostrar que las disparidades a menudo surgen no de la intención algorítmica, sino de objetivos desalineados, procesos de generación de datos inequitativos y dependencia de métricas de rendimiento agregadas que ocultan el daño a subgrupos. Argüimos que la evaluación convencional basada en la precisión es insuficiente para evaluar la seguridad y equidad de la IA en entornos clínicos del mundo real. Para abordar estos desafíos, proponemos un marco centrado en la equidad para la IA médica que integra los DSS en el diseño y gobernanza del sistema, manteniendo al mismo tiempo la validez clínica. El marco enfatiza el enmarcado del problema con conciencia de equidad, la incorporación responsable de variables de DSS, evaluación desagregada y consciente de la incertidumbre, documentación transparente del uso y limitaciones previstas, y monitoreo continuo de los resultados específicos de subgrupos después de la implementación. Al posicionar la equidad como un objetivo central de diseño y evaluación en lugar de una consideración posterior, este trabajo proporciona orientación práctica para desarrollar sistemas de IA que reduzcan, en lugar de reforzar, las disparidades sistémicas en la atención médica.
Hugo Raposo (miércoles) estudió esta cuestión.