Sistemas de IA con Intervención Humana

A medida que los sistemas de inteligencia artificial se vuelven cada vez más capaces y se implementan en dominios de alto riesgo, la cuestión de cómo deben compartir la autoridad de toma de decisiones los humanos y la IA ha evolucionado de una preocupación teórica a un desafío crítico de ingeniería y política. Las arquitecturas de sistemas de IA con intervención humana (HITL) en las que el juicio humano se integra explícitamente en los procesos de decisión impulsados por IA representan un enfoque central para garantizar un despliegue seguro y efectivo en aplicaciones críticas para la seguridad. Este artículo ofrece una revisión exhaustiva del diseño de sistemas HITL en tres dominios principales: soporte de decisiones clínicas, operación de vehículos autónomos y toma de decisiones administrativas de alto riesgo. Examina cómo diferentes configuraciones HITL, incluidas humano en el bucle, humano sobre el bucle y humano al mando, influyen en el rendimiento del sistema en términos de precisión, capacidad de respuesta, interpretabilidad y confianza. El documento analiza además desafíos clave como el sesgo de automatización, la fatiga por alertas y la dificultad para mantener una supervisión humana significativa en sistemas donde las recomendaciones de IA son frecuentes y altamente autoritativas. Finalmente, se exploran direcciones emergentes de investigación, incluidas la automatización adaptativa, una mejor comunicación de la incertidumbre y el razonamiento colaborativo humano-IA, para comprender cómo podrían evolucionar los paradigmas HITL a medida que los sistemas de IA continúan avanzando.