Systèmes d'IA avec intervention humaine

À mesure que les systèmes d'intelligence artificielle deviennent de plus en plus performants et sont déployés dans des domaines à enjeux élevés, la question de la répartition de l'autorité décisionnelle entre les humains et l'IA est passée d'une préoccupation théorique à un enjeu crucial d'ingénierie et de politique. Les architectures de systèmes d'IA avec intervention humaine (Human-in-the-loop, HITL), dans lesquelles le jugement humain est explicitement intégré aux processus décisionnels pilotés par l'IA, constituent une approche centrale pour garantir un déploiement sûr et efficace dans les applications critiques pour la sécurité. Cet article présente une revue exhaustive de la conception des systèmes HITL dans trois domaines majeurs : le soutien à la décision clinique, l'exploitation des véhicules autonomes et la prise de décision administrative à enjeux élevés. Il examine comment différentes configurations HITL, y compris human-in-the-loop, human-on-the-loop et human-in-command, influencent la performance du système en termes de précision, de réactivité, d'interprétabilité et de confiance. L'article analyse également les défis clés tels que le biais d'automatisation, la fatigue liée aux alertes et la difficulté de maintenir une supervision humaine significative dans des systèmes où les recommandations de l'IA sont fréquentes et hautement autoritaires. Enfin, les directions émergentes de la recherche, notamment l'automatisation adaptative, l'amélioration de la communication des incertitudes et le raisonnement collaboratif humain-IA, sont explorées pour comprendre comment les paradigmes HITL peuvent évoluer à mesure que les systèmes d'IA progressent.