Du dialogue au triage : le pluralisme est nécessaire mais pas suffisant pour l'alignement de l'IA

À mesure que les systèmes d'IA deviennent à la fois plus puissants et plus répandus, garantir que leurs actions sont alignées avec les valeurs humaines est primordial. Le défi de l'alignement de l'IA est donc interdisciplinaire, impliquant non seulement un défi technique pour l'informatique mais aussi des liens importants avec la psychologie des valeurs morales, de la prise de décision et de la confiance. Les travaux initiaux ont identifié un ensemble statique de valeurs universelles, sans considérer les questions clés concernant à qui et à quelles valeurs l'IA devrait être alignée. Cet article de perspective remet en question la notion d'alignement universel et plaide plutôt pour une alignabilité dynamique et spécifique au contexte à travers différents domaines, tâches et utilisateurs. Plus précisément, nous mettons l'accent sur la nécessité d'aller au-delà du pluralisme traditionnel et de repenser comment l'alignement de l'IA peut être réalisé par un processus de recherche qualitatif et quantitatif impliquant l'identification des valeurs propres au contexte, le développement d'algorithmes d'IA alignables en utilisant un retour limité des humains, et l'évaluation de l'alignement en appréciant à la fois les valeurs et les actions de l'IA, tout en considérant la manière dont les humains font confiance et délèguent à l'IA. Nous discutons plusieurs voies pour notre cadre proposé, incluant les implications éthiques et sociétales potentielles de l'alignabilité spécifique au contexte, et nous nous appuyons sur des exemples allant des chatbots à la prise de décision alignée sur les valeurs dans le domaine du triage médical.