Intelligence Artificielle Réfléchissante

Résumé À mesure que la technologie d'intelligence artificielle (IA) progresse, nous déléguons de plus en plus de tâches mentales aux machines. Cependant, les systèmes d'IA actuels réalisent généralement ces tâches avec un déséquilibre inhabituel entre perspicacité et compréhension : de nouvelles connaissances plus profondes sont présentes, mais de nombreuses qualités importantes qu'un esprit humain aurait auparavant apportées à l'activité sont totalement absentes. Il est donc crucial de se demander quelles caractéristiques de l'esprit nous avons reproduites, lesquelles manquent, et si cela a de l'importance. Une caractéristique fondamentale que les humains apportent aux tâches, lorsqu'ils traitent l'ambiguïté, la connaissance émergente et le contexte social présentés par le monde, est la réflexion. Pourtant, cette capacité est complètement absente des IA grand public actuelles. Dans cet article, nous interrogeons à quoi pourrait ressembler une IA réfléchissante. Ensuite, en nous appuyant sur les notions de réflexion dans les systèmes complexes, les sciences cognitives et les agents, nous esquissons une architecture pour des agents IA réfléchissants et mettons en lumière des pistes d'avenir.