Révéler les préférences en matière de risque à travers l'effort de sollicitation de l'IA

Cet article analyse le « prompt engineering » à travers la lentille économique de l'auto-assurance contre le risque d'erreurs des systèmes d'IA bruyants. Pour formaliser cette approche, nous modélisons un agent sous charge cognitive, allouant son effort entre le travail non assisté et la sollicitation d'un assistant IA. Le modèle théorique démontre que l'effort optimal de sollicitation d'un agent est dicté par son attitude face au risque. Plus précisément, le modèle prouve que les agents averses au risque « surinvestissent » rationnellement dans l'effort de sollicitation, tandis que les agents recherchant le risque « sous-investissent » par rapport au référentiel neutre au risque. Ce résultat découle de la covariance entre l'utilité marginale de la performance et le produit marginal de la sollicitation. Cet alignement est positif pour les agents averses au risque, augmentant efficacement la productivité perçue de l'IA. L'implication novatrice est que l'effort de sollicitation est un comportement économiquement significatif qui peut informer sur l'attitude sous-jacente d'un individu envers le risque négatif lié à l'IA. Ces résultats offrent une nouvelle perspective pour comprendre l'hétérogénéité dans l'adoption et la supervision de l'IA. Ils suggèrent également que, dans des conditions de tâche comparables et en contrôlant la capacité de sollicitation, l'effort observé peut renseigner sur les attitudes face au risque négatif lié à l'IA. Le cadre fournit donc une perspective de gestion des risques pour comprendre l'hétérogénéité dans la gouvernance de l'IA dans des contextes à enjeux élevés tels que la santé et la finance.