Os Humanos no Ciclo se Tornarão Borgs? Méritos e Desvantagens de Trabalhar com IA

Analisamos como o aconselhamento de uma IA afeta as complementaridades entre humanos e IA, especialmente o que os humanos sabem que uma IA não sabe: "conhecimento humano único". Em um estudo multi-métodos composto por um modelo analítico, estudos experimentais e um estudo de simulação, nossa principal descoberta é que as escolhas humanas convergem para respostas semelhantes, melhorando a precisão individual. No entanto, à medida que a precisão individual geral do grupo de humanos melhora, o conhecimento humano único individual diminui. Com base nessa constatação, afirmamos que humanos interagindo com IA se comportam como "Borgs", ou seja, criaturas ciborgues com forte desempenho individual, mas sem individualidade humana. Argumentamos que a perda do conhecimento humano único pode levar a vários desfechos indesejáveis em diversos ambientes de decisão humano–IA. Demonstramos esse impacto prejudicial na "sabedoria das multidões". Resultados de simulação baseados em nossos dados experimentais sugerem que grupos de humanos interagindo com IA são muito menos eficazes em comparação a grupos humanos sem assistência de IA. Sugerimos técnicas de mitigação para criar ambientes que proporcionem o melhor dos dois mundos (por exemplo, personalizando o aconselhamento da IA). Mostramos que tais intervenções apresentam bom desempenho individualmente, bem como em configurações de sabedoria das multidões.