Tomando Decisões: Suporte à Decisão por IA e a Lacuna de Atribuibilidade

A inteligência artificial (IA) há muito é reconhecida como um desafio para a responsabilidade. Grande parte desse discurso tem sido focado em robôs, como armas autônomas ou carros autônomos, nos quais, argumenta-se, falta controle sobre o comportamento da máquina e, portanto, há dificuldade em identificar um agente que possa ser responsabilizado. Porém, a maior parte da IA atual é baseada em tecnologia de aprendizado de máquina que não atua por conta própria, mas sim serve como uma ferramenta de suporte à decisão, analisando automaticamente dados para ajudar agentes humanos a tomarem decisões melhores. Defendo que as ferramentas de suporte à decisão representam um desafio à responsabilidade que vai além do problema familiar de encontrar alguém a quem culpar ou punir pelo comportamento de sistemas que agem. Especificamente, elas apresentam um problema para o que poderíamos chamar de "propriedade da decisão": dificultam identificar agentes humanos aos quais podemos atribuir julgamentos de valor refletidos nas decisões. Com base em literatura filosófica recente sobre responsabilidade e suas várias facetas, argumento que este é primariamente um problema de atribuibilidade ao invés de responsabilização. Esse problema particular de responsabilidade ocorre em diferentes formas e graus, mais evidentemente quando uma IA fornece recomendações diretas para ações, mas também, de forma menos óbvia, quando fornece meras informações descritivas com base nas quais uma decisão é tomada.