Teoria da Mente e Alinhamento de LLM: Oportunidades e Riscos

Grandes modelos de linguagem (LLMs) estão transformando a interação humano-computador e as concepções de inteligência artificial (IA) com suas impressionantes capacidades de conversar e raciocinar em linguagem natural. Há um interesse crescente em saber se os LLMs possuem teoria da mente (ToM); a capacidade de raciocinar sobre os estados mentais e emocionais dos outros, que é central para a inteligência social humana. À medida que os LLMs são integrados na vida pessoal, profissional e social e recebem maior autonomia para tomar decisões com consequências no mundo real, há uma necessidade crítica de entender como eles podem ser alinhados com os valores humanos. A ToM parece ser uma direção promissora de investigação nesse sentido. Seguindo a literatura sobre o papel e os impactos da ToM humana, este artigo identifica áreas-chave nas quais a ToM do LLM aparecerá nas interações humano:LLM em níveis individual e grupal, e quais oportunidades e riscos para o alinhamento surgem em cada uma. No nível individual, o artigo considera como a ToM do LLM pode se manifestar na especificação de objetivos, adaptação conversacional, empatia e antropomorfismo. No nível grupal, considera como a ToM do LLM pode facilitar o alinhamento coletivo, cooperação ou competição, e tomadas de julgamento moral. O artigo apresenta um amplo espectro de potenciais implicações e sugere as áreas mais urgentes para pesquisa futura.