模拟灵魂：探究大型语言模型中的情感谬误

生成式人工智能的兴起开启了一个新时代，机器能够生成具有高度情感连贯性的文本，模糊了模拟与知觉之间的界限。本文探讨了情感谬误——一种认知偏误，即用户甚至开发者将大型语言模型（LLMs）拟人化，错误地将真实情感归因于仅由统计推断和模式识别驱动的系统。尽管像 ChatGPT、Claude、Gemini 和 Meta AI 等 LLM 被设计用来生成情感丰富的内容，但其回答常被误认为是自我意识、情感推理或内部状态的体现。这种拟人幻觉对用户信任、情感劳动及AI部署的伦理环境有重大影响。通过一项创新的实证研究，我们评估了多个 LLM 对精心挑选的情感激发和伦理敏感提示的回复。输出从语言风格、情感模仿和伦理立场三个维度进行定性分析。研究结果揭示了一个悖论：尽管 LLM 在语言上能够精确地模拟情感，它们缺乏任何真实的体验基础——凸显了其固有的情感不真实性。为应对这些问题，我们提出一个包括情感透明度、信息披露协议和监管的伦理框架，以防止面向公众的 AI 系统中的情感操控。我们认为，情感谬误的无节制传播可能扭曲公众对 AI 的认知，影响心理健康，并重塑关于机器意识与同理心的规范。本文通过整合哲学探讨、实证分析和伦理设计，呼吁从情感真实主义转向情感责任制的范式转变，指导生成式 AI 的设计与部署。我们的工作为人机情感交互研究提供了谨慎视角和研究前沿，尤其当此类系统渗透教育、医疗和心理支持领域时。