Ameaças Únicas de Segurança e Privacidade dos Grandes Modelos de Linguagem: Uma Pesquisa Abrangente

Com o rápido desenvolvimento da inteligência artificial, os grandes modelos de linguagem (LLMs) fizeram avanços notáveis no processamento de linguagem natural. Esses modelos são treinados em vastos conjuntos de dados para demonstrar poderosas capacidades de compreensão e geração de linguagem em várias aplicações, incluindo chatbots e agentes. No entanto, os LLMs revelaram uma variedade de problemas de privacidade e segurança ao longo de seu ciclo de vida, atraindo significativa atenção acadêmica e industrial. Além disso, os riscos enfrentados pelos LLMs diferem significativamente daqueles encontrados pelos modelos de linguagem tradicionais. Dado que as pesquisas atuais carecem de uma taxonomia clara de modelos de ameaça únicos em diversos cenários, enfatizamos as ameaças únicas à privacidade e segurança associadas a quatro cenários específicos: pré-treinamento, ajuste fino, implantação e agentes baseados em LLM. Abordando as características de cada risco, esta pesquisa descreve e analisa possíveis contramedidas. Pesquisas sobre situações de ataque e defesa podem oferecer direções factíveis, permitindo que mais áreas se beneficiem dos LLMs.