Estado atual dos riscos de LLM e das salvaguardas de IA

Modelos de linguagem grandes (LLMs) tornaram-se cada vez mais sofisticados, levando à sua implantação generalizada em aplicações sensíveis onde segurança e confiabilidade são primordiais. No entanto, LLMs apresentam riscos inerentes, incluindo viés, potencial para ações inseguras, envenenamento de conjuntos de dados, falta de explicabilidade, alucinações e não reprodutibilidade. Esses riscos exigem o desenvolvimento de "salvaguardas" para alinhar os LLMs com comportamentos desejados e mitigar danos potenciais. Este trabalho explora os riscos associados à implantação de LLMs e avalia abordagens atuais para implementação de salvaguardas e técnicas de alinhamento de modelos. Examinamos métodos de avaliação de viés intrínseco e extrínseco e discutimos a importância de métricas de justiça para o desenvolvimento responsável de IA. A segurança e confiabilidade dos LLMs agentivos (aqueles capazes de ações no mundo real) são exploradas, enfatizando a necessidade de testabilidade, mecanismos de segurança e consciência situacional. São apresentadas estratégias técnicas para proteger os LLMs, incluindo um modelo de proteção em camadas operando em níveis externo, secundário e interno. Destacam-se prompts do sistema, arquiteturas de Geração Auxiliada por Recuperação (RAG) e técnicas para minimizar viés e proteger a privacidade. O design eficaz de salvaguardas requer uma compreensão profunda do caso de uso pretendido do LLM, regulamentações relevantes e considerações éticas. Encontrar equilíbrio entre requisitos concorrentes, como precisão e privacidade, permanece um desafio contínuo. Este trabalho reforça a importância da pesquisa e desenvolvimento contínuos para assegurar o uso seguro e responsável dos LLMs em aplicações do mundo real.