Une vue d'ensemble de la sécurité et de la confidentialité des grands modèles de langage (LLM) : le bon, le mauvais et le laid

Les grands modèles de langage (LLM), tels que ChatGPT et Bard, ont révolutionné la compréhension et la génération du langage naturel. Ils possèdent une compréhension linguistique approfondie, des capacités de génération de texte similaires à celles des humains, une conscience contextuelle et de solides compétences en résolution de problèmes, ce qui les rend inestimables dans divers domaines (par exemple, les moteurs de recherche, le support client, la traduction). Dans le même temps, les LLM ont également gagné du terrain au sein de la communauté de la sécurité, révélant des vulnérabilités de sécurité et démontrant leur potentiel dans les tâches liées à la sécurité. Cet article explore l'intersection des LLM avec la sécurité et la confidentialité. Plus précisément, nous examinons la manière dont les LLM ont un impact positif sur la sécurité et la confidentialité, les risques et menaces potentiels associés à leur utilisation, ainsi que les vulnérabilités inhérentes aux LLM. Grâce à une revue exhaustive de la littérature, cet article catégorise les publications en « The Good » (applications bénéfiques des LLM), « The Bad » (applications offensives) et « The Ugly » (vulnérabilités des LLM et leurs défenses). Nous présentons plusieurs résultats intéressants. Par exemple, il a été prouvé que les LLM améliorent la sécurité du code (détection des vulnérabilités du code) et la confidentialité des données (protection de la confidentialité des données), surpassant les méthodes traditionnelles. Cependant, ils peuvent également être exploités pour diverses attaques (notamment les attaques au niveau des utilisateurs) en raison de leurs capacités de raisonnement similaires à celles des humains. Nous avons identifié des domaines nécessitant des efforts de recherche supplémentaires. Par exemple, la recherche sur les attaques par extraction de modèles et de paramètres est limitée et souvent théorique, entravée par l'échelle des paramètres et la confidentialité des LLM. Le Safe instruction tuning, une avancée récente, nécessite une exploration plus approfondie. Nous espérons que notre travail permettra d'éclairer le potentiel des LLM à la fois pour renforcer et pour compromettre la cybersécurité.