Sélection de démonstrations pour l'apprentissage en contexte via l'analyse d'influence

Les grands modèles de langage (LLMs) ont démontré leurs capacités d'apprentissage en contexte (ICL), ce qui offre une opportunité de réaliser un apprentissage par peu d'exemples sans mise à jour des gradients. Malgré ses nombreux avantages, la performance de généralisation de l'ICL est sensible aux démonstrations sélectionnées. La sélection de démonstrations efficaces pour l'ICL reste un défi de recherche ouvert. Pour relever ce défi, nous proposons une méthode de sélection de démonstrations appelée InfICL qui analyse les influences des échantillons d'entraînement via des fonctions d'influence. Identifier des échantillons d'entraînement hautement influents peut potentiellement aider à améliorer la performance de généralisation de l'ICL. Pour limiter le coût d'exécution d'InfICL, nous utilisons uniquement le LLM pour générer les embeddings des échantillons, sans effectuer de fine tuning coûteux. Nous réalisons une étude empirique sur plusieurs ensembles de données réels et démontrons les mérites de notre InfICL face aux références de pointe.