Apprentissage continu avec des modèles pré-entraînés : un état de l'art

De nos jours, les applications du monde réel sont souvent confrontées à des flux de données, ce qui requiert que le système d'apprentissage intègre de nouvelles connaissances à mesure que les données évoluent. L'apprentissage continu (CL) vise à atteindre cet objectif tout en surmontant l'oubli catastrophique des connaissances précédentes lors de l'acquisition de nouvelles. Les méthodes typiques de CL construisent le modèle à partir de zéro pour s'adapter aux données entrantes. Cependant, l'avènement de l'ère des modèles pré-entraînés (PTM) a suscité un grand intérêt dans la recherche, notamment pour exploiter les capacités de représentation robustes des PTM. Cet article présente une revue complète des avancées récentes dans le CL basé sur les PTM. Nous classons les méthodologies existantes en trois groupes distincts, fournissant une analyse comparative de leurs similitudes, différences, avantages et inconvénients respectifs. De plus, nous proposons une étude empirique comparant diverses méthodes à la pointe afin de souligner les enjeux liés à l'équité des comparaisons. Le code source pour reproduire ces évaluations est disponible à : https://github.com/sun-hailong/LAMDA-PILOT