FiD-Light: Generación de texto aumentada con recuperación eficiente y eficaz

Los modelos de generación aumentada con recuperación ofrecen muchos beneficios sobre los modelos de lenguaje independientes: además de una respuesta textual a una consulta dada, proporcionan elementos de procedencia recuperados de una base de conocimiento actualizable. Sin embargo, también son sistemas más complejos y deben manejar entradas largas. En este trabajo, presentamos FiD-Light para aumentar significativamente la eficiencia del modelo FiD de última generación aumentado con recuperación, manteniendo el mismo nivel de efectividad. Nuestro modelo FiD-Light limita el flujo de información desde el codificador (que codifica pasajes por separado) hacia el decodificador (usando representaciones codificadas concatenadas). Además, adaptamos FiD-Light con capacidades de reordenamiento mediante punteros textuales a la fuente, para mejorar la precisión en la procedencia mejor clasificada. Nuestros experimentos en un conjunto diverso de siete tareas intensivas en conocimiento (KILT) muestran que FiD-Light mejora consistentemente la frontera de Pareto entre la latencia de consulta y la efectividad. FiD-Light con punteros a la fuente establece nuevos resultados de última generación en seis tareas KILT para la evaluación combinada de generación de texto y recuperación de procedencia, manteniendo alta eficiencia.