Encuesta sobre alucinaciones en la generación de lenguaje natural

La generación de lenguaje natural (NLG) ha mejorado exponencialmente en los últimos años gracias al desarrollo de tecnologías de aprendizaje profundo secuencia a secuencia, como los modelos de lenguaje basados en Transformer. Este avance ha conducido a una NLG más fluida y coherente, lo que ha permitido un mejor desarrollo en tareas posteriores como la resumen abstractive, la generación de diálogos y la generación de texto a partir de datos. Sin embargo, también es evidente que la generación basada en aprendizaje profundo tiende a alucinar textos no intencionados, lo que degrada el rendimiento del sistema y no cumple con las expectativas del usuario en muchos escenarios del mundo real. Para abordar este problema, se han presentado muchos estudios para medir y mitigar los textos alucinados, pero nunca se han revisado de manera integral antes. En esta encuesta, por lo tanto, proporcionamos una visión amplia del progreso de la investigación y los desafíos en el problema de las alucinaciones en la NLG. La encuesta está organizada en dos partes: (1) una visión general de métricas, métodos de mitigación y direcciones futuras, y (2) una visión general del progreso de la investigación específica por tareas sobre alucinaciones en las siguientes tareas posteriores: resumen abstractive, generación de diálogos, respuesta generativa a preguntas, generación de texto a partir de datos y traducción automática. Esta encuesta sirve para facilitar los esfuerzos colaborativos entre investigadores en abordar el desafío de los textos alucinados en la NLG.