NoRA: Adaptación de Baja Rango Anidada para la Afinación Eficiente de Grandes Modelos

En este artículo, presentamos Nested Low-Rank Adaptation (NoRA), un enfoque novedoso para la afinación eficiente en parámetros que extiende las capacidades de las técnicas de Adaptación de Bajo Rango (LoRA). La LoRA estándar pasa por alto la herencia de pesos preentrenados y aún requiere afinar numerosos parámetros. Para abordar estos problemas, nuestro NoRA adopta una estructura anidada de dos capas con Descomposición en Valores Singulares (SVD), aprovechando efectivamente el conocimiento de la matriz original mientras reduce los parámetros ajustables. Específicamente, NoRA congela los pesos externos de LoRA y utiliza un diseño interno de LoRA, proporcionando un control mejorado sobre la optimización del modelo. Este enfoque permite que el modelo se adapte con mayor precisión a tareas específicas mientras mantiene un espacio de parámetros compacto. Al congelar los pesos externos de LoRA y utilizar un diseño interno de LoRA, NoRA permite una adaptación precisa de la tarea con un espacio de parámetros compacto. Las evaluaciones en tareas que incluyen razonamiento de sentido común con grandes modelos de lenguaje, afinación de modelos visón-lenguaje y generación guiada por sujetos demuestran la superioridad de NoRA sobre LoRA y sus variantes. El código será publicado tras la aceptación.