Métodos y Aplicaciones para el Ajuste Fino de Llama-2 y Modelos Basados en Llama: Un Análisis Sistemático de la Literatura

Esta Revisión Sistemática de Literatura (SLR) examina 20 artículos centrados en métodos y aplicaciones para el ajuste fino del modelo de lenguaje de código abierto Llama. Los hallazgos destacan la eficacia del ajuste basado en instrucciones, demostrando un alto rendimiento en diversos dominios, incluyendo medicina y psicología. La versión ajustada del modelo Llama-2-Chat, alineada con preferencias humanas, surge como la base preferida para esfuerzos posteriores de ajuste. A pesar de su potencial, persisten desafíos de escalabilidad debido a los exigentes requerimientos computacionales. Una brecha crítica en la literatura existente radica en la ausencia de una evaluación equilibrada de las compensaciones entre diferentes enfoques de ajuste fino. Además, las consideraciones éticas, particularmente en cuanto al sesgo y riesgos asociados, requieren mayor atención en el despliegue de modelos ajustados. En conclusión, aunque el ajuste por instrucciones tiene un importante potencial para especializar variantes de Llama, es imperativo superar limitaciones relacionadas con restricciones de recursos, seguridad y transparencia para un impacto responsable en el mundo real. Esta comprensión refinada enfatiza la necesidad de una evaluación integral de los métodos de ajuste fino y un enfoque consciente de las consideraciones éticas en el panorama evolutivo de los grandes modelos de lenguaje.