LlamaFactory: Vereinheitlichte effiziente Feinabstimmung von über 100 Sprachmodellen

Effiziente Feinabstimmung ist entscheidend für die Anpassung großer Sprachmodelle (LLMs) an nachgelagerte Aufgaben. Allerdings erfordert die Implementierung dieser Methoden bei verschiedenen Modellen nicht unerhebliche Anstrengungen. Wir präsentieren LlamaFactory, ein einheitliches Framework, das eine Reihe hochmoderner effizienter Trainingsmethoden integriert. Es ermöglicht Nutzern, die Feinabstimmung von über 100 LLMs flexibel und ohne Programmieraufwand über die integrierte Web-Benutzeroberfläche LlamaBoard zu personalisieren. Wir validieren empirisch die Effizienz und Effektivität unseres Frameworks bei Aufgaben der Sprachmodellierung und Textgenerierung. Es wurde unter https://github.com/hiyouga/LLaMA-Factory veröffentlicht und hat bereits über 13.000 Sterne und 1.600 Forks erhalten.