सुरक्षित, सुरक्षित और उपयोगी LLMs4Code की ओर

बड़े भाषा मॉडल (LLMs) प्राकृतिक भाषा प्रसंस्करण (NLP) के क्षेत्र में अपनी असाधारण सटीकता के कारण लोकप्रियता प्राप्त कर रहे हैं। कोडिंग के लिए डिज़ाइन किए गए LLMs विशाल डेटासेट पर प्रशिक्षित होते हैं, जो उन्हें प्रोग्रामिंग भाषाओं की संरचना और वाक्य रचना सीखने में सक्षम बनाता है। ये डेटासेट वेब से स्क्रैप किए जाते हैं और LLMs इन डेटासेट में जानकारी को याद कर लेते हैं। कोड के लिए LLMs भी बढ़ रहे हैं, जिससे उन्हें निष्पादित करना अधिक चुनौतीपूर्ण हो जाता है और उपयोगकर्ता बाहरी इन्फ्रास्ट्रक्चर पर अधिक निर्भर हो जाते हैं। हमारा उद्देश्य कोड के लिए LLMs के सामने आने वाली चुनौतियों का पता लगाना और याददाश्त को मापने तथा रोकने की तकनीकें प्रस्तावित करना है। इसके अतिरिक्त, हम मॉडल्स को संपीड़ित करने और उन्हें उपभोक्ता हार्डवेयर पर स्थानीय रूप से चलाने के तरीके सुझाते हैं।