मार्कोव चेन-आधारित मल्टी-एजेंट बहस फ्रेमवर्क के माध्यम से LLMs के हल्यूसिनेशन का पता लगाने की ओर

बड़े भाषा मॉडल (LLMs) के आगमन ने प्राकृतिक भाषा पाठ जेनरेशन के विकास को सुगम बनाया है। यह अभूतपूर्व चुनौतियाँ भी प्रस्तुत करता है, जिसमें सामग्री हल्यूसिनेशन एक महत्वपूर्ण चिंता के रूप में उभर रही है। मौजूदा समाधान अक्सर प्रशिक्षण प्रक्रिया के दौरान महंगे और जटिल हस्तक्षेप शामिल करते हैं। इसके अलावा, कुछ दृष्टिकोण समस्या के विघटन पर जोर देते हैं जबकि आवश्यक सत्यापन प्रक्रिया को नजरअंदाज करते हैं, जिसके परिणामस्वरूप प्रदर्शन में गिरावट या सीमित अनुप्रयोग होते हैं। इन सीमाओं को पार करने के लिए, हम संक्षिप्त दावों में हल्यूसिनेशन पता लगाने की सटीकता बढ़ाने हेतु एक मार्कोव चेन-आधारित मल्टी-एजेंट बहस सत्यापन फ्रेमवर्क प्रस्तावित करते हैं। हमारी विधि तथ्य-जांच प्रक्रिया को जोड़ती है, जिसमें दावा पहचान, साक्ष्य पुनर्प्राप्ति और मल्टी-एजेंट सत्यापन शामिल हैं। सत्यापन चरण में, हम लचीले मार्कोव चेन-आधारित बहस के माध्यम से कई एजेंटों को तैनात करते हैं ताकि व्यक्तिगत दावों को मान्य किया जा सके, जिससे सावधान सत्यापन परिणाम सुनिश्चित होते हैं। तीन जेनरेटिव कार्यों पर प्रयोगात्मक परिणाम दिखाते हैं कि हमारा दृष्टिकोण बेसलाइन से महत्वपूर्ण सुधार प्राप्त करता है।