व्याख्यायोग्य मशीन लर्निंग का एक कठोर विज्ञान की ओर

जैसे-जैसे मशीन लर्निंग सिस्टम सर्वव्यापी होते जा रहे हैं, व्याख्यायोग्य मशीन लर्निंग में रुचि में वृद्धि हुई है: ऐसे सिस्टम जो अपने आउटपुट्स के लिए व्याख्या प्रदान करते हैं। ये व्याख्याएँ अक्सर सुरक्षा या गैर-भेदभाव जैसे अन्य मापदंडों का गुणात्मक मूल्यांकन करने के लिए उपयोग की जाती हैं। हालांकि, व्याख्यायोग्यता में रुचि के बावजूद, इस बात पर बहुत कम सहमति है कि व्याख्यायोग्य मशीन लर्निंग क्या है और इसे कैसे मापा जाना चाहिए। इस स्थिति पत्र में, हम पहले व्याख्यायोग्यता को परिभाषित करते हैं और बताते हैं कि कब व्याख्यायोग्यता आवश्यक होती है (और कब नहीं)। इसके बाद, हम कठोर मूल्यांकन के लिए एक वर्गीकरण सुझाते हैं और व्याख्यायोग्य मशीन लर्निंग के एक अधिक कठोर विज्ञान की ओर खुले प्रश्नों को उजागर करते हैं।