कृत्रिम बुद्धिमत्ता प्रणालियों में पारदर्शिता और विश्वास

मशीन सीखने (AI) आधारित सहायक तकनीक जो मानव निर्णय लेने में सहायता करती है, सर्वत्र व्यापक हो गई है। सहायक AI की सटीकता मानव विशेषज्ञों के समान या उससे भी अधिक हो सकती है। हालांकि, अक्सर सहायक AI प्रणालियों को अपनाने में मानवों का AI की भविष्यवाणी पर विश्वास न होना बाधा उत्पन्न करता है। इसलिए AI अनुसंधान समुदाय AI के निर्णयों को अधिक पारदर्शी बनाने पर केंद्रित है ताकि AI के निर्णयों की व्याख्या प्रदान की जा सके। यह प्रश्न अभी भी खुला है कि ये व्याख्याएं वास्तव में AI प्रणाली में विश्वास को बढ़ाने में कितनी मददगार हैं। इस लेख में, हम एक व्यवहारिक प्रयोग के परिणाम प्रस्तुत करते हैं जिसमें प्रतिभागी टेक्स्ट वर्गीकरण के लिए मशीन लर्निंग आधारित निर्णय समर्थन उपकरण का उपयोग कर सके। हमने प्रतिभागियों को प्राप्त जानकारी में प्रयोगात्मक रूप से परिवर्तन किया और दिखाया कि पारदर्शिता का वास्तव में विश्वास पर नकारात्मक प्रभाव पड़ सकता है। हम सहायक AI तकनीक उपयोग करने वाले निर्णयकर्ताओं के लिए इसके परिणामों पर चर्चा करते हैं।