कृत्रिम बुद्धिमत्ता पूर्वाग्रह: मशीन्स आम्ही अपेक्षेप्रमाणे वस्तुनिष्ठ नाहीत

• लेखक बद्दल:
• लेखक नाव

  Quantumrun दूरदृष्टी
• १२ फेब्रुवारी २०२२

अंतर्दृष्टी सारांश

डेटा-चालित तंत्रज्ञान एक न्याय्य समाजाला चालना देण्याचे वचन धारण करत असताना, ते बहुधा तेच पूर्वाग्रह प्रतिबिंबित करतात जे मानवांना आश्रय देतात, ज्यामुळे संभाव्य अन्याय होतो. उदाहरणार्थ, आर्टिफिशियल इंटेलिजन्स (AI) सिस्टीममधील पूर्वाग्रह अनवधानाने हानिकारक स्टिरियोटाइप खराब करू शकतात. तथापि, AI प्रणाली अधिक न्याय्य बनवण्याचे प्रयत्न सुरू आहेत, जरी यामुळे उपयुक्तता आणि निष्पक्षता यांच्यातील संतुलन आणि टेक टीम्समधील वैचारिक नियमन आणि विविधतेबद्दल जटिल प्रश्न निर्माण होतात.

AI पूर्वाग्रह सामान्य संदर्भ

आशा आहे की डेटाद्वारे चालविल्या जाणार्‍या तंत्रज्ञानामुळे मानवतेला असा समाज स्थापन करण्यात मदत होईल जिथे सर्वांसाठी निष्पक्षता आदर्श असेल. मात्र, सध्याचे वास्तव वेगळे चित्र रंगवत आहे. मानवाकडे असलेले अनेक पक्षपाती, ज्यामुळे भूतकाळात अन्याय झाला होता, ते आता आपल्या डिजिटल जगाला नियंत्रित करणाऱ्या अल्गोरिदममध्ये प्रतिबिंबित केले जात आहेत. AI सिस्टीममधील हे पूर्वाग्रह अनेकदा या प्रणाली विकसित करणार्‍या व्यक्तींच्या पूर्वग्रहांमुळे उद्भवतात आणि हे पूर्वाग्रह त्यांच्या कामात वारंवार घुसतात.

उदाहरणार्थ, 2012 मध्ये इमेजनेट नावाने ओळखला जाणारा एक प्रकल्प घ्या, ज्याने मशीन लर्निंग सिस्टमच्या प्रशिक्षणासाठी प्रतिमांचे लेबलिंग क्राउडसोर्स करण्याचा प्रयत्न केला. या डेटावर प्रशिक्षित एक मोठे न्यूरल नेटवर्क नंतर प्रभावी अचूकतेसह वस्तू ओळखण्यास सक्षम होते. तथापि, जवळून तपासणी केल्यावर, संशोधकांना इमेजनेट डेटामध्ये लपलेले पूर्वाग्रह आढळले. एका विशिष्ट प्रकरणात, या डेटावर प्रशिक्षित अल्गोरिदम सर्व सॉफ्टवेअर प्रोग्रामर पांढरे पुरुष आहेत या गृहितकाकडे पक्षपाती होते.

या पक्षपातीपणाचा परिणाम असा होऊ शकतो की जेव्हा नियुक्ती प्रक्रिया स्वयंचलित असते तेव्हा अशा भूमिकांकडे महिलांकडे दुर्लक्ष केले जाते. पूर्वाग्रहांनी डेटा सेटमध्ये त्यांचा मार्ग शोधला कारण "स्त्री" च्या प्रतिमांना लेबल जोडणार्‍या व्यक्तीमध्ये अतिरिक्त लेबल समाविष्ट होते ज्यात अपमानास्पद संज्ञा होती. हे उदाहरण हे स्पष्ट करते की पूर्वाग्रह, हेतुपुरस्सर किंवा अनावधानाने, अगदी अत्याधुनिक एआय प्रणालींमध्ये देखील कसे घुसखोरी करू शकतात, संभाव्यतः हानिकारक रूढी आणि असमानता कायम ठेवतात.

व्यत्यय आणणारा प्रभाव 

डेटा आणि अल्गोरिदममधील पक्षपात दूर करण्याचे प्रयत्न विविध सार्वजनिक आणि खाजगी संस्थांमधील संशोधकांनी सुरू केले आहेत. इमेजनेट प्रकल्पाच्या बाबतीत, उदाहरणार्थ, विशिष्ट प्रतिमांवर अपमानास्पद प्रकाश टाकणार्‍या लेबलिंग अटी ओळखण्यासाठी आणि काढून टाकण्यासाठी क्राउडसोर्सिंगचा वापर केला गेला. या उपायांनी हे दाखवून दिले की AI प्रणाली अधिक न्याय्य होण्यासाठी पुन्हा कॉन्फिगर करणे खरोखर शक्य आहे.

तथापि, काही तज्ञांचा असा युक्तिवाद आहे की पूर्वाग्रह काढून टाकल्याने संभाव्यत: डेटा सेट कमी प्रभावी होऊ शकतो, विशेषत: जेव्हा अनेक पूर्वाग्रह खेळत असतात. काही पूर्वाग्रह काढून टाकलेल्या डेटा सेटमध्ये प्रभावी वापरासाठी पुरेशी माहिती नसू शकते. खरोखर वैविध्यपूर्ण प्रतिमा डेटा संच कसा दिसेल आणि त्याच्या उपयुक्ततेशी तडजोड न करता तो कसा वापरला जाऊ शकतो हा प्रश्न उपस्थित करतो.

हा कल एआय आणि डेटा-चालित तंत्रज्ञानाच्या वापरासाठी विचारशील दृष्टिकोनाची आवश्यकता अधोरेखित करतो. कंपन्यांसाठी, याचा अर्थ बायस-डिटेक्शन टूल्समध्ये गुंतवणूक करणे आणि टेक टीममधील विविधतेचा प्रचार करणे असा होऊ शकतो. सरकारांसाठी, त्यात AI चा योग्य वापर सुनिश्चित करण्यासाठी नियमांची अंमलबजावणी करणे समाविष्ट असू शकते. 

AI पूर्वाग्रहाचे परिणाम

AI पूर्वाग्रहाच्या व्यापक परिणामांमध्ये हे समाविष्ट असू शकते:

• उत्पादकता आणि कार्यप्रदर्शन सुधारण्यासाठी संस्था AI चा फायदा घेत असल्याने निष्पक्षता आणि गैर-भेदभाव सुनिश्चित करण्यासाठी सक्रिय आहेत. 
• प्रकल्पाच्या सुरुवातीच्या काळात नैतिक जोखीम शोधण्यासाठी आणि कमी करण्यासाठी विकास कार्यसंघांमध्ये एआय नैतिकतावादी असणे. 
• लिंग, वंश, वर्ग आणि संस्कृती यासारख्या विविध घटकांसह AI उत्पादनांची रचना स्पष्टपणे लक्षात घेऊन.
• विविध गटांचे प्रतिनिधी मिळवणे जे कंपनीचे AI उत्पादन रिलीझ होण्यापूर्वी त्याची चाचणी घेण्यासाठी वापरतील.
• विविध सार्वजनिक सेवा जनतेच्या काही सदस्यांकडून प्रतिबंधित केल्या जात आहेत.
• जनतेचे काही सदस्य विशिष्ट नोकरीच्या संधींमध्ये प्रवेश करू शकत नाहीत किंवा पात्रता मिळवू शकत नाहीत.
• कायद्याची अंमलबजावणी करणार्‍या एजन्सी आणि व्यावसायिक इतरांपेक्षा समाजातील काही सदस्यांना अन्यायकारकपणे लक्ष्य करतात. 

विचारात घेण्यासारखे प्रश्न

• भविष्यात स्वयंचलित निर्णय घेणे योग्य असेल असा तुम्ही आशावादी आहात का?
• AI निर्णय घेण्याचे काय तुम्हाला सर्वात जास्त चिंताग्रस्त करते?