प्रौद्योगिकी में नैतिकता दिशानिर्देश: जब वाणिज्य अनुसंधान पर ले जाता है

• लेखक:
• लेखक का नाम

  क्वांटमरन दूरदर्शिता
• फ़रवरी 15, 2023

अंतर्दृष्टि सारांश

संभावित खतरों और एल्गोरिथम पूर्वाग्रह के कारण कृत्रिम बुद्धिमत्ता (एआई) सिस्टम चुनिंदा अल्पसंख्यक समूहों को प्रभावित कर सकता है, कई संघीय एजेंसियों और कंपनियों को तेजी से तकनीकी प्रदाताओं को नैतिक दिशानिर्देश प्रकाशित करने की आवश्यकता होती है कि वे एआई को कैसे विकसित और तैनात कर रहे हैं। हालाँकि, इन दिशानिर्देशों को वास्तविक जीवन में लागू करना कहीं अधिक जटिल और अस्पष्ट है।

नैतिकता संदर्भ से टकराती है

सिलिकॉन वैली में, व्यवसाय अभी भी इस बात की खोज कर रहे हैं कि नैतिक सिद्धांतों को व्यवहार में सर्वोत्तम तरीके से कैसे लागू किया जाए, जिसमें यह प्रश्न पूछना भी शामिल है, "नैतिकता को प्राथमिकता देने में कितना खर्च होता है?" 2 दिसंबर, 2020 को, Google की एथिकल AI टीम की सह-प्रमुख टिमनिट गेब्रू ने एक ट्वीट पोस्ट कर कहा कि उन्हें निकाल दिया गया है। उनके पूर्वाग्रह और चेहरे की पहचान संबंधी शोध के लिए एआई समुदाय में उनका व्यापक सम्मान किया गया। जिस घटना के कारण उन्हें नौकरी से निकाला गया वह उस पेपर से संबंधित था जिसके वे सह-लेखक थे और Google ने निर्णय लिया कि वह प्रकाशन के लिए उनके मानकों को पूरा नहीं करता है। 

हालाँकि, गेबरू और अन्य लोगों का तर्क है कि गोलीबारी प्रगति के बजाय जनसंपर्क से प्रेरित थी। यह बर्खास्तगी तब हुई जब गेब्रू ने एक अध्ययन को प्रकाशित न करने के आदेश पर सवाल उठाया कि मानव भाषा की नकल करने वाली एआई कैसे हाशिए पर रहने वाली आबादी को नुकसान पहुंचा सकती है। फरवरी 2021 में गेब्रू की सह-लेखिका मार्गरेट मिशेल को भी निकाल दिया गया था। 

गूगल ने कहा कि मिशेल ने इलेक्ट्रॉनिक फाइलों को कंपनी से बाहर ले जाकर कंपनी की आचार संहिता और सुरक्षा नीतियों का उल्लंघन किया है। मिशेल ने अपनी बर्खास्तगी के कारणों के बारे में विस्तार से नहीं बताया। इस कदम से आलोचना की बाढ़ आ गई, जिसके कारण Google को फरवरी 2021 तक अपनी विविधता और अनुसंधान नीतियों में बदलाव की घोषणा करनी पड़ी। यह घटना सिर्फ एक उदाहरण है कि कैसे नैतिकता संबंधी टकराव बड़ी तकनीकी कंपनियों और उनके कथित उद्देश्य अनुसंधान विभागों को विभाजित करते हैं।

विघटनकारी प्रभाव

हार्वर्ड बिजनेस रिव्यू के अनुसार, व्यवसाय मालिकों के सामने सबसे बड़ी चुनौती नैतिक संकटों का जवाब देने के लिए बाहरी दबावों और उनकी कंपनियों और उद्योगों की आंतरिक मांगों के बीच संतुलन बनाना है। बाहरी आलोचनाएँ कंपनियों को अपनी व्यावसायिक प्रथाओं का पुनर्मूल्यांकन करने के लिए प्रेरित करती हैं। हालाँकि, प्रबंधन, उद्योग की प्रतिस्पर्धा और व्यवसायों को कैसे चलाया जाना चाहिए इसकी सामान्य बाजार अपेक्षाओं का दबाव कभी-कभी प्रतिकूल प्रोत्साहन पैदा कर सकता है जो यथास्थिति का पक्ष लेता है। तदनुसार, जैसे-जैसे सांस्कृतिक मानदंड विकसित होंगे और कंपनियां (विशेष रूप से प्रभावशाली तकनीकी कंपनियां) नई व्यावसायिक प्रथाओं पर सीमाएं लांघना जारी रखेंगी, जिन्हें वे नए राजस्व उत्पन्न करने के लिए लागू कर सकती हैं, नैतिक टकराव केवल बढ़ेंगे।

इस नैतिक संतुलन से जूझ रहे निगमों का एक और उदाहरण कंपनी मेटा है। अपनी प्रचारित नैतिक कमियों को दूर करने के लिए, फेसबुक ने 2020 में एक स्वतंत्र निरीक्षण बोर्ड की स्थापना की, जिसके पास कंटेंट मॉडरेशन निर्णयों को पलटने का अधिकार था, यहां तक ​​कि संस्थापक मार्क जुकरबर्ग द्वारा लिए गए फैसले भी। जनवरी 2021 में, समिति ने विवादित सामग्री पर अपना पहला फैसला सुनाया और देखे गए अधिकांश मामलों को पलट दिया। 

हालाँकि, फेसबुक पर प्रतिदिन अरबों पोस्ट और अनगिनत संख्या में सामग्री संबंधी शिकायतों के साथ, निरीक्षण बोर्ड पारंपरिक सरकारों की तुलना में बहुत धीमी गति से काम करता है। बहरहाल, बोर्ड ने कुछ वैध सिफारिशें की थीं। 2022 में, पैनल ने मेटा प्लेटफ़ॉर्म को फेसबुक पर प्रकाशित डॉक्सिंग घटनाओं पर नकेल कसने की सलाह दी, ताकि उपयोगकर्ताओं को प्लेटफ़ॉर्म पर व्यक्तियों के घर के पते साझा करने से रोका जा सके, भले ही वे सार्वजनिक रूप से उपलब्ध हों। बोर्ड ने यह भी वकालत की कि फेसबुक पारदर्शी रूप से यह समझाने के लिए एक संचार चैनल खोले कि उल्लंघन क्यों होते हैं और उनसे कैसे निपटा जाता है।

निजी क्षेत्र की नैतिकता के टकराव के निहितार्थ

निजी क्षेत्र में नैतिकता संबंधी टकराव के व्यापक निहितार्थों में ये शामिल हो सकते हैं: 

• अधिक कंपनियां अपने संबंधित व्यावसायिक प्रथाओं में नैतिक दिशानिर्देशों के कार्यान्वयन की निगरानी के लिए स्वतंत्र नैतिकता बोर्ड का निर्माण कर रही हैं।
• तकनीकी अनुसंधान के व्यावसायीकरण ने कैसे अधिक संदिग्ध प्रथाओं और प्रणालियों को जन्म दिया है, इस पर अकादमिक जगत की ओर से आलोचनाएँ बढ़ी हैं।
• तकनीकी कंपनियों द्वारा प्रतिभाशाली सार्वजनिक और विश्वविद्यालय एआई शोधकर्ताओं को पर्याप्त वेतन और लाभ की पेशकश के कारण सार्वजनिक क्षेत्र की प्रतिभा पलायन अधिक हो गया है।
• सरकारें तेजी से सभी कंपनियों से अपने नैतिक दिशानिर्देश प्रकाशित करने की मांग कर रही हैं, भले ही वे प्रौद्योगिकी सेवाएं प्रदान करते हों या नहीं।
• अधिक मुखर शोधकर्ताओं को हितों के टकराव के कारण बड़ी कंपनियों से निकाल दिया जा रहा है, लेकिन जल्द ही उनकी जगह ले ली जाएगी।

विचार करने के लिए प्रश्न

• आपको क्या लगता है कि नैतिकता के टकराव से उपभोक्ताओं को मिलने वाले उत्पादों और सेवाओं पर क्या प्रभाव पड़ेगा?
• कंपनियां अपने तकनीकी अनुसंधान में पारदर्शिता सुनिश्चित करने के लिए क्या कर सकती हैं?