مصنوعي ڄاڻ رکندڙ تعصب: مشينون مقصد نه آهن جيئن اسان اميد ڪئي

• الاهي:
• ليکڪ جو نالو

  Quantumrun اڳڪٿي
• فيبروري 8، 2022

بصيرت جو خلاصو

جڏهن ته ڊيٽا تي هلندڙ ٽيڪنالاجيون هڪ منصفانه سماج کي فروغ ڏيڻ جو واعدو ڪن ٿيون، اهي اڪثر ڪري ساڳئي تعصب کي ظاهر ڪن ٿيون جيڪي انسانن کي بند ڪري رهيا آهن، امڪاني ناانصافين جي ڪري. مثال طور، مصنوعي ذهانت (AI) سسٽم ۾ تعصب اڻڄاڻ طور تي نقصانڪار اسٽريٽائپائپ کي خراب ڪري سگهن ٿا. بهرحال، ڪوششون جاري آهن AI سسٽم کي وڌيڪ برابري وارو بڻائڻ، جيتوڻيڪ هي افاديت ۽ انصاف جي وچ ۾ توازن بابت پيچيده سوال پيدا ڪري ٿو، ۽ ٽيڪ ٽيمن ۾ سوچڻ واري ضابطي ۽ تنوع جي ضرورت آهي.

AI تعصب عام حوالي سان

اميد اها آهي ته ٽيڪنالاجيون جيڪي ڊيٽا ذريعي هلائي رهيا آهن انسانيت کي هڪ سماج قائم ڪرڻ ۾ مدد ڏين ٿيون جتي انصاف سڀني لاء معمول آهي. بهرحال، موجوده حقيقت هڪ مختلف تصوير رنگين آهي. ڪيتريون ئي تعصب جيڪي انسانن وٽ آهن، جيڪي ماضي ۾ ناانصافي جو سبب بڻيا آهن، هاڻي انهن الگورتھم ۾ ظاهر ٿي رهيا آهن جيڪي اسان جي ڊجيٽل دنيا کي سنڀاليندا آهن. AI سسٽم ۾ اهي تعصب اڪثر ڪري انهن ماڻهن جي تعصبن مان نڪرندا آهن جيڪي انهن سسٽم کي ترقي ڪن ٿا، ۽ اهي تعصب گهڻو ڪري انهن جي ڪم ۾ ڇڪيندا آهن.

مثال طور وٺو، 2012 ۾ هڪ پروجيڪٽ جنهن کي ImageNet جي نالي سان سڃاتو وڃي ٿو، جنهن مشين جي سکيا واري نظام جي تربيت لاءِ تصويرن جي ليبلنگ کي گڏ ڪرڻ جي ڪوشش ڪئي. هن ڊيٽا تي تربيت يافته هڪ وڏو نيورل نيٽ ورڪ بعد ۾ متاثر ٿيندڙ درستگي سان شين کي سڃاڻڻ جي قابل ٿي ويو. جڏهن ته، ويجهي معائنو تي، محقق دريافت ڪيا ويا تعصب لڪايو ImageNet ڊيٽا اندر. ھڪڙي خاص صورت ۾، ھڪڙي الگورتھم ھن ڊيٽا تي تربيت ڪئي وئي ان فرض جي طرف متعصب آھي ته سڀئي سافٽ ويئر پروگرامر اڇا ماڻھو آھن.

اهو تعصب ممڪن طور تي نتيجو ٿي سگهي ٿو ته عورتن کي اهڙي ڪردار لاء نظر انداز ڪيو وڃي جڏهن نوڪرين جي عمل کي خودڪار ڪيو وڃي. تعصبات ڊيٽا سيٽ ۾ پنهنجو رستو ڳولي لڌو ڇاڪاڻ ته انفرادي طور تي "عورت" جي تصويرن تي ليبل شامل ڪرڻ ۾ هڪ اضافي ليبل شامل آهي جنهن ۾ هڪ غير اخلاقي اصطلاح شامل آهي. هي مثال بيان ڪري ٿو ته ڪيئن تعصب، ڇا ڄاڻي واڻي يا غير ارادي طور تي، تمام نفيس AI سسٽم کي به ڦهلائي سگھي ٿو، ممڪن طور تي نقصانڪار اسٽريٽائپائپس ۽ عدم مساوات کي برقرار رکڻ.

خراب ڪندڙ اثر 

ڊيٽا ۽ الگورتھم ۾ تعصب کي حل ڪرڻ جي ڪوشش مختلف سرڪاري ۽ نجي تنظيمن جي محققن پاران شروع ڪئي وئي آهي. ImageNet پروجيڪٽ جي صورت ۾، مثال طور، crowdsourcing کي استعمال ڪيو ويو ليبلنگ جي اصطلاحن کي سڃاڻڻ ۽ ختم ڪرڻ لاءِ جيڪي ڪجهه تصويرن تي بي عزتي واري روشني وجهن. انهن قدمن مان اهو ظاهر ٿئي ٿو ته اهو ممڪن آهي ته AI سسٽم کي ٻيهر ترتيب ڏيڻ لاء وڌيڪ منصفانه هجڻ لاء.

بهرحال، ڪجهه ماهرن جو چوڻ آهي ته تعصب کي هٽائڻ ممڪن طور تي ڊيٽا سيٽ کي گهٽ اثرائتو پيش ڪري سگهي ٿو، خاص طور تي جڏهن ڪيترائي تعصب راند ۾ آهن. ھڪڙي ڊيٽا سيٽ کي ختم ڪري سگھي ٿو ڪجھ خاص تعصبن کي ختم ڪري سگھي ٿو موثر استعمال لاءِ ڪافي معلومات جي کوٽ. اهو سوال اٿاري ٿو ته واقعي متنوع تصويري ڊيٽا سيٽ ڪهڙي طرح نظر ايندي، ۽ اهو ڪيئن استعمال ڪري سگهجي ٿو بغير ان جي افاديت تي سمجھوتو ڪرڻ کان سواء.

هي رجحان AI ۽ ڊيٽا تي هلندڙ ٽيڪنالاجيز جي استعمال لاءِ سوچيل طريقي جي ضرورت کي اجاگر ڪري ٿو. ڪمپنين لاءِ ، ان جو مطلب ٿي سگھي ٿو تعصب جي ڳولا واري اوزار ۾ سيڙپڪاري ۽ ٽيڪ ٽيمن ۾ تنوع کي وڌائڻ. حڪومتن لاءِ، AI جي منصفاڻي استعمال کي يقيني بڻائڻ لاءِ ضابطا لاڳو ڪرڻ ۾ شامل ٿي سگھي ٿو. 

AI تعصب جا اثر

AI تعصب جا وسيع اثر شامل ٿي سگھن ٿا:

• تنظيمون منصفانه ۽ غير تبعيض کي يقيني بڻائڻ ۾ سرگرم ٿي رهيون آهن جيئن اهي پيداوار ۽ ڪارڪردگي کي بهتر بڻائڻ لاءِ AI جو فائدو وٺن. 
• ترقياتي ٽيمن ۾ AI اخلاقيات جو هجڻ هڪ منصوبي جي شروعات ۾ اخلاقي خطرن کي ڳولڻ ۽ گهٽائڻ لاءِ. 
• AI پروڊڪٽس کي ڊزائين ڪرڻ سان تنوع عنصرن جهڙوڪ صنف، نسل، طبقو، ۽ ثقافت واضح طور تي ذهن ۾.
• مختلف گروپن مان نمائندا حاصل ڪرڻ جيڪي ڪمپني جي AI پراڊڪٽ کي استعمال ڪندي ان کي جاري ڪرڻ کان پهريان ان کي جانچڻ لاءِ.
• مختلف عوامي خدمتون عوام جي مخصوص ميمبرن کان محدود ٿي رهيون آهن.
• عوام جي ڪجهه ميمبرن تائين رسائي حاصل ڪرڻ يا ڪجهه نوڪري جا موقعا حاصل ڪرڻ جي قابل نه هوندا آهن.
• قانون لاڳو ڪندڙ ادارا ۽ پروفيسر غير منصفانه طور تي سماج جي ڪجهه ميمبرن کي ٻين کان وڌيڪ نشانو بڻائي رهيا آهن. 

غور ڪرڻ لاءِ سوال

• ڇا توهان پراميد آهيو ته خودڪار فيصلو سازي مستقبل ۾ منصفانه هوندي؟
• AI فيصلو ڪرڻ بابت ڇا توهان کي تمام گهڻو اعصاب بڻائي ٿو؟