ٹکنالوجی میں اخلاقیات کے رہنما خطوط: جب تجارت تحقیق پر قبضہ کرتی ہے۔

• مصنف:
• مصنف کا نام

  Quantumrun دور اندیشی
• 15 فروری 2023

بصیرت کا خلاصہ

ممکنہ خطرات اور الگورتھمک تعصب کی وجہ سے جو مصنوعی ذہانت (AI) سسٹمز منتخب اقلیتی گروہوں کو متاثر کر سکتے ہیں، بہت سی وفاقی ایجنسیاں اور کمپنیاں ٹیک فراہم کنندگان کو تیزی سے تقاضہ کرتی ہیں کہ وہ AI کو کیسے تیار اور تعینات کر رہے ہیں اس بارے میں اخلاقی رہنما خطوط شائع کریں۔ تاہم، ان ہدایات کو حقیقی زندگی میں لاگو کرنا بہت زیادہ پیچیدہ اور پیچیدہ ہے۔

اخلاقیات کا سیاق و سباق

سیلیکون ویلی میں، کاروبار اب بھی یہ تلاش کر رہے ہیں کہ اخلاقی اصولوں کو عملی جامہ پہنانے کے لیے کس طرح بہترین طریقے سے لاگو کیا جائے، بشمول یہ سوال پوچھنا کہ "اخلاقیات کو ترجیح دینے میں کتنا خرچ آتا ہے؟" 2 دسمبر 2020 کو، گوگل کی اخلاقی AI ٹیم کی شریک سربراہ، ٹمنیٹ گیبرو نے ایک ٹویٹ پوسٹ کی جس میں کہا گیا تھا کہ اسے نوکری سے نکال دیا گیا ہے۔ اس کی تعصب اور چہرے کی شناخت کی تحقیق کے لیے وہ AI کمیونٹی میں بڑے پیمانے پر قابل احترام تھیں۔ وہ واقعہ جس کی وجہ سے اس کی برطرفی ہوئی اس کا تعلق ایک مقالے سے تھا جسے اس نے شریک تصنیف کیا تھا جس کے بارے میں گوگل نے فیصلہ کیا کہ وہ اشاعت کے لیے ان کے معیار پر پورا نہیں اترتا ہے۔ 

تاہم، گیبرو اور دیگر کا کہنا ہے کہ فائرنگ پیش رفت کے بجائے عوامی رابطوں کی وجہ سے ہوئی تھی۔ برخاستگی اس وقت ہوئی جب گیبرو نے ایک مطالعہ شائع نہ کرنے کے حکم پر سوال اٹھایا کہ کس طرح انسانی زبان کی نقل کرنے والی AI پسماندہ آبادی کو نقصان پہنچا سکتی ہے۔ فروری 2021 میں، گیبرو کی شریک مصنف، مارگریٹ مچل کو بھی برطرف کر دیا گیا۔ 

گوگل نے کہا کہ مچل نے الیکٹرانک فائلوں کو کمپنی سے باہر منتقل کرکے کمپنی کے ضابطہ اخلاق اور سیکیورٹی پالیسیوں کو توڑا۔ مچل نے اپنی برطرفی کی بنیاد پر مزید وضاحت نہیں کی۔ اس اقدام نے تنقید کی ایک برفانی تودہ کو جنم دیا، جس کی وجہ سے گوگل فروری 2021 تک اپنی تنوع اور تحقیقی پالیسیوں میں تبدیلیوں کا اعلان کرے گا۔ یہ واقعہ اس بات کی صرف ایک مثال ہے کہ کس طرح اخلاقیات کے تصادم بڑی ٹیک فرموں اور ان کے قیاس کے مطابق تحقیقی محکموں کو تقسیم کرتے ہیں۔

خلل ڈالنے والا اثر

ہارورڈ بزنس ریویو کے مطابق، کاروباری مالکان کو درپیش سب سے بڑا چیلنج اخلاقی بحرانوں اور ان کی کمپنیوں اور صنعتوں کے اندرونی مطالبات کا جواب دینے کے لیے بیرونی دباؤ کے درمیان توازن تلاش کرنا ہے۔ بیرونی تنقیدیں کمپنیوں کو اپنے کاروباری طریقوں کا دوبارہ جائزہ لینے پر مجبور کرتی ہیں۔ تاہم، انتظامیہ، صنعت کی مسابقت اور عام مارکیٹ کی توقعات سے دباؤ کہ کاروبار کو کس طرح چلایا جانا چاہیے، بعض اوقات جوابی ترغیبات پیدا کر سکتے ہیں جو جمود کے حق میں ہیں۔ اس کے مطابق، اخلاقی تصادم صرف اس وقت بڑھے گا جب ثقافتی اصول تیار ہوتے ہیں اور جیسے جیسے کمپنیاں (خاص طور پر بااثر ٹیک فرمیں) ان نئے کاروباری طریقوں کی حدود کو آگے بڑھاتی رہیں گی جنہیں وہ نئی آمدنی پیدا کرنے کے لیے نافذ کر سکتے ہیں۔

اس اخلاقی توازن کے ساتھ جدوجہد کرنے والی کارپوریشنوں کی ایک اور مثال کمپنی، میٹا ہے۔ اپنی تشہیر شدہ اخلاقی کوتاہیوں کو دور کرنے کے لیے، فیس بک نے 2020 میں ایک آزاد نگران بورڈ قائم کیا، جس میں مواد کی اعتدال پسندی کے فیصلوں کو، یہاں تک کہ بانی مارک زکربرگ کی طرف سے کیے گئے فیصلوں کو الٹنے کا اختیار ہے۔ جنوری 2021 میں، کمیٹی نے متنازع مواد کے بارے میں اپنے پہلے فیصلے سنائے اور زیادہ تر مقدمات کو الٹ دیا۔ 

تاہم، فیس بک پر روزانہ اربوں پوسٹس اور مواد کی بے شمار شکایات کے ساتھ، نگرانی بورڈ روایتی حکومتوں کے مقابلے میں بہت سست کام کرتا ہے۔ بہر حال، بورڈ نے کچھ درست سفارشات کی تھیں۔ 2022 میں، پینل نے میٹا پلیٹ فارمز کو مشورہ دیا کہ وہ فیس بک پر شائع ہونے والے ڈوکسنگ کے واقعات کو روک کر صارفین کو پلیٹ فارمز پر افراد کے گھر کے پتے شیئر کرنے سے منع کریں چاہے وہ عوامی طور پر دستیاب ہوں۔ بورڈ نے اس بات کی بھی وکالت کی کہ فیس بک ایک مواصلاتی چینل کھولے تاکہ شفاف طریقے سے یہ وضاحت کی جا سکے کہ خلاف ورزیاں کیوں ہوتی ہیں اور ان سے کیسے نمٹا جاتا ہے۔

نجی شعبے کی اخلاقیات کے تصادم کے مضمرات

نجی شعبے میں اخلاقیات کے تصادم کے وسیع اثرات میں شامل ہو سکتے ہیں: 

• مزید کمپنیاں اپنے متعلقہ کاروباری طریقوں میں اخلاقی رہنما اصولوں کے نفاذ کی نگرانی کے لیے آزاد اخلاقی بورڈ بنا رہی ہیں۔
• اکیڈمی کی طرف سے بڑھتی ہوئی تنقید اس بات پر کہ کس طرح ٹیک ریسرچ کو کمرشلائز کرنے سے زیادہ قابل اعتراض طریقوں اور نظاموں کی وجہ بنی ہے۔
• ٹیک فرمز باصلاحیت پبلک اور یونیورسٹی AI محققین کی مدد کرتی ہیں، جو کہ خاطر خواہ تنخواہوں اور فوائد کی پیشکش کرتی ہیں، مزید پبلک سیکٹر برین ڈرین۔
• حکومتیں تیزی سے تمام فرموں سے اپنے اخلاقی رہنما خطوط شائع کرنے کا مطالبہ کرتی ہیں قطع نظر اس سے کہ وہ ٹیکنالوجی کی خدمات فراہم کرتی ہیں یا نہیں۔
• مفادات کے تصادم کی وجہ سے بڑی کمپنیوں سے نکالے جانے والے مزید واضح محققین کو فوری طور پر تبدیل کیا جانا ہے۔

غور کرنے کے لیے سوالات۔

• آپ کے خیال میں اخلاقیات کے تصادم سے صارفین کو موصول ہونے والی مصنوعات اور خدمات پر کیا اثر پڑے گا؟
• فرمیں اپنی تکنیکی تحقیق میں شفافیت کو یقینی بنانے کے لیے کیا کر سکتی ہیں؟