المبادئ التوجيهية للأخلاقيات في التكنولوجيا: عندما تتولى التجارة البحث

• كاتب:
• اسم المؤلف

  البصيرة الكمومية
• 15 فبراير 2023

ملخص البصيرة

بسبب المخاطر المحتملة والتحيز الخوارزمي الذي قد تلحقه أنظمة الذكاء الاصطناعي (AI) بمجموعات الأقليات المختارة ، تطلب العديد من الوكالات والشركات الفيدرالية بشكل متزايد من مزودي التكنولوجيا نشر إرشادات أخلاقية حول كيفية تطويرهم ونشرهم للذكاء الاصطناعي. ومع ذلك ، فإن تطبيق هذه الإرشادات في الحياة الواقعية أكثر تعقيدًا وضبابية.

تتعارض الأخلاق مع السياق

في وادي السيليكون ، لا تزال الشركات تستكشف أفضل السبل لتطبيق المبادئ الأخلاقية في الممارسة ، بما في ذلك طرح السؤال ، "كم يكلف إعطاء الأولوية للأخلاق؟" في 2 ديسمبر 2020 ، نشرت Timnit Gebru ، القائدة المشاركة لفريق Google الأخلاقي لمنظمة العفو الدولية ، تغريدة قالت فيها إنها طُردت. كانت تحظى باحترام واسع في مجتمع الذكاء الاصطناعي بسبب أبحاثها المتعلقة بالتحيز والتعرف على الوجه. كانت الحادثة التي أدت إلى طردها تتعلق بورقة شاركت في تأليفها قررت Google أنها لا تفي بمعايير النشر الخاصة بها. 

ومع ذلك ، يجادل جيبرو وآخرون بأن إطلاق النار كان بدافع العلاقات العامة وليس التقدم. حدث الفصل بعد أن شكك جيبرو في أمر بعدم نشر دراسة حول كيف يمكن للذكاء الاصطناعي الذي يحاكي اللغة البشرية أن يؤذي السكان المهمشين. في فبراير 2021 ، تم طرد مارجريت ميتشل ، مؤلفة Gebru المشاركة. 

صرحت جوجل أن ميتشل انتهك مدونة قواعد السلوك الخاصة بالشركة وسياسات الأمان من خلال نقل الملفات الإلكترونية خارج الشركة. ولم يوضح ميتشل أسباب إقالتها. أثارت هذه الخطوة موجة من الانتقادات ، مما دفع Google إلى الإعلان عن تغييرات في سياساتها المتعلقة بالتنوع والبحث بحلول شباط (فبراير) 2021. هذا الحادث هو مجرد مثال واحد على كيف تؤدي الاشتباكات الأخلاقية إلى تقسيم شركات التكنولوجيا الكبرى وإداراتها البحثية التي يُفترض أنها موضوعية.

التأثير التخريبي

وفقًا لـ Harvard Business Review ، فإن التحدي الأكبر الذي يواجهه أصحاب الأعمال هو إيجاد توازن بين الضغوط الخارجية للاستجابة للأزمات الأخلاقية والمطالب الداخلية لشركاتهم وصناعاتهم. تدفع الانتقادات الخارجية الشركات إلى إعادة تقييم ممارساتها التجارية. ومع ذلك ، يمكن للضغوط من الإدارة والمنافسة الصناعية وتوقعات السوق العامة حول كيفية إدارة الأعمال في بعض الأحيان أن تخلق حوافز تعويضية تفضل الوضع الراهن. وفقًا لذلك ، ستزداد الاشتباكات الأخلاقية مع تطور المعايير الثقافية ومع استمرار الشركات (خاصة شركات التكنولوجيا المؤثرة) في دفع حدود الممارسات التجارية الجديدة التي يمكنها تنفيذها لتوليد إيرادات جديدة.

مثال آخر على الشركات التي تكافح مع هذا التوازن الأخلاقي هو شركة Meta. لمعالجة أوجه القصور الأخلاقية المعلنة ، أنشأ Facebook مجلس إشراف مستقل في عام 2020 ، مع سلطة إلغاء قرارات الإشراف على المحتوى ، حتى تلك التي اتخذها المؤسس مارك زوكربيرج. في يناير 2021 ، أصدرت اللجنة أحكامها الأولى بشأن المحتوى المتنازع عليه وألغت معظم القضايا التي شاهدتها. 

ومع ذلك ، مع مليارات المنشورات على Facebook يوميًا وعدد لا يحصى من شكاوى المحتوى ، يعمل مجلس الرقابة بشكل أبطأ بكثير من الحكومات التقليدية. ومع ذلك ، قدم المجلس بعض التوصيات الصحيحة. في عام 2022 ، نصحت اللجنة Meta Platforms باتخاذ إجراءات صارمة ضد حوادث doxxing المنشورة على Facebook من خلال منع المستخدمين من مشاركة عناوين منازل الأفراد على المنصات حتى لو كانت متاحة للجمهور. كما دعا مجلس الإدارة إلى قيام Facebook بفتح قناة اتصال لشرح أسباب حدوث الانتهاكات وكيفية التعامل معها بشفافية.

تداعيات تضارب الأخلاقيات في القطاع الخاص

قد تشمل الآثار الأوسع للاشتباكات الأخلاقية في القطاع الخاص ما يلي: 

• تقوم المزيد من الشركات ببناء مجالس أخلاقيات مستقلة للإشراف على تنفيذ المبادئ التوجيهية الأخلاقية في ممارسات الأعمال الخاصة بكل منها.
• الانتقادات المتزايدة من الأوساط الأكاديمية حول الكيفية التي أدى بها تسويق البحوث التقنية إلى ممارسات وأنظمة مشكوك فيها.
• المزيد من استنزاف العقول في القطاع العام حيث تبحث شركات التكنولوجيا عن باحثين موهوبين في مجال الذكاء الاصطناعي من القطاعين العام والجامعي ، وتقدم رواتب ومزايا كبيرة.
• تطلب الحكومات بشكل متزايد من جميع الشركات نشر إرشاداتها الأخلاقية بغض النظر عما إذا كانت تقدم خدمات تقنية أم لا.
• يتم طرد المزيد من الباحثين الصريحين من الشركات الكبيرة بسبب تضارب المصالح فقط ليتم استبدالهم بسرعة.

أسئلة للنظر فيها

• كيف تعتقد أن تضارب الأخلاق سيؤثر على نوع المنتجات والخدمات التي يتلقاها المستهلكون؟
• ما الذي يمكن أن تفعله الشركات لضمان الشفافية في أبحاثها التقنية؟