Рекомендації з етики в технології: Коли комерція бере верх над дослідженнями

• Автор:
• ім'я автора

  Quantumrun Foresight
• 15 Лютого, 2023

Короткий огляд

Через потенційні небезпеки та алгоритмічні упередження, які системи штучного інтелекту (ШІ) можуть завдати вибраним групам меншин, багато федеральних агентств і компаній все частіше вимагають від постачальників технологій публікації етичних рекомендацій щодо того, як вони розробляють і розгортають ШІ. Однак застосування цих вказівок у реальному житті є набагато складнішим і туманнішим.

Етичний конфліктний контекст

У Кремнієвій долині компанії все ще досліджують, як найкраще застосувати етичні принципи на практиці, включно з питанням: «Скільки коштує пріоритетність етики?» 2 грудня 2020 року Тімніт Гебру, один з керівників етичної команди Google із штучного інтелекту, опублікувала твіт, у якому повідомляє, що її звільнили. Вона користувалася широкою повагою в спільноті ШІ за її упередженість і дослідження розпізнавання облич. Інцидент, який призвів до її звільнення, стосувався статті, яку вона написала співавтором, і яку Google вирішила не відповідати їхнім стандартам для публікації. 

Однак Гебру та інші стверджують, що звільнення було мотивовано зв'язками з громадськістю, а не прогресом. Звільнення відбулося після того, як Гебру поставив під сумнів наказ не публікувати дослідження про те, як штучний інтелект, який імітує людську мову, може завдати шкоди маргіналізованим верствам населення. У лютому 2021 року також звільнили співавторку Gebru Маргарет Мітчелл. 

У Google заявили, що Мітчелл порушив кодекс поведінки компанії та політику безпеки, перемістивши електронні файли за межі компанії. Мітчелл не стала уточнювати причини свого звільнення. Цей крок викликав лавину критики, що змусило Google оголосити про зміни у своїй політиці щодо різноманітності та досліджень до лютого 2021 року. Цей інцидент є лише одним із прикладів того, як етичні суперечки розділяють великі технологічні компанії та їхні нібито об’єктивні дослідницькі відділи.

Руйнівний вплив

За даними Harvard Business Review, найбільша проблема, з якою стикаються власники бізнесу, полягає в тому, щоб знайти баланс між зовнішнім тиском, щоб реагувати на етичні кризи, і внутрішніми вимогами своїх компаній і галузей. Зовнішня критика спонукає компанії до переоцінки своєї ділової практики. Однак тиск з боку керівництва, галузевої конкуренції та загальних ринкових очікувань щодо того, як слід вести бізнес, іноді може створювати компенсаційні стимули, які сприяють статус-кво. Відповідно, етичні суперечності лише зростатимуть у міру того, як розвиватимуться культурні норми та коли компанії (особливо впливові технологічні фірми) продовжуватимуть розширювати межі щодо нових методів ведення бізнесу, які вони можуть застосовувати для отримання нових доходів.

Іншим прикладом корпорацій, які борються з цим етичним балансом, є компанія Meta. Щоб усунути оприлюднені етичні недоліки, у 2020 році Facebook створив незалежну наглядову раду з повноваженнями скасовувати рішення щодо модерації вмісту, навіть ті, які ухвалив засновник Марк Цукерберг. У січні 2021 року комітет виніс перші рішення щодо спірного контенту та скасував більшість справ, які розглядав. 

Однак, з мільярдами дописів у Facebook щодня та незліченною кількістю скарг на контент, наглядова рада працює набагато повільніше, ніж традиційні уряди. Тим не менш, правління внесло деякі слушні рекомендації. У 2022 році комісія порадила Meta Platforms боротися з інцидентами doxxing, опублікованими у Facebook, заборонивши користувачам ділитися своїми домашніми адресами на платформах, навіть якщо вони є загальнодоступними. Правління також виступає за те, щоб Facebook відкрив канал зв’язку, щоб прозоро пояснювати, чому відбуваються порушення та як з ними обробляються.

Наслідки етичних суперечок у приватному секторі

Більш широкі наслідки етичних суперечок у приватному секторі можуть включати: 

• Більше компаній створюють незалежні ради з питань етики для нагляду за дотриманням етичних принципів у своїй бізнес-практикі.
• Посилення критики з боку академічних кіл щодо того, як комерціалізація технологічних досліджень призвела до більш сумнівних практик і систем.
• Посилюється відтік мізків із державного сектора, оскільки технологічні фірми шукають талановитих державних та університетських дослідників штучного інтелекту, пропонуючи їм значні зарплати та пільги.
• Уряди все частіше вимагають від усіх фірм публікувати свої етичні принципи незалежно від того, надають вони технологічні послуги чи ні.
• Більш відвертих дослідників звільняють із великих компаній через конфлікт інтересів лише для швидкої заміни.

Питання для розгляду

• Як, на вашу думку, етичні суперечності вплинуть на тип продуктів і послуг, які отримують споживачі?
• Що можуть зробити компанії, щоб забезпечити прозорість своїх технологічних досліджень?