Рэкамендацыі па этыцы ў галіне тэхналогій: Калі камерцыя бярэ верх над даследаваннем

• аўтар:
• імя аўтара

  Quantumrun Foresight
• Люты 15, 2023

Кароткі агляд

З-за патэнцыйных небяспек і алгарытмічных зрушэнняў, якія сістэмы штучнага інтэлекту (AI) могуць нанесці асобным меншасцям, многія федэральныя агенцтвы і кампаніі ўсё часцей патрабуюць ад пастаўшчыкоў тэхналогій публікацыі этычных рэкамендацый аб тым, як яны распрацоўваюць і разгортваюць AI. Аднак прымяненне гэтых рэкамендацый у рэальным жыцці значна больш складанае і цьмянае.

Кантэкст сутыкнення этыкі

У Сіліконавай даліне прадпрыемствы ўсё яшчэ даследуюць, як найлепшым чынам прымяніць этычныя прынцыпы на практыцы, у тым ліку задаюць пытанне: «Колькі каштуе расставіць прыярытэты этыкі?» 2 снежня 2020 г. Тымніт Гебру, адзін з кіраўнікоў этычнай каманды Google па AI, апублікавала твіт, у якім паведамлялася, што яе звольнілі. Яна карысталася вялікай павагай у супольнасці штучнага інтэлекту за яе прадузятасць і даследаванні па распазнаванні твараў. Інцыдэнт, які прывёў да яе звальнення, тычыўся артыкула, суаўтарам якога яна была, і Google палічыў, што ён не адпавядае стандартам публікацыі. 

Аднак Гебру і іншыя сцвярджаюць, што звальненне было матывавана піярам, ​​а не прагрэсам. Звальненне адбылося пасля таго, як Гебру паставіў пад сумнеў загад не публікаваць даследаванне аб тым, як ІІ, які імітуе чалавечую мову, можа нанесці шкоду маргіналізаваным групам насельніцтва. У лютым 2021 года таксама была звольненая суаўтарка Гебру Маргарэт Мітчэл. 

Google заявіў, што Мітчэл парушыў кодэкс паводзін і палітыку бяспекі кампаніі, перамясціўшы электронныя файлы за межы кампаніі. Мітчэл не ўдакладніў прычын свайго звальнення. Гэты крок выклікаў лавіну крытыкі, у выніку чаго Google абвясціў аб зменах у палітыцы разнастайнасці і даследаванняў да лютага 2021 года. Гэты інцыдэнт - толькі адзін з прыкладаў таго, як этычныя сутыкненні падзяляюць буйныя тэхналагічныя фірмы і іх нібыта аб'ектыўныя даследчыя аддзелы.

Разбуральнае ўздзеянне

Згодна з Harvard Business Review, самай вялікай праблемай, з якой сутыкаюцца ўладальнікі бізнесу, з'яўляецца пошук балансу паміж знешнім ціскам, неабходным для рэагавання на этычныя крызісы, і ўнутранымі патрабаваннямі іх кампаній і галін. Знешняя крытыка падштурхоўвае кампаніі да пераацэнкі сваёй дзелавой практыкі. Тым не менш, ціск з боку кіраўніцтва, галіновай канкурэнцыі і агульных чаканняў рынку адносна таго, як трэба весці бізнес, часам можа ствараць ураўнаважаныя стымулы, якія спрыяюць статус-кво. Адпаведна, этычныя сутыкненні будуць толькі павялічвацца па меры развіцця культурных нормаў і па меры таго, як кампаніі (асабліва ўплывовыя тэхналагічныя фірмы) працягваюць рассоўваць межы новых бізнес-практык, якія яны могуць укараняць для атрымання новых даходаў.

Іншым прыкладам карпарацый, якія змагаюцца з гэтым этычным балансам, з'яўляецца кампанія Meta. Каб ліквідаваць свае апублікаваныя этычныя недахопы, у 2020 годзе Facebook стварыў незалежны наглядальны савет з паўнамоцтвамі адмяняць рашэнні аб мадэрацыі кантэнту, нават тыя, што былі прынятыя заснавальнікам Маркам Цукербергам. У студзені 2021 года камітэт вынес свае першыя рашэнні па спрэчным змесціве і адмяніў большасць спраў, якія ён разглядаў. 

Аднак з мільярдамі паведамленняў у Facebook штодня і незлічонай колькасцю скаргаў на змест, наглядны савет працуе значна павольней, чым традыцыйныя ўрады. Тым не менш, савет зрабіў некаторыя слушныя рэкамендацыі. У 2022 годзе група рэкамендавала Meta Platforms расправіцца з інцыдэнтамі doxxing, апублікаванымі ў Facebook, забараніўшы карыстальнікам дзяліцца хатнімі адрасамі асоб на платформах, нават калі яны агульнадаступныя. Савет таксама выступаў за тое, каб Facebook адкрыў канал сувязі, каб празрыста тлумачыць, чаму адбываюцца парушэнні і як з імі апрацоўваюцца.

Наступствы этычных сутыкненняў прыватнага сектара

Больш шырокія наступствы этычных сутыкненняў у прыватным сектары могуць уключаць: 

• Больш кампаній ствараюць незалежныя саветы па этыцы для кантролю за выкананнем этычных прынцыпаў у сваёй дзелавой практыцы.
• Узмацненне крытыкі з боку навуковых колаў адносна таго, як камерцыялізацыя тэхнічных даследаванняў прывяла да больш сумніўных практык і сістэм.
• Павялічваецца ўцечка мазгоў з дзяржаўнага сектара, паколькі тэхналагічныя фірмы шукаюць таленавітых дзяржаўных і універсітэцкіх даследчыкаў штучнага інтэлекту, прапаноўваючы значныя заробкі і льготы.
• Урады ўсё часцей патрабуюць, каб усе фірмы публікавалі свае этычныя прынцыпы незалежна ад таго, прадастаўляюць яны тэхналагічныя паслугі ці не.
• Больш адкрытых даследчыкаў звальняюць з буйных кампаній з-за канфлікту інтарэсаў і хутка замяняюць.

Пытанні для разгляду

• Як, на вашу думку, этычныя сутыкненні паўплываюць на прадукты і паслугі, якія атрымліваюць спажыўцы?
• Што могуць зрабіць кампаніі, каб забяспечыць празрыстасць сваіх тэхнічных даследаванняў?