Етичке смернице у технологији: Када трговина преузме истраживање

• Аутор:
• ime аутора

  Куантумрун Форесигхт
• 15. фебруара 2023. године

Сажетак увида

Због потенцијалних опасности и алгоритамске пристрасности које системи вештачке интелигенције (АИ) могу нанети одабраним мањинским групама, многе савезне агенције и компаније све више захтевају од добављача технологије да објаве етичке смернице о томе како развијају и примењују вештачку интелигенцију. Међутим, примена ових смерница у стварном животу је много сложенија и мутнија.

Контекст сукоба етике

У Силицијумској долини предузећа још увек истражују како најбоље применити етичке принципе у пракси, укључујући постављање питања „колико кошта давање приоритета етици?“ Дана 2. децембра 2020. Тимнит Гебру, суводитељ Гугловог етичког АИ тима, објавила је твит у којем каже да је отпуштена. Била је широко цењена у заједници вештачке интелигенције због своје пристрасности и истраживања препознавања лица. Инцидент који је довео до њеног отпуштања односио се на рад чији је коаутор, за који је Гугл одлучио да не испуњава њихове стандарде за објављивање. 

Међутим, Гебру и други тврде да је отпуштање мотивисано односима с јавношћу, а не напретком. До отпуштања је дошло након што је Гебру довео у питање наредбу да се не објави студија о томе како вештачка интелигенција која опонаша људски језик може нанети штету маргинализованој популацији. У фебруару 2021, Гебруов коаутор, Маргарет Мичел, такође је отпуштена. 

Гугл је навео да је Мичел прекршио кодекс понашања и безбедносне политике компаније премештајући електронске фајлове ван компаније. Мичел није прецизирала разлоге њеног отпуштања. Овај потез изазвао је лавину критика, што је навело Гугл да до фебруара 2021. објави промене у својој политици разноликости и истраживања. Овај инцидент је само један пример како етички сукоби деле велике технолошке фирме и њихова наводно објективна истраживачка одељења.

Ометајући утицај

Према Харвард Бусинесс Ревиев-у, највећи изазов са којим се власници предузећа суочавају је проналажење равнотеже између спољних притисака да се одговори на етичке кризе и унутрашњих захтева њихових компанија и индустрија. Спољне критике гурају компаније да преиспитају своју пословну праксу. Међутим, притисци руководства, конкуренције у индустрији и општих тржишних очекивања о томе како би предузећа требало да се воде могу понекад створити компензационе подстицаје који фаворизују статус куо. Сходно томе, етички сукоби ће се само повећавати како се културне норме буду развијале и како компаније (посебно утицајне технолошке фирме) настављају да померају границе нових пословних пракси које могу применити како би генерисале нове приходе.

Још један пример корпорација које се боре са овом етичком равнотежом је компанија Мета. Да би решио своје јавно објављене етичке недостатке, Фејсбук је 2020. основао независни надзорни одбор, са овлашћењем да поништи одлуке о модерирању садржаја, чак и оне које је донео оснивач Марк Закерберг. У јануару 2021. комитет је донео прве одлуке о спорном садржају и поништио већину случајева које је видео. 

Међутим, са милијардама постова на Фејсбуку дневно и небројеним бројем притужби на садржај, надзорни одбор ради много спорије од традиционалних влада. Ипак, одбор је дао неке валидне препоруке. Комисија је 2022. године саветовала Мета Платформс да сузбије инциденте са доккингом објављене на Фејсбуку тако што ће забранити корисницима да деле кућне адресе појединаца на платформама чак и ако су јавно доступне. Одбор се такође заложио да Фацебоок отвори канал комуникације како би транспарентно објаснио зашто се кршења дешавају и како се њима поступа.

Импликације етичких сукоба приватног сектора

Шире импликације етичких сукоба у приватном сектору могу укључивати: 

• Више компанија гради независне етичке одборе како би надгледали примену етичких смерница у својим пословним праксама.
• Појачане критике академске заједнице о томе како је комерцијализација технолошког истраживања довела до упитнијих пракси и система.
• Све већи одлив мозгова у јавном сектору док технолошке фирме лове талентоване јавне и универзитетске истраживаче вештачке интелигенције, нудећи значајне плате и бенефиције.
• Владе све више захтевају од свих фирми да објаве своје етичке смернице без обзира да ли пружају технолошке услуге или не.
• Отворенији истраживачи бивају отпуштени из великих компанија због сукоба интереса само да би били брзо замењени.

Питања која треба размотрити

• Шта мислите како ће етички сукоби утицати на врсту производа и услуга које потрошачи добијају?
• Шта компаније могу да ураде како би осигурале транспарентност у својим технолошким истраживањима?