Technologijų etikos gairės: kai komercija perima tyrimus

• Autorius:
• autoriaus vardas

  Quantumrun Foresight
• Vasaris 15, 2023

Įžvalgos santrauka

Dėl galimų pavojų ir algoritminio šališkumo, kurį dirbtinio intelekto (AI) sistemos gali sukelti tam tikroms mažumų grupėms, daugelis federalinių agentūrų ir įmonių vis dažniau reikalauja, kad technologijų teikėjai paskelbtų etikos gaires, kaip jie kuria ir diegia dirbtinį intelektą. Tačiau šių gairių taikymas realiame gyvenime yra daug sudėtingesnis ir miglotesnis.

Etikos konflikto kontekstas

Silicio slėnyje įmonės vis dar tiria, kaip geriausiai pritaikyti etikos principus praktikoje, įskaitant klausimą: „kiek kainuoja nustatyti etikos prioritetą? 2 m. gruodžio 2020 d. Timnit Gebru, viena iš „Google“ etikos AI komandos vadovų, paskelbė tviterį, kad buvo atleista. Ji buvo plačiai gerbiama dirbtinio intelekto bendruomenėje dėl savo šališkumo ir veido atpažinimo tyrimų. Įvykis, dėl kurio ji buvo atleista, buvo susijęs su jos bendraautoriu straipsniu, kuris, „Google“ nuomone, neatitiko jų publikavimo standartų. 

Tačiau Gebru ir kiti tvirtina, kad atleidimą paskatino viešieji ryšiai, o ne pažanga. Atleidimas įvyko po to, kai Gebru suabejojo ​​įsakymu neskelbti tyrimo apie tai, kaip dirbtinis intelektas, imituojantis žmonių kalbą, gali pakenkti marginalizuotoms populiacijoms. 2021 metų vasarį taip pat buvo atleista Gebru bendraautorė Margaret Mitchell. 

„Google“ pareiškė, kad Mitchell pažeidė bendrovės elgesio kodeksą ir saugumo politiką, perkeldamas elektroninius failus už įmonės ribų. Mitchell savo atleidimo priežasčių plačiau nepaaiškino. Šis žingsnis sukėlė kritikos laviną, todėl „Google“ iki 2021 m. vasario paskelbė apie savo įvairovės ir tyrimų politikos pakeitimus. Šis incidentas yra tik vienas iš pavyzdžių, kaip etikos nesutarimai suskaldo dideles technologijų įmones ir jų tariamai objektyvius tyrimų skyrius.

Trikdantis poveikis

Remiantis Harvardo verslo apžvalga, didžiausias iššūkis, su kuriuo susiduria verslo savininkai, yra rasti pusiausvyrą tarp išorinio spaudimo reaguoti į etines krizes ir vidinių įmonių bei pramonės šakų reikalavimų. Išorinė kritika verčia įmones iš naujo įvertinti savo verslo praktiką. Tačiau vadovybės spaudimas, pramonės konkurencija ir bendri rinkos lūkesčiai dėl to, kaip turėtų būti valdomos įmonės, kartais gali sukurti kompensuojančių paskatų, kurios palankiai vertina status quo. Atitinkamai, etiniai susidūrimai tik didės, kai vystysis kultūros normos, o įmonės (ypač įtakingos technologijų įmonės) ir toliau stums ribas naujoms verslo praktikoms, kurias jos gali įgyvendinti siekdamos gauti naujų pajamų.

Kitas pavyzdys, kai korporacijos kovoja su šia etine pusiausvyra, yra bendrovė „Meta“. Siekdama pašalinti viešai paskelbtus etinius trūkumus, „Facebook“ 2020 m. įsteigė nepriklausomą priežiūros tarybą, turinčią teisę panaikinti turinio moderavimo sprendimus, net ir įkūrėjo Marko Zuckerbergo priimtus sprendimus. 2021 m. sausio mėn. komitetas priėmė pirmuosius sprendimus dėl ginčijamo turinio ir panaikino daugumą jam nagrinėtų bylų. 

Tačiau dėl milijardų įrašų „Facebook“ kasdien ir be galo daug skundų dėl turinio, priežiūros taryba veikia daug lėčiau nei tradicinės vyriausybės. Nepaisant to, valdyba pateikė keletą pagrįstų rekomendacijų. 2022 m. ekspertų grupė patarė bendrovei Meta Platforms susidoroti su feisbuke paskelbtais dokso incidentais, uždraudžiant vartotojams platformose dalytis asmenų namų adresais, net jei jie yra viešai prieinami. Valdyba taip pat pasisakė už tai, kad „Facebook“ atidarytų komunikacijos kanalą, kad būtų aiškiai paaiškinta, kodėl atsiranda pažeidimų ir kaip jie tvarkomi.

Privataus sektoriaus etikos konfliktų pasekmės

Platesnės etikos konfliktų privačiame sektoriuje pasekmės gali apimti: 

• Vis daugiau įmonių kuria nepriklausomas etikos tarybas, kurios prižiūrėtų etikos gairių įgyvendinimą atitinkamoje verslo praktikoje.
• Išaugusi akademinės bendruomenės kritika dėl to, kaip technologijų tyrimų komercializavimas lėmė daugiau abejotinų praktikų ir sistemų.
• Vis daugiau viešojo sektoriaus protų nutekėjimo, nes technologijų įmonės ieško talentingų viešųjų ir universitetinių dirbtinio intelekto tyrėjų, siūlydamos didelius atlyginimus ir išmokas.
• Vyriausybės vis dažniau reikalauja, kad visos įmonės skelbtų savo etikos gaires, nepaisant to, ar jos teikia technologijų paslaugas, ar ne.
• Atviresni tyrėjai atleidžiami iš didelių įmonių dėl interesų konflikto, kad būtų greitai pakeisti.

Klausimai, kuriuos reikia apsvarstyti

• Kaip manote, ar etikos nesutarimai paveiks vartotojų gaunamus produktus ir paslaugas?
• Ką įmonės gali padaryti, kad užtikrintų savo technologijų tyrimų skaidrumą?