Ētikas vadlīnijas tehnoloģijā: kad komercija pārņem pētniecību

• Autors:
• Autors nosaukums

  Quantumrun Foresight
• Februāris 15, 2023

Ieskata kopsavilkums

Tā kā mākslīgā intelekta (AI) sistēmas var radīt iespējamās briesmas un algoritmiskās novirzes atsevišķām minoritāšu grupām, daudzas federālās aģentūras un uzņēmumi arvien vairāk pieprasa, lai tehnoloģiju nodrošinātāji publicētu ētikas vadlīnijas par to, kā viņi izstrādā un ievieš AI. Tomēr šo vadlīniju piemērošana reālajā dzīvē ir daudz sarežģītāka un neskaidrāka.

Ētikas sadursmes konteksts

Silīcija ielejā uzņēmumi joprojām pēta, kā vislabāk piemērot ētikas principus praksē, tostarp uzdod jautājumu: "Cik maksā ētikas prioritātes noteikšana?" 2. gada 2020. decembrī Timnita Gebru (Timnit Gebru), Google ētiskās mākslīgā intelekta komandas līdzvadītāja, ievietoja tvītu, norādot, ka viņa ir atlaista. AI kopienā viņa tika plaši cienīta par neobjektivitāti un sejas atpazīšanas pētījumiem. Incidents, kas noveda pie viņas atlaišanas, attiecās uz viņas līdzautorētu dokumentu, kas, pēc Google domām, neatbilst viņu publicēšanas standartiem. 

Tomēr Gebru un citi apgalvo, ka atlaišanu motivējušas sabiedriskās attiecības, nevis progress. Atlaišana notika pēc tam, kad Gebru apšaubīja rīkojumu nepublicēt pētījumu par to, kā mākslīgais intelekts, kas atdarina cilvēku valodu, var kaitēt marginalizētām iedzīvotāju grupām. 2021. gada februārī tika atlaista arī Gebru līdzautore Mārgareta Mičela. 

Google paziņoja, ka Mičels pārkāpis uzņēmuma rīcības kodeksu un drošības politiku, pārvietojot elektroniskos failus ārpus uzņēmuma. Mičels nesniedza sīkāku informāciju par viņas atlaišanas iemeslu. Šis solis izraisīja kritikas lavīnu, kā rezultātā Google līdz 2021. gada februārim paziņoja par izmaiņām savā daudzveidībā un pētniecības politikā. Šis incidents ir tikai viens piemērs tam, kā ētikas sadursmes sadala lielos tehnoloģiju uzņēmumus un to it kā objektīvās pētniecības nodaļas.

Traucējoša ietekme

Saskaņā ar Harvard Business Review, lielākais izaicinājums, ar ko saskaras uzņēmumu īpašnieki, ir atrast līdzsvaru starp ārējo spiedienu reaģēt uz ētikas krīzēm un savu uzņēmumu un nozaru iekšējām prasībām. Ārējā kritika mudina uzņēmumus pārvērtēt savu biznesa praksi. Tomēr vadības spiediens, nozares konkurence un vispārējās tirgus gaidas par to, kā būtu jāvada uzņēmumi, dažkārt var radīt kompensējošus stimulus, kas veicina status quo. Attiecīgi ētiskās sadursmes tikai palielināsies, attīstoties kultūras normām un uzņēmumiem (īpaši ietekmīgiem tehnoloģiju uzņēmumiem) turpinot virzīt robežas jaunajai uzņēmējdarbības praksei, ko tie var īstenot, lai gūtu jaunus ieņēmumus.

Vēl viens piemērs korporācijām, kas cīnās ar šo ētisko līdzsvaru, ir uzņēmums Meta. Lai novērstu savus publiskotos ētiskos trūkumus, Facebook 2020. gadā izveidoja neatkarīgu pārraudzības padomi, kurai ir tiesības atcelt satura regulēšanas lēmumus, pat tos, ko pieņēmis dibinātājs Marks Cukerbergs. 2021. gada janvārī komiteja pieņēma savus pirmos lēmumus par strīdīgo saturu un atcēla lielāko daļu tajā izskatīto lietu. 

Tomēr ar miljardiem ziņu Facebook katru dienu un neizsakāmi daudz satura sūdzību, uzraudzības padome darbojas daudz lēnāk nekā tradicionālās valdības. Tomēr padome bija sniegusi dažus pamatotus ieteikumus. 2022. gadā grupa ieteica Meta Platforms vērsties pret Facebook publicētajiem dokssinga incidentiem, aizliedzot lietotājiem dalīties ar personu mājas adresēm platformās, pat ja tās ir publiski pieejamas. Valde arī iestājās par to, lai Facebook atvērtu saziņas kanālu, lai skaidri izskaidrotu, kāpēc notiek pārkāpumi un kā tie tiek risināti.

Privātā sektora ētikas sadursmju sekas

Plašākas ētikas sadursmju sekas privātajā sektorā var ietvert: 

• Vairāk uzņēmumu veido neatkarīgas ētikas padomes, lai pārraudzītu ētikas vadlīniju ieviešanu attiecīgajā uzņēmējdarbības praksē.
• Akadēmisko aprindu pastiprināta kritika par to, kā tehnoloģiju pētījumu komercializācija ir radījusi apšaubāmāku praksi un sistēmas.
• Lielāka intelektuālā sektora aizplūšana no valsts sektora, jo tehnoloģiju uzņēmumi meklē talantīgus valsts un universitāšu AI pētniekus, piedāvājot ievērojamas algas un pabalstus.
• Valdības arvien vairāk pieprasa visiem uzņēmumiem publicēt savas ētikas vadlīnijas neatkarīgi no tā, vai tie sniedz tehnoloģiju pakalpojumus vai ne.
• Atklātāki pētnieki tiek atlaisti no lielajiem uzņēmumiem interešu konflikta dēļ, lai tos ātri nomainītu.

Jautājumi, kas jāapsver

• Kā, jūsuprāt, ētikas sadursmes ietekmēs to, kādus produktus un pakalpojumus saņem patērētāji?
• Ko uzņēmumi var darīt, lai nodrošinātu savu tehnoloģiju pētījumu pārredzamību?