Էթիկայի ուղեցույցներ տեխնոլոգիայում. Երբ առևտուրն իր վրա է վերցնում հետազոտությունը

• Հեղինակ:
• Հեղինակ անունը

  Quantumrun Հեռատեսություն
• Փետրվարի 15, 2023

Insight ամփոփում

Հնարավոր վտանգների և ալգորիթմական կողմնակալության պատճառով, որոնք արհեստական ​​ինտելեկտի (AI) համակարգերը կարող են պատճառել փոքրամասնությունների ընտրված խմբերին, շատ դաշնային գործակալություններ և ընկերություններ ավելի ու ավելի են պահանջում տեխնոլոգիական մատակարարներից հրապարակել էթիկական ուղեցույցներ, թե ինչպես են նրանք զարգացնում և տեղակայում AI: Այնուամենայնիվ, այս ուղեցույցների կիրառումը իրական կյանքում շատ ավելի բարդ և մռայլ է:

Էթիկան բախվում է համատեքստին

Սիլիկոնային հովտում բիզնեսները դեռ ուսումնասիրում են, թե ինչպես լավագույնս կիրառել էթիկական սկզբունքները գործնականում, ներառյալ՝ «որքա՞ն արժե էթիկայի առաջնահերթությունը» հարցը: 2 թվականի դեկտեմբերի 2020-ին Թիմնիտ Գեբրուն՝ Google-ի էթիկական արհեստական ​​ինտելեկտի թիմի համաղեկավարը, թվիթ է հրապարակել՝ ասելով, որ իրեն ազատել են աշխատանքից: Նա լայնորեն հարգված էր AI համայնքում իր կողմնակալության և դեմքի ճանաչման հետազոտության համար: Միջադեպը, որը հանգեցրեց նրան աշխատանքից ազատելուն, վերաբերում էր նրա համահեղինակած թերթին, որը Google-ը որոշեց, որ չի համապատասխանում իրենց հրապարակման չափանիշներին: 

Այնուամենայնիվ, Գեբրուն և մյուսները պնդում են, որ կրակոցները պայմանավորված էին ոչ թե առաջընթացով, այլ հասարակական կապերով: Աշխատանքից ազատումը տեղի է ունեցել այն բանից հետո, երբ Գեբրուն կասկածի տակ է դրել ուսումնասիրություն չհրապարակելու մասին այն մասին, թե ինչպես կարող է մարդու լեզուն ընդօրինակող արհեստական ​​ինտելեկտը վնասել մարգինալացված բնակչությանը: 2021 թվականի փետրվարին աշխատանքից հեռացվեց նաև Գեբրուի համահեղինակ Մարգարեթ Միտչելը։ 

Google-ը հայտարարել է, որ Միտչելը խախտել է ընկերության վարքագծի կանոնները և անվտանգության քաղաքականությունը՝ էլեկտրոնային ֆայլերը ընկերությունից դուրս տեղափոխելով։ Միտչելը չի ​​մանրամասնել իր պաշտոնանկության հիմքերը։ Այս քայլը առաջացրեց քննադատությունների ավալանշ, ինչը ստիպեց Google-ին մինչև 2021 թվականի փետրվարը հայտարարել իր բազմազանության և հետազոտության քաղաքականության մեջ փոփոխությունների մասին: Այս միջադեպը ընդամենը մեկ օրինակ է այն բանի, թե ինչպես են էթիկայի բախումները բաժանում խոշոր տեխնոլոգիական ընկերությունները և նրանց ենթադրաբար օբյեկտիվ հետազոտական ​​բաժինները:

Խանգարող ազդեցություն

Ըստ Harvard Business Review-ի՝ բիզնեսի սեփականատերերի ամենամեծ մարտահրավերը հավասարակշռություն գտնելն է արտաքին ճնշումների միջև՝ արձագանքելու էթիկական ճգնաժամերին և իրենց ընկերությունների ու ոլորտների ներքին պահանջներին: Արտաքին քննադատությունները ընկերություններին ստիպում են վերագնահատել իրենց բիզնես պրակտիկան: Այնուամենայնիվ, ղեկավարության ճնշումները, արդյունաբերության մրցակցությունը և շուկայի ընդհանուր ակնկալիքները, թե ինչպես պետք է վարվեն բիզնեսը, երբեմն կարող են հակակշռող խթաններ ստեղծել, որոնք նպաստում են ստատուս քվոյին: Համապատասխանաբար, էթիկական բախումները միայն կմեծանան, քանի որ մշակութային նորմերը զարգանում են, և երբ ընկերությունները (հատկապես ազդեցիկ տեխնոլոգիական ընկերությունները) կշարունակեն սահմաններ դնել նոր բիզնես պրակտիկաների վրա, որոնք նրանք կարող են կիրառել՝ նոր եկամուտներ ստեղծելու համար:

Այս էթիկական հավասարակշռության դեմ պայքարող կորպորացիաների մեկ այլ օրինակ է ընկերությունը՝ Meta-ն: Իր հրապարակված էթիկական թերությունները շտկելու համար Facebook-ը 2020 թվականին ստեղծեց անկախ վերահսկողական խորհուրդ, որն իրավասու էր չեղարկել բովանդակության մոդերատորության որոշումները, նույնիսկ հիմնադիր Մարկ Ցուկերբերգի կողմից ընդունված որոշումները: 2021 թվականի հունվարին կոմիտեն կայացրեց իր առաջին վճիռները վիճելի բովանդակության վերաբերյալ և չեղյալ համարեց իր տեսած գործերի մեծ մասը: 

Այնուամենայնիվ, ամեն օր Facebook-ում միլիարդավոր գրառումներով և բովանդակության անհամար բողոքներով, վերահսկիչ խորհուրդը շատ ավելի դանդաղ է գործում, քան ավանդական կառավարությունները: Այնուամենայնիվ, խորհուրդը մի քանի հիմնավոր առաջարկություններ էր արել։ 2022թ.-ին խորհուրդը Meta Platforms-ին խորհուրդ տվեց պայքարել Facebook-ում հրապարակված դոքսինգային միջադեպերի դեմ՝ արգելելով օգտատերերին կիսել անհատների տան հասցեները հարթակներում, նույնիսկ եթե դրանք հանրությանը հասանելի են: Խորհուրդը նաև կոչ է արել Facebook-ը բացել հաղորդակցման ալիք՝ թափանցիկ բացատրելու, թե ինչու են խախտումները տեղի ունենում և ինչպես են դրանք վարվում:

Մասնավոր հատվածի էթիկայի բախումների հետևանքները

Մասնավոր հատվածում էթիկայի բախումների ավելի լայն հետևանքները կարող են ներառել. 

• Ավելի շատ ընկերություններ ստեղծում են անկախ էթիկայի խորհուրդներ՝ իրենց համապատասխան բիզնես պրակտիկայում էթիկական ուղեցույցների իրականացումը վերահսկելու համար:
• Ակադեմիական շրջանակների կողմից ավելացել են քննադատությունները, թե ինչպես է տեխնոլոգիական հետազոտությունների առևտրայնացումը հանգեցրել ավելի կասկածելի պրակտիկաների և համակարգերի:
• Ավելի շատ հանրային հատվածի ուղեղների արտահոսք, քանի որ տեխնոլոգիական ընկերությունները փնտրում են տաղանդավոր հանրային և համալսարանական AI հետազոտողների՝ առաջարկելով զգալի աշխատավարձեր և արտոնություններ:
• Կառավարությունները գնալով ավելի ու ավելի են պահանջում բոլոր ընկերություններից հրապարակել իրենց էթիկական ուղեցույցները՝ անկախ նրանից՝ նրանք մատուցում են տեխնոլոգիական ծառայություններ, թե ոչ:
• Շահերի բախման պատճառով ավելի շատ անկեղծ հետազոտողներ հեռացվում են խոշոր ընկերություններից, որպեսզի արագ փոխարինվեն:

Հարցեր, որոնք պետք է հաշվի առնել

• Ի՞նչ եք կարծում, էթիկայի բախումները ինչպե՞ս կանդրադառնան սպառողների կողմից ստացվող ապրանքների և ծառայությունների տեսակների վրա:
• Ի՞նչ կարող են անել ընկերությունները՝ իրենց տեխնոլոգիական հետազոտություններում թափանցիկություն ապահովելու համար: