Adimen artifizialaren alborapena: makinak ez dira espero genuen bezain objektiboak

• Egilea:
• Egilearen izena

  Quantumrun Prospektiba
• Otsailaren 8, 2022

Ikuspegiaren laburpena

Datuetan oinarritutako teknologiek gizarte bidezko bat sustatzeko promesa duten arren, askotan gizakiek gordetzen dituzten alborapen berberak islatzen dituzte, balizko injustiziak eraginez. Esate baterako, adimen artifizialaren (AI) sistemetako alborapenek nahi gabe estereotipo kaltegarriak okerrera egin ditzakete. Hala ere, ahaleginak egiten ari dira AI sistemak bidezkoagoak izan daitezen, nahiz eta horrek galdera konplexuak planteatzen dituen erabilgarritasunaren eta zuzentasunaren arteko orekari buruzko eta talde teknologikoetan erregulazio eta aniztasunaren beharrari buruz.

AI alborapena testuinguru orokorra

Itxaropena da datuek bultzatutako teknologiek gizateriari lagunduko diotela zuzentasuna guztientzako araua den gizarte bat ezartzen. Hala ere, egungo errealitateak beste argazki bat marrazten du. Gizakiok iraganean injustiziak eragin dituzten aurreikuspenetako asko gure mundu digitala gobernatzen duten algoritmoetan islatzen ari dira orain. AI sistemetako alborapen hauek sistema horiek garatzen dituzten pertsonen aurreiritzietatik datoz sarri, eta alborapen horiek maiz sartzen dira euren lanean.

Har dezagun, esaterako, 2012an ImageNet izenez ezagutzen den proiektu bat, ikasketa automatikoko sistemen prestakuntzarako irudien etiketazioa crowdsource bilatzen zuena. Datu hauekin trebatutako neurona-sare handi batek objektuak zehaztasun ikaragarriz identifikatzeko gai izan zen. Hala ere, gertuagotik begiratuta, ikertzaileek ImageNet-en datuetan ezkutatuta dauden alborapenak aurkitu zituzten. Kasu zehatz batean, datu horiei buruz trebatutako algoritmo bat software-programatzaile guztiak gizon zuriak direla suposatu zuen.

Alborapen honek emakumeak horrelako roletarako ahaztuak izatea eragin dezake kontratazio-prozesua automatizatuta dagoenean. Alboramenduak datu multzoetan sartu ziren, "emakumearen" irudiei etiketak gehitzen zizkieten norbanakoak termino gutxiesgarri batez osatuta zegoen etiketa gehigarri bat barne hartzen zuelako. Adibide honek erakusten du nola alborapenak, nahita edo nahi gabe, AI sistema sofistikatuenetan ere infiltratu daitezkeen, estereotipo eta desberdintasun kaltegarriak iraunaraziz.

Eragin disruptiboa 

Datuen eta algoritmoen alborapenari aurre egiteko ahaleginak egin dituzte hainbat erakunde publiko eta pribatutako ikertzaileek. ImageNet proiektuaren kasuan, adibidez, crowdsourcing-a erabili zen zenbait irudiri argi gutxiesgarria ematen dieten etiketa-terminoak identifikatu eta ezabatzeko. Neurri hauek frogatu zuten posible dela AI sistemak bidezkoagoak izateko birkonfiguratzea.

Hala ere, aditu batzuek diote alborapena kentzeak datu-multzo bat eraginkortasun txikiagoa izan dezakeela, batez ere alborapen anitzak jokoan daudenean. Alborapen batzuetatik kendutako datu-multzo batek erabilera eraginkorra izateko informazio nahikoa falta izan dezake. Benetan anitza den irudi-datu multzo bat nolakoa izango den eta nola erabil litekeen bere erabilgarritasuna arriskuan jarri gabe planteatzen du.

Joera horrek azpimarratzen du AI eta datuetan oinarritutako teknologien erabilerari buruzko ikuspegi hausnartu baten beharra. Enpresentzat, horrek alborapenak hautemateko tresnetan inbertitzea eta talde teknologikoetan aniztasuna sustatzea suposa dezake. Gobernuentzat, AIaren bidezko erabilera bermatzeko arauak ezartzea suposa lezake. 

AI alborapenaren ondorioak

AI alborapenaren ondorio zabalagoak izan daitezke:

• Erakundeak proaktiboak dira zuzentasuna eta diskriminaziorik eza bermatzeko, IA baliatzen baitute produktibitatea eta errendimendua hobetzeko. 
• Garapen taldeetan AI etika bat izatea, proiektu baten hasieran arrisku etikoak detektatzeko eta arintzeko. 
• AI produktuak diseinatzea generoa, arraza, klasea eta kultura bezalako aniztasun faktoreak argi eta garbi kontuan hartuta.
• Enpresa baten AI produktua erabiliko duten hainbat taldetako ordezkariak lortzea kaleratu aurretik probatzeko.
• Herritar batzuengandik hainbat zerbitzu publiko mugatzen ari dira.
• Herritar batzuk lan-aukera jakin batzuetara sartu edo jaso ezin izatea.
• Legea betearazteko agentziek eta profesionalek gizarteko kide batzuei bidegabeki zuzenduta beste batzuk baino gehiago. 

Kontuan hartu beharreko galderak

• Itxaropentsu al zara etorkizunean erabaki automatizatuak bidezkoak izango direla?
• Zer gertatzen da AI erabakiak hartzeak jartzen zaitu urduriena?