Gervigreindarhlutdrægni: Vélar eru ekki eins hlutlægar og við vonuðumst til

MYNDAGREIÐSLA:
Image inneign
iStock

Gervigreindarhlutdrægni: Vélar eru ekki eins hlutlægar og við vonuðumst til

Gervigreindarhlutdrægni: Vélar eru ekki eins hlutlægar og við vonuðumst til

Texti undirfyrirsagna
Allir eru sammála um að gervigreind eigi að vera óhlutdræg, en það reynist erfitt að fjarlægja hlutdrægni
    • Höfundur:
    • Höfundur nafn
      Quantumrun Foresight
    • Febrúar 8, 2022

    Innsýn samantekt

    Þó að gagnadrifin tækni gefi fyrirheit um að hlúa að sanngjörnu samfélagi, endurspegla hún oft sömu hlutdrægni og manneskjur hafa, sem leiðir til hugsanlegs óréttlætis. Til dæmis, hlutdrægni í gervigreindarkerfum (AI) getur óvart versnað skaðlegar staðalmyndir. Hins vegar eru tilraunir í gangi til að gera gervigreindarkerfi sanngjarnara, þó að þetta veki upp flóknar spurningar um jafnvægið milli gagnsemi og sanngirni, og þörfina fyrir ígrundaða reglugerð og fjölbreytni í tækniteymum.

    AI hlutdrægni almennt samhengi

    Vonin er sú að tækni knúin áfram af gögnum muni aðstoða mannkynið við að koma á fót samfélagi þar sem sanngirni er viðmið fyrir alla. Núverandi veruleiki dregur hins vegar upp aðra mynd. Margar af þeim hlutdrægni sem menn hafa, sem hafa leitt til óréttlætis í fortíðinni, endurspeglast nú í reikniritunum sem stjórna stafræna heimi okkar. Þessar hlutdrægni í gervigreindarkerfum stafa oft af fordómum einstaklinganna sem þróa þessi kerfi og þessi hlutdrægni síast oft inn í vinnu þeirra.

    Tökum sem dæmi verkefni árið 2012 sem kallast ImageNet, þar sem reynt var að safna saman merkingum mynda fyrir þjálfun vélanámskerfa. Stórt tauganet sem þjálfað var á þessum gögnum gat síðan greint hluti með glæsilegri nákvæmni. Hins vegar, við nánari skoðun, uppgötvuðu vísindamenn hlutdrægni sem var falin í ImageNet gögnunum. Í einu tilteknu tilviki var reiknirit sem var þjálfað á þessum gögnum hlutdrægt að þeirri forsendu að allir hugbúnaðarforritarar væru hvítir karlmenn.

    Þessi hlutdrægni gæti hugsanlega leitt til þess að konum sé litið fram hjá slíkum hlutverkum þegar ráðningarferlið er sjálfvirkt. Hlutdrægni rataði inn í gagnasöfnin vegna þess að einstaklingurinn sem bætti merkimiðum við myndir af „konu“ innihélt viðbótarmerki sem samanstóð af niðrandi hugtaki. Þetta dæmi sýnir hvernig hlutdrægni, hvort sem það er viljandi eða óviljandi, getur síast inn í jafnvel flóknustu gervigreindarkerfin og hugsanlega viðhaldið skaðlegum staðalímyndum og ójöfnuði.

    Truflandi áhrif 

    Rannsóknir til að takast á við hlutdrægni í gögnum og reikniritum hafa verið settar af stað af vísindamönnum í ýmsum opinberum og einkareknum stofnunum. Í tilviki ImageNet verkefnisins, til dæmis, var mannfjöldi beitt til að bera kennsl á og útrýma merkingarhugtökum sem varpa niðrandi ljósi á tilteknar myndir. Þessar ráðstafanir sýndu að það er sannarlega hægt að endurstilla gervigreindarkerfi til að vera sanngjarnara.

    Hins vegar halda sumir sérfræðingar því fram að það að fjarlægja hlutdrægni gæti hugsanlega gert gagnasett minna árangursríkt, sérstaklega þegar margvísleg hlutdrægni er í gangi. Gagnasett sem er svipt ákveðnum hlutdrægni gæti endað með því að vanta nægjanlegar upplýsingar til að hægt sé að nota það. Það vekur upp þá spurningu hvernig raunverulegt fjölbreytt myndgagnasett myndi líta út og hvernig væri hægt að nota það án þess að skerða notagildi þess.

    Þessi þróun undirstrikar þörfina fyrir yfirvegaða nálgun við notkun gervigreindar og gagnastýrðrar tækni. Fyrir fyrirtæki gæti þetta þýtt að fjárfesta í hlutdrægni-skynjunarverkfærum og stuðla að fjölbreytileika í tækniteymum. Fyrir stjórnvöld gæti það falið í sér innleiðingu reglugerða til að tryggja sanngjarna notkun gervigreindar. 

    Afleiðingar AI hlutdrægni

    Víðtækari afleiðingar gervigreindar hlutdrægni geta falið í sér:

    • Stofnanir eru fyrirbyggjandi við að tryggja sanngirni og jafnræði þar sem þau nýta gervigreind til að bæta framleiðni og frammistöðu. 
    • Að hafa gervigreindarsiðfræðing í þróunarteymi til að greina og draga úr siðferðilegri áhættu snemma í verkefninu. 
    • Að hanna gervigreindarvörur með fjölbreytileikaþætti eins og kyn, kynþátt, stétt og menningu greinilega í huga.
    • Að fá fulltrúa frá hinum fjölbreyttu hópum sem munu nota gervigreindarvörur fyrirtækis til að prófa hana áður en hún kemur út.
    • Ýmis opinber þjónusta er takmörkuð frá ákveðnum aðilum almennings.
    • Sumir almenningur geta ekki fengið aðgang að eða eiga rétt á tilteknum atvinnutækifærum.
    • Löggæslustofnanir og fagfólk miðar á ósanngjarnan hátt á tiltekna þjóðfélagsþegna meira en aðra. 

    Spurningar sem þarf að íhuga

    • Ertu bjartsýnn á að sjálfvirk ákvarðanataka verði sanngjörn í framtíðinni?
    • Hvað með ákvarðanatöku gervigreindar gerir þig mest kvíðin?

    Innsýn tilvísanir

    Vísað var til eftirfarandi vinsælu og stofnanatengla fyrir þessa innsýn: