Ғарази зеҳни сунъӣ: Мошинҳо он қадар объективӣ нестанд, ки мо интизор будем

Кредити тасвирӣ:
Қарзи тасвирӣ
iStock

Ғарази зеҳни сунъӣ: Мошинҳо он қадар объективӣ нестанд, ки мо интизор будем

Ғарази зеҳни сунъӣ: Мошинҳо он қадар объективӣ нестанд, ки мо интизор будем

Матни зерсарлавҳа
Ҳама розӣ ҳастанд, ки AI бояд беғараз бошад, аммо бартараф кардани ғаразҳо мушкил аст
    • Муаллиф:
    • Номи муаллиф
      Пешгӯии Quantumrun
    • Феврали соли 8, 2022

    Хулосаи фаҳмиш

    Гарчанде ки технологияҳои ба маълумот асосёфта ваъдаи таҳкими ҷомеаи одилона доранд, онҳо аксар вақт ҳамон ғаразҳоеро, ки одамон дар бар мегиранд, инъикос мекунанд ва боиси беадолатиҳои эҳтимолӣ мешаванд. Масалан, ғаразнокӣ дар системаҳои зеҳни сунъӣ (AI) метавонад нохост стереотипҳои зарароварро бадтар кунад. Бо вуҷуди ин, талошҳо барои одилонатар кардани системаҳои AI идома доранд, гарчанде ки ин саволҳои мураккабро дар бораи тавозуни байни фоида ва адолат ва зарурати танзими оқилона ва гуногунрангӣ дар гурӯҳҳои технологӣ ба миён меорад.

    Контексти умумии ғаразноки AI

    Умед аст, ки технологияҳое, ки ба маълумот асос ёфтаанд, ба инсоният дар бунёди ҷомеае мусоидат мекунанд, ки дар он адолат меъёр барои ҳама аст. Бо вуҷуди ин, воқеияти кунунӣ манзараи дигарро тасвир мекунад. Бисёре аз ғаразҳое, ки одамон доранд, ки дар гузашта ба беадолатиҳо оварда мерасонанд, ҳоло дар алгоритмҳое, ки ҷаҳони рақамии моро идора мекунанд, инъикос меёбанд. Ин ғаразҳо дар системаҳои AI аксар вақт аз таассуботи шахсоне, ки ин системаҳоро таҳия мекунанд, бармеоянд ва ин ғаразҳо аксар вақт ба кори онҳо ворид мешаванд.

    Масалан, лоиҳаи соли 2012-ро бигиред, ки бо номи ImageNet маъруф буд, ки мехост тамғагузории тасвирҳоро барои омӯзиши системаҳои омӯзиши мошинсозӣ крадсорсинг кунад. Шабакаи бузурги нейроние, ки аз рӯи ин маълумот омӯхта шудааст, баъдан тавонист объектҳоро бо дақиқии таъсирбахш муайян кунад. Аммо, пас аз санҷиши наздиктар, муҳаққиқон ғаразҳои дар дохили маълумоти ImageNet пинҳоншударо кашф карданд. Дар як ҳолати мушаххас, алгоритме, ки аз рӯи ин маълумот таълим дода шудааст, ба гумони он ки ҳамаи барномасозони нармафзор мардони сафедпӯстанд, ғаразнок буд.

    Ин ғараз метавонад боиси он гардад, ки ҳангоми автоматикунонии раванди ба кор қабул кардани занон барои чунин нақшҳо нодида гирифта шаванд. Мушкилот ба маҷмӯи додаҳо роҳ ёфтанд, зеро шахси алоҳида ба тасвирҳои "зан" тамғакоғазҳои иловагиеро дар бар мегирифт, ки аз истилоҳи таҳқиромез иборат буд. Ин мисол нишон медиҳад, ки чӣ гуна ғаразҳо, хоҳ қасдан ё ногаҳонӣ, метавонанд ҳатто ба системаҳои мураккабтарини AI ворид шуда, стереотипҳои зараровар ва нобаробарии эҳтимолиро идома диҳанд.

    Таъсири вайронкунанда 

    Кӯшишҳо барои рафъи ғаразнокӣ дар додаҳо ва алгоритмҳо аз ҷониби муҳаққиқон дар созмонҳои гуногуни давлатӣ ва хусусӣ оғоз карда шудаанд. Масалан, дар мавриди лоиҳаи ImageNet, краудсорсинг барои муайян ва аз байн бурдани истилоҳҳои тамғагузорӣ, ки ба тасвирҳои муайян нури таҳқиромез меандозанд, истифода мешуд. Ин тадбирҳо нишон доданд, ки воқеан имкони аз нав танзим кардани системаҳои AI то одилонатар аст.

    Бо вуҷуди ин, баъзе коршиносон бар он назаранд, ки аз байн бурдани ғараз метавонад эҳтимолан маҷмӯаи маълумотро камтар муассир созад, алахусус вақте ки ғаразҳои сершумор дар бозӣ ҳастанд. Маҷмӯи маълумоте, ки аз ғаразҳои муайян хориҷ карда шудааст, метавонад барои истифодаи самаранок маълумоти кофӣ надошта бошад. Он саволеро ба миён меорад, ки маҷмӯи маълумотҳои тасвирии воқеан гуногун чӣ гуна хоҳад буд ва чӣ гуна онро бе осебпазирии он истифода бурдан мумкин аст.

    Ин тамоюл зарурати муносибати оқилона ба истифодаи AI ва технологияҳои ба маълумот асосёфтаро таъкид мекунад. Барои ширкатҳо, ин метавонад маънои сармоягузорӣ ба абзорҳои муайянкунии ғаразнок ва таблиғи гуногунии дастаҳои технологӣ дошта бошад. Барои ҳукуматҳо, он метавонад татбиқи қоидаҳоро барои таъмини истифодаи одилонаи AI дар бар гирад. 

    Оқибатҳои ғарази AI

    Оқибатҳои васеътари ғарази AI метавонанд инҳоро дар бар гиранд:

    • Ташкилотҳо дар таъмини адолат ва табъиз фаъол нестанд, зеро онҳо AI-ро барои баланд бардоштани маҳсулнокӣ ва иҷроиш истифода мебаранд. 
    • Доштани ахлоқи AI дар гурӯҳҳои рушд барои ошкор ва кам кардани хатарҳои ахлоқӣ дар аввали лоиҳа. 
    • Тарҳрезии маҳсулоти AI бо омилҳои гуногун, аз қабили ҷинс, нажод, синф ва фарҳанг ба таври возеҳ дар назар гирифта шудааст.
    • Гирифтани намояндагон аз гурӯҳҳои гуногун, ки маҳсулоти AI-и ширкатро барои санҷиши он пеш аз баровардани он истифода хоҳанд кард.
    • Хидматҳои гуногуни давлатӣ аз ҷониби баъзе аъзоёни ҷомеа маҳдуд карда мешаванд.
    • Баъзе аъзоёни ҷомеа наметавонанд ба имкониятҳои муайяни кор дастрасӣ пайдо кунанд ё ба онҳо мувофиқат кунанд.
    • Органхои хифзи хукук ва мутахассисон нисбат ба дигарон бештар аъзоёни муайяни чамъиятро беадолатона нишон медиханд. 

    Саволҳо барои баррасӣ

    • Оё шумо хушбин ҳастед, ки қабули қарорҳои автоматӣ дар оянда одилона хоҳад буд?
    • Дар бораи қабули қарор дар бораи AI шуморо аз ҳама асабонӣ мекунад?

    Истинодҳои фаҳмиш

    Барои ин фаҳмиш истинодҳои зерини маъмул ва институтсионалӣ истинод карда шуданд: