Әлсіз адамдарды бағалау: технология қауымдастықтарға қарсы шыққанда

• автор:
• Автордың аты-жөні

  Кванттық болжау
• Ақпан 14, 2024

Түсінікті қорытынды

Жасанды интеллекттің (AI) жұмыспен қамту және денсаулық сақтау сияқты секторлардағы рөлінің кеңеюі осал қауымдастықтарды бейтараптық пен әдепсіз балл жинау тәжірибесіне ұшыратуы мүмкін. Маңызды салаларда AI-ға көбірек тәуелділік кемсітушілікке жол бермеу үшін әртүрлі деректер мен қатаң ережелердің қажеттілігін көрсетеді. Бұл тенденция ашықтыққа, AI қолданбаларында әділдікке және технологияларды басқаруға қоғамдық және үкіметтік көзқарастардың өзгеруіне сұраныстың артып келе жатқанын көрсетеді.

Әлсіз адамдар контекстін бағалау

Соңғы жылдары AI әртүрлі секторларда, атап айтқанда, жұмыспен қамту, денсаулық сақтау және полицияны қорғауда жиі қолданылуда. 2020 жылға қарай АҚШ-тағы жалдау менеджерлерінің жартысынан көбі жұмысқа қабылдау кезінде алгоритмдік бағдарламалық жасақтама мен AI құралдарын енгізді, бұл үрдіс өсуде. Осы платформалар мен жүйелерді қуаттандыратын алгоритмдер әртүрлі деректер түрлерін пайдаланады, соның ішінде профильдердегі анық ақпаратты, пайдаланушы әрекеттерінен алынған жасырын деректерді және мінез-құлық аналитикасын. Дегенмен, деректер мен алгоритмдік шешімдерді қабылдаудың бұл күрделі өзара әрекеті біржақтылық қаупін тудырады. Мысалы, әйелдер түйіндемеде өз дағдыларын жиі көрсетпейді және нақты гендерлік тіл алгоритм кандидаттың жарамдылығын бағалау әдісіне әсер етуі мүмкін. 

Денсаулық сақтау саласында, егер бұл алгоритмдерді үйрету үшін пайдаланылатын деректер әртүрлі болмаса, бұл қате диагноз қоюға немесе дұрыс емес емдеу ұсыныстарына, әсіресе жеткіліксіз ұсынылған топтарға әкелуі мүмкін. Тағы бір алаңдаушылық - құпиялылық және деректер қауіпсіздігі, өйткені денсаулық сақтау деректері өте сезімтал. Полиция қызметінде AI болжамды полиция алгоритмдері, бет-әлпетті тану технологиясы және бақылау жүйелері сияқты әртүрлі нысандарда қолданылады. Бірнеше зерттеулер бұл бет-әлпетті тану жүйелері арқылы түрлі-түсті адамдар жиі қате анықталатынын атап өтті.

Нормативтік ландшафт осы міндеттерді шешу үшін дамып келеді. 2022 жылғы Алгоритмдік есеп беру туралы заң сияқты заңнамалық күш-жігер компаниялардан шешім қабылдаудың маңызды салаларында AI жүйелерінің әсерін бағалауды талап ету арқылы алгоритмдік ауытқуды азайтуға бағытталған. Дегенмен, жасанды интеллектке негізделген жалдау процестеріндегі бейтараптық мәселесін шешу көптеген мүдделі тараптардың келісілген күш-жігерін талап етеді. Технологияларды әзірлеушілер алгоритмдерінде ашықтық пен әділдікті қамтамасыз етуі керек, компаниялар бұл құралдардың шектеулерін мойындауы және шешуі керек, ал саясаткерлер кемсітушілік тәжірибелерден қорғайтын ережелерді сақтауы керек. 

Деструктивті әсер

Негізінен несиелік скоринг және алгоритмдік жалдау сияқты жүйелер арқылы осал адамдарды бағалаудың ұзақ мерзімді әсері әлеуметтік мобильділікке және экономикалық теңсіздікке айтарлықтай әсер етуі мүмкін. Қаржылық сенімділікті анықтау үшін маңызды несиелік ұпайлар әлеуметтік-экономикалық деңгейден төмен адамдарға жиі қолайсыздық туғызады. Уақыт өте келе бұл әлеуметтік жағынан аз қамтылған адамдар негізгі қаржылық қызметтерге қол жеткізуде қосымша қиындықтарға тап болатын циклді жалғастырады.

Біржақты баллдық жүйелердің әсері тұрғын үйге, жұмысқа орналасуға және маңызды қызметтерге қол жеткізуге әсер ететін кеңірек әлеуметтік оқшаулауға әкелуі мүмкін. Төмен ұпай жинаған немесе біржақты алгоритмдер бойынша әділетсіз бағаланған адамдарға әлеуметтік теңсіздікті күшейте отырып, тұрғын үй немесе жұмыс орындарын қамтамасыз ету қиынға соғуы мүмкін. Бұл сценарий тек тар деректер нүктелеріне сүйенбей, жеке адамның өмірінің кеңірек контекстін қарастыратын неғұрлым әділ бағалау жүйелерінің қажеттілігін көрсетеді.

Компаниялар, әсіресе қаржы және рекрутингтік секторлар, осы бейтарап жүйелерге сүйене отырып, әлеуметтік стратификацияға байқаусызда үлес қосуы мүмкін. Сонымен қатар, үкіметтер халықтың осал топтарын қорғау үшін технологиялық жетістіктерге сәйкес ережелерді сақтауды қамтамасыз ету мәселесіне тап болады. Олар баллдық жүйеде ашықтық пен есеп беруді ынталандыруы немесе азаматтардың мемлекеттік институттар мен бағдарламаларға сенімін жоғалту қаупін арттыруы керек.

Әлсіз адамдарға балл қоюдың салдары

Әлсіз адамдарды бағалаудың кеңірек салдары мыналарды қамтуы мүмкін: 

• Баламалы деректерді қамтитын жетілдірілген несиелік скоринг үлгілері, бұл тарихи тұрғыдан жеткіліксіз қауымдастықтар үшін қаржылық өнімдерге қолжетімділікті жақсартуға әкеледі.
• Үкіметтер индустриалды индустриалды интеллектке негізделген жалдау құралдарына қатысты қатаң ережелерді енгізіп, барлық салаларда жұмыспен қамтудың әділ тәжірибесін қамтамасыз етеді.
• Жұртшылықтың бейтарап AI-ға қарсы хабардар болуы мен үгіт-насихат жұмыстарының жоғарылауы, нәтижесінде технологиялық орналастырулар ашық және есеп береді.
• Компаниялар өздерінің жалдау стратегияларын қайта қарап, бейсаналық бейімділікті азайтып, жұмыс орнындағы әртүрлілікті ынталандырады.
• Еңбек нарығын әртараптандыруға ықпал ететін этикалық AI мен алгоритмдік аудитке бағытталған жаңа салалар мен жұмыс рөлдерін дамыту.
• Қоғамның кең ауқымына пайда әкелетін технологиялық жетістіктерді алға жылжыту үшін AI зерттеулеріне инвестицияның артуы.

Қарастырылатын сұрақтар

• AI алгоритмдеріндегі әртүрлі деректер жиынын біріктіру біздің қоғамдық әділдік пен теңдік туралы түсінігімізді қалай өзгертуі мүмкін?
• Адамдар өздерінің күнделікті өмірінде және жұмыс орындарында AI этикалық тәжірибесін дамытуға қалай белсенді түрде үлес қоса алады немесе оған әсер ете алады?