Аялуу адамдарды баалоо: Техника жамааттарга каршы чыкканда

• Author:
• Жазуучу аты

  Quantumrun Foresight
• February 14, 2024

Кыскача түшүнүк

Жасалма интеллекттин (AI) жумуш менен камсыз кылуу жана саламаттыкты сактоо сыяктуу секторлордогу ролунун кеңейиши аялуу жамааттарды бир жактуулукка жана этикага жатпаган балл коюу практикасына дуушар кылышы мүмкүн. Критикалык аймактарда AIга көбүрөөк көз каранды болуу дискриминацияны болтурбоо үчүн ар түрдүү маалыматтардын жана катаал эрежелердин зарылдыгын баса белгилейт. Бул тенденция ачык-айкындуулукка, AI тиркемелериндеги адилеттүүлүккө жана технологиялык башкарууга коомдук жана өкмөттүк мамиленин өзгөрүшүнө болгон суроо-талаптын өсүшүн көрсөтөт.

Аялуу адамдардын контекстине баа берүү

Акыркы жылдары AI ар кандай секторлордо, атап айтканда, жумуштуулукта, саламаттыкты сактоодо жана полицияда күч колдонууда көбүрөөк колдонулууда. 2020-жылга карата АКШда жалдоо менеджерлеринин жарымынан көбү жумушка алууда алгоритмдик программалык камсыздоону жана AI куралдарын киргизишкен, бул тенденция өсө берди. Бул платформаларды жана системаларды иштеткен алгоритмдер ар кандай маалыматтардын түрлөрүн, анын ичинде профилдерден ачык маалыматты, колдонуучунун аракеттеринен алынган жашыруун маалыматтарды жана жүрүм-турум аналитикасын колдонот. Бирок, маалыматтардын жана алгоритмдик чечим кабыл алуунун бул татаал өз ара аракети бир тараптуу болуу коркунучун жаратат. Мисалы, аялдар резюмеде өз жөндөмдөрүн аз көрсөтүшөт жана конкреттүү гендердик тил алгоритмдин талапкердин ылайыктуулугун баалоосуна таасир этиши мүмкүн. 

Саламаттыкты сактоо тармагында, эгерде бул алгоритмдерди окутуу үчүн колдонулган маалыматтар ар түрдүү болбосо, бул туура эмес диагноз коюуга же туура эмес дарылоо сунуштарына, айрыкча, аз көрсөтүлүүчү топторго алып келиши мүмкүн. Дагы бир кооптонуу бул купуялуулук жана маалымат коопсуздугу, анткени саламаттыкты сактоо маалыматтары өтө сезимтал. Полиция ишинде AI ар кандай формаларда колдонулат, мисалы, полициянын болжолдуу алгоритмдери, жүзүн таануу технологиясы жана байкоо тутумдары. Бир нече изилдөөлөр түстүү адамдар көбүнчө бул жүзүн таануу системалары тарабынан туура эмес аныкталганын баса белгилешти.

Бул көйгөйлөрдү чечүү үчүн жөнгө салуучу ландшафт өнүгүп жатат. Мыйзам чыгаруу аракеттери, 2022-жылдагы Алгоритмдик Жоопкерчилик Акты сыяктуу, компаниялардан чечимдерди кабыл алуунун маанилүү чөйрөлөрүндө AI тутумдарына таасирин баалоону талап кылуу менен алгоритмдик бир тараптуулукту азайтуу максатын көздөйт. Бирок, AI менен шартталган жумушка алуу процесстериндеги бир тараптуулук маселесин чечүү көптөгөн кызыкдар тараптардын биргелешкен аракеттерин талап кылат. Технологияларды иштеп чыгуучулар алгоритмдеринде ачык-айкындуулукту жана калыстыкты камсыз кылышы керек, компаниялар бул инструменттердин чектөөлөрүн моюнга алышы жана чечиши керек, ал эми саясатчылар дискриминациялоочу практикадан коргогон ченемдерди ишке ашыруусу керек. 

Бузуучу таасир

Кредиттик скоринг жана алгоритмдик жалдоо сыяктуу системалар аркылуу аялуу адамдарга балл коюунун узак мөөнөттүү таасири социалдык мобилдүүлүккө жана экономикалык диспропорцияга олуттуу таасир этиши мүмкүн. Каржылык ишенимдүүлүктү аныктоо үчүн зарыл болгон кредиттик упайлар көбүнчө социалдык-экономикалык жактан төмөн адамдар үчүн жетишсиз. Убакыттын өтүшү менен, бул начар адамдардын негизги каржылык кызматтарга жетүүдөгү кыйынчылыктарга дуушар болгон циклин улантат.

Бир жактуу баллдык системалардын таасири турак жайга, жумушка жана маанилүү кызматтарга жетүүгө таасирин тийгизип, кеңири социалдык четтетүүгө алып келиши мүмкүн. Төмөн упайлары бар же калыс эмес алгоритмдер менен бааланган адамдар үчүн социалдык теңсиздикти күчөтүп, турак жай же жумуш менен камсыз кылуу кыйынга турушу мүмкүн. Бул сценарий тар маалымат чекиттерине гана таянбастан, инсандын жашоосунун кеңири контекстин эске алган адилеттүү балл системаларынын зарылдыгын баса белгилейт.

Компаниялар, өзгөчө, каржы жана жалдоо секторлорунда, бул бир жактуу системаларга таянуу менен кокусунан коомдук стратификацияга салым кошо алат. Ошол эле учурда, өкмөттөр калктын аярлуу катмарын коргоо үчүн технологиялык жетишкендиктер менен кадам таштоосун камсыз кылуу көйгөйүнө туш болушат. Алар балл системаларында ачык-айкындуулукту жана отчеттуулукту илгерилетиши керек же жарандардын мамлекеттик институттарга жана программаларга ишенимин жоготуп алуу коркунучу бар.

Аялуу адамдарга балл коюунун кесепеттери

Аялуу адамдарды баалоонун кеңири кесепеттери төмөнкүлөрдү камтышы мүмкүн: 

• Альтернативдик маалыматтарды камтыган өркүндөтүлгөн кредиттик скоринг моделдери, тарыхый жактан азыраак тейленген жамааттар үчүн финансылык продуктыларга жеткиликтүүлүктү жакшыртат.
• Өкмөттөр AI негизиндеги жалдоо инструменттери боюнча катаал эрежелерди ишке ашырып, бардык тармактарда адилеттүү иш менен камсыз кылуу практикасын камсыз кылууда.
• Бир жактуу AIга каршы коомчулуктун маалымдуулугун жана пропагандасын жогорулатуу, анын натыйжасында технологиялык жайылтуулар ачык-айкын жана отчеттуу.
• Компаниялар жумушка алуу стратегияларын кайра карап чыгып, аң-сезимсиз бир жактуулукту азайтып, жумуш ордунда көп түрдүүлүктү жайылтууда.
• Этикалык AI жана алгоритмдик аудитке багытталган жаңы тармактарды жана жумуш орундарын өнүктүрүү, эмгек рыногун диверсификациялоого салым кошуу.
• Коомдун кененирээк чөйрөсүнө пайда алып келе турган технологиялык жетишкендиктерге түрткү берүү үчүн AI изилдөөсүнө инвестициянын көбөйүшү.

Карала турган суроолор

• AI алгоритмдеринде ар түрдүү маалымат топтомдорун интеграциялоо биздин коомдук адилеттүүлүк жана теңчилик жөнүндөгү түшүнүгүбүздү кантип өзгөртүшү мүмкүн?
• Канткенде адамдар өздөрүнүн күнүмдүк жашоосунда жана жумуш орундарында AIнын этикалык практикасын өнүктүрүүгө жигердүү салым кошо алышат же таасир эте алышат?