Жасалма интеллекттин бир жактуулугу: Машиналар биз ойлогондой объективдүү эмес

Кредит сүрөтү:
Image кредит
iStock

Жасалма интеллекттин бир жактуулугу: Машиналар биз ойлогондой объективдүү эмес

Жасалма интеллекттин бир жактуулугу: Машиналар биз ойлогондой объективдүү эмес

Чакан теманын тексти
Ар бир адам AI калыс болушу керек дегенге кошулат, бирок бир тараптуулукту алып салуу көйгөйлүү болуп жатат
    • Author:
    • Жазуучу аты
      Quantumrun Foresight
    • February 8, 2022

    Кыскача түшүнүк

    Маалыматтарга негизделген технологиялар адилеттүү коомду түзүүнү убада кылганы менен, алар көп учурда адамдар кармаган бир эле көз карашты чагылдырып, потенциалдуу адилетсиздикке алып келет. Мисалы, жасалма интеллект (AI) системаларындагы бир тараптуулук зыяндуу стереотиптерди кокусунан начарлатышы мүмкүн. Бирок, AI системаларын адилеттүү кылуу аракеттери жүрүп жатат, бирок бул пайдалуулук менен калыстыктын ортосундагы тең салмактуулук жана технологиялык топтордо кылдат жөнгө салуу жана ар түрдүүлүктүн зарылдыгы жөнүндө татаал суроолорду жаратат.

    AI бетме-бет жалпы контекст

    Маалыматтарга негизделген технологиялар адамзатка адилеттүүлүк бардыгы үчүн норма болгон коомду түзүүгө жардам берет деген үмүт бар. Бирок, азыркы реалдуулук башкача картинаны жаратат. Мурда адилетсиздикке алып келген адамдардын көптөгөн бир жактуу көз караштары азыр биздин санариптик дүйнөбүздү башкарган алгоритмдерде чагылдырылууда. AI системаларындагы бул бир жактуу көз караштар көбүнчө бул системаларды иштеп чыгуучу адамдардын бейкалыс пикирлеринен келип чыгат жана бул бир тараптуулуктар көбүнчө алардын ишине кирип кетет.

    Мисалы, 2012-жылы ImageNet деп аталган долбоорду алалы, ал машинаны үйрөнүү системаларын окутуу үчүн сүрөттөрдү белгилөөнү краудсорсингге аракет кылган. Бул маалыматтар боюнча машыккан чоң нейрондук тармак кийинчерээк объекттерди таасирдүү тактык менен аныктай алган. Бирок, жакыныраак текшерүүдөн кийин, изилдөөчүлөр ImageNet маалыматтарынын ичинде жашырылган бир жактуулуктарды табышкан. Белгилүү бир учурда, бул маалыматтар боюнча үйрөтүлгөн алгоритм бардык программалык камсыздоо программисттери ак адамдар деген божомолго каршы болгон.

    Ишке алуу процесси автоматташтырылганда аялдардын мындай ролдорго көңүл бурулбай калышына алып келиши мүмкүн. Бир жактуу көз караштар маалымат топтомуна өз жолун тапты, анткени "аялдын" сүрөттөрүнө энбелгилерди кошкон адам кемсинткен терминден турган кошумча белгини камтыган. Бул мисал, атайылап же атайылап эмес, эң татаал AI системаларына кантип кирип, зыяндуу стереотиптерди жана теңсиздикти уланта аларын көрсөтөт.

    Бузуучу таасир 

    Маалыматтардагы жана алгоритмдердеги бир тараптуулукту жоюу аракеттери ар кандай мамлекеттик жана жеке уюмдардагы изилдөөчүлөр тарабынан демилгеленген. ImageNet долбоорунда, мисалы, краудсорсинг айрым сүрөттөрдү кемсинткен белгилөө шарттарын аныктоо жана жок кылуу үчүн колдонулган. Бул чаралар чындыгында AI системаларын адилеттүүраак кылуу үчүн кайра конфигурациялоо мүмкүн экенин көрсөттү.

    Бирок, кээ бир эксперттер бир тараптуулукту алып салуу, айрыкча, бир нече тенденциялар ойноп жатканда, маалыматтар топтомун азыраак эффективдүү кылышы мүмкүн деп ырасташат. Белгилүү бир көз караштардан ажыратылган маалыматтар жыйындысы натыйжалуу пайдалануу үчүн жетиштүү маалыматсыз калышы мүмкүн. Бул чындап эле ар түрдүү сүрөттөр маалымат топтому кандай болот жана анын пайдалуулугун бузбастан кантип колдонсо болот деген суроо туулат.

    Бул тенденция AI жана маалыматтарга негизделген технологияларды колдонууга кылдат мамиле кылуу зарылдыгын көрсөтүп турат. Компаниялар үчүн бул бир тараптуулукту аныктоо куралдарына инвестициялоону жана технологиялык топтордогу ар түрдүүлүктү жайылтууну билдириши мүмкүн. Өкмөттөр үчүн ал AIны адилет колдонууну камсыз кылуу үчүн ченемдик укуктук актыларды ишке ашырууну камтышы мүмкүн. 

    AI тенденциясынын кесепеттери

    AI бир тараптуулугунун кеңири кесепеттери төмөнкүлөрдү камтышы мүмкүн:

    • Уюмдар адилеттүүлүктү жана дискриминацияны жок кылууну камсыздоодо жигердүү аракеттенишет, анткени алар өндүрүмдүүлүктү жана натыйжалуулукту жогорулатуу үчүн AI колдонушат. 
    • Долбоордун башында этикалык тобокелдиктерди аныктоо жана азайтуу үчүн өнүктүрүү топторунда AI этикасынын болушу. 
    • Жынысы, расасы, классы жана маданияты сыяктуу ар түрдүүлүктү эске алуу менен AI өнүмдөрүн долбоорлоо.
    • Компаниянын AI өнүмүн аны чыгара электе сынап көрүү үчүн колдоно турган түрдүү топтордун өкүлдөрүн алуу.
    • Коомчулуктун айрым өкүлдөрүнө ар кандай мамлекеттик кызмат көрсөтүүлөр чектелген.
    • Коомчулуктун айрым мүчөлөрү белгилүү бир жумуш мүмкүнчүлүктөрүн ала алышпайт же аларга коюлган талаптарга жооп бере алышпайт.
    • Укук коргоо органдары жана кесипкөйлөр башкаларына караганда коомдун айрым мүчөлөрүн адилетсиздик менен бутага алышат. 

    Карала турган суроолор

    • Автоматташтырылган чечимдерди кабыл алуу келечекте адилеттүү болот деген оптимисттик көз караштасызбы?
    • AI жөнүндө чечим кабыл алуу сизди абдан тынчсыздандырат?

    Insight шилтемелер

    Бул түшүнүк үчүн төмөнкү популярдуу жана институционалдык шилтемелер колдонулган: