AI TRiSM: AI этикалык бойдон калышын камсыз кылуу

• Author:
• Жазуучу аты

  Quantumrun Foresight
• October 20, 2023

Кыскача түшүнүк

2022-жылы Gartner изилдөө фирмасы AI моделдеринин башкаруусун жана ишенимдүүлүгүн камсыз кылуу үчүн AI Trust, Risk жана Security Management дегенди билдирген AI TRiSMди киргизди. Алкак беш түркүктөн турат: түшүндүрүү мүмкүнчүлүгү, моделдик операциялар, берилиштердин аномалиясын аныктоо, атаандаштык чабуулдарына каршы туруу жана маалыматтарды коргоо. Отчетто AI тобокелдиктерин начар башкаруу олуттуу жоготууларга жана коопсуздуктун бузулушуна алып келиши мүмкүн экенин баса белгилейт. AI TRiSMди ишке ашыруу үчүн юридикалык, шайкештик, IT жана маалымат аналитикасынын кайчылаш функционалдык тобу талап кылынат. Алкак этикалык жана укуктук көйгөйлөргө басым жасаган "Жоопкерчиликтүү AI" маданиятын түзүүгө багытталган жана AI тармагындагы жумушка алуу тенденцияларына, мамлекеттик эрежелерге жана этикалык ойлорго таасир этиши мүмкүн.

AI TRiSM контексти

Гартнердин айтымында, AI TriSMдин беш түркүгү бар: түшүндүрүү, Модел операциялары (ModelOps), маалымат аномалиясын аныктоо, атаандаштык чабуулга туруштук берүү жана маалыматтарды коргоо. Гартнердин болжолдоолоруна таянсак, бул мамычаларды ишке ашырган уюмдар 50-жылга карата AI моделин кабыл алуу, бизнес максаттары жана колдонуучуларды кабыл алуу боюнча 2026 пайыздык өсүшкө күбө болушат. Мындан тышкары, AI менен иштеген машиналар дүйнөдөгү жумушчу күчтүн 20 пайызын түзөт. жана 40-жылга карата жалпы экономикалык өндүрүмдүүлүктүн 2028 пайызын түзөт.

Gartner сурамжылоосунун жыйынтыктары көрсөткөндөй, көптөгөн уюмдар IT жетекчилери түшүнө албаган жана чечмелей албаган жүздөгөн же миңдеген AI моделдерин ишке ашырышкан. AI менен байланышкан тобокелдиктерди адекваттуу башкара албаган уюмдар жагымсыз натыйжаларга жана бузууларга көбүрөөк дуушар болушат. Моделдер максаттуу иштебей калышы мүмкүн, бул коопсуздукту жана купуялуулукту бузууга, финансылык, жеке жана репутацияга зыян келтириши мүмкүн. AIнын туура эмес ишке ашырылышы уюмдарды туура эмес бизнес чечимдерди кабыл алышына алып келиши мүмкүн.

AI TRiSMди ийгиликтүү ишке ашыруу үчүн юридикалык, шайкештик, коопсуздук, IT жана маалыматтарды талдоо кызматкерлеринин кайчылаш функционалдык командасы талап кылынат. AI долбооруна тартылган ар бир бизнес тармагынын тийиштүү өкүлчүлүгү менен атайын топту же жумушчу топту түзүү да оптималдуу натыйжаларды берет. Команданын ар бир мүчөсү өз ролун жана жоопкерчилигин, ошондой эле AI TRiSM демилгесинин максаттарын жана милдеттерин так түшүнүшүн камсыз кылуу да маанилүү.

Бузуучу таасир

AI коопсуз кылуу үчүн, Gartner бир нече маанилүү кадамдарды сунуш кылат. Биринчиден, уюмдар AI менен байланышкан потенциалдуу тобокелдиктерди жана аларды кантип азайтуу керектигин түшүнүшү керек. Бул аракет технологиянын өзүн гана эмес, анын адамдарга, процесстерге жана айлана-чөйрөгө тийгизген таасирин да эске алган ар тараптуу тобокелдиктерди баалоону талап кылат.

Экинчиден, уюмдар AI тобокелдиктерин башкаруу боюнча саясаттарды, жол-жоболорду жана көзөмөлдү камтыган AI башкарууга инвестиция кылышы керек. Бул стратегия AI системаларынын ачык-айкын, түшүнүктүү, отчеттуулугун жана тиешелүү мыйзамдарга жана эрежелерге шайкеш келишин камсыз кылууну камтыйт. Кошумчалай кетсек, AI моделдерин үзгүлтүксүз мониторинг жүргүзүү жана текшерүү убакыттын өтүшү менен пайда болушу мүмкүн болгон ар кандай тобокелдиктерди аныктоо жана азайтуу үчүн абдан маанилүү. Акырында, уюмдар кызматкерлердин жана кызыкдар тараптардын арасында маалымдуулукту, билимди жана окутууну жайылтуу менен AI коопсуздук маданиятын өнүктүрүүсү керек. Бул кадамдарга AIны этикалык колдонуу, AI менен байланышкан тобокелдиктер жана көйгөйлөрдү же тынчсызданууларды кантип аныктоо жана билдирүү керектиги боюнча тренинг кирет. 

Бул аракеттер, кыязы, көбүрөөк компаниялардын Жооптуу AI бөлүмдөрүн курууга алып келиши мүмкүн. Бул жаңыдан пайда болгон башкаруу системасы AI менен байланышкан укуктук жана этикалык тоскоолдуктарды, уюмдар аларга кандай мамиле жасаарын документтештирүү менен чечет. Алкак жана ага байланыштуу демилгелер күтүлбөгөн терс кесепеттерге жол бербөө үчүн түшүнүксүздүктү жоюуну каалайт. Жооптуу AI негизинин принциптери AIды кызматкерлерге пайда алып келүүчү, кардарларга баалуулуктарды камсыз кылуучу жана коомго оң таасир этүүчү жолдор менен иштеп чыгууга, өнүктүрүүгө жана колдонууга багытталган.

AI TRiSMдин кесепеттери

AI TRiSMдин кеңири кесепеттери төмөнкүлөрдү камтышы мүмкүн: 

• AI TRiSM барган сайын маанилүү болуп бараткандыктан, компаниялар AI коопсуздук талдоочулары, тобокелдик менеджерлери жана этиктер сыяктуу бул тармакта билими бар дагы квалификациялуу жумушчуларды жалдашы керек болот.
• AI системаларын колдонууда ачык-айкындуулук, калыстык жана жоопкерчилик сыяктуу жаңы этикалык жана моралдык ойлор.
• Коопсуз, ишенимдүү жана ишенимдүү болгон AI-кеңейтилген инновациялар.
• Жеке адамдарды жана уюмдарды AI системалары менен байланышкан тобокелдиктерден коргоо үчүн мамлекеттик жөнгө салууга басымдын жогорулашы.
• AI системалары белгилүү бир топторго же жеке адамдарга карата бир жактуу болбошуна көбүрөөк көңүл бурулат.
• AI көндүмдөрү бар адамдар үчүн жаңы мүмкүнчүлүктөр жана алар жоктордун ордун алмаштыруу.
• Тынымсыз жаңыртылган окуу маалыматтары үчүн энергияны керектөө жана маалыматтарды сактоо сыйымдуулугу жогорулады.
• Дүйнөлүк Responsible AI стандарттарын кабыл албаганы үчүн көптөгөн компаниялар айыпка тартылууда.

Карала турган суроолор

• Эгер сиз AI тармагында иштесеңиз, сиздин компанияңыз алгоритмдерди этикалык болууга кантип үйрөтөт?
• Жооптуу AI системаларын курууда кандай кыйынчылыктар бар?