AI TRISM: એઆઈ નૈતિક રહે તેની ખાતરી કરવી

• લેખક:
• લેખક નામ

  ક્વોન્ટમરુન અગમચેતી
• ઓક્ટોબર 20, 2023

આંતરદૃષ્ટિનો સારાંશ

2022 માં, સંશોધન ફર્મ ગાર્ટનરે AI TRiSM રજૂ કર્યું, જે AI ટ્રસ્ટ, રિસ્ક અને સિક્યુરિટી મેનેજમેન્ટ માટે છે, જેથી AI મોડલ્સની ગવર્નન્સ અને વિશ્વસનીયતા સુનિશ્ચિત કરી શકાય. ફ્રેમવર્કમાં પાંચ સ્તંભોનો સમાવેશ થાય છે: સમજાવવાની ક્ષમતા, મોડેલ કામગીરી, ડેટા વિસંગતતા શોધ, પ્રતિકૂળ હુમલાઓ સામે પ્રતિકાર અને ડેટા સુરક્ષા. અહેવાલ દર્શાવે છે કે AI જોખમોનું નબળું સંચાલન નોંધપાત્ર નુકસાન અને સુરક્ષા ભંગ તરફ દોરી શકે છે. AI TRISM ને લાગુ કરવા માટે કાનૂની, અનુપાલન, IT અને ડેટા એનાલિટિક્સમાંથી ક્રોસ-ફંક્શનલ ટીમની જરૂર છે. ફ્રેમવર્કનો હેતુ નૈતિક અને કાનૂની ચિંતાઓ પર ધ્યાન કેન્દ્રિત કરીને "જવાબદાર AI" ની સંસ્કૃતિ બનાવવાનો છે, અને AI માં ભાડે લેવાના વલણો, સરકારી નિયમો અને નૈતિક વિચારણાઓને પ્રભાવિત કરવાની સંભાવના છે.

AI TRISM સંદર્ભ

ગાર્ટનરના જણાવ્યા મુજબ, AI TriSM ના પાંચ સ્તંભો છે: સમજાવવાની ક્ષમતા, મોડલ ઓપરેશન્સ (મોડલઓપ્સ), ડેટા અસંગતિ શોધ, પ્રતિકૂળ હુમલો પ્રતિકાર અને ડેટા સંરક્ષણ. ગાર્ટનરના અનુમાનોના આધારે, આ સ્તંભોને અમલમાં મૂકતી સંસ્થાઓ 50 સુધીમાં દત્તક લેવા, વ્યવસાયિક ઉદ્દેશ્યો અને વપરાશકર્તાની સ્વીકૃતિના સંબંધમાં તેમના AI મોડલના પ્રદર્શનમાં 2026 ટકા વૃદ્ધિની સાક્ષી બનશે. વધુમાં, AI-સંચાલિત મશીનો વિશ્વના કર્મચારીઓના 20 ટકા હિસ્સો બનાવશે. અને 40 સુધીમાં એકંદર આર્થિક ઉત્પાદકતામાં 2028 ટકા યોગદાન આપશે.

ગાર્ટનરના સર્વેક્ષણના તારણો સૂચવે છે કે ઘણી સંસ્થાઓએ સેંકડો અથવા હજારો AI મોડેલો અમલમાં મૂક્યા છે જેને IT એક્ઝિક્યુટિવ્સ સમજી શકતા નથી અથવા તેનું અર્થઘટન કરી શકતા નથી. જે સંસ્થાઓ AI-સંબંધિત જોખમોનું પર્યાપ્ત રીતે સંચાલન કરતી નથી તેઓ પ્રતિકૂળ પરિણામો અને ઉલ્લંઘનોનો સામનો કરવા માટે નોંધપાત્ર રીતે વધુ સંવેદનશીલ હોય છે. મૉડલ્સ હેતુ મુજબ કાર્ય કરી શકશે નહીં, જેનાથી સુરક્ષા અને ગોપનીયતાના ઉલ્લંઘનો અને નાણાકીય, વ્યક્તિગત અને પ્રતિષ્ઠાને નુકસાન થાય છે. AI નું અચોક્કસ અમલીકરણ પણ સંસ્થાઓને ગેરમાર્ગે દોરેલા વ્યવસાયિક નિર્ણયો લેવાનું કારણ બની શકે છે.

AI TRISM ને સફળતાપૂર્વક અમલમાં મૂકવા માટે, કાનૂની, અનુપાલન, સુરક્ષા, IT અને ડેટા એનાલિટિક્સ કર્મચારીઓની ક્રોસ-ફંક્શનલ ટીમ જરૂરી છે. AI પ્રોજેક્ટમાં સામેલ દરેક બિઝનેસ એરિયામાંથી યોગ્ય પ્રતિનિધિત્વ સાથે સમર્પિત ટીમ અથવા ટાસ્ક ફોર્સની સ્થાપના કરવાથી પણ શ્રેષ્ઠ પરિણામો મળશે. ટીમના દરેક સભ્ય તેમની ભૂમિકાઓ અને જવાબદારીઓ તેમજ AI TRiSM પહેલના ધ્યેયો અને ઉદ્દેશ્યોને સ્પષ્ટપણે સમજે છે તેની ખાતરી કરવી પણ જરૂરી છે.

વિક્ષેપકારક અસર

AI ને સુરક્ષિત બનાવવા માટે, ગાર્ટનર ઘણા મહત્વપૂર્ણ પગલાંની ભલામણ કરે છે. સૌપ્રથમ, સંસ્થાઓએ એઆઈ સાથે સંકળાયેલા સંભવિત જોખમોને સમજવાની જરૂર છે અને તેને કેવી રીતે ઘટાડવી. આ પ્રયાસ માટે એક વ્યાપક જોખમ મૂલ્યાંકનની જરૂર છે જે માત્ર ટેક્નોલોજીને જ નહીં પરંતુ લોકો, પ્રક્રિયાઓ અને પર્યાવરણ પર તેની અસરને પણ ધ્યાનમાં લે છે.

બીજું, સંસ્થાઓએ AI ગવર્નન્સમાં રોકાણ કરવાની જરૂર છે, જેમાં AI જોખમોના સંચાલન માટે નીતિઓ, પ્રક્રિયાઓ અને નિયંત્રણોનો સમાવેશ થાય છે. આ વ્યૂહરચનામાં એ સુનિશ્ચિત કરવાનો સમાવેશ થાય છે કે AI સિસ્ટમ્સ પારદર્શક, સમજાવી શકાય તેવી, જવાબદાર છે અને સંબંધિત કાયદાઓ અને નિયમોનું પાલન કરે છે. વધુમાં, સમય જતાં ઉદ્ભવતા કોઈપણ સંભવિત જોખમોને ઓળખવા અને તેને ઘટાડવા માટે AI મૉડલનું ચાલુ દેખરેખ અને ઑડિટિંગ મહત્ત્વપૂર્ણ છે. છેવટે, સંસ્થાઓએ કર્મચારીઓ અને હિસ્સેદારો વચ્ચે જાગરૂકતા, શિક્ષણ અને તાલીમને પ્રોત્સાહન આપતા, AI સલામતીની સંસ્કૃતિ વિકસાવવાની જરૂર છે. આ પગલાંઓમાં AI ના નૈતિક ઉપયોગ, AI સાથે સંકળાયેલા જોખમો અને સમસ્યાઓ અથવા ચિંતાઓને કેવી રીતે ઓળખવી અને તેની જાણ કરવી તે અંગેની તાલીમનો સમાવેશ થાય છે. 

આ પ્રયાસોના પરિણામે વધુ કંપનીઓ તેમના જવાબદાર AI વિભાગોનું નિર્માણ કરશે. આ ઉભરતી ગવર્નન્સ ફ્રેમવર્ક AI થી સંબંધિત કાનૂની અને નૈતિક અવરોધોને સંબોધિત કરે છે કે સંસ્થાઓ કેવી રીતે તેમનો સંપર્ક કરે છે તેના દસ્તાવેજીકરણ દ્વારા. માળખું અને તેની સાથે સંકળાયેલ પહેલો અનિચ્છનીય નકારાત્મક પરિણામોને રોકવા માટે અસ્પષ્ટતાને દૂર કરવા માંગે છે. જવાબદાર AI ફ્રેમવર્કના સિદ્ધાંતો એઆઈની રચના, વિકાસ અને ઉપયોગ કરવા પર ધ્યાન કેન્દ્રિત કરે છે જેથી કર્મચારીઓને લાભ થાય, ગ્રાહકોને મૂલ્ય મળે અને સમાજ પર હકારાત્મક અસર થાય.

AI TRISM ની અસરો

AI TRISM ની વ્યાપક અસરોમાં શામેલ હોઈ શકે છે: 

• જેમ જેમ AI TRiSM વધુને વધુ મહત્વપૂર્ણ બનતું જાય છે, તેમ કંપનીઓએ આ ક્ષેત્રમાં જાણકાર વધુ કુશળ કામદારોને રાખવાની જરૂર પડશે, જેમ કે AI સુરક્ષા વિશ્લેષકો, જોખમ સંચાલકો અને નીતિશાસ્ત્રીઓ.
• નવી નૈતિક અને નૈતિક વિચારણાઓ, જેમ કે AI સિસ્ટમનો ઉપયોગ કરવામાં પારદર્શિતા, ઔચિત્ય અને જવાબદારીની જરૂરિયાત.
• AI-સંવર્ધિત નવીનતાઓ જે સુરક્ષિત, વિશ્વાસપાત્ર અને વિશ્વસનીય છે.
• વ્યક્તિઓ અને સંસ્થાઓને AI સિસ્ટમ્સ સાથે સંકળાયેલા જોખમોથી બચાવવા માટે સરકારી નિયમન માટે દબાણમાં વધારો.
• એઆઈ સિસ્ટમ ચોક્કસ જૂથો અથવા વ્યક્તિઓ સામે પક્ષપાતી નથી તેની ખાતરી કરવા પર વધુ ધ્યાન.
• AI કૌશલ્ય ધરાવતા લોકો માટે નવી તકો અને સંભવિતપણે તેમના વિનાના લોકોનું વિસ્થાપન.
• સતત અપડેટ કરાયેલ તાલીમ ડેટા માટે ઊર્જા વપરાશ અને ડેટા સ્ટોરેજ ક્ષમતામાં વધારો.
• ગ્લોબલ રિસ્પોન્સિબલ એઆઈ સ્ટાન્ડર્ડ ન અપનાવવા બદલ વધુ કંપનીઓને દંડ ફટકારવામાં આવ્યો છે.

ધ્યાનમાં લેવાના પ્રશ્નો

• જો તમે AI માં કામ કરો છો, તો તમારી કંપની તેના અલ્ગોરિધમ્સને નૈતિક બનવા માટે કેવી રીતે તાલીમ આપી રહી છે?
• જવાબદાર એઆઈ સિસ્ટમ્સ બનાવવાના પડકારો શું છે?