AI TRISM፡ AI በሥነ ምግባር የታነፀ መሆኑን ማረጋገጥ

• ደራሲ:
• የደራሲ ስም

  ኳንተምሩን አርቆ እይታ
• ጥቅምት 20, 2023

የማስተዋል ማጠቃለያ

እ.ኤ.አ. በ 2022 የምርምር ኩባንያ ጋርትነር የ AI ሞዴሎችን አስተዳደር እና አስተማማኝነት ለማረጋገጥ AI TRiSMን አስተዋውቋል ፣ ለ AI Trust ፣ Risk እና ደህንነት አስተዳደር። ማዕቀፉ አምስት ምሰሶዎችን ያቀፈ ነው፡- የማብራራት ችሎታ፣ የሞዴል ኦፕሬሽኖች፣ የውሂብ ያልተለመደ መለየት፣ የጠላት ጥቃቶችን መቋቋም እና የውሂብ ጥበቃ። ሪፖርቱ የ AI አደጋዎችን በአግባቡ አለመቆጣጠር ከፍተኛ ኪሳራ እና የደህንነት መደፍረስ ሊያስከትል እንደሚችል አጉልቶ ያሳያል። AI TRISMን መተግበር ከህጋዊ፣ ተገዢነት፣ IT እና የውሂብ ትንታኔዎች ተሻጋሪ ቡድን ይፈልጋል። ማዕቀፉ በሥነ ምግባራዊ እና ህጋዊ ጉዳዮች ላይ በማተኮር "ተጠያቂ AI" ባህልን ለመገንባት ያለመ ሲሆን በ AI ውስጥ የቅጥር አዝማሚያዎችን, የመንግስት ደንቦችን እና የስነምግባር ግምት ላይ ተጽእኖ ሊያሳድር ይችላል.

AI TRISM አውድ

ጋርትነር እንደገለጸው፣ ለ AI ትሪኤስኤም አምስት ምሰሶዎች አሉ፡ የማብራራት ችሎታ፣ የሞዴል ኦፕሬሽኖች (ሞዴል ኦፕስ)፣ የውሂብ ያልተለመደ መለየት፣ የጠላት ጥቃት መቋቋም እና የውሂብ ጥበቃ። በጋርትነር ግምቶች መሰረት፣ እነዚህን ምሰሶዎች የሚተገብሩ ድርጅቶች በ50 ጉዲፈቻ፣ የንግድ አላማ እና የተጠቃሚ ተቀባይነትን በተመለከተ በ AI ሞዴል አፈፃፀማቸው 2026 በመቶ እድገትን ይመሰክራሉ። እና በ 20 ከጠቅላላው የኢኮኖሚ ምርታማነት 40 በመቶውን ያበረክታል.

የጋርትነር የዳሰሳ ጥናት ግኝቶች እንደሚያሳዩት ብዙ ድርጅቶች የአይቲ ስራ አስፈፃሚዎች ሊረዷቸው ወይም ሊረዷቸው የማይችሉትን በመቶዎች ወይም በሺዎች የሚቆጠሩ AI ሞዴሎችን ተግባራዊ አድርገዋል። ከ AI ጋር የተገናኙ ስጋቶችን በበቂ ሁኔታ የማይቆጣጠሩ ድርጅቶች ጥሩ ያልሆኑ ውጤቶችን እና ጥሰቶችን የመጋለጥ እድላቸው ከፍተኛ ነው። ሞዴሎቹ እንደታሰበው ላይሰሩ ይችላሉ፣ ይህም ወደ የደህንነት እና የግላዊነት ጥሰት፣ እና የገንዘብ፣ የግለሰብ እና የስም ጉዳት ያስከትላል። የ AI ትክክለኛ ያልሆነ አተገባበር ድርጅቶች የተሳሳቱ የንግድ ውሳኔዎችን እንዲያደርጉም ሊያደርግ ይችላል።

AI TRiSMን በተሳካ ሁኔታ ተግባራዊ ለማድረግ ህጋዊ፣ ተገዢነት፣ ደህንነት፣ አይቲ እና የውሂብ ተንታኝ ሰራተኞች ተሻጋሪ ቡድን ያስፈልጋል። በ AI ኘሮጀክቱ ውስጥ ከሚሳተፉት እያንዳንዱ የንግድ አካባቢዎች ተገቢውን ውክልና ያለው ቡድን ወይም ግብረ ኃይል ማቋቋም ጥሩ ውጤት ያስገኛል። እንዲሁም እያንዳንዱ የቡድን አባል ሚናቸውን እና ኃላፊነታቸውን እንዲሁም የ AI TRISM ተነሳሽነት ግቦችን እና አላማዎችን በግልፅ መረዳቱን ማረጋገጥ አስፈላጊ ነው።

የሚረብሽ ተጽእኖ

AI ደህንነቱ የተጠበቀ ለማድረግ፣ ጋርትነር በርካታ አስፈላጊ እርምጃዎችን ይመክራል። በመጀመሪያ ድርጅቶች ከ AI ጋር ተያይዘው ሊከሰቱ የሚችሉትን አደጋዎች እና እነሱን እንዴት መቀነስ እንደሚችሉ መረዳት አለባቸው. ይህ ጥረት ቴክኖሎጂውን በራሱ ብቻ ሳይሆን በሰዎች፣ በሂደቶች እና በአካባቢ ላይ ያለውን ተጽእኖ የሚያጤን አጠቃላይ የአደጋ ግምገማ ያስፈልገዋል።

ሁለተኛ፣ ድርጅቶች በ AI አስተዳደር ላይ ኢንቨስት ማድረግ አለባቸው፣ ይህም ፖሊሲዎችን፣ አካሄዶችን እና የ AI አደጋዎችን ለመቆጣጠር ቁጥጥርን ያካትታል። ይህ ስትራቴጂ የኤአይአይ ሲስተሞች ግልጽ፣ተብራራ፣ተጠያቂ እና ተዛማጅ ህጎችን እና መመሪያዎችን የሚያከብሩ መሆናቸውን ማረጋገጥን ያካትታል። በተጨማሪም የ AI ሞዴሎችን ቀጣይነት ያለው ክትትል እና ኦዲት ማድረግ በጊዜ ሂደት ሊፈጠሩ የሚችሉ ስጋቶችን ለመለየት እና ለመቀነስ ወሳኝ ናቸው። በመጨረሻም ድርጅቶች የ AI ደህንነት ባህልን ማዳበር፣ ግንዛቤን ማስተዋወቅ፣ ትምህርት እና በሰራተኞች እና ባለድርሻ አካላት መካከል ስልጠና መስጠት አለባቸው። እነዚህ እርምጃዎች የ AIን ስነ-ምግባር አጠቃቀም፣ ከ AI ጋር በተያያዙ ስጋቶች እና ጉዳዮችን ወይም ስጋቶችን እንዴት መለየት እና ሪፖርት ማድረግን በተመለከተ ስልጠናን ያካትታሉ። 

እነዚህ ጥረቶች ብዙ ኩባንያዎች ኃላፊነት የሚሰማቸው AI መምሪያዎቻቸውን እንዲገነቡ ያስገኛሉ። ይህ እየተፈጠረ ያለው የአስተዳደር ማዕቀፍ ከኤአይኤ ጋር የተያያዙ የህግ እና የስነምግባር መሰናክሎችን ድርጅቶች እንዴት እንደሚቀርቧቸው በሰነድ ያቀርባል። ማዕቀፉ እና ተጓዳኝ ተነሳሽነት ያልተጠበቁ አሉታዊ ውጤቶችን ለመከላከል አሻሚነትን ለማስወገድ ይፈልጋሉ. የኃላፊነት AI ማዕቀፍ መርሆዎች ሠራተኞችን በሚጠቅሙ፣ ለደንበኞች ዋጋ በሚሰጡ እና በኅብረተሰቡ ላይ በጎ ተጽዕኖ በሚያሳድሩ መንገዶች AI በመንደፍ፣ በማዳበር እና በመጠቀም ላይ ያተኩራል።

የ AI TRISM አንድምታ

የ AI TRISM ሰፋ ያለ እንድምታዎች የሚከተሉትን ሊያካትቱ ይችላሉ፡ 

• AI TRISM ከጊዜ ወደ ጊዜ አስፈላጊ እየሆነ ሲመጣ ኩባንያዎች በዚህ መስክ ዕውቀት ያላቸው እንደ AI የደህንነት ተንታኞች፣ የአደጋ አስተዳዳሪዎች እና የሥነ ምግባር ባለሙያዎች ያሉ ተጨማሪ ችሎታ ያላቸውን ሠራተኞች መቅጠር አለባቸው።
• እንደ AI ሲስተሞች ለመጠቀም ግልጽነት፣ ፍትሃዊነት እና ተጠያቂነት አስፈላጊነት ያሉ አዳዲስ የስነምግባር እና የሞራል እሳቤዎች።
• በ AI የተጨመሩ ፈጠራዎች ደህንነታቸው የተጠበቀ፣ እምነት የሚጣልባቸው እና አስተማማኝ ናቸው።
• ግለሰቦችን እና ድርጅቶችን ከ AI ስርዓቶች ጋር ከተያያዙ አደጋዎች ለመጠበቅ ለመንግስት ቁጥጥር ግፊት መጨመር።
• የ AI ስርዓቶች ለተወሰኑ ቡድኖች ወይም ግለሰቦች ያደላ እንዳይሆኑ በማረጋገጥ ላይ የበለጠ ትኩረት ይሰጣል።
• የ AI ችሎታ ላላቸው እና ያለነሱ ማፈናቀል የሚችሉ አዳዲስ እድሎች።
• በየጊዜው ለተሻሻለ የሥልጠና መረጃ የኃይል ፍጆታ እና የመረጃ ማከማቻ አቅም መጨመር።
• አለምአቀፍ ኃላፊነት የሚሰማው AI ደረጃዎችን ባለመከተላቸው ተጨማሪ ኩባንያዎች ይቀጣሉ።

ሊታሰብባቸው የሚገቡ ጥያቄዎች

• በ AI ውስጥ የምትሠራ ከሆነ ኩባንያህ ሥነ ምግባራዊ እንዲሆን ስልተ ቀመሮቹን እንዴት እያሰለጠነ ነው?
• ኃላፊነት የሚሰማቸው AI ስርዓቶችን የመገንባት ፈተናዎች ምንድን ናቸው?