ટેક્નોલોજીમાં નૈતિક દિશાનિર્દેશો: જ્યારે વાણિજ્ય સંશોધન પર કાર્ય કરે છે

• લેખક:
• લેખક નામ

  ક્વોન્ટમરુન અગમચેતી
• ફેબ્રુઆરી 15, 2023

આંતરદૃષ્ટિનો સારાંશ

આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) સિસ્ટમ્સ પસંદગીના લઘુમતી જૂથો પર અસર કરી શકે તેવા સંભવિત જોખમો અને અલ્ગોરિધમિક પૂર્વગ્રહને કારણે, ઘણી ફેડરલ એજન્સીઓ અને કંપનીઓને વધુને વધુ ટેક પ્રોવાઇડર્સને તેઓ કેવી રીતે AI વિકસાવી રહ્યાં છે અને તેનો ઉપયોગ કરી રહ્યાં છે તેના પર નૈતિક માર્ગદર્શિકા પ્રકાશિત કરવાની જરૂર છે. જો કે, વાસ્તવિક જીવનમાં આ માર્ગદર્શિકા લાગુ કરવી વધુ જટિલ અને અસ્પષ્ટ છે.

નીતિશાસ્ત્ર અથડામણ સંદર્ભ

સિલિકોન વેલીમાં, વ્યવસાયો હજુ પણ અન્વેષણ કરી રહ્યા છે કે વ્યવહારમાં નૈતિક સિદ્ધાંતોને કેવી રીતે શ્રેષ્ઠ રીતે લાગુ કરવા, જેમાં પ્રશ્ન પૂછવાનો સમાવેશ થાય છે, "નૈતિકતાને પ્રાધાન્ય આપવા માટે કેટલો ખર્ચ થાય છે?" 2 ડિસેમ્બર, 2020 ના રોજ, Google ની નૈતિક AI ટીમના સહ-લીડ, ટિમ્નીટ ગેબ્રુએ એક ટ્વિટ પોસ્ટ કર્યું હતું કે તેણીને બરતરફ કરવામાં આવી હતી. તેણીના પૂર્વગ્રહ અને ચહેરાની ઓળખ સંશોધન માટે AI સમુદાયમાં તેણીને વ્યાપકપણે માન આપવામાં આવ્યું હતું. તેણીને ગોળીબાર કરવા તરફ દોરી ગયેલી ઘટના તેણીએ સહ-લેખક કરેલા પેપરને લગતી હતી જેને ગૂગલે નક્કી કર્યું કે તે પ્રકાશન માટેના તેમના ધોરણોને પૂર્ણ કરતું નથી. 

જો કે, ગેબ્રુ અને અન્યો દલીલ કરે છે કે ગોળીબાર પ્રગતિને બદલે જાહેર સંબંધો દ્વારા પ્રેરિત હતો. ગેબ્રુએ માનવ ભાષાની નકલ કરતી AI કેવી રીતે હાંસિયામાં રહેલ વસ્તીને નુકસાન પહોંચાડી શકે છે તે અંગેના અભ્યાસને પ્રકાશિત ન કરવાના આદેશ પર પ્રશ્ન ઉઠાવ્યા પછી બરતરફી થઈ. ફેબ્રુઆરી 2021 માં, ગેબ્રુના સહ-લેખક માર્ગારેટ મિશેલને પણ બરતરફ કરવામાં આવી હતી. 

ગૂગલે જણાવ્યું કે મિશેલે કંપનીની બહાર ઈલેક્ટ્રોનિક ફાઈલો ખસેડીને કંપનીની આચાર સંહિતા અને સુરક્ષા નીતિઓનો ભંગ કર્યો છે. મિશેલે તેણીની બરતરફીના આધાર પર વિસ્તૃત માહિતી આપી ન હતી. આ પગલાથી ટીકાનો હિમપ્રપાત થયો, જેના કારણે Google ફેબ્રુઆરી 2021 સુધીમાં તેની વિવિધતા અને સંશોધન નીતિઓમાં ફેરફારોની જાહેરાત કરશે. આ ઘટના માત્ર એક ઉદાહરણ છે કે કેવી રીતે નીતિશાસ્ત્રની અથડામણો મોટી ટેક કંપનીઓ અને તેમના માનવામાં આવતા ઉદ્દેશ્ય સંશોધન વિભાગોને વિભાજિત કરે છે.

વિક્ષેપકારક અસર

હાર્વર્ડ બિઝનેસ રિવ્યુ મુજબ, નૈતિક કટોકટી અને તેમની કંપનીઓ અને ઉદ્યોગોની આંતરિક માંગને પ્રતિસાદ આપવા માટેના બાહ્ય દબાણો વચ્ચે સંતુલન જાળવવાનો સૌથી મોટો પડકાર વ્યાપાર માલિકો સામે છે. બાહ્ય ટીકાઓ કંપનીઓને તેમની વ્યવસાય પદ્ધતિઓનું પુનઃમૂલ્યાંકન કરવા દબાણ કરે છે. જો કે, મેનેજમેન્ટ, ઉદ્યોગ સ્પર્ધા અને વ્યવસાયો કેવી રીતે ચલાવવા જોઈએ તે અંગેની સામાન્ય બજાર અપેક્ષાઓનું દબાણ કેટલીકવાર પ્રતિકૂળ પ્રોત્સાહનો બનાવી શકે છે જે યથાસ્થિતિની તરફેણ કરે છે. તદનુસાર, નૈતિક અથડામણો માત્ર ત્યારે જ વધશે જ્યારે સાંસ્કૃતિક ધોરણો વિકસિત થાય છે અને જેમ જેમ કંપનીઓ (ખાસ કરીને પ્રભાવશાળી ટેક કંપનીઓ) નવી આવક પેદા કરવા માટે તેઓ અમલમાં મૂકી શકે તેવી નવલકથા વ્યવસાય પદ્ધતિઓ પર સીમાઓને આગળ ધપાવવાનું ચાલુ રાખે છે.

આ નૈતિક સંતુલન સાથે સંઘર્ષ કરતી કોર્પોરેશનોનું બીજું ઉદાહરણ કંપની છે, મેટા. તેની પ્રચારિત નૈતિક ખામીઓને સંબોધવા માટે, Facebook એ 2020 માં એક સ્વતંત્ર દેખરેખ બોર્ડની સ્થાપના કરી, જેમાં સંસ્થાપક માર્ક ઝુકરબર્ગ દ્વારા લેવામાં આવેલા કન્ટેન્ટ મધ્યસ્થતાના નિર્ણયોને પણ રદ કરવાની સત્તા છે. જાન્યુઆરી 2021 માં, સમિતિએ વિવાદિત સામગ્રી પર તેના પ્રથમ ચુકાદાઓ આપ્યા અને તેણે જોયેલા મોટાભાગના કેસોને ઉથલાવી દીધા. 

જો કે, ફેસબુક પર દરરોજ અબજો પોસ્ટ્સ અને સામગ્રીની અસંખ્ય ફરિયાદો સાથે, દેખરેખ બોર્ડ પરંપરાગત સરકારો કરતાં ઘણું ધીમી કામગીરી કરે છે. તેમ છતાં, બોર્ડે કેટલીક માન્ય ભલામણો કરી હતી. 2022 માં, પેનલે મેટા પ્લેટફોર્મ્સને ફેસબુક પર પ્રકાશિત ડોક્સિંગની ઘટનાઓ પર કાર્યવાહી કરવા માટે સલાહ આપી હતી અને વપરાશકર્તાઓને પ્લેટફોર્મ પર વ્યક્તિઓના ઘરના સરનામાં શેર કરવા પર પ્રતિબંધ મૂક્યો હતો, પછી ભલે તે સાર્વજનિક રીતે ઉપલબ્ધ હોય. બોર્ડે એવી પણ હિમાયત કરી હતી કે, ઉલ્લંઘન શા માટે થાય છે અને તેને કેવી રીતે હેન્ડલ કરવામાં આવે છે તે પારદર્શક રીતે સમજાવવા માટે ફેસબુક કોમ્યુનિકેશન્સ ચેનલ ખોલે.

ખાનગી ક્ષેત્રની નૈતિકતાના અથડામણની અસરો

ખાનગી ક્ષેત્રમાં નીતિશાસ્ત્રના અથડામણના વ્યાપક પરિણામોમાં આનો સમાવેશ થઈ શકે છે: 

• વધુ કંપનીઓ તેમના સંબંધિત વ્યવસાય વ્યવહારમાં નૈતિક માર્ગદર્શિકાઓના અમલીકરણની દેખરેખ રાખવા માટે સ્વતંત્ર નીતિશાસ્ત્ર બોર્ડ બનાવે છે.
• ટેક રિસર્ચનું વ્યાપારીકરણ કેવી રીતે વધુ શંકાસ્પદ પ્રથાઓ અને પ્રણાલીઓ તરફ દોરી ગયું છે તેના પર એકેડેમિયા તરફથી ટીકાઓમાં વધારો.
• ટેક ફર્મ્સ પ્રતિભાશાળી જાહેર અને યુનિવર્સિટી AI સંશોધકોની મદદ કરે છે અને નોંધપાત્ર પગાર અને લાભો ઓફર કરે છે તે રીતે વધુ જાહેર ક્ષેત્રનું મગજ ડ્રેઇન કરે છે.
• સરકારો વધુને વધુ તમામ કંપનીઓને તેમની નૈતિક માર્ગદર્શિકા પ્રકાશિત કરવાની આવશ્યકતા ધરાવે છે, પછી ભલેને તેઓ તકનીકી સેવાઓ પ્રદાન કરે છે કે નહીં.
• વધુ સ્પષ્ટવક્તા સંશોધકોને હિતોના સંઘર્ષને કારણે મોટી કંપનીઓમાંથી કાઢી મૂકવામાં આવે છે માત્ર ઝડપથી બદલી શકાય છે.

ધ્યાનમાં લેવાના પ્રશ્નો

• તમે કેવી રીતે વિચારો છો કે નૈતિકતાની અથડામણો ગ્રાહકોને પ્રાપ્ત થતા ઉત્પાદનો અને સેવાઓને કેવી રીતે અસર કરશે?
• તેમના ટેક સંશોધનમાં પારદર્શિતા સુનિશ્ચિત કરવા કંપનીઓ શું કરી શકે?