ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് പക്ഷപാതം: മെഷീനുകൾ നമ്മൾ പ്രതീക്ഷിച്ചതുപോലെ വസ്തുനിഷ്ഠമല്ല

ഇമേജ് ക്രെഡിറ്റ്:
ഇമേജ് ക്രെഡിറ്റ്
iStock

ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് പക്ഷപാതം: മെഷീനുകൾ നമ്മൾ പ്രതീക്ഷിച്ചതുപോലെ വസ്തുനിഷ്ഠമല്ല

ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് പക്ഷപാതം: മെഷീനുകൾ നമ്മൾ പ്രതീക്ഷിച്ചതുപോലെ വസ്തുനിഷ്ഠമല്ല

ഉപശീർഷക വാചകം
AI നിഷ്പക്ഷമായിരിക്കണമെന്ന് എല്ലാവരും സമ്മതിക്കുന്നു, എന്നാൽ പക്ഷപാതങ്ങൾ നീക്കം ചെയ്യുന്നത് പ്രശ്നമാണെന്ന് തെളിയിക്കുന്നു
    • രചയിതാവ്:
    • രചയിതാവിന്റെ പേര്
      Quantumrun ദീർഘവീക്ഷണം
    • ഫെബ്രുവരി 8, 2022

    ഇൻസൈറ്റ് സംഗ്രഹം

    ഡാറ്റാധിഷ്ഠിത സാങ്കേതികവിദ്യകൾ ന്യായമായ ഒരു സമൂഹത്തെ പരിപോഷിപ്പിക്കുമെന്ന വാഗ്ദാനമാണെങ്കിലും, അവ പലപ്പോഴും മനുഷ്യർ ഉൾക്കൊള്ളുന്ന അതേ പക്ഷപാതങ്ങളെ പ്രതിഫലിപ്പിക്കുന്നു, ഇത് സാധ്യമായ അനീതികളിലേക്ക് നയിക്കുന്നു. ഉദാഹരണത്തിന്, ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് (AI) സിസ്റ്റങ്ങളിലെ പക്ഷപാതങ്ങൾ അശ്രദ്ധമായി ദോഷകരമായ സ്റ്റീരിയോടൈപ്പുകളെ വഷളാക്കും. എന്നിരുന്നാലും, AI സിസ്റ്റങ്ങളെ കൂടുതൽ തുല്യമാക്കാനുള്ള ശ്രമങ്ങൾ നടക്കുന്നുണ്ട്, എന്നിരുന്നാലും ഇത് യൂട്ടിലിറ്റിയും ഫെയർനെസും തമ്മിലുള്ള സന്തുലിതാവസ്ഥയെക്കുറിച്ചും ടെക് ടീമുകളിലെ ചിന്തനീയമായ നിയന്ത്രണത്തിന്റെയും വൈവിധ്യത്തിന്റെയും ആവശ്യകതയെക്കുറിച്ചും സങ്കീർണ്ണമായ ചോദ്യങ്ങൾ ഉയർത്തുന്നു.

    AI ബയസ് പൊതു സന്ദർഭം

    എല്ലാവരുടെയും ന്യായമായ മാനദണ്ഡമായ ഒരു സമൂഹം സ്ഥാപിക്കുന്നതിന് ഡാറ്റ ഉപയോഗിച്ച് പ്രവർത്തിക്കുന്ന സാങ്കേതികവിദ്യകൾ മനുഷ്യരാശിയെ സഹായിക്കുമെന്നാണ് പ്രതീക്ഷ. എന്നിരുന്നാലും, നിലവിലെ യാഥാർത്ഥ്യം മറ്റൊരു ചിത്രം വരയ്ക്കുന്നു. മുൻകാലങ്ങളിൽ അനീതികളിലേക്ക് നയിച്ച മനുഷ്യരുടെ പല പക്ഷപാതങ്ങളും ഇപ്പോൾ നമ്മുടെ ഡിജിറ്റൽ ലോകത്തെ നിയന്ത്രിക്കുന്ന അൽഗോരിതങ്ങളിൽ പ്രതിഫലിക്കുന്നു. AI സിസ്റ്റങ്ങളിലെ ഈ പക്ഷപാതങ്ങൾ പലപ്പോഴും ഈ സംവിധാനങ്ങൾ വികസിപ്പിച്ചെടുക്കുന്ന വ്യക്തികളുടെ മുൻവിധികളിൽ നിന്നാണ് ഉണ്ടാകുന്നത്, ഈ പക്ഷപാതങ്ങൾ അവരുടെ പ്രവർത്തനത്തിലേക്ക് ഇടയ്ക്കിടെ കടന്നുവരുന്നു.

    ഉദാഹരണത്തിന്, 2012-ൽ ഇമേജ് നെറ്റ് എന്നറിയപ്പെടുന്ന ഒരു പ്രോജക്റ്റ് എടുക്കുക, അത് മെഷീൻ ലേണിംഗ് സിസ്റ്റങ്ങളുടെ പരിശീലനത്തിനായി ചിത്രങ്ങളുടെ ലേബലിംഗ് ക്രൗഡ് സോഴ്‌സ് ചെയ്യാൻ ശ്രമിച്ചു. ഈ ഡാറ്റയിൽ പരിശീലനം ലഭിച്ച ഒരു വലിയ ന്യൂറൽ നെറ്റ്‌വർക്ക് പിന്നീട് വസ്തുക്കളെ ശ്രദ്ധേയമായ കൃത്യതയോടെ തിരിച്ചറിയാൻ കഴിഞ്ഞു. എന്നിരുന്നാലും, സൂക്ഷ്മപരിശോധനയിൽ, ഇമേജ് നെറ്റ് ഡാറ്റയ്ക്കുള്ളിൽ മറഞ്ഞിരിക്കുന്ന പക്ഷപാതങ്ങൾ ഗവേഷകർ കണ്ടെത്തി. ഒരു പ്രത്യേക സാഹചര്യത്തിൽ, ഈ ഡാറ്റയിൽ പരിശീലനം ലഭിച്ച ഒരു അൽഗോരിതം എല്ലാ സോഫ്റ്റ്‌വെയർ പ്രോഗ്രാമർമാരും വെള്ളക്കാരാണെന്ന അനുമാനത്തോട് പക്ഷപാതപരമായിരുന്നു.

    നിയമന പ്രക്രിയ യാന്ത്രികമാകുമ്പോൾ അത്തരം റോളുകൾക്കായി സ്ത്രീകൾ അവഗണിക്കപ്പെടുന്നതിന് ഈ പക്ഷപാതം കാരണമായേക്കാം. "സ്ത്രീ" എന്ന ചിത്രത്തിലേക്ക് ലേബലുകൾ ചേർക്കുന്ന വ്യക്തിയിൽ ഒരു അപകീർത്തികരമായ പദം അടങ്ങിയ ഒരു അധിക ലേബൽ ഉൾപ്പെടുത്തിയതിനാൽ പക്ഷപാതങ്ങൾ ഡാറ്റാ സെറ്റുകളിലേക്ക് കടന്നുവന്നു. മനഃപൂർവമോ അല്ലാതെയോ ആകട്ടെ, പക്ഷപാതങ്ങൾ, അത്യാധുനിക AI സിസ്റ്റങ്ങളിൽ പോലും എങ്ങനെ നുഴഞ്ഞുകയറുമെന്ന് ഈ ഉദാഹരണം വ്യക്തമാക്കുന്നു, ഇത് ഹാനികരമായ സ്റ്റീരിയോടൈപ്പുകളും അസമത്വങ്ങളും നിലനിർത്താൻ സാധ്യതയുണ്ട്.

    തടസ്സപ്പെടുത്തുന്ന ആഘാതം 

    ഡാറ്റയിലും അൽഗരിതങ്ങളിലും പക്ഷപാതം പരിഹരിക്കാനുള്ള ശ്രമങ്ങൾ വിവിധ പൊതു-സ്വകാര്യ സ്ഥാപനങ്ങളിലെ ഗവേഷകർ ആരംഭിച്ചിട്ടുണ്ട്. ഇമേജ്നെറ്റ് പ്രോജക്റ്റിന്റെ കാര്യത്തിൽ, ഉദാഹരണത്തിന്, ചില ചിത്രങ്ങളിൽ അപകീർത്തികരമായ വെളിച്ചം വീശുന്ന ലേബലിംഗ് പദങ്ങൾ തിരിച്ചറിയുന്നതിനും ഇല്ലാതാക്കുന്നതിനും ക്രൗഡ്സോഴ്‌സിംഗ് ഉപയോഗിച്ചു. AI സിസ്റ്റങ്ങളെ കൂടുതൽ തുല്യമായി പുനഃക്രമീകരിക്കുന്നത് തീർച്ചയായും സാധ്യമാണെന്ന് ഈ നടപടികൾ തെളിയിച്ചു.

    എന്നിരുന്നാലും, ചില വിദഗ്ധർ വാദിക്കുന്നത്, പക്ഷപാതം നീക്കം ചെയ്യുന്നത് ഒരു ഡാറ്റാ സെറ്റിന്റെ ഫലപ്രാപ്തി കുറയ്ക്കാൻ സാധ്യതയുണ്ടെന്ന്, പ്രത്യേകിച്ച് ഒന്നിലധികം പക്ഷപാതങ്ങൾ കളിക്കുമ്പോൾ. ചില പക്ഷപാതങ്ങൾ ഒഴിവാക്കിയ ഒരു ഡാറ്റാ സെറ്റ് ഫലപ്രദമായ ഉപയോഗത്തിന് മതിയായ വിവരങ്ങളുടെ അഭാവത്തിൽ കലാശിച്ചേക്കാം. ഒരു യഥാർത്ഥ വൈവിധ്യമാർന്ന ഇമേജ് ഡാറ്റാ സെറ്റ് എങ്ങനെയിരിക്കും, അതിന്റെ ഉപയോഗക്ഷമതയിൽ വിട്ടുവീഴ്ച ചെയ്യാതെ അത് എങ്ങനെ ഉപയോഗിക്കാം എന്ന ചോദ്യം ഇത് ഉയർത്തുന്നു.

    AI, ഡാറ്റാധിഷ്ഠിത സാങ്കേതികവിദ്യകൾ എന്നിവയുടെ ഉപയോഗത്തിന് ചിന്തനീയമായ സമീപനത്തിന്റെ ആവശ്യകതയെ ഈ പ്രവണത അടിവരയിടുന്നു. കമ്പനികളെ സംബന്ധിച്ചിടത്തോളം, ഇത് ബയസ്-ഡിറ്റക്ഷൻ ടൂളുകളിൽ നിക്ഷേപിക്കുകയും ടെക് ടീമുകളിൽ വൈവിധ്യം പ്രോത്സാഹിപ്പിക്കുകയും ചെയ്യുക എന്നാണ് അർത്ഥമാക്കുന്നത്. ഗവൺമെന്റുകളെ സംബന്ധിച്ചിടത്തോളം, AI-യുടെ ന്യായമായ ഉപയോഗം ഉറപ്പാക്കുന്നതിന് നിയന്ത്രണങ്ങൾ നടപ്പിലാക്കുന്നത് ഇതിൽ ഉൾപ്പെട്ടേക്കാം. 

    AI ബയസിന്റെ പ്രത്യാഘാതങ്ങൾ

    AI പക്ഷപാതിത്വത്തിന്റെ വിശാലമായ പ്രത്യാഘാതങ്ങൾ ഉൾപ്പെടാം:

    • ഉൽപ്പാദനക്ഷമതയും പ്രകടനവും മെച്ചപ്പെടുത്തുന്നതിന് AI-യെ പ്രയോജനപ്പെടുത്തുമ്പോൾ ന്യായവും വിവേചനരഹിതവും ഉറപ്പാക്കുന്നതിൽ ഓർഗനൈസേഷനുകൾ സജീവമാണ്. 
    • ഒരു പ്രോജക്‌റ്റിന്റെ തുടക്കത്തിൽ തന്നെ നൈതിക അപകടങ്ങൾ കണ്ടെത്താനും ലഘൂകരിക്കാനും ഡെവലപ്‌മെന്റ് ടീമുകളിൽ ഒരു AI നൈതിക വിദഗ്ധൻ ഉണ്ടായിരിക്കണം. 
    • ലിംഗഭേദം, വംശം, വർഗം, സംസ്‌കാരം എന്നിങ്ങനെയുള്ള വൈവിധ്യ ഘടകങ്ങൾ മനസ്സിൽ വെച്ചുകൊണ്ട് AI ഉൽപ്പന്നങ്ങൾ രൂപകൽപ്പന ചെയ്യുന്നു.
    • ഒരു കമ്പനിയുടെ AI ഉൽപ്പന്നം പുറത്തിറങ്ങുന്നതിന് മുമ്പ് അത് പരീക്ഷിക്കാൻ ഉപയോഗിക്കുന്ന വിവിധ ഗ്രൂപ്പുകളിൽ നിന്നുള്ള പ്രതിനിധികളെ നേടുന്നു.
    • വിവിധ പൊതു സേവനങ്ങൾ ചില പൊതുജനങ്ങളിൽ നിന്ന് നിയന്ത്രിച്ചിരിക്കുന്നു.
    • പൊതുജനങ്ങളിലെ ചില അംഗങ്ങൾക്ക് ചില തൊഴിലവസരങ്ങൾ ആക്‌സസ് ചെയ്യാനോ യോഗ്യത നേടാനോ കഴിയുന്നില്ല.
    • നിയമ നിർവ്വഹണ ഏജൻസികളും പ്രൊഫഷണലുകളും മറ്റുള്ളവരെ അപേക്ഷിച്ച് സമൂഹത്തിലെ ചില അംഗങ്ങളെ അന്യായമായി ലക്ഷ്യമിടുന്നു. 

    പരിഗണിക്കേണ്ട ചോദ്യങ്ങൾ

    • ഭാവിയിൽ സ്വയമേവയുള്ള തീരുമാനമെടുക്കൽ ന്യായമായിരിക്കുമെന്ന് നിങ്ങൾക്ക് ശുഭാപ്തി വിശ്വാസമുണ്ടോ?
    • AI തീരുമാനമെടുക്കൽ നിങ്ങളെ ഏറ്റവും പരിഭ്രാന്തരാക്കുന്ന കാര്യമോ?

    ഇൻസൈറ്റ് റഫറൻസുകൾ

    ഈ ഉൾക്കാഴ്ചയ്ക്കായി ഇനിപ്പറയുന്ന ജനപ്രിയവും സ്ഥാപനപരവുമായ ലിങ്കുകൾ പരാമർശിച്ചു: