დაუცველი ადამიანების ქულები: როდესაც ტექნოლოგია ეწინააღმდეგება თემებს

• ავტორი:
• ავტორის სახელი

  Quantumrun Foresight
• თებერვალი 14, 2024

Insight რეზიუმე

ხელოვნური ინტელექტის (AI) როლის გაფართოებამ ისეთ სექტორებში, როგორიცაა დასაქმება და ჯანდაცვა, შეიძლება მოწყვლადი საზოგადოებები გამოავლინოს მიკერძოებულობისა და არაეთიკური ქულების შეფასების პრაქტიკაში. კრიტიკულ სფეროებში AI-ზე მზარდი დამოკიდებულება ხაზს უსვამს მრავალფეროვანი მონაცემებისა და მკაცრი რეგულაციების საჭიროებას დისკრიმინაციის თავიდან ასაცილებლად. ეს ტენდენცია ხაზს უსვამს გამჭვირვალობის, სამართლიანობის, ხელოვნური ინტელექტის აპლიკაციებში მზარდ მოთხოვნას და ტექნოლოგიის მართვის საზოგადოებრივ და სამთავრობო მიდგომების ცვლილებას.

მოწყვლადი ადამიანების კონტექსტში ქულების დადგენა

ბოლო წლებში ხელოვნური ინტელექტი სულ უფრო ხშირად გამოიყენება სხვადასხვა სექტორში, განსაკუთრებით დასაქმებაში, ჯანდაცვაში და პოლიციის აღსრულებაში. 2020 წლისთვის აშშ-ში დაქირავების მენეჯერების ნახევარზე მეტი აერთიანებდა ალგორითმულ პროგრამულ უზრუნველყოფას და ხელოვნური ინტელექტის ინსტრუმენტებს რეკრუტირებაში, ტენდენცია, რომელიც აგრძელებდა ზრდას. ამ პლატფორმებისა და სისტემების მხარდაჭერის ალგორითმები იყენებენ მონაცემთა სხვადასხვა ტიპებს, მათ შორის აშკარა ინფორმაციას პროფილებიდან, იმპლიციტურ მონაცემებს, რომლებიც გამოტანილია მომხმარებლის ქმედებებიდან და ქცევითი ანალიტიკით. თუმცა, მონაცემთა და ალგორითმული გადაწყვეტილების მიღების ეს რთული ურთიერთქმედება იწვევს მიკერძოების რისკს. მაგალითად, ქალები ხშირად ნაკლებად წარმოადგენენ თავიანთ უნარებს რეზიუმეში და კონკრეტულმა გენდერულმა ენამ შეიძლება გავლენა მოახდინოს იმაზე, თუ როგორ აფასებს ალგორითმი კანდიდატის შესაბამისობას. 

ჯანდაცვის სფეროში, თუ ამ ალგორითმების მომზადებისთვის გამოყენებული მონაცემები არ არის მრავალფეროვანი, ამან შეიძლება გამოიწვიოს არასწორი დიაგნოზი ან მკურნალობის შეუსაბამო რეკომენდაციები, განსაკუთრებით ნაკლებად წარმოდგენილი ჯგუფებისთვის. კიდევ ერთი შეშფოთება არის კონფიდენციალურობა და მონაცემთა უსაფრთხოება, რადგან ჯანდაცვის მონაცემები უკიდურესად მგრძნობიარეა. პოლიციაში ხელოვნური ინტელექტი გამოიყენება სხვადასხვა ფორმით, როგორიცაა პროგნოზირებადი პოლიციის ალგორითმები, სახის ამოცნობის ტექნოლოგია და სათვალთვალო სისტემები. რამდენიმე კვლევამ ხაზგასმით აღნიშნა, რომ ფერადკანიან ადამიანებს ხშირად არასწორად იდენტიფიცირებენ სახის ამოცნობის სისტემებით.

მარეგულირებელი ლანდშაფტი ვითარდება ამ გამოწვევების გადასაჭრელად. საკანონმდებლო ძალისხმევა, როგორიცაა 2022 წლის ალგორითმული ანგარიშვალდებულების აქტი, მიზნად ისახავს ალგორითმული მიკერძოების შერბილებას, კომპანიებისგან მოთხოვნით, ჩაატარონ AI სისტემების ზემოქმედების შეფასება გადაწყვეტილების მიღების კრიტიკულ სფეროებში. თუმცა, ხელოვნური ინტელექტის საფუძველზე დაქირავების პროცესებში მიკერძოებულობის საკითხის მოგვარება მოითხოვს მრავალი დაინტერესებული მხარის ერთობლივ ძალისხმევას. ტექნოლოგიების შემქმნელებმა უნდა უზრუნველყონ თავიანთი ალგორითმების გამჭვირვალობა და სამართლიანობა, კომპანიებმა უნდა აღიარონ და გაითვალისწინონ ამ ინსტრუმენტების შეზღუდვები, ხოლო პოლიტიკის შემქმნელებმა უნდა აღასრულონ რეგულაციები, რომლებიც იცავს დისკრიმინაციული პრაქტიკისგან. 

დამრღვევი გავლენა

მოწყვლადი ადამიანების ქულების მიღების გრძელვადიანმა ზემოქმედებამ, ძირითადად ისეთი სისტემებით, როგორიცაა საკრედიტო ქულები და ალგორითმული დაქირავება, შეიძლება მნიშვნელოვნად იმოქმედოს სოციალურ მობილურობაზე და ეკონომიკურ უთანასწორობაზე. საკრედიტო ქულები, რომლებიც აუცილებელია ფინანსური სანდოობის დასადგენად, ხშირად არახელსაყრელ მდგომარეობაში აყენებს დაბალი სოციალურ-ეკონომიკური ფენის ადამიანებს. დროთა განმავლობაში, ეს აგრძელებს ციკლს, სადაც დაუცველი ადამიანები აწყდებიან შემდგომ გამოწვევებს ძირითად ფინანსურ სერვისებზე წვდომის კუთხით.

მიკერძოებული ქულების სისტემების გავლენამ შეიძლება გამოიწვიოს უფრო ფართო სოციალური გარიყულობა, რაც გავლენას მოახდენს საცხოვრებელზე, დასაქმებასა და აუცილებელ სერვისებზე ხელმისაწვდომობამდე. დაბალი ქულების მქონე ადამიანებს ან მიკერძოებული ალგორითმების მიერ უსამართლოდ შეფასებულ ადამიანებს შეიძლება გაუჭირდეთ საცხოვრებლის ან სამუშაოს უზრუნველყოფა, რაც აძლიერებს არსებულ სოციალურ უთანასწორობას. ეს სცენარი ხაზს უსვამს ქულების უფრო სამართლიანი სისტემების აუცილებლობას, რომლებიც ითვალისწინებენ ინდივიდის ცხოვრების უფრო ფართო კონტექსტს და არა მხოლოდ ვიწრო მონაცემთა პუნქტებზე დაყრდნობას.

კომპანიებს, განსაკუთრებით ფინანსურ და რეკრუტირების სექტორებში, შეუძლიათ უნებლიეთ წვლილი შეიტანონ სოციალურ სტრატიფიკაციაში ამ მიკერძოებულ სისტემებზე დაყრდნობით. იმავდროულად, მთავრობების წინაშე დგანან გამოწვევა, უზრუნველყონ რეგულაციები ტექნოლოგიურ წინსვლას, რათა დაიცვან მოწყვლადი მოსახლეობა. მათ უნდა შეუწყონ ხელი გამჭვირვალობას და ანგარიშვალდებულებას ქულების შეფასების სისტემებში, წინააღმდეგ შემთხვევაში მოქალაქეებმა დაკარგონ ნდობა სამთავრობო ინსტიტუტებისა და პროგრამების მიმართ.

მოწყვლადი ადამიანების ქულის მიღწევის შედეგები

დაუცველი ადამიანების ქულების უფრო ფართო შედეგები შეიძლება მოიცავდეს: 

• საკრედიტო ქულების გაუმჯობესებული მოდელები, რომლებიც აერთიანებს ალტერნატიულ მონაცემებს, რაც იწვევს ფინანსურ პროდუქტებზე ხელმისაწვდომობის გაუმჯობესებას ისტორიულად არასრულფასოვანი თემებისთვის.
• მთავრობები ახორციელებენ უფრო მკაცრ რეგულაციებს AI-ზე დაფუძნებული დაქირავების ინსტრუმენტებზე, რაც უზრუნველყოფს დასაქმების უფრო სამართლიან პრაქტიკას ინდუსტრიებში.
• გაიზარდა საზოგადოების ინფორმირებულობა და ადვოკატირება მიკერძოებული ხელოვნური ინტელექტის წინააღმდეგ, რაც გამოიწვევს უფრო გამჭვირვალე და ანგარიშვალდებულ ტექნოლოგიურ გამოყენებას.
• კომპანიები გადახედავენ დასაქმების სტრატეგიებს, პოტენციურად ამცირებენ არაცნობიერ მიკერძოებას და ხელს უწყობენ მრავალფეროვნებას სამუშაო ადგილზე.
• ახალი ინდუსტრიების განვითარება და სამუშაო როლები, რომლებიც ორიენტირებულია ეთიკურ AI და ალგორითმის აუდიტზე, რაც ხელს უწყობს სამუშაო ბაზრის დივერსიფიკაციას.
• გაიზარდა ინვესტიციები ხელოვნური ინტელექტის კვლევაში მიკერძოებულობისა და სამართლიანობის მოსაგვარებლად, რაც ხელს უწყობს ტექნოლოგიურ წინსვლას, რომელიც სარგებელს მოუტანს საზოგადოების ფართო სპექტრს.

კითხვები გასათვალისწინებელია

• როგორ შეიძლება AI ალგორითმებში უფრო მრავალფეროვანი მონაცემთა ნაკრების ინტეგრირებამ შეცვალოს ჩვენი გაგება საზოგადოების სამართლიანობისა და თანასწორობის შესახებ?
• როგორ შეუძლიათ ინდივიდებს აქტიური წვლილი შეიტანონ ან გავლენა მოახდინონ ეთიკური AI პრაქტიკის განვითარებაზე მათ ყოველდღიურ ცხოვრებაში და სამუშაო ადგილებზე?