ეთიკის გაიდლაინები ტექნოლოგიაში: როდესაც კომერცია იკავებს კვლევას

• ავტორი:
• ავტორის სახელი

  Quantumrun Foresight
• თებერვალი 15, 2023

Insight რეზიუმე

იმ პოტენციური საფრთხისა და ალგორითმული მიკერძოების გამო, რომელიც ხელოვნური ინტელექტის (AI) სისტემებმა შეიძლება მიაყენოს უმცირესობათა შერჩეულ ჯგუფებს, ბევრი ფედერალური სააგენტო და კომპანია სულ უფრო მეტად მოითხოვს ტექნიკურ პროვაიდერებს გამოაქვეყნონ ეთიკური მითითებები იმის შესახებ, თუ როგორ ავითარებენ და ამუშავებენ AI-ს. თუმცა, ამ სახელმძღვანელოების გამოყენება რეალურ ცხოვრებაში ბევრად უფრო რთული და ბუნდოვანია.

ეთიკა ეჯახება კონტექსტს

სილიკონის ველში, ბიზნესი ჯერ კიდევ იკვლევს, თუ როგორ გამოიყენოს ეთიკური პრინციპები პრაქტიკაში, მათ შორის, სვამს კითხვას, "რა ღირს ეთიკის პრიორიტეტულობა?" 2 წლის 2020 დეკემბერს, ტიმნიტ გებრუმ, Google-ის ეთიკური ხელოვნური ინტელექტის გუნდის თანახელმძღვანელმა, გამოაქვეყნა ტვიტი, რომელშიც ნათქვამია, რომ სამსახურიდან გაათავისუფლეს. მას ფართო პატივს სცემდნენ ხელოვნური ინტელექტის საზოგადოებაში მიკერძოებულობისა და სახის ამოცნობის კვლევისთვის. ინციდენტი, რამაც გამოიწვია მისი სამსახურიდან გათავისუფლება, ეხებოდა მის თანაავტორ ქაღალდს, რომელიც Google-მა გადაწყვიტა, რომ არ აკმაყოფილებდა მათ გამოქვეყნების სტანდარტებს. 

თუმცა, გებრუ და სხვები ამტკიცებენ, რომ გასროლა მოტივირებული იყო საზოგადოებასთან ურთიერთობით და არა პროგრესით. თანამდებობიდან გათავისუფლება მას შემდეგ მოხდა, რაც გებრუმ ეჭვქვეშ დააყენა ბრძანება, რომ არ გამოქვეყნებულიყო კვლევა იმის შესახებ, თუ როგორ შეიძლება ზიანი მიაყენოს ადამიანურ ენას AI-ს, რომელიც მიბაძავს მარგინალიზებულ მოსახლეობას. 2021 წლის თებერვალში ასევე გაათავისუფლეს გებრუს თანაავტორი მარგარეტ მიტჩელი. 

Google-მა განაცხადა, რომ მიტჩელმა დაარღვია კომპანიის ქცევის კოდექსი და უსაფრთხოების პოლიტიკა ელექტრონული ფაილების კომპანიის გარეთ გადატანით. მიტჩელმა არ დააკონკრეტა მისი გათავისუფლების საფუძველი. ამ ნაბიჯმა გამოიწვია კრიტიკის ზვავი, რამაც Google-მა გამოაცხადა ცვლილებები მრავალფეროვნებისა და კვლევის პოლიტიკაში 2021 წლის თებერვლისთვის. ეს ინციდენტი მხოლოდ ერთი მაგალითია იმისა, თუ როგორ ყოფს ეთიკური შეტაკებები დიდ ტექნიკურ ფირმებს და მათ, სავარაუდოდ, ობიექტურ კვლევით განყოფილებებს.

დამრღვევი გავლენა

Harvard Business Review-ის თანახმად, ყველაზე დიდი გამოწვევა ბიზნესის მფლობელების წინაშე არის ბალანსის პოვნა გარე ზეწოლას შორის ეთიკურ კრიზისებზე რეაგირებისთვის და მათი კომპანიებისა და ინდუსტრიების შიდა მოთხოვნებზე. გარე კრიტიკა უბიძგებს კომპანიებს ხელახლა შეაფასონ თავიანთი ბიზნეს პრაქტიკა. თუმცა, მენეჯმენტის ზეწოლა, ინდუსტრიის კონკურენცია და ზოგადად ბაზრის მოლოდინები იმის შესახებ, თუ როგორ უნდა წარიმართოს ბიზნესი, ზოგჯერ შეუძლია შექმნას შემამცირებელი სტიმული, რომელიც ხელს უწყობს სტატუს კვოს. შესაბამისად, ეთიკური შეტაკებები გაიზრდება მხოლოდ კულტურული ნორმების განვითარებასთან ერთად და როდესაც კომპანიები (განსაკუთრებით გავლენიანი ტექნიკური ფირმები) განაგრძობენ საზღვრების გადალახვას ახალ ბიზნეს პრაქტიკებზე, რომლებსაც შეუძლიათ ახალი შემოსავლების გამომუშავების მიზნით.

კორპორაციების კიდევ ერთი მაგალითი, რომლებიც ებრძვიან ამ ეთიკურ ბალანსს, არის კომპანია Meta. საჯაროდ გამოქვეყნებული ეთიკური ხარვეზების გამოსასწორებლად, ფეისბუქმა 2020 წელს ჩამოაყალიბა დამოუკიდებელი სამეთვალყურეო საბჭო, რომელსაც უფლება აქვს გააუქმოს შინაარსის მოდერაციის გადაწყვეტილებები, თუნდაც დამფუძნებლის მარკ ცუკერბერგის მიერ მიღებული გადაწყვეტილებები. 2021 წლის იანვარში კომიტეტმა მიიღო პირველი გადაწყვეტილებები სადავო შინაარსთან დაკავშირებით და გააუქმა საქმეების უმეტესობა, რაც მან ნახა. 

თუმცა, ყოველდღიურად ფეისბუქზე მილიარდობით პოსტით და კონტენტთან დაკავშირებული საჩივრების უთვალავი რაოდენობის გამო, სამეთვალყურეო საბჭო ბევრად უფრო ნელა მუშაობს, ვიდრე ტრადიციული მთავრობები. მიუხედავად ამისა, საბჭომ გასცა რამდენიმე სწორი რეკომენდაცია. 2022 წელს, პანელმა Meta Platforms-ს ურჩია, დაეშვა Facebook-ზე გამოქვეყნებული დოქსინგის ინციდენტები, აეკრძალა მომხმარებლებს კერძო პირების სახლის მისამართების გაზიარება პლატფორმებზე, თუნდაც ისინი საჯაროდ ხელმისაწვდომი იყოს. საბჭომ ასევე მხარი დაუჭირა Facebook-ის გახსნას საკომუნიკაციო არხის გამჭვირვალედ ასახსნელად, თუ რატომ ხდება დარღვევები და როგორ განიხილება ისინი.

კერძო სექტორის ეთიკის შეჯახების შედეგები

კერძო სექტორში ეთიკის შეჯახების უფრო ფართო შედეგები შეიძლება მოიცავდეს: 

• მეტი კომპანია აშენებს დამოუკიდებელ ეთიკის საბჭოებს, რათა ზედამხედველობა გაუწიოს ეთიკური სახელმძღვანელო პრინციპების შესრულებას მათ შესაბამის ბიზნეს პრაქტიკაში.
• გაიზარდა კრიტიკა აკადემიის მხრიდან იმის თაობაზე, თუ როგორ მოახდინა ტექნიკური კვლევის კომერციალიზაციამ უფრო საეჭვო პრაქტიკა და სისტემები.
• უფრო მეტი საჯარო სექტორის ტვინების გადინება ხდება, რადგან ტექნიკური ფირმები ეძებენ ნიჭიერ საჯარო და უნივერსიტეტის AI მკვლევარებს, გვთავაზობენ მნიშვნელოვან ხელფასს და სარგებელს.
• მთავრობები სულ უფრო ხშირად ითხოვენ ყველა ფირმას გამოაქვეყნონ თავიანთი ეთიკური სახელმძღვანელო პრინციპები, მიუხედავად იმისა, აწვდიან თუ არა ტექნოლოგიურ მომსახურებას.
• ინტერესთა კონფლიქტის გამო მსხვილი კომპანიებიდან გათავისუფლებული უფრო გამოკვეთილი მკვლევარები სწრაფად შეიცვლება.

კითხვები გასათვალისწინებელია

• როგორ ფიქრობთ, როგორ იმოქმედებს ეთიკური შეჯახებები იმ პროდუქტებსა და სერვისებზე, რომლებსაც მომხმარებლები იღებენ?
• რა შეუძლიათ გააკეთონ ფირმებმა თავიანთი ტექნიკური კვლევების გამჭვირვალობის უზრუნველსაყოფად?