Насоки за етика в технологиите: Когато търговията поеме изследванията

• Автор:
• име Автор

  Quantumrun Foresight
• Февруари 15, 2023

Резюме на прозрението

Поради потенциалните опасности и алгоритмични отклонения, които системите с изкуствен интелект (AI) могат да причинят на избрани малцинствени групи, много федерални агенции и компании все повече изискват от доставчиците на технологии да публикуват етични насоки за това как разработват и внедряват AI. Прилагането на тези насоки в реалния живот обаче е много по-сложно и по-мътно.

Контекст на етичния сблъсък

В Силиконовата долина бизнесът все още проучва как най-добре да приложи етичните принципи на практика, включително задавайки въпроса „колко струва да се даде приоритет на етиката?“ На 2 декември 2020 г. Тимнит Гебру, един от ръководителите на етичния екип на Google за изкуствен интелект, публикува туит, в който казва, че е уволнена. Тя беше широко уважавана в общността на изкуствения интелект заради пристрастията си и изследванията си за разпознаване на лица. Инцидентът, довел до нейното уволнение, се отнася до документ, на който тя е съавтор, за който Google реши, че не отговаря на техните стандарти за публикуване. 

Гебру и други обаче твърдят, че уволнението е мотивирано по-скоро от връзки с обществеността, отколкото от прогрес. Уволнението се случи, след като Gebru оспори заповед да не се публикува проучване за това как ИИ, който имитира човешкия език, може да навреди на маргинализираните групи. През февруари 2021 г. съавторът на Gebru, Маргарет Мичъл, също беше уволнена. 

Google заяви, че Мичъл е нарушил кодекса за поведение и политиките за сигурност на компанията, като е преместил електронни файлове извън компанията. Мичъл не разясни причините за уволнението си. Този ход предизвика лавина от критики, което накара Google да обяви промени в политиките си за разнообразие и изследвания до февруари 2021 г. Този инцидент е само един пример за това как етичните сблъсъци разделят големите технологични фирми и техните уж обективни изследователски отдели.

Разрушително въздействие

Според Harvard Business Review най-голямото предизвикателство, пред което са изправени собствениците на бизнес, е да намерят баланс между външния натиск да отговорят на етичните кризи и вътрешните изисквания на техните компании и индустрии. Външните критики тласкат компаниите да преоценят своите бизнес практики. Въпреки това, натискът от ръководството, конкуренцията в индустрията и общите пазарни очаквания за това как трябва да се управляват фирмите понякога могат да създадат противодействащи стимули, които благоприятстват статуквото. Съответно, етичните сблъсъци само ще нарастват с развитието на културните норми и тъй като компаниите (особено влиятелните технологични фирми) продължават да разширяват границите на новите бизнес практики, които могат да прилагат, за да генерират нови приходи.

Друг пример за корпорации, борещи се с този етичен баланс, е компанията Meta. За да се справи с разгласените си етични недостатъци, Facebook създаде независим надзорен съвет през 2020 г. с правомощията да отменя решенията за модериране на съдържание, дори тези, взети от основателя Марк Зукърбърг. През януари 2021 г. комисията направи първите си решения относно оспорваното съдържание и отмени повечето случаи, които видя. 

Въпреки това, с милиарди публикации във Facebook всеки ден и неизброим брой оплаквания за съдържание, надзорният съвет работи много по-бавно от традиционните правителства. Независимо от това, бордът направи някои валидни препоръки. През 2022 г. панелът посъветва Meta Platforms да предприеме мерки срещу инциденти с doxxing, публикувани във Facebook, като забрани на потребителите да споделят домашните адреси на лица в платформи, дори ако те са публично достъпни. Бордът също така се застъпи за Facebook да отвори канал за комуникация, за да обясни прозрачно защо се случват нарушения и как се третират.

Последици от етичните сблъсъци в частния сектор

По-широките последици от етичните сблъсъци в частния сектор могат да включват: 

• Повече компании изграждат независими съвети по етика, които да наблюдават прилагането на етичните насоки в съответните им бизнес практики.
• Засилени критики от академичните среди за това как комерсиализирането на технологичните изследвания е довело до по-съмнителни практики и системи.
• Повече изтичане на мозъци от публичния сектор, тъй като технологичните фирми търсят талантливи публични и университетски изследователи на ИИ, предлагайки значителни заплати и предимства.
• Правителствата все повече изискват от всички фирми да публикуват своите етични насоки, независимо дали предоставят технологични услуги или не.
• По-откровени изследователи биват уволнявани от големи компании поради конфликт на интереси само за да бъдат бързо заменени.

Въпроси за разглеждане

• Как смятате, че етичните сблъсъци ще повлияят на вида продукти и услуги, които потребителите получават?
• Какво могат да направят фирмите, за да осигурят прозрачност в своите технологични изследвания?