Етички упатства во технологијата: Кога трговијата го презема истражувањето

• автор:
• име на авторот

  Quantumrun Foresight
• Февруари 15, 2023

Резиме на увид

Поради потенцијалните опасности и алгоритамската пристрасност што системите за вештачка интелигенција (ВИ) можат да ги нанесат на одредени малцински групи, многу федерални агенции и компании сè повеќе бараат од технолошките провајдери да објавуваат етички упатства за тоа како развиваат и применуваат вештачка интелигенција. Сепак, примената на овие упатства во реалниот живот е многу посложена и поматна.

Етиката се судри со контекстот

Во Силиконската долина, бизнисите сè уште истражуваат како најдобро да ги применат етичките принципи во пракса, вклучувајќи го и поставувањето на прашањето „колку чини да се даде приоритет на етиката?“ На 2 декември 2020 година, Тимнит Гебру, ко-водач на тимот за етичка вештачка интелигенција на Google, објави твит во кој пишува дека е отпуштена. Таа беше широко почитувана во заедницата за вештачка интелигенција поради нејзината пристрасност и истражување за препознавање лице. Инцидентот што доведе до нејзино отпуштање се однесуваше на весникот што таа беше коавтор за кој Google одлучи дека не ги исполнува нивните стандарди за објавување. 

Сепак, Гебру и другите тврдат дека отпуштањето било мотивирано од односите со јавноста, а не од напредокот. Отпуштањето се случи откако Гебру ја доведе во прашање наредбата да не се објавува студија за тоа како вештачката интелигенција која имитира човечки јазик може да им наштети на маргинализираните популации. Во февруари 2021 година, отпуштена беше и коавторката на Гебру, Маргарет Мичел. 

Google изјави дека Мичел го прекршил кодексот на однесување и безбедносните политики на компанијата со преместување на електронски датотеки надвор од компанијата. Мичел не даде повеќе детали за основата на нејзиното отпуштање. Овој потег предизвика лавина критики, што доведе Google да објави промени во својата различност и истражувачки политики до февруари 2021 година. Овој инцидент е само еден пример за тоа како етичките судири ги делат големите технолошки фирми и нивните наводно објективни истражувачки оддели.

Нарушувачко влијание

Според Harvard Business Review, најголемиот предизвик со кој се соочуваат сопствениците на бизниси е да најдат рамнотежа помеѓу надворешните притисоци за да одговорат на етичките кризи и внатрешните барања на нивните компании и индустрии. Надворешните критики ги туркаат компаниите да ги преиспитаат своите деловни практики. Сепак, притисоците од менаџментот, конкуренцијата во индустријата и општите пазарни очекувања за тоа како треба да се водат бизнисите понекогаш може да создадат спротивставени стимулации кои ја фаворизираат статус квото. Според тоа, етичките судири само ќе се зголемуваат како што еволуираат културните норми и додека компаниите (особено влијателните технолошки фирми) продолжуваат да ги поместуваат границите на новите деловни практики што можат да ги имплементираат за да генерираат нови приходи.

Друг пример на корпорации кои се борат со оваа етичка рамнотежа е компанијата Мета. За да ги реши своите објавени етички недостатоци, Фејсбук формираше независен надзорен одбор во 2020 година, со овластување да ги поништи одлуките за умереност на содржината, дури и оние донесени од основачот Марк Цукерберг. Во јануари 2021 година, комисијата ги донесе своите први одлуки за спорната содржина и ги поништи повеќето случаи што ги виде. 

Сепак, со милијарди објави на Фејсбук дневно и нераскажан број поплаки за содржината, надзорниот одбор работи многу побавно од традиционалните влади. Сепак, одборот даде неколку валидни препораки. Во 2022 година, панелот ги советуваше Мета платформите да ги спречат инцидентите со доксинг објавени на Фејсбук со забрана на корисниците да споделуваат домашни адреси на поединци на платформите дури и ако тие се јавно достапни. Одборот, исто така, се заложи Фејсбук да отвори комуникациски канал за транспарентно да објасни зошто се случуваат прекршувањата и како се постапува со нив.

Импликации од етичките судири во приватниот сектор

Пошироките импликации на етичките судири во приватниот сектор може да вклучуваат: 

• Повеќе компании градат независни етички одбори за да го надгледуваат спроведувањето на етичките упатства во нивните соодветни деловни практики.
• Зголемени критики од академијата за тоа како комерцијализацијата на технолошките истражувања доведе до повеќе сомнителни практики и системи.
• Се поголем одлив на мозоци во јавниот сектор бидејќи технолошките фирми ловат талентирани јавни и универзитетски истражувачи за вештачка интелигенција, нудејќи значителни плати и бенефиции.
• Владите сè повеќе бараат од сите фирми да ги објавуваат своите етички упатства без разлика дали обезбедуваат технолошки услуги или не.
• Повеќе отворени истражувачи беа отпуштени од големи компании поради конфликт на интереси за да бидат брзо заменети.

Прашања што треба да се разгледаат

• Како мислите дека етичките судири ќе влијаат на видот на производите и услугите што ги добиваат потрошувачите?
• Што можат да направат фирмите за да обезбедат транспарентност во нивните технолошки истражувања?