Wytyczne etyczne w technologii: kiedy handel przejmuje badania

• Autor:
• nazwisko autora

  Foresight Quantumrun
• 15 lutego 2023 r.

Podsumowanie spostrzeżeń

Ze względu na potencjalne zagrożenia i uprzedzenia algorytmiczne, jakie systemy sztucznej inteligencji (AI) mogą nakładać na wybrane grupy mniejszościowe, wiele agencji federalnych i firm coraz częściej wymaga od dostawców technologii publikowania wytycznych etycznych dotyczących sposobu opracowywania i wdrażania sztucznej inteligencji. Jednak zastosowanie tych wskazówek w prawdziwym życiu jest znacznie bardziej złożone i niejasne.

Kontekst kolizji etycznej

W Dolinie Krzemowej firmy wciąż badają, jak najlepiej stosować zasady etyczne w praktyce, w tym zadają pytanie „ile kosztuje nadanie etyce priorytetu?” 2 grudnia 2020 r. Timnit Gebru, współprzewodnicząca etycznego zespołu AI w Google, opublikowała tweet, w którym poinformowała, że ​​została zwolniona. Była powszechnie szanowana w społeczności sztucznej inteligencji za swoje uprzedzenia i badania nad rozpoznawaniem twarzy. Incydent, który doprowadził do jej zwolnienia, dotyczył artykułu, którego była współautorką, a który według Google nie spełniał ich standardów publikacji. 

Jednak Gebru i inni twierdzą, że zwolnienie było motywowane raczej public relations niż postępem. Zwolnienie nastąpiło po tym, jak Gebru zakwestionował nakaz niepublikowania badania dotyczącego tego, w jaki sposób sztuczna inteligencja naśladująca ludzki język może zaszkodzić zmarginalizowanym populacjom. W lutym 2021 roku zwolniono również współautorkę Gebru, Margaret Mitchell. 

Google stwierdził, że Mitchell złamał firmowy kodeks postępowania i zasady bezpieczeństwa, przenosząc pliki elektroniczne poza firmę. Mitchell nie wyjaśnił powodów jej zwolnienia. Posunięcie to wywołało lawinę krytyki, co skłoniło Google do ogłoszenia zmian w swojej polityce dotyczącej różnorodności i badań do lutego 2021 r. Ten incydent to tylko jeden przykład tego, jak konflikty etyczne dzielą duże firmy technologiczne i ich rzekomo obiektywne działy badawcze.

Zakłócający wpływ

Według Harvard Business Review największym wyzwaniem dla właścicieli firm jest znalezienie równowagi między zewnętrznymi naciskami, aby reagować na kryzysy etyczne, a wewnętrznymi wymaganiami ich firm i branż. Zewnętrzna krytyka zmusza firmy do ponownej oceny swoich praktyk biznesowych. Jednak naciski ze strony kierownictwa, konkurencji branżowej i ogólnych oczekiwań rynku co do sposobu prowadzenia działalności mogą czasami tworzyć przeciwstawne zachęty sprzyjające status quo. W związku z tym starcia etyczne będą się nasilać wraz z ewolucją norm kulturowych, a firmy (zwłaszcza wpływowe firmy technologiczne) będą nadal przesuwać granice nowych praktyk biznesowych, które mogą wdrażać w celu generowania nowych przychodów.

Innym przykładem korporacji zmagających się z tą równowagą etyczną jest firma Meta. Aby zaradzić nagłośnionym niedociągnięciom etycznym, Facebook powołał w 2020 r. niezależną radę nadzorczą, która ma uprawnienia do unieważniania decyzji dotyczących moderacji treści, nawet tych podjętych przez założyciela Marka Zuckerberga. W styczniu 2021 r. komisja wydała pierwsze orzeczenia w sprawie spornych treści i unieważniła większość spraw, które miała do czynienia. 

Jednak przy miliardach postów dziennie na Facebooku i niezliczonej liczbie skarg dotyczących treści rada nadzorcza działa znacznie wolniej niż tradycyjne rządy. Niemniej jednak zarząd wydał kilka ważnych zaleceń. W 2022 roku panel doradził Meta Platforms, aby rozprawiła się z incydentami doxxingu opublikowanymi na Facebooku, zabraniając użytkownikom udostępniania adresów domowych osób fizycznych na platformach, nawet jeśli są one publicznie dostępne. Zarząd opowiedział się również za tym, aby Facebook otworzył kanał komunikacyjny, aby w przejrzysty sposób wyjaśnić, dlaczego dochodzi do naruszeń i jak są one traktowane.

Konsekwencje kolizji etycznych sektora prywatnego

Szersze implikacje konfliktów etycznych w sektorze prywatnym mogą obejmować: 

• Więcej firm tworzy niezależne rady ds. etyki, aby nadzorować wdrażanie wytycznych etycznych w swoich praktykach biznesowych.
• Rosnąca krytyka środowiska akademickiego dotycząca tego, jak komercjalizacja badań nad technologią doprowadziła do powstania bardziej wątpliwych praktyk i systemów.
• Większy drenaż mózgów w sektorze publicznym, ponieważ firmy technologiczne poszukują utalentowanych publicznych i uniwersyteckich naukowców zajmujących się sztuczną inteligencją, oferując znaczne pensje i świadczenia.
• Rządy coraz częściej wymagają od wszystkich firm publikowania wytycznych etycznych, niezależnie od tego, czy świadczą usługi technologiczne, czy nie.
• Bardziej szczerzy naukowcy zwalniani z dużych firm z powodu konfliktu interesów tylko po to, by szybko zostać zastąpieni.

Pytania do rozważenia

• Jak myślisz, w jaki sposób konflikty etyczne wpłyną na rodzaj produktów i usług, które otrzymują konsumenci?
• Co firmy mogą zrobić, aby zapewnić przejrzystość swoich badań technologicznych?