Orientări etice în tehnologie: Când comerțul preia cercetarea

• Autor:
• Numele autorului

  Previziune Quantumrun
• 15 Februarie 2023

Rezumat perspectivă

Din cauza potențialelor pericole și a părtinirii algoritmice pe care sistemele de inteligență artificială (AI) le pot provoca unor grupuri minoritare selectate, multe agenții federale și companii solicită din ce în ce mai mult furnizorilor de tehnologie să publice linii directoare etice cu privire la modul în care dezvoltă și implementează AI. Cu toate acestea, aplicarea acestor linii directoare în viața reală este mult mai complexă și neclară.

Etica se confruntă cu contextul

În Silicon Valley, companiile încă explorează cum să aplice cel mai bine principiile etice în practică, inclusiv punând întrebarea „cât costă să prioritizezi etica?” Pe 2 decembrie 2020, Timnit Gebru, co-leader al echipei Google de inteligență artificială etică, a postat un tweet în care spunea că a fost concediată. Ea a fost larg respectată în comunitatea AI pentru părtinirea ei și cercetarea recunoașterii faciale. Incidentul care a dus la concedierea ei a vizat o lucrare pe care ea o co-autora și despre care Google a decis că nu îndeplinește standardele lor de publicare. 

Cu toate acestea, Gebru și alții susțin că concedierea a fost motivată mai degrabă de relații publice decât de progres. Demiterea a avut loc după ce Gebru a pus la îndoială ordinul de a nu publica un studiu despre modul în care AI care imită limbajul uman poate dăuna populațiilor marginalizate. În februarie 2021, coautoarea lui Gebru, Margaret Mitchell, a fost și ea concediată. 

Google a declarat că Mitchell a încălcat codul de conduită și politicile de securitate ale companiei prin mutarea fișierelor electronice în afara companiei. Mitchell nu a detaliat motivele concedierii ei. Mișcarea a stârnit o avalanșă de critici, ceea ce a determinat Google să anunțe modificări ale diversității și politicilor sale de cercetare până în februarie 2021. Acest incident este doar un exemplu al modului în care ciocnirile etice împart marile firme de tehnologie și departamentele lor de cercetare presupuse obiective.

Impact perturbator

Potrivit Harvard Business Review, cea mai mare provocare cu care se confruntă proprietarii de afaceri este găsirea unui echilibru între presiunile externe de a răspunde crizelor etice și cerințele interne ale companiilor și industriilor lor. Criticile externe împing companiile să-și reevalueze practicile de afaceri. Cu toate acestea, presiunile din partea managementului, concurența din industrie și așteptările generale ale pieței cu privire la modul în care ar trebui să fie conduse afacerile pot crea uneori stimulente compensatorii care favorizează status quo-ul. În consecință, ciocnirile etice vor crește doar pe măsură ce normele culturale evoluează și pe măsură ce companiile (în special firmele de tehnologie influente) continuă să depășească limitele noilor practici de afaceri pe care le pot implementa pentru a genera noi venituri.

Un alt exemplu de corporații care se luptă cu acest echilibru etic este compania Meta. Pentru a aborda deficiențele sale etice mediatizate, Facebook a înființat un consiliu de supraveghere independent în 2020, cu autoritatea de a anula deciziile de moderare a conținutului, chiar și cele luate de fondatorul Mark Zuckerberg. În ianuarie 2021, comitetul a luat primele decizii cu privire la conținutul contestat și a anulat majoritatea cazurilor pe care le-a văzut. 

Cu toate acestea, cu miliarde de postări zilnice pe Facebook și un număr nespus de plângeri de conținut, consiliul de supraveghere funcționează mult mai lent decât guvernele tradiționale. Cu toate acestea, consiliul a făcut câteva recomandări valabile. În 2022, panelul a sfătuit Meta Platforms să pună capăt incidentelor de doxxing publicate pe Facebook, interzicând utilizatorilor să partajeze adresele de domiciliu ale persoanelor pe platforme, chiar dacă acestea sunt disponibile public. Consiliul a susținut, de asemenea, ca Facebook să deschidă un canal de comunicare pentru a explica în mod transparent de ce apar încălcările și cum sunt tratate.

Implicațiile ciocnirilor etice din sectorul privat

Implicațiile mai largi ale ciocnirilor etice în sectorul privat pot include: 

• Mai multe companii construind consilii de etică independente pentru a supraveghea implementarea ghidurilor etice în practicile lor de afaceri respective.
• Criticile sporite din partea mediului academic asupra modului în care comercializarea cercetării tehnologice a condus la practici și sisteme mai discutabile.
• Exodul creierelor din sectorul public este mai mare, pe măsură ce firmele de tehnologie caută cercetători talentați în domeniul inteligenței artificiale din sectorul public și universitar, oferind salarii și beneficii substanțiale.
• Guvernele cer din ce în ce mai mult tuturor firmelor să-și publice liniile directoare etice, indiferent dacă oferă sau nu servicii tehnologice.
• Cercetători mai sinceri sunt concediați de la companii mari din cauza conflictelor de interese doar pentru a fi înlocuiți rapid.

Întrebări de luat în considerare

• Cum credeți că ciocnirile etice vor afecta tipul de produse și servicii pe care le primesc consumatorii?
• Ce pot face firmele pentru a asigura transparența cercetării lor tehnologice?