Etikai irányelvek a technológiában: Amikor a kereskedelem átveszi a kutatást

• Szerző:
• Szerző neve

  Quantumrun Foresight
• Február 15, 2023

Insight összefoglaló

A mesterséges intelligencia-rendszerek által bizonyos kisebbségi csoportokra gyakorolt ​​lehetséges veszélyek és algoritmikus torzítások miatt sok szövetségi ügynökség és vállalat egyre inkább megköveteli a technológiai szolgáltatóktól, hogy tegyenek közzé etikai irányelveket az AI fejlesztésére és bevezetésére vonatkozóan. Azonban ezen irányelvek alkalmazása a való életben sokkal összetettebb és homályosabb.

Az etika összeütközik a kontextusban

A Szilícium-völgyben a vállalkozások még mindig azt vizsgálják, hogyan alkalmazzák a legjobban az etikai elveket a gyakorlatban, beleértve a kérdést: „mennyibe kerül az etika előtérbe helyezése?” 2. december 2020-án Timnit Gebru, a Google etikus mesterséges intelligencia csapatának társvezetője Twitter-üzenetben közölte, hogy elbocsátották. Az AI-közösségben széles körben tisztelték elfogultságáért és arcfelismerési kutatásáért. A kirúgásához vezető incidens egy olyan lapra vonatkozott, amelynek társszerzője volt, és amelyről a Google úgy döntött, hogy nem felelt meg a közzétételre vonatkozó normáiknak. 

Gebru és mások azonban azzal érvelnek, hogy az elbocsátást nem a haladás, hanem a PR motiválta. Az elbocsátásra azután került sor, hogy Gebru megkérdőjelezte azt az utasítást, hogy ne tegyenek közzé tanulmányt arról, hogy az emberi nyelvet utánzó mesterséges intelligencia hogyan károsíthatja a marginalizált populációkat. 2021 februárjában Gebru társszerzőjét, Margaret Mitchellt is elbocsátották. 

A Google kijelentette, hogy Mitchell megszegte a vállalat magatartási kódexét és biztonsági irányelveit azzal, hogy az elektronikus fájlokat a vállalaton kívülre helyezte át. Mitchell nem részletezte elbocsátásának okait. A lépés kritika lavináját váltotta ki, ami miatt a Google 2021 februárjáig bejelentette a sokszínűségében és a kutatási politikájában bekövetkezett változásokat. Ez az eset csak egy példa arra, hogy az etikai összeütközések hogyan osztják meg a nagy technológiai cégeket és állítólagos kutatási részlegeiket.

Bomlasztó hatás

A Harvard Business Review szerint a legnagyobb kihívás, amellyel a cégtulajdonosok szembesülnek, az, hogy megtalálják az egyensúlyt az etikai válságokra való reagálás külső nyomása és vállalataik és iparágaik belső igényei között. A külső kritikák arra késztetik a vállalatokat, hogy újraértékeljék üzleti gyakorlatukat. A vezetés, az iparági verseny és a vállalkozások irányításával kapcsolatos általános piaci elvárások azonban néha ellensúlyozó ösztönzőket hozhatnak létre, amelyek a status quo-t részesítik előnyben. Ennek megfelelően az etikai összeütközések csak növekedni fognak, ahogy a kulturális normák fejlődnek, és ahogy a vállalatok (különösen a befolyásos technológiai cégek) továbbra is feszegetik az újszerű üzleti gyakorlatok határait, amelyekkel új bevételeket generálhatnak.

Egy másik példa arra, hogy a vállalatok ezzel az etikai egyensúlysal küszködnek, a Meta cég. A nyilvánosságra hozott etikai hiányosságok orvoslására a Facebook 2020-ban független felügyelőbizottságot hozott létre, amely felhatalmazást kapott a tartalommoderálási döntések megsemmisítésére, még az alapító Mark Zuckerberg által hozott döntéseket is. 2021 januárjában a bizottság meghozta első döntését a vitatott tartalommal kapcsolatban, és az általa látott esetek többségét hatályon kívül helyezte. 

Azonban a Facebookon naponta több milliárd bejegyzés és számtalan tartalmi panasz miatt a felügyeleti testület sokkal lassabban működik, mint a hagyományos kormányok. Ennek ellenére a testület tett néhány érvényes ajánlást. 2022-ben a testület azt tanácsolta a Meta Platformsnak, hogy lépjen fel a Facebookon közzétett doxxing incidensekkel szemben, és tiltsák meg a felhasználóknak, hogy megosszák az egyének otthoni címét a platformokon, még akkor is, ha azok nyilvánosan elérhetők. A testület azt is támogatta, hogy a Facebook nyisson meg egy kommunikációs csatornát, hogy átláthatóan elmagyarázza, miért történnek jogsértések és hogyan kezelik azokat.

A magánszektor etikai ütközésének következményei

A magánszektorban tapasztalható etikai összeütközések tágabb következményei lehetnek: 

• Egyre több vállalat hoz létre független etikai testületet, hogy felügyelje az etikai irányelvek végrehajtását saját üzleti gyakorlatában.
• Az akadémiai körök megnövekedett kritikája azzal kapcsolatban, hogy a technológiai kutatás kereskedelmi hasznosítása miként vezetett több megkérdőjelezhető gyakorlathoz és rendszerhez.
• Egyre nagyobb a közszféra agyelszívása, mivel a technológiai cégek tehetséges állami és egyetemi AI-kutatókat keresnek, jelentős fizetéseket és juttatásokat kínálva.
• A kormányok egyre inkább megkövetelik minden cégtől, hogy tegye közzé etikai irányelveit, függetlenül attól, hogy nyújtanak-e technológiai szolgáltatásokat vagy sem.
• A szókimondóbb kutatókat összeférhetetlenség miatt kirúgják a nagyvállalatoktól, hogy gyorsan leváltsák őket.

Megfontolandó kérdések

• Ön szerint az etikai ütközések hogyan befolyásolják a fogyasztók által kapott termékeket és szolgáltatásokat?
• Mit tehetnek a cégek a technológiai kutatásaik átláthatóságának biztosítása érdekében?