Velika tehnologija i vojska: etička siva zona

• Autor:
• ime autora

  Quantumrun Foresight
• 18. 2023. XNUMX.

Sažetak uvida

Tvrtke iz Silicijske doline pokrenule su značajne inovacije u autonomnim tehnologijama, kao što su samovozeća vozila i dronovi. Od 2010-ih ove su se inovacije postupno filtrirale u tehnološke hrpe vojski diljem svijeta kako bi se unaprijedile sposobnosti autonomnog ratovanja. Kao rezultat toga, tehnološki zaposlenici u privatnom sektoru i organizacije za ljudska prava diljem svijeta pozivaju na transparentnije smjernice o tome kako vojske njihovih zemalja usvajaju tehnologije privatnog sektora.

Velika tehnologija i vojni kontekst

Razvoj tehnologije za vojsku iziskuje golemu količinu vremena i ulaganja. Vojno-industrijski kompleks, na primjer, obično uključuje dugogodišnje partnerstvo između vojnih organizacija i masivnih obrambenih izvođača, kao što su Lockheed Martin i Raytheon u SAD-u. Njihovi projekti uključuju razvoj obrambenih sredstava poput autonomnih vojnih bespilotnih letjelica i nosača zrakoplova. 

Međutim, vojno-industrijski kompleks također uključuje partnerstva s drugim vrstama tvrtki iz privatnog sektora koje nisu tradicionalno povezane s obrambenim sektorom, poput velikih tehnoloških tvrtki. Kako broj ovih novih obrambenih partnerstava raste, mnogi zaposlenici postaju svjesni da se ugovori potpisuju bez njihova znanja. Na primjer, 2018. godine zaposlenici zviždači i istraživački novinari objavili su Googleovu uključenost u projekt Maven, inicijativu američkog Ministarstva obrane (DoD) koja koristi umjetnu inteligenciju (AI) za ciljanje napada dronovima. Zaposlenici Googlea tvrde da tvrtka nikada nije tražila njihov pristanak za sudjelovanje u ovom i drugim obrambenim projektima.

Unatoč tome, 2018. Google se povukao iz projekta Maven nakon peticije koju su potpisale tisuće zaposlenika, tvrdeći da tvrtka ne bi trebala biti u ratu. Takav razvoj događaja prisilio je neke tehnološke tvrtke da zauzmu stav o tome gdje povući crtu. Na primjer, nakon povlačenja iz projekta Maven, Google je izdao etičke smjernice u kojima je iznio svoja stajališta o odgovornom istraživanju umjetne inteligencije. U politici je navedeno da tvrtka neće konstruirati oružje temeljeno na umjetnoj inteligenciji, ali nije isključila nastavak suradnje s obrambenim sektorom za razvoj neofenzivnih vojnih sposobnosti.

Razorni utjecaj

Upletenost između Big Tech-a i vojske može imati dugoročne posljedice za ove tehnološke tvrtke. Konkretno, mnoge zemlje sve više gledaju na tradicionalno neutralne tvrtke poput Googlea ili Microsofta kao na saveznike američkih vojnih organizacija. Budući da se sada zna da ove tvrtke aktivno surađuju u obrambenom sektoru SAD-a, strane države oklijevaju da nastave ovisiti o američkoj Big Tech za softver i tehničku podršku. Slično oklijevanje primijenjeno je na kineske tehnološke divove; na primjer, SAD, Kanada i mnoge europske zemlje počele su zabranjivati ​​Huawei 5G telekomunikacijske sustave zbog straha od nadzora kineske vlade. 

Štoviše, neki liberalno orijentirani zaposlenici koji rade u takvim tehnološkim tvrtkama mogu se s vremenom osjećati iskorištenima. Konkretno, radnici milenijalaca i generacije Z skloni su pridavati prednost etičkim poslovnim praksama te će u skladu s tim birati svoje poslodavce. Neki od tih mladih zaposlenika mogu čak postati zviždači i otkriti tajne, naštetiti ugledu svoje tvrtke. 

Unatoč tome, Ministarstvo obrane SAD-a nastoji postati transparentnije u načinu na koji provodi svoje istraživačke inicijative. Ministarstvo sada zahtijeva od dobavljača trećih strana da objave svoje etičke smjernice za umjetnu inteligenciju koje jasno ističu kako nadziru razvoj strojnog učenja. Big Tech također agresivno provodi svoje odgovorne AI inicijative. Na primjer, Facebook je uspostavio svoj etički odbor (2018.) kako bi osigurao da algoritmi i nove značajke nisu pristrani. 

Implikacije velike tehnologije i vojske

Šire implikacije sve većeg partnerstva Big Tech s obrambenim sektorom mogu uključivati:

• Zemlje s razvijenim tehnološkim sektorima stječu veću vojnu prednost u odnosu na manje razvijene zemlje u budućem bojnom prostoru. 
• Tehnički zaposlenici zahtijevaju od svojih tvrtki da budu transparentni u pogledu svakog projekta na kojem rade, uključujući potpuno otkrivanje dionika.
• Nekoliko tvrtki, poput Googlea, Microsofta i Amazona, povlači se iz odabranih vojnih i policijskih ugovora.
• Vojne organizacije prelaze na manje tehnološke tvrtke i startupove kako bi izbjegle kontrolu.
• Ocjene okoliša, društva i upravljanja (ESG) usmjerene su na metriku etike kako bi se osiguralo da tvrtke odgovorno implementiraju AI.
• Sve veći razvoj sposobnosti algoritamskog ratovanja, kao i autonomnih dronova, tenkova i podvodnih vozila za ratnu upotrebu.

Pitanja za razmatranje

• Ako radite u tehnološkoj tvrtki, kako vaša tvrtka implementira odgovornu umjetnu inteligenciju?
• Kako velika tehnologija i vojska mogu transparentnije i etičnije surađivati?