Алгоритамско ратовање: Да ли су роботи убице ново лице модерног ратовања?

• Аутор:
• ime аутора

  Куантумрун Форесигхт
• Januar 10, 2023

Земље настављају да истражују вештачке интелигентне (АИ) системе ратовања иако се у цивилном друштву повећао отпор против смртоносног, аутономног оружја. 

Алгоритамски контекст ратовања

Машине користе алгоритме (скуп математичких инструкција) за решавање проблема који опонашају људску интелигенцију. Алгоритамско ратовање укључује развој система са АИ који могу аутономно управљати оружјем, тактиком, па чак и читавим војним операцијама. Машине које аутономно контролишу системе оружја отвориле су нове дебате у вези са улогом коју аутономне машине треба да имају у рату и његовим етичким импликацијама. 

Према међународном хуманитарном праву, свака машина (било наоружана или ненаоружана) треба да прође строге прегледе пре него што буде распоређена, посебно ако је намењена да нанесе штету људима или зградама. Ово се протеже на системе вештачке интелигенције који се развијају да би на крају постали самоучећи и самоисправљајући, што може довести до тога да ове машине замене системе наоружања које контролише људи у војним операцијама.

У 2017. години, Гоогле је добио озбиљну реакцију својих запослених када је откривено да компанија ради са Министарством одбране Сједињених Држава на развоју система машинског учења који ће се користити у војсци. Активисти су били забринути да стварање војних робота који се могу сами развијати може нарушити грађанске слободе или довести до лажног препознавања мета. Употреба технологије за препознавање лица у војсци се повећала (већ 2019. године) како би се створила база података о циљаним терористима или особама од интереса. Критичари су изразили забринутост да доношење одлука вођено вештачком интелигенцијом може довести до катастрофалних резултата ако је људска интервенција угрожена. Међутим, већина чланица Уједињених нација се залаже за забрану смртоносних аутономних система наоружања (ЛАВС) због могућности да ови ентитети пропадну.

Ометајући утицај

Пад броја војних регрутација који доживљавају многе западне земље – тренд који се продубио током 2010-их – кључни је фактор који доприноси усвајању аутоматизованих војних решења. Још један фактор који покреће усвајање ових технологија је њихов потенцијал да поједноставе и аутоматизују операције на бојном пољу, што доводи до повећане ефикасности у борби и нижих оперативних трошкова. Неки актери војне индустрије такође су тврдили да војни системи и алгоритми контролисани вештачком интелигенцијом могу да смање људске жртве пружањем тачних информација у реалном времену које могу повећати тачност распоређених система како би погодили своје предвиђене циљеве. 

Ако се више система војног наоружања које контролише АИ буде распоређено у позориштима широм света, мање људског особља може бити распоређено у зонама сукоба, смањујући војне жртве у поприштима рата. Произвођачи оружја вођеног вештачком интелигенцијом могу укључити противмере као што су прекидачи за заустављање, тако да се ови системи могу одмах онемогућити ако дође до грешке.  

Импликације оружја које контролише вештачка интелигенција 

Шире импликације аутономног оружја које користе војске широм света могу укључивати:

• Аутономно оружје се поставља уместо пешака, смањујући трошкове ратовања и жртве војника.
• Већа примена војне силе од стране одабраних нација са већим приступом аутономним или механизованим средствима, будући да смањење или елиминисање жртава трупа може да минимизира домаћи јавни отпор земље вођењу рата у страним земљама.
• Ескалација буџета за одбрану између нација за војну надмоћ АИ у будућим ратовима може бити одлучена брзином доношења одлука и софистицираношћу будућег оружја и војске које контролише АИ. 
• Повећање партнерства између људи и машина, где ће подаци бити одмах достављени људским војницима, омогућавајући им да прилагоде тактике и стратегије борбе у реалном времену.
• Земље све више користе ресурсе својих приватних технолошких сектора како би ојачале своје одбрамбене способности вештачке интелигенције. 
• Један или више глобалних уговора који се промовишу у Уједињеним нацијама који забрањују или ограничавају употребу аутономног оружја. Такву политику ће вероватно игнорисати врх светске војске.

Питања за коментарисање

• Мислите ли да ће алгоритамско ратовање користити људима који су ангажовани у војсци?
• Да ли верујете да се АИ системима дизајнираним за ратовање може веровати, или их треба потпуно ограничити или забранити?