Алгоритмічна війна: чи є роботи-вбивці новим обличчям сучасної війни?

• Автор:
• ім'я автора

  Quantumrun Foresight
• Січень 10, 2023

Країни продовжують досліджувати системи ведення війни зі штучним інтелектом (ШІ), незважаючи на те, що в громадянському суспільстві зріс опір летальній автономній зброї. 

Алгоритмічний контекст бойових дій

Машини використовують алгоритми (набір математичних інструкцій) для вирішення проблем, які імітують людський інтелект. Алгоритмічні бойові дії включають розробку систем на основі ШІ, які можуть автономно керувати зброєю, тактикою і навіть цілими військовими операціями. Машини, які автономно керують системами зброї, викликали нові дискусії щодо ролі автономних машин у війні та її етичних наслідків. 

Згідно з міжнародним гуманітарним правом, будь-яка машина (з озброєнням чи без неї) повинна пройти сувору перевірку перед розгортанням, особливо якщо вона призначена для заподіяння шкоди людям або будівлям. Це поширюється на системи штучного інтелекту, які розробляються для того, щоб зрештою стати самонавчальними та самокоригованими, що може призвести до того, що ці машини замінять керовані людиною системи зброї під час військових операцій.

У 2017 році Google отримав різку негативну реакцію з боку своїх співробітників, коли виявилося, що компанія співпрацює з Міністерством оборони США над розробкою систем машинного навчання для використання в армії. Активісти були стурбовані тим, що створення, можливо, саморозвиваються військових роботів може порушити громадянські свободи або призвести до помилкового розпізнавання цілей. Використання технології розпізнавання обличчя в армії збільшилося (вже у 2019 році) для створення бази даних цільових терористів або зацікавлених осіб. Критики висловлюють занепокоєння тим, що прийняття рішень за допомогою ШІ може призвести до катастрофічних результатів, якщо втручання людини буде скомпрометовано. Проте більшість членів Організації Об’єднаних Націй виступають за заборону летальних автономних систем зброї (LAWS) через можливість для цих організацій стати шахраєм.

Руйнівний вплив

Падіння показників набору військових, яке спостерігається в багатьох західних країнах — тенденція, яка поглибилася протягом 2010-х років — є ключовим фактором, що сприяє прийняттю автоматизованих військових рішень. Іншим фактором, що спонукає до впровадження цих технологій, є їх потенціал для оптимізації та автоматизації операцій на полі бою, що призводить до підвищення ефективності ведення бойових дій і зниження експлуатаційних витрат. Деякі зацікавлені сторони військової промисловості також стверджують, що військові системи та алгоритми, керовані штучним інтелектом, можуть зменшити людські втрати, надаючи точну інформацію в режимі реального часу, яка може підвищити точність розгорнутих систем, щоб вони вражали намічені цілі. 

Якщо на театрах воєнних дій по всьому світу буде розгорнуто більше систем військової зброї, керованих ШІ, у зонах конфлікту може бути розгорнуто менше людського персоналу, що зменшить втрати військових на театрах військових дій. Розробники зброї, керованої штучним інтелектом, можуть передбачити контрзаходи, такі як вимикачі, щоб ці системи можна було негайно вимкнути у разі виникнення помилки.  

Наслідки зброї, керованої ШІ 

Більш широкі наслідки використання автономної зброї військовими по всьому світу можуть включати:

• Автономне озброєння розгортається замість піхоти, що зменшує витрати на ведення війни та втрати солдатів.
• Більше застосування військової сили вибраними країнами з більшим доступом до автономних або механізованих засобів, оскільки зменшення чи ліквідація втрат у військах може мінімізувати опір внутрішньої громадськості країни веденню війни на чужих землях.
• Збільшення оборонних бюджетів між країнами заради військової переваги штучного інтелекту під час майбутніх воєн може вирішуватися швидкістю прийняття рішень і складністю майбутньої зброї та армій, керованих ШІ. 
• Посилення партнерства між людьми та машинами, де дані будуть миттєво надаватися солдатам-людям, дозволяючи їм коригувати тактику та стратегію бою в реальному часі.
• Країни все більше використовують ресурси своїх приватних технологічних секторів для зміцнення своїх оборонних можливостей ШІ. 
• Один або кілька глобальних договорів, які пропагуються в Організації Об’єднаних Націй, забороняють або обмежують використання автономної зброї. Така політика, ймовірно, буде проігнорована вищими військовими у світі.

Питання для коментарів

• Як ви думаєте, чи піде алгоритмічна війна на користь людям, які перебувають на військовій службі?
• Чи вірите ви, що системам штучного інтелекту, створеним для ведення війни, можна довіряти, чи їх слід скоротити або заборонити відразу?