Цієї весни, під час Страсного тижня, священик відвідав український підрозділ дронів поблизу Запоріжжя. Він молився з бійцями за їхній захист, а потім окропив святою водою ударний дрон “Гара”, освячуючи машину перед її вильотом проти російських позицій. Цей дрон все ще потребував людського оператора, але багато з тих, що уявляють собі провідні військові сили світу, – ні. Оскільки зброя стає все більш автономною, а штучний інтелект витісняє людське прийняття рішень, війни стають легшими для початку та важчими для контролю.
Мало хто з лідерів так гостро звертав увагу на ці проблеми, як Папа Римський Лев XIV у своїй першій енцикліці “Magnifica Humanitas: Про захист людської особи в епоху штучного інтелекту”. Трактат понтифіка про потенціал ШІ та його загрози для прав людини та гідності отримав світову увагу.
Але менше уваги отримала вдумлива розробка етичних обмежень щодо використання автономної зброї, представлена в енцикліці. Так само, як і виклик, кинутий самим поняттям “справедливої війни” у 21 столітті. «Більше, ніж будь-коли, не зазіхаючи на право на самооборону в найсуворішому сенсі, — писав Папа, — важливо підтвердити, що теорія “справедливої війни”, яка надто часто використовувалася для виправдання будь-якого виду війни, тепер застаріла».
Папа Лев має рацію, що теорія зловживалася, і має рацію, наголошуючи на діалозі та дипломатії. Але якщо позбутися теорії справедливої війни, держави не стануть пацифістами. Політики не стануть святими, а командири — етиками. Всі втрачають спільний, зрозумілий стандарт, за яким війни оцінювалися та обмежувалися протягом століть — стандарт, який, якщо його оновити, все ще може захистити від найгірших зловживань війною в епоху конфліктів на швидкості машини.
Теорія справедливої війни потребує не відставки, а переосмислення для сучасної війни. Ця ревізія повинна враховувати війну, яка все більше опосередковується. Технології та конкуренція великих держав дозволяють тим, хто отримує вигоду від конфлікту, дистанціюватися від його витрат.
Скептицизм Папи щодо теорії справедливої війни підтверджує скептицизм його попередника, Папи Франциска. Але це ще сміливіше, коли походить від Лева. Він — августиніанець, з чернечого ордену, що сягає корінням святого, який розмірковував над тим, як правителі можуть вести війну, не відмовляючись від християнського обов’язку прагнути миру. Писання святого Августина стали джерелом теорії справедливої війни — основи, яку систематизував Томас Аквінський, а голландський юрист Гуго Гроцій допоміг секуляризувати.
Лідери століттями боролися з цією дилемою: війна — це жахливо, але іноді необхідно; теорія справедливої війни визначає, коли і як. Рішення про вступ у війну має бути відповіддю на акт агресії. Воно повинно мати правильний намір і походити від належної влади. Не менш важливо, війна має бути крайнім заходом і мати реальну перспективу завершитися справедливим миром. У своєму веденні бойових дій комбатанти повинні застосовувати силу, пропорційну цінності військової цілі. Вони повинні уникати прямого націлювання на цивільних осіб і вживати додаткових заходів для зменшення ризику шкоди цивільному населенню, навіть якщо це означає прийняття на себе додаткових ризиків.
Критерії викладаються в кожній американській військовій академії, вбудовані в закон збройних конфліктів і застосовуються щодня цільовими групами сучасних армій. Те, що почалося як католицьке надбання, стало найдовшим інтелектуальним проєктом Заходу щодо стримування насильства. Папа має рацію, що правителі використовують теорію, щоб благословити будь-яку війну, яку вони хочуть вести. Але, як зауважив Майкл Уолцер, це лицемірство — «данина, яку порок платить чесноті». Платячи її, правителі запрошують суд за тим самим стандартом, який вони цитують.
Зліва: китайський філософ Мо-цзи. Центр: філософ Мен-цзи. Справа: філософ і військовий стратег Сунь-цзи. Wikimedia Commons
Логіка, що лежить в основі теорії справедливої війни, не є виключно західною; існують спільні риси війни, з якими всі культури повинні боротися. Під час періоду Войовичих Держав Мен-цзи стверджував, що тиран, який знищив милосердя та справедливість, може втратити статус правителя. Мо-цзи засуджував загарбницьку війну, водночас готуючи державу Сун до опору неспровокованій облозі. Сунь-цзи вважав підкорення супротивника без бою найвищою формою полководницького мистецтва і неодноразово попереджав про витрати війни. Теорія справедливої війни не зовсім точно відображає китайську традицію, але спільний ґрунт може виявитися цінним для стримування майбутніх конфліктів.
З обох боків Тихого океану інтеграція штучного інтелекту у військові можливості заохочує до такого типу війни, який створює додаткові шари між особами, які приймають рішення, і вбивством. Це може зробити звернення до насильства більш ймовірним, навіть якщо воно стає більш точним. Це ставить під загрозу підзвітність — елемент, критично важливий для виживання будь-якого нормативного режиму. І якої б точності машини не досягли, вони залишаються нездатними до милосердя та інших людських якостей, які не тільки роблять війну трохи більш гуманною, але й допомагають створити умови для кращого стану миру.
Отже, традиція справедливої війни потребує оновлення для нових форм опосередкованої війни. І найсильнішим доказом того, що її можна побудувати, може стати сама енцикліка Папи. Навіть коли Лев ставить під сумнів актуальність теорії, критерії, які він викладає для обмеження використання автономної зброї, використовують той самий словник і умови традиції.
Для використання автономної зброї Папа вимагає ланцюга відповідальності, який є «ідентифікованим і перевіреним», що йде від тих, хто розробляє та тренує систему, до тих, хто її авторизує та використовує. Насправді, Стратегія відповідального ШІ Пентагону вимагає такого ж ланцюга підзвітності. Забезпечення його виконання є складнішим. Коли машини посередницькі дію, закон намагається знайти намір, що запрошує або несправедливий стандарт, який тримає людей відповідальними незалежно від обставин, або машину як алібі для тих, хто діє погано.
Папа також наполягає на «моральному часовому проміжку» для прийняття рішень, попереджаючи, що «швидкість та ефективність ніколи не повинні бути найвищою мотивуючою силою для незворотних рішень, прийнятих у контексті війни». Рішення про застосування летальної сили, пише Папа, повинно залишатися під «ефективним, усвідомленим та відповідальним людським контролем», а системи повинні бути побудовані так, щоб рішення можна було відстежити та реконструювати — щоб підзвітність не зводилася до «машини». Це найдавніша вимога традиції, щоб людина відповідала за вбивство, тепер переформульована як інженерна вимога. Однак той самий Пентагон, який вимагає відстежуваного ШІ, також цінує швидкість та ефективність — тиск, який може поглибити залежність від машини, скорочуючи, якщо не витісняючи, цей моральний часовий проміжок.
Папа, розмірковуючи над цими подіями, не відкинув теорію справедливої війни. Через власні міркування та етичні обмеження, які він накладає на використання нових військових можливостей, він показав, що ніхто не може цього зробити. Зіткнувшись з найновішою зброєю в історії, енцикліка не змогла знайти морального словника, окрім того, що існує в рамках традиції. Не критерії справедливої війни стали застарілими, а їхнє застосування до сучасної війни.
Сім років тому на цих сторінках ми виступали за одне таке оновлення, пояснюючи, як інша форма опосередкованого конфлікту, проксі-війна, створює ускладнення, які теорія справедливої війни недостатньо враховує. Значною мірою це випливає з одного хибного припущення: якщо причина проксі є справедливою, то підтримка його благодійником є справедливою. Але як тільки проксі отримує підтримку благодійника, він має більше ресурсів і більше причин для ескалації конфлікту, а не для його вирішення. Підтримка проксі також збільшує ризик поширення, що зброя мігрує за межі конфлікту, для якого вона була надана, як зенітно-ракетні комплекси Stinger з Афганістану пізніше з’явилися в Боснії та Кашмірі. Нарешті, якщо країна надає проксі передову зброю без запровадження практик для запобігання її нерозбірливому застосуванню, то ця країна несе частину відповідальності за їхні злочини, що вчені називають проблемою брудних рук.
Командос Талібану зі зенітно-ракетними комплексами Stinger американського виробництва проходять повз захоплений літак Indian Airlines в аеропорту Кандагара, Афганістан, 30 грудня 1999 року. SAEED KHAN/AFP via Getty Images
Ескалація, поширення та брудні руки — це ті самі ризики, які Лев визначає стосовно зростання автономної зброї. Цикли прийняття рішень на швидкості машини посилюють ризик ескалації. Автономні системи працюють на програмному забезпеченні, яке може поширюватися швидше, ніж будь-яка ракета, збільшуючи ризик поширення. Машинне націлювання створює розрив у відповідальності, який може приховати, а часто й посилити, проблему брудних рук. «Жоден алгоритм не може зробити війну морально прийнятною», — писав Папа. Проксі-війна та автономна зброя створюють схожі моральні дилеми з різних рівнів. Однак традиція справедливої війни, після оновлення, дасть нам засоби для їх оцінки та стримування.
Традиція не потребує заміни цілком. Раніше цього літа Лев зібрав 178 кардиналів на надзвичайний консисторій для обговорення оновлення вчення. Доктринальний керівник Ватикану, кардинал Віктор Мануель Фернандес, стверджував, що теорія справедливої війни, замість того, щоб запобігати війнам, тепер допомагає їх виправдовувати. Він оплакував політичну культуру, яка сприймає прагнення до миру як утопічне, надає перевагу дискредитації опонентів і цінує непослідовність як стратегію. Консисторія, як повідомляється, розглянула вужчий стандарт «пропорційної оборони» як заміну, дозволяючи самооборону в найсуворішому сенсі. Але запропонована альтернатива відповідає лише на питання, чи воювати, і лише реактивно. Пропорційна оборона мало що дає військовому планувальнику, цільовій групі чи солдату на полі бою.
Лев завершив консисторію, визнавши необхідність перегляду законної оборони в світлі змін у сучасному конфлікті, заявивши, що це роздуми «заслуговують на подальший розвиток з необхідною теологічною та пастирською ретельністю». Критерії його енцикліки для автономної зброї свідчать про те, що розвиток вже триває. Але робота також повинна включати взаємодію з людьми, які покладаються на критерії та роблять їх операційними: командирами, етиками, військовими юристами, розробниками правил ведення бойових дій. До них повинні приєднатися інженери та системні аналітики, які розробляють машини, що вже змінюють спосіб ведення війни.
Оновлена доктрина справедливої війни вирішуватиме виклики опосередкованої війни, відновлюючи зв’язок між вигодою та витратами, забезпечуючи їх належний розподіл. Вона також повинна краще пов’язувати дії з наслідками, щоб застосування принципу не затьмарювалося застарілими поняттями підзвітності. Одним зі способів досягнення цього є інтеграція етики заздалегідь, вбудовуючи механізми для запобігання шкоді цивільному населенню до введення систем в експлуатацію, замість того, щоб розбиратися з підзвітністю пізніше, коли солдати, які довіряли цим системам, залишаються винними.
Оригінальна традиція виникла тому, що роздроблена Римська імперія шукала етичних вказівок та обмежень щодо війн, які вона вже вела. Священик в Україні, освячуючи дрон перед відправкою його до ворога, є найновішою формою дилеми Августина. Війни зараз інші і швидко змінюються. Необхідність ретельно оцінювати їх і стримувати їхні найгірші зловживання залишається.
За даними порталу: foreignpolicy.com