У фільмі “NAZA” ізраїльські солдати розкривають механізми автономної війни.
Для тих, хто втомився від прогнозів керівників компаній Кремнієвої долини про те, що штучний інтелект може призвести до знищення людства, новий ізраїльський документальний фільм NAZA пропонує контрприклад, навіть якщо це не було наміром творців.
Майже 80-хвилинний фільм переносить нас далеко від нудних апологетів технологій (які, незважаючи на свої апокаліптичні побоювання, продовжують прискорювати розробки) на нічні дахи Тель-Авіва. Там ізраїльські кінематографісти Ювал Абрахам та Рейчел Шор беруть інтерв’ю у 24 анонімних членів Сил оборони Ізраїлю (ЦАХАЛ) про їхню роль у безперервних військових ударах по Газі за останні три роки.
NAZA, назва якого походить від івритського акроніма “колатеральна шкода”, значну увагу приділяє системам ШІ, які стали невід’ємною частиною війни в Газі після нападу ХАМАС 7 жовтня 2023 року. «Ви повинні довіряти системі», — згадує один солдат слова офіцера. Інакше, «все розвалиться».
Солдати розповідають про свою участь в ізраїльських програмах, таких як Lavender — система ШІ для ідентифікації ворожих цілей, і нещасливо названа Where’s Daddy (“Де татусь?”), яка використовує мобільні телефони дітей для відстеження повернення додому цілі ХАМАС – їхнього батька. У випадку з Where’s Daddy, наслідки ударів, як розповідає один солдат, призводили до загибелі ймовірного члена ХАМАС, але зазвичай також і його сім’ї, включно з дитиною, чий телефон зламали.
Деякі занепокоєння, висловлені солдатами в NAZA, не є новими, наприклад, те, що сучасна війна схожа на відеогру. Це відчуття часто лунає з моменту появи бойових дронів та війни “одним натисканням кнопки”. Насправді, у фільмі немає якихось надзвичайних одкровень — творці вже публікували багато деталей про ці системи ШІ у The Guardian, який виступив співпродюсером фільму, +972 Magazine та місцевому виданні Local Call. Але, можливо, це не головне: величезна сила фільму полягає в свідченнях безпосередніх учасників цієї системи знищення, керованої ШІ, які тепер борються з наслідками своїх дій, включно з тисячами загиблих цивільних.
Тож, що їхнє свідчення говорить нам про ШІ та війну? У NAZA ніхто не хвилюється через те, що ШІ вийде з-під контролю і знищить нас — це більше турбує компанії Кремнієвої долини, які прагнуть залучити капітал. Натомість, фільм слушно зосереджується на тому, як ШІ дозволяє військовим виправдовувати вбивство ще більшої кількості людей, навіть якщо ці системи звільняють людей від моральної відповідальності за вибір цілей.
«Моя роль суто технічна», — описує свою участь у війні в Газі один член ЦАХАЛ.
У цьому сенсі, ШІ надає солдатам певну дистанцію від процесу прийняття рішень і навіть наділяє такі системи чеснотами, оскільки машини не керуються ненавистю. «Краще, щоб ШІ вирішував, хто житиме, а хто помре, ніж залишати це рішення тому, чий друг був убитий ХАМАС минулого тижня», — каже солдат.
Однак фільм швидко розкриває порожнечу цього твердження, адже ми дізнаємося, що при націлюванні на бойовика ХАМАС ізраїльська армія іноді свідомо допускала загибель десятків некомбатантів як “колатеральну шкоду” — до 50 цивільних осіб за один удар.
І хоча ШІ мав би перекласти відповідальність за вбивство з людей на комп’ютери, тим самим звільняючи людей від моральної відповідальності, це не зовсім працює. Люди, які з’являються у NAZA, явно відчувають відповідальність — або принаймні достатньо, щоб ризикувати кар’єрою та потенційно свободою, даючи інтерв’ю кінематографістам. (Прем’єр-міністр Ізраїлю Біньямін Нетаньяху погрожував позбавити творців фільму громадянства).
Хоча NAZA певною мірою є звинуваченням ШІ, зрештою, це більше звинувачення людей, зокрема тих, хто народився в країні, травмованій Голокостом, а потім знову травмованій нападом 7 жовтня. Того дня бойовики ХАМАС та інших угруповань жорстоко вбили близько 1200 людей і викрали ще 251, тримаючи багатьох з них у заручниках місяцями чи роками. Посил фільму полягає в тому, що ізраїльтяни, жертви так багато страждань, втратили свій моральний стрижень того дня і створили систему, яка дозволила вбивати великі родини та руйнувати цілі квартали, включно з лікарнями та школами, в гонитві за бойовиками ХАМАС.
Війна також явно призвела до іншої форми травми для принаймні деяких ізраїльтян: солдат, які шкодують про свою участь у кампанії, що призвела до загибелі щонайменше 74 000 палестинців у Газі, за даними місцевих органів охорони здоров’я. Один ізраїльський солдат, опитаний у NAZA, описує, як чув крики дітей через навушники, коли вони гинули під авіаударами. Інший каже, що бачив відео, де безпритульні собаки пожирали трупи в Газі.
Анонімні ізраїльські солдати, які з’являються у фільмі, розуміють складність, яку важко осягнути багатьом спостерігачам цього поляризуючого конфлікту — тим, хто підтримує одну чи іншу сторону: жах нападу ХАМАС, який не розрізняв солдатів і цивільних, змінився іншим жахом — ізраїльською війною, оператори якої нібито націлювалися на комбатантів, але також свідомо на цивільних.
Де нас це залишає щодо ШІ та війни? Чи може ШІ справді покращити ведення воєн, чи ми просто використаємо його, щоб зняти з себе провину, коли гинуть невинні? І повертаючись до апологетів, які рвуть на собі волосся, одночасно збираючи кошти на швидший розвиток ШІ: якщо ШІ такий могутній, то чому після трьох років війни Ізраїль все ще завдає ударів по ХАМАС у Газі?
Останнє запитання нагадує мені інтерв’ю, яке я брав з вченим Пентагону на піку війни в Афганістані, коли військові використовували передові алгоритми — попередники ШІ — для прогнозування нападів повстанців на американські та коаліційні сили. У момент розчарування чиновник Пентагону зізнався, що таліби утримують свої позиції у війні, не маючи складних алгоритмів чи навіть комп’ютерів.
Через десятиліття після нашої розмови Сполучені Штати покинули Афганістан, дозволивши талібам швидко захопити владу. Тепер комп’ютери стали експоненційно кращими, ШІ генерує цілі, але американські та ізраїльські перемоги залишаються невловимими, чи то в Газі, чи тепер в Ірані.
Щодо питання моралі, то поки що немає доказів того, що ШІ краще обирає військові цілі та уникає загибелі цивільних, лише те, що він обирає цілі швидше, і це надає видимості легітимності. Можливо, саме в цьому полягає ненавмисне послання NAZA: не в тому, що ШІ всемогутній, а в тому, що він надає технократичне обґрунтування для ударів, які часто призводять до загибелі невинних людей.
Голлівуд давно усвідомив цю помилку, навіть коли вона була теоретичною. У багатьох фільмах про ШІ справжня небезпека полягає не стільки в машинах без емпатії, які ведуть нас до самознищення, скільки в оманливих людях, які надали їм цю владу.
У NAZA системи ШІ є інструментами смерті, але справжня проблема – люди.
Зрештою, ШІ може нас усіх знищити, як попереджають керівники компаній, що поспішають його будувати. Або, як демонструє NAZA, він може просто видавати більше імен, ніж люди можуть зібрати самостійно, і дозволяти нам вбивати себе. Схоже, ми в цьому добрі.
Подробиці можна знайти на сайті: foreignpolicy.com