Air & Space Forces Association / Craig Hudson
НАЦІОНАЛЬНИЙ ХАРБОР, штат Меріленд — Поки керівництво Повітряних сил готується надати штучному інтелекту (ШІ) більше повноважень щодо прийняття рішень у майбутньому, вони також працюють над тим, щоб особовий склад звик до цього.
«Це трохи лякає, але нам потрібно до цього адаптуватися», — сказав міністр Повітряних сил Трой Майнке цього тижня на конференції Асоціації ВПС та Космосу «Air, Space & Cyber». «Автономність є однією з ключових технологій, що забезпечують ефективну за витратами бойову міць, якщо не найголовнішою».
Хоча Майнке не сказав цього прямо, «адаптація» вимагатиме нового підходу до побудови довіри між людьми-авіаторами та помічниками ШІ, чат-ботами й автономними дронами, які їх оточуватимуть. Однак інші підрозділи Повітряних сил багато думали про це, особливо з огляду на те, що відомство планує до 2032 року ввести в експлуатацію 500 високоавтономних колаборативних бойових літальних апаратів (CCA).
«Існує питання довіри та автономії», — зазначив Майкл Грегг, директор аерокосмічних систем Лабораторії аерокосмічних досліджень Повітряних сил. «У нашому 711-му крилі людської продуктивності працюють психологи та фахівці з поведінки, які фактично досліджують цю проблему: як об’єднати машини з людьми, щоб людина стала надзвичайно ефективною у своїй роботі та допомогла їй приймати рішення. Це майбутнє».
А для деяких місій, як-от захист авіабаз від атак дронами, Повітряні сили розглядають можливість не доповнення, а заміни людського прийняття рішень. Хвилі дронів, що атакують українські міста, та руйнування баз США на Близькому Сході спонукають керівництво відомства досліджувати використання агентів — інструментів ШІ, які можуть вживати заходів — для отримання дозволів на контрудари.
Це вимагатиме від людей визначення прийнятного ризику для надання агентам ШІ права приймати рішення.
«Спостерігається посилення уваги до того, як ми використовуємо агентів та робочі процеси з їхньою участю у всьому, від вогневої підтримки до наших тилових операцій, і ви побачите набагато більше цього вже цього року», — сказав Бен Ван Ру, генеральний директор Legion Intelligence, компанії, що розробляє агентний ШІ для цілей національної безпеки.
Питання про те, чи буде ШІ керувати «вогнем», є суперечливим, оскільки цей термін передбачає надання програмному забезпеченню можливості запускати ракети, стріляти з гармати або застосовувати летальну зброю. Хоча є деякі винятки, військова доктрина передбачає чітку перевагу щодо значного людського контролю над потенційно летальними наслідками.
Однак кіберзасоби, спрямована енергія та інші нелетальні технології надають військовим більше можливостей для застосування сили без людського нагляду, зазначив Майк Хіатт, технічний директор Epirus, компанії, що виробляє мікрохвильові та інші засоби протидії дронам, які використовують спрямовану енергію.
«Якщо у вас є варіант із меншими супутніми збитками та без супутнього шкоди, що пропонують зброя зі спрямованою енергією, ви починаєте змінювати свої розрахунки ризику. Ви починаєте приймати рішення, коли кажете: «Гаразд, я трохи впевненіший у тому, щоб перевести цю частину системи в повністю автономний режим», — сказав Хіатт.
Ван Ру зазначив, що процеси прийняття рішень для дозволу автономних кібератак або нелетальних заходів згодом можуть бути прискорені за допомогою ШІ, або навіть повністю автоматизовані.
«Ми все ще перебуваємо в зародковому стані того, як ми думаємо про те, де ми будемо використовувати агентів, що ми дозволимо їм вирішувати? Як вони інтегруються в нашу тактику, техніку, процедури, в нашу доктрину?» — сказав він.
Для того, щоб керівники та оператори звикли до агентів ШІ, будуть потрібні нова доктрина, навчання та дозволи, а також високий ступінь впевненості в тому, що інструменти ШІ працюватимуть передбачувано.
«Це відбудеться просто на наших очах, перш ніж ШІ та роботи-вбивці захоплять світ», — сказав він.
Конференція цього року відбулася на тлі національної дискусії щодо небезпеки ШІ, його регулювання та того, хто має ухвалювати рішення.
Розкриття інформації компаніями Anthropic та OpenAI про несподівану та небезпечну поведінку моделей влітку, а 9 вересня — гучна відставка інженера Anthropic, який стверджував, що існує 10-відсоткова ймовірність того, що ШІ «може вбити все людство». Наступного дня представники цих компаній та Google посилили зусилля зі створення галузевої організації з безпеки, сигналізуючи про готовність до дій Конгресу. Але Президент Дональд Трамп виступає проти регулювання, заявивши цього тижня: «Єдиний контроль чи «запобіжник», який потрібен ШІ, — це СИЛЬНИЙ І РОЗУМНИЙ (високий IQ!) ПРЕЗИДЕНТ, а США мають його з надлишком!»
Готовність керівництва Пентагону прийняти ШІ може бути пов’язана з тим, що їхні нинішні системи не змогли забезпечити безпеку ключових баз США. Але це також може відображати кількарічні зусилля Міністерства оборони з вирішення проблем щодо намірів, узгодженості та безпечного використання, з якими зараз стикаються передові лабораторії ШІ. З 2019 року військове відомство має список етичних принципів, які спрямовують розробку, експериментування та використання ШІ. Воно також переглядає процеси, експерименти та процедури тестування нових технологій, включаючи програмне забезпечення та, звичайно, найнебезпечнішу зброю на Землі.
Однак темпи розвитку ШІ швидко змінюють концепції розробки та випробування зброї. Райан Ценг, президент і співзасновник Shield AI, розповів аудиторії AFA, що його компанія працювала з українцями над підвищенням ударної потужності однієї зі своїх ракетних систем на 70 відсотків завдяки «просунутим автономним можливостям».
Якщо автономні дрони є характерною рисою війни в Україні, багато військових чиновників очікують, що наступний конфлікт буде визначатися швидкою взаємодією між агентами, людьми та дронами, що прискорить удари та контрудари. Це також вимагатиме постійного вдосконалення у побудові довіри між людьми та сутностями ШІ.
«Коли ми думаємо про майбутнє, де будуть масштабні розгортання систем, які повинні взаємодіяти одна з одною», — сказав Ценг. «Це набагато більший простір для прийняття рішень. Може статися набагато більше речей».
Джерело новини: www.defenseone.com