Новини від “Бомба Новини”: Пентагон розширює співпрацю з провідними компаніями у сфері ШІ
ВЕСТ-ПАЛМ-Біч, Флорида – Після тижнів напружених переговорів з компанією зі штучного інтелекту Anthropic, Пентагон активно співпрацює з усіма чотирма основними американськими розробниками ШІ: Anthropic, OpenAI, Google та xAI. Метою є забезпечення однакового рівня розуміння очікувань Міністерства оборони США щодо використання технологій штучного інтелекту. Про це повідомив заступник міністра оборони з досліджень та інжинірингу у вівторок.
“Ми фактично підписали контракти з усіма чотирма влітку, не маючи значної конкретики”, – зазначив Еміль Майкл під час виступу перед групою інвесторів венчурного капіталу на заході Amazon Web Services. “Тепер ми хочемо розгорнути [їх] у нашій системі, щоб інші могли створювати агенти та пілотні рішення, і впроваджувати їх”, – додав він.
Це означає, що після місяців навчань та експериментів Пентагон прагне дозволити різним командним елементам та бізнес-підрозділам створювати агенти ШІ, здатні виконувати ширший спектр завдань з мінімальним людським контролем.
Деталі співпраці та етичні питання
Переговори між Anthropic та Пентагоном стають дедалі напруженішими. Джерела всередині компанії повідомили Reuters, що Міністерство оборони США наполягає на використанні моделей ШІ від Anthropic для внутрішнього спостереження та націлювання автономної зброї. Axios повідомляє, що Пентагон “близький” до розриву зв’язків з компанією через відмову Anthropic надати Пентагону необмежений доступ до своїх моделей. Деякі представники Пентагону, виступаючи анонімно, навіть пообіцяли змусити Anthropic “заплатити ціну” за їхню ймовірну відсутність співпраці.
За словами речника компанії, Anthropic, яка отримує значну підтримку від AWS, веде “продуктивні переговори, добросовісно” з Пентагоном.
Однак, Майкл не відступив від “червоної лінії” Пентагону. “Ми хочемо всі чотири компанії”, – сказав він, описуючи OpenAI, Google, xAI та Anthropic як “чемпіонів ШІ” Америки з достатніми фінансовими ресурсами для довгострокового партнерства.
Майкл зазначив, що компанії можуть відігравати різноманітні ролі, і Пентагон хоче, щоб різні бізнес- та командні елементи самі визначали, що робити з моделями, а не щоб компанії диктували військовим, що вони можуть, а що не можуть робити.
“Ми хочемо, щоб усі чотири компанії почули один і той самий принцип: ми повинні мати можливість використовувати будь-яку модель для всіх законних випадків використання.”
З чотирьох компаній, з якими Пентагон уклав контракти, Майкл зазначив, що Anthropic є єдиною, хто не погоджується з питанням етичних запобіжників у порівнянні з вимогами Пентагону.
“Деякі з цих компаній мають різні філософії щодо того, для чого їх слід використовувати, а для чого ні. Але ми працюємо з Міністерством оборони. Ми робимо типові для Міністерства оборони справи.”
Власні запобіжники безпеки або етичні принципи Пентагону повинні мати перевагу над запобіжниками компаній, підкреслив він. Він описав “надзвичайно небезпечний” гіпотетичний сценарій, за якого американські військові могли б використовувати агент ШІ, який раптом перестав би функціонувати через вбудовані запобіжники компанії. “Це ризик, на який я не можу піти”.
Пентагон має власні запобіжники – список етичних принципів, запроваджений під час першої адміністрації Трампа, який регулює все: від розробки до тестування та розгортання систем ШІ. Хоча нова стратегія Пентагону щодо прискорення розвитку ШІ ставить під сумнів саме значення “відповідального ШІ”, Майкл заявив, що дотримання принципів етики ШІ залишається в силі.
“Хороша новина/погана новина ієрархічного відомства полягає в тому, що коли є набір директив, затверджених секретарем, які визначають політику та процедури, люди їх дотримуються. Тож це не проблема.”
💥 Думка редакції Бомба Новини:
Ці події свідчать про незламну рішучість Сил Оборони України використовувати найсучасніші технології для забезпечення нашої безпеки та перемоги. Ми повністю підтримуємо зусилля Пентагону щодо інтеграції передових рішень ШІ, які можуть стати вирішальними у протистоянні агресії. Кожна перемога, здобута завдяки інноваціям та мужності наших воїнів, наближає нас до справедливого миру. Слава Україні!
Оригінал статті: www.defenseone.com