Російські прокремлівські актори використовували систему штучного інтелекту Claude від компанії Anthropic для програмування автономних летальних дронів, покращення хакерських та пропагандистських операцій, а також для уникнення виявлення. Про це повідомила компанія у четвер.
Звіт американської компанії зі штучного інтелекту є черговим попередженням від компаній, аналітичних центрів та інших установ про те, що Росія, Китай, Іран та інші країни використовують інструменти, створені в Америці, для атак по всьому світу.
Anthropic повідомляє, що російська «фрілансерська» група, відома як GTG-27005, використовувала Claude для створення моделі ШІ, достатньо компактної для роботи на одноплатних комп’ютерах, але водночас потужної, щоб дозволити дрону «вибирати цілі (включно з класом цілі «людина») та віддавати команди на знищення без участі людини». Група також використовувала Claude для створення програмного забезпечення, яке дозволяє автономним дронам спілкуватися між собою для покращення наведення на ціль, йдеться у звіті Anthropic. Хоча російська група ще не розгорнула модель у польових умовах, вони «використовували реальне апаратне тестування з реальним обладнанням під час своїх сесій», згідно зі звітом. Компанія заблокувала групу, інтегрувала висновки розслідування у свої засоби захисту та поділилася деталями з галузевими групами.
Anthropic також повідомила, що помітила спроби китайських та єменських груп використовувати Claude для розробки звичайної зброї, і компанія зупинила ці зусилля.
Звіт також детально описує, як іноземні групи використовували Claude в складних кампаніях з викрадення даних та поширення дезінформації. Зазначається, що їхні інструменти використовувалися для пошуку інформації про цілі, виявлення вразливостей у їхніх онлайн-акаунтах, створення шкідливого програмного забезпечення для обходу захисту та викрадення даних, приховування слідів та поширення дезінформації.
«Ми бачили, як групи зловмисників використовували Claude для створення мереж фейкових профілів у соціальних мережах та цілих новинних сайтів», — йдеться у звіті.
Кампанії мають ознаки російських пропагандистських операцій, зокрема використання фейкових новинних сайтів та профілів журналістів для поширення брехні про діяльність НАТО у країнах Балтії. Проте створені в США інструменти ШІ допомогли оптимізувати процес, збільшивши обсяг дезінформації та створюючи фейкових репортерів, які були набагато більш переконливими для місцевої аудиторії. Російські групи «автоматизували значну частину своїх операцій: від розробки, придбання інфраструктури, фішингу, забезпечення стійкості через командні та контрольні системи до викрадення даних», — йдеться у звіті. Група навіть використовувала ШІ для підробки документів від Жандармерії та Міністерства оборони Центральноафриканської Республіки.
Інша група, GTG-84005, використовувала ШІ для викрадення перепису населення та загальнодоступної інформації, що дозволило її агентам адаптувати свої пропагандистські кампанії до конкретних аудиторій у Малайзії, де турецька група «відмивала російські та китайські державні ЗМІ як незалежні репортажі».
Четверговий звіт Anthropic з’явився через два тижні після того, як конкурентний інноваційний центр OpenAI виявив, що російські актори використовували ChatGPT для створення фейкової «експертної спільноти» — «Міжнародного інституту Берка» — для просування наративів міжнародній аудиторії.
Хоча Anthropic та OpenAI змогли зупинити виявлені ними схеми, такі операції, ймовірно, триватимуть, оскільки Росія використовує ШІ для «масштабування виробництва контенту, що відповідає кремлівським наративам», — йдеться у серпневому звіті Інституту вивчення війни (ISW).
Росія також використовує цікавість молоді до ШІ для збільшення кількості людей, які поширюють російську дезінформацію, пропонуючи молодим людям по всьому світу «медіа-стажування та навчання з використанням ШІ» через університетські пожертви та пов’язані програми.
Де відповідь США?
Нещодавня стаття видання New America зазначає, що ШІ надає авторитарним режимам потужний новий інструмент для спотворення глобального розуміння геополітичних подій.
«Авторитарні режими є ранніми адоптерами використання ШІ для зміни ходу реальності на свою користь», — пишуть Деніел Кіммедж, колишній виконувач обов’язків координатора та заступник координатора Центру глобальних зв’язків Держдепартаменту США, та Дарджан Вуйїча.
Це те, на що уряд США раніше створював та керував організаціями для протидії, зазначають вони. Але такі зусилля були підірвані або припинені під час другої адміністрації Трампа. Менш ніж через місяць після вступу на посаду генеральний прокурор Пем Бонді розпустила оперативну групу ФБР з іноземного впливу, підрозділ, який займався розслідуванням іноземних кампаній з дезінформації та впливу. Через два місяці державний секретар Марко Рубіо закрив центр протидії іноземній інформаційній маніпуляції та втручанню, відомий як R/Fimi.
І: «План дій Білого дому щодо ШІ на 2025 рік прямо закликає до видалення будь-яких згадок про дезінформацію», — зазначають Кіммедж і Вуйїча.
Принаймні, коли це зроблено іноземцями.
«Адміністрація Трампа із захопленням використовувала зображення, створені ШІ, у політично суперечливих публікаціях», — пишуть вони.
За даними порталу: www.defenseone.com