Минулого місяця адміністрація Трампа змусила AI-компанію Anthropic відкликати свої найпотужніші моделі Mythos 5 та Fable 5, посилаючись на питання «національної безпеки». Уряд дізнався, що внутрішні захисні механізми Fable 5 можуть бути обійдені або «зламані» (jailbroken), що виявило серйозні вразливості, які налякали посадовців.
Сама Anthropic давно попереджала, що її найновіші моделі вправно виявляють кібербезпекові вразливості, якими можуть скористатися зловмисники. До того, як уряд втрутився, компанія надавала обмеженому колу бізнесів та установ доступ до Mythos 5, більш потужної та менш обмеженої з двох моделей, щоб дати їм шанс усунути будь-які прогалини в безпеці.
Через кілька тижнів уряд США знову дав Anthropic зелене світло на відновлення обмеженого розгортання Mythos 5. Станом на 1 липня Fable 5 знову стала доступною для громадськості, але за значну позапідписку ціну, а Mythos 5 доступна приблизно 100 американським організаціям та державним установам.
Однак, хакери, які прагнуть використовувати ШІ для скоєння злочинів, швидко отримують нові можливості. Як повідомляє Forbes, пекінська AI-компанія Z.ai випустила модель з відкритими вагами (open-weight model) під назвою GLM-5.2, яка може виконувати подібні масштабні завдання з кодування та конкурувати з останніми моделями Anthropic щодо виявлення вразливостей.
GLM-5.2 може бути завантажена будь-ким, працювати практично на будь-якому обладнанні, і, на відміну від Mythos чи Fable, між моделями ШІ та користувачами немає посередника, що значно підвищує ставки в кібербезпеці.
Простіше кажучи, хоча ці передові моделі можуть допомагати дослідникам усувати прогалини в поширеному програмному забезпеченні, вони також можуть бути використані хакерами для обходу існуючих захисних механізмів.
Компанії з кібербезпеки Semgrep та Graphistry виявили, що GLM-5.2 вправно виявляє програмні помилки та виконує інші завдання з кібербезпеки. «У нас є Mythos вдома», — так Semgrep назвала своє тестування.
Дослідники з Graphistry також припускають, що Z.ai могла використати техніку дистиляції (distillation) з моделей OpenAI GPT-5.5 та Anthropic Opus 4.8 — суперечлива практика, яка полягає у використанні одного ШІ-«вчителя» для навчання моделі-«учня», що може пояснити, як Китай зміг так швидко наздогнати, як повідомляє Axios.
Консультанти також повідомили виданню, що хакери вже торгують «зламаними» версіями GLM-5.2 на російськомовних форумах, що свідчить про реальність цієї загрози.
«Зловмисник може запускати її локально без захисних механізмів, доналаштовувати під конкретні цілі та діяти без будь-якої видимості для провайдера чи захисника», — розповів Axios Травіс Ленхем, технічний директор та засновник компанії з кібербезпеки Armadin.
## Революція ШІ: Відкриті Моделі Кидають Виклик Безпеці
Світ штучного інтелекту (ШІ) переживає справжню турбулентність. Нещодавні події навколо компанії Anthropic та її потужних моделей Mythos 5 і Fable 5 розкривають нові виклики та можливості, що формують майбутнє кібербезпеки. Урядовий тиск, пов’язаний із “національною безпекою”, призвів до тимчасового відкликання передових розробок, підкреслюючи потенційні ризики, пов’язані з новими технологіями ШІ.
Anthropic, визнаний лідер у розробці штучного інтелекту, сам неодноразово наголошував на здатності своїх передових моделей виявляти критичні кібербезпекові вразливості. До моменту втручання влади, доступ до потужнішої та менш обмеженої моделі Mythos 5 надавався лише обраним партнерам, що дозволяло їм оперативно усувати виявлені прогалини.
Після періоду обмежень, американський уряд надав Anthropic дозвіл на відновлення контрольованого розгортання Mythos 5. Відтепер, модель Fable 5 знову доступна широкому загалу, хоча й за преміальною ціною, а Mythos 5 відкриває свої можливості для близько 100 американських організацій та державних установ. Це свідчить про поступове повернення до ширшого доступу до передових AI-технологій.
Однак, сцена кіберзагроз стрімко змінюється. Як повідомляє Forbes, пекінська компанія Z.ai представила свою нову розробку – модель з відкритими вагами (open-weight model) GLM-5.2. Ця модель демонструє вражаючі можливості у виконанні масштабних завдань з кодування та аналізу безпеки, гідно конкуруючи з передовими рішеннями від Anthropic у виявленні вразливостей.
Ключова особливість GLM-5.2 – її відкритість. Будь-хто може завантажити цю модель, яка здатна працювати практично на будь-якому сучасному обладнанні. На відміну від комерційних рішень, GLM-5.2 не має посередників між розробником та кінцевим користувачем, що значно підвищує ризики несанкціонованого використання та зловживань.
Простіше кажучи, потужність передових моделей ШІ, яка може стати неоціненним інструментом для дослідників та розробників у зміцненні програмного забезпечення, водночас стає потужною зброєю в руках кіберзлочинців. Вони можуть використовувати ці інструменти для обходу існуючих систем захисту.
Експерти з безпеки компаній Semgrep та Graphistry підтвердили високу ефективність GLM-5.2 у виявленні програмних помилок та виконанні специфічних завдань з кібербезпеки. Semgrep у своєму дослідженні навіть порівняла можливості GLM-5.2 з Mythos, назвавши це “Mythos вдома”.
Дослідники з Graphistry висловили припущення, що Z.ai могла використати інноваційну техніку дистиляції. Цей процес передбачає навчання однієї моделі ШІ (“учня”) на базі іншої, потужнішої моделі (“вчителя”), такої як GPT-5.5 від OpenAI чи Opus 4.8 від Anthropic. Це може пояснити стрімкий прогрес китайських розробників у цій галузі, як зазначає Axios.
Більше того, консультанти повідомили Axios, що хакери вже активно обговорюють та продають “зламані” (jailbroken) версії GLM-5.2 на спеціалізованих форумах, зокрема, російськомовних. Це є прямим свідченням того, наскільки реальною та актуальною є ця нова загроза.
«Зловмисник може розгорнути модель локально, повністю ігноруючи будь-які вбудовані захисні механізми. Він може доналаштувати її для цільових атак і діяти абсолютно непомітно для будь-яких провайдерів безпеки чи захисних систем», – коментує Травіс Ленхем, технічний директор та засновник AI-компанії Armadin, у розмові з Axios. Це підкреслює критичну потребу в адаптації стратегій кібербезпеки до нової реальності, де потужні інструменти ШІ стають доступними кожному.
Інформація підготовлена на основі матеріалів: futurism.com