OpenAI, Anthropic, Google, Microsoft та понад 100 інших компаній і організацій б’ють на сполох: вже найближчими місяцями кібератаки за допомогою штучного інтелекту (ШІ) можуть стати значно масовішими та складнішими. На їхню думку, під ударом опиняться навіть лікарні, водоканали та інша критична інфраструктура.
Про це йдеться у спільному відкритому листі, опублікованому на сайті OpenAI.
Серед підписантів — OpenAI, Anthropic, Google, Microsoft, AWS, Cloudflare, CrowdStrike, Fortinet, Okta, Palo Alto Networks, Mastercard, Visa, IBM, Oracle, Figma, Shopify та інші. Є серед них і Hugging Face — компанія, чиї системи нещодавно вдалося атакувати ШІ-агенту OpenAI під час внутрішнього експерименту. Автори листа вважають, що старий підхід до кібербезпеки, коли компанії поступово знаходять і закривають вразливості, може просто не встигати за новими можливостями ШІ.
Адже в корпоративних системах роками накопичуються баги, слабкі паролі, зайві права доступу, неправильні налаштування та застаріле програмне забезпечення. Утім, раніше зловмиснику доводилося витрачати багато часу, щоб знайти такі слабкі місця. Тепер частину цієї роботи можуть автоматизувати ШІ-системи.
Організаціям радять швидше закривати критичні вразливості та уважніше перевіряти код, зокрема створений ШІ. Кібербезпекові компанії мають також тестувати свої продукти з розрахунком на можливості найсильніших моделей і активніше обмінюватися інформацією про атаки.
Натомість від самих розробників ШІ очікують, що вони надаватимуть перевіреним фахівцям із кіберзахисту доступ до своїх найпотужніших моделей, а також допомагатимуть їм фінансуванням і навчанням. А уряди закликають вкладати більше грошей у захист критичної інфраструктури та налагоджувати обмін інформацією про атаки між країнами.
Деякі з підписантів зараз розвивають свої моделі, що працюють із кібербезпекою. OpenAI цього місяця розширила програму Daybreak і представила GPT-5.6-Cyber для авторизованих кібербезпекових завдань. Anthropic розвиває модель Claude Mythos та проєкт Glasswing для пошуку вразливостей у критичному ПЗ, а Microsoft запустила Project Perception — систему ШІ-агентів, які шукають слабкі місця, аналізують атаки та допомагають їх усувати.
Раніше dev.ua писав, що голова Hugging Face попросив у OpenAI $100 млн на посилення кіберзахисту після того, як автономний ШІ-агент компанії отримав доступ до внутрішніх даних платформи.
Оригінал статті: dev.ua