Агенти штучного інтелекту колись були справжнім трендом, вважаючись наступною гарячою продуктовою категорією після того, як генеративний ШІ не приніс продуктивних результатів. Тепер настав час розплачуватися за весь цей ажіотаж.
За деякими оцінками, до 79 відсотків керівників американських корпорацій розробляють певний тип ШІ-агентів. Однак, згідно з прогнозом Gartner, 40 відсотків цих проєктів зазнають краху через поганий контроль ризиків.
Коротко кажучи, ШІ-агенти здатні завдати величезної шкоди компанії, коли їм доручають виконання критично важливих завдань. Один особливо яскравий приклад, описаний інженером-консультантом з мереж Саялі Патіл у VentureBeat, стосується ШІ-агентів, розроблених для усунення повільних мережевих з’єднань під час виявлення проблем.
Це звучить як розумне завдання для автоматизації, подібне до від’єднання роутера, коли ваш Wi-Fi починає глючити. Але хоча ці ШІ-агенти технічно можуть впоратися із завданням, Патіл розповідає, що мала випадки, коли вони вимикали сервер під час роботи трьох інших важливих сервісів, які обробляли наплив веб-трафіку.
Коли агент все одно перезапускає цей сервер, це призводить до катастрофи для тих трьох інших сервісів. Зрештою, хаотична мережева подія стає набагато руйнівнішою, ніж початкове уповільнення. Що ще гірше, критичний збій стає надто складним для розуміння інструментом ШІ, або, як каже Патіл, “каскадом, який агент ніколи не був розроблений для моделювання”.
“Радіус ураження від дії цього агента полягав не в перезапуску сервісу. Це було все, що знаходилося нижче за потоком від перезапуску, у стані системи, повної картини якого агент не мав”, – пише Патіл.
Навіть якби інженерам вдалося врахувати кожну потенційну проблему, ШІ-агенти все одно становлять жахливі вразливості безпеки. Стрес-тестування ШІ-агентів, оснащених правами доступу до електронної пошти, виявило серйозні проблеми, такі як те, що агенти підкоряються незнайомцям ззовні їхньої мережі або передають дані неуповноваженому персоналу.
Цей розрив між очікуваннями щодо продуктивності та реальною ситуацією у виробництві є саме тією причиною, чому ШІ-агенти не є універсальним інструментом, яким їх відчайдушно хоче бачити технологічна індустрія. Чи зміниться це в довгостроковій перспективі – хтозна, але реальність сьогоднішнього дня значно відстає від ажіотажу.
За матеріалами: futurism.com