## Штучний Інтелект: Чи Готується Світ до “Чорнобилю”? Заклики до Глобальної Співпраці Від Дослідників США та Китаю
У світі стрімкого розвитку штучного інтелекту (ШІ) лунають тривожні сигнали. Провідні дослідники зі США та Китаю закликають до безпрецедентної глобальної співпраці, побоюючись, що неконтрольований прогрес ШІ може призвести до катастрофи, наслідки якої важко уявити. Експерти наголошують: технологія, яка має потенціал змінити людство на краще, може стати й джерелом небезпеки.
“ШІ – це глобальна технологія з глобальними перевагами, глобальними ризиками та постійною тенденцією до поширення нових можливостей”, – заявив Стівен Каспер, науковець-комп’ютерник з MIT, під час виступу на великій конференції з ШІ в Пекіні. Він висловив спільне занепокоєння багатьох фахівців: “Майже всі в галузі ШІ сьогодні можуть погодитися з тим, що ШІ не потребує “чорнобильського моменту””.
Хоча Каспер не розшифрував свою аналогію детально, посилання на сумнозвісну ядерну катастрофу свідчить про глибші страхи. Йдеться не лише про можливість самої катастрофи, а й про те, що вона може безповоротно зіпсувати суспільне сприйняття ШІ та загальмувати його розвиток. Подібно до того, як аварія на Чорнобильській АЕС досі затьмарює ядерну енергетику, потенційна катастрофа, пов’язана з ШІ, може створити довготривалий негативний імідж для цієї технології.
Прогнози щодо негативних наслідків розвитку ШІ варіюються від сценаріїв, подібних до “Скайнету”, до масового безробіття. Однак останнім часом, коли стало очевидно, що однією з найпрактичніших сфер застосування ШІ є генерація програмного коду, експерти почали бити на сполох щодо потенційного впливу ШІ на кібербезпеку. Зловмисники можуть легко використовувати агенти ШІ та інструменти кодування для організації руйнівних кібератак, збільшуючи їх масштаби та знижуючи необхідний рівень кваліфікації для їх здійснення.
Цей наратив частково підживлюється самими компаніями, що займаються розробкою ШІ. Так, наприклад, компанія Anthropic оголосила, а потім відмовилася публічно випустити свою модель Claude Mythos, нібито через її надзвичайну потужність, яка дозволяла б легко зламувати “всі основні операційні системи та веб-браузери”.
Ризики посилюються завдяки зростанню популярності моделей ШІ з відкритим вихідним кодом (open-source) та відкритими параметрами (open-weight). Вони безкоштовні для використання та цінуються дослідниками за прозорість, але їм бракує нагляду, який мають провідні комерційні моделі. Джерело в одній із провідних китайських компаній, що займаються розробкою ШІ, повідомило Wired, що проблеми безпеки є однією з причин, чому передові моделі в Китаї більше не випускаються у відкритому доступі.
Лін Юнь, професор Шанхайського університету Цзяотун, попереджає, що в короткостроковій перспективі хакери отримають перевагу завдяки ШІ. Однак у довгостроковій перспективі ШІ також може бути використаний для зміцнення кібербезпеки, що підкреслює необхідність глобальної співпраці. “Якщо різні країни поділятимуть подібне розуміння ризиків, стає легше розробляти спільні принципи безпеки та технічні стандарти”, – зазначив Юнь у розмові з Wired. “Ключ полягає в пошуку сфер, де обмін інформацією може зменшити системний ризик, не розкриваючи при цьому чутливі операційні деталі”.
Співпраця з цього питання між двома геополітичними суперниками може здатися малоймовірною, особливо враховуючи, що США та Китай є беззаперечними лідерами у сфері ШІ. Однак Каспер порівнює нинішню ситуацію з тим, як США та Радянський Союз працювали над стримуванням ядерних загроз, незважаючи на нарощування власних ядерних арсеналів. Цей історичний прецедент дає надію на те, що спільні інтереси в галузі безпеки можуть подолати політичні розбіжності заради майбутнього людства.
Дізнатися більше на: futurism.com