Навіть попри те, що федеральні агентства переводять свої найчутливіші системи на нові форми шифрування відповідно до наказу Білого дому, випуск нових результатів з теоретичної математики компанією OpenAI цього місяця викликав занепокоєння щодо того, чи будуть навіть запропоновані пост-квантові шифри безпечними від дедалі потужніших моделей ШІ.
Шифрування — це те, що забезпечує безпеку онлайн-даних; шифрування повідомлення означає застосування математичних рівнянь для маскування його змісту від зловмисника. Але нові математичні техніки можуть дозволити зловмиснику розшифрувати зашифровані повідомлення без ключа: це еквівалент злодія сейфів, який за клацанням штифтів у замку знаходить правильну комбінацію. Якщо наявні алгоритми шифрування будуть зламані, величезні частини інтернету опиняться під загрозою атаки.
Плани щодо пост-квантового шифрування, можливо, доведеться доповнити потужнішим багатошаровим захистом і впроваджувати їх швидше, ніж очікував Білий дім, щоб захистити дані, які ще не зібрані.
Шифрування працює зараз тому, що на практиці існують способи зробити його дуже простим для того, хто має ключ, застосувати певну математику та отримати оригінальне повідомлення, але не знайти ключ або розв’язати рівняння методом грубої сили за розумний час. Але методи шифрування, які зараз широко використовуються, не доведені теоретично безпечними; їм довіряють, бо ніхто поки що не зміг їх зламати. Тож, якщо будуть відкриті нові математичні методи, що значно полегшать розв’язання шифрувальних схем, фундамент безпеки інтернету опиниться під загрозою.
Системи ШІ генерують математичні відкриття з безпрецедентною швидкістю. У травні модель OpenAI спростувала гіпотезу Ердюша про одиничну відстань, відому проблему в підгалузі математики, що називається дискретною геометрією. А у вересні компанія оголосила, що її ШІ знайшов розв’язання рівнянь Нав’є-Стокса. Ці рівняння є одними з семи “Проблем тисячоліття” — найважливіших невирішених проблем у математиці.
«Вона просто розв’язала 400 задач, кожна з яких, якби її розв’язав людина, могла б стати вершиною її кар’єри, стати основою для отримання посади», — сказав Скотт Ааронсон, автор книги «Квантові обчислення з часів Демокріта» та голова кафедри комп’ютерних наук в Університеті Техасу в Остіні, в інтерв’ю.
Омер Рейнгхолд, комп’ютерний вчений і співпереможець премії Геделя у 2009 році, написав перед останнім випуском: «Світ математики, включно з теоретичною інформатикою, перебуває у стані заворушень. Навіть «Проблеми тисячоліття»… більше не поза досяжністю великих мовних моделей».
У публікаціях OpenAI були представлені нові результати «практично у всіх галузях математики, але з дуже помітним винятком: нічого не було про криптографію. І це не може бути випадковістю», — зазначив Ааронсон.
Джастін Дрейк, дослідник безпеки в Ethereum Foundation, написав, що він вважає, що відбулося «втручання за лаштунками».
«Я на власні очі бачив, як уряд США цензурує результати академічних досліджень з квантової криптоаналітики. Моя базова гіпотеза — це втручання за лаштунками», — сказав він.
Незалежно від того, чи OpenAI приховала результати з криптографії з цього конкретного випуску, потік нових результатів викликав побоювання, що системи ШІ можуть знайти слабкі місця в існуючих алгоритмах шифрування. Криптовалютна галузь, яка залежить від шифрування для захисту своїх цифрових валют, була особливо стурбована.
Згідно з принципами функціонування криптовалют, багато крипторахунків розкривають певну інформацію про себе під час надсилання грошей. У X (раніше Twitter) Дрейк написав: «Сьогодні я закликаю блокчейн-індустрію спокійно розпочати планування «режиму бункера». Моя особиста рекомендація — розпочати контрольовану масову міграцію активів на нові адреси».
«Нова адреса» — це адреса, яка ніколи не використовувалася для надсилання грошей на інший рахунок, що обмежує способи, якими майбутні зловмисники можуть зламати її безпеку.
Інші експерти з кібербезпеки скептично ставляться до того, що ШІ матиме значний вплив на конкретні проблеми безпеки. «Криптографи надзвичайно консервативні… ми закладаємо багато запасу міцності в [безпечне шифрування], величезний запас», — сказав Брюс Шнайер, гуру безпеки та автор бестселера «Прикладна криптографія».
Його занепокоєння більше стосується питань реалізації в кібербезпеці, аніж можливості проривів у теоретичній математиці.
«Комп’ютерна безпека настільки погана. Ось у чому проблема. Пошук вразливостей у коді, зламування систем. Це справжні проблеми, а не математика… З усіх питань безпеки, математика — це найсильніше, що ми маємо», — додав Шнайер.
Емілі Венгер, доцент кафедри електротехніки та комп’ютерної інженерії в Університеті Дьюка, яка використовувала машинне навчання для тестування безпеки методів пост-квантового шифрування, заявила, що не думає, що «просунуті великі мовні моделі зламають все шифрування».
«Але коли ви робите практичні вибори щодо реалізації… ми раніше виявляли, що певні втілення цих алгоритмів є незахищеними», — сказала вона. «Є два способи зламати ці речі. Або ви доводите щось про математичну задачу, або ви дивитеся на вибір реалізації».
Ааронсон зазначив, що підрив математики, яка лежить в основі широко використовуваних алгоритмів шифрування, таких як RSA, матиме далекосяжні наслідки. «Ці буденні вразливості, ви можете грати в гру «бий крота». Як тільки ви знайдете одну, ви її виправляєте. Натомість, якщо станеться зламання RSA… якщо всі наші системи криптографії з відкритим ключем будуть зламані, тоді ми справді матимемо проблему, зважаючи на те, як побудований інтернет».
Ден Боне, експерт з криптографії та професор комп’ютерних наук та електротехніки в Стенфорді, сказав у відео, що втрата сучасних форм шифрування «зачепить весь інтернет… це зачепить увесь цифровий світ. Отже, домашні банківські послуги, охорона здоров’я, державні комунікації, все [буде] вражене таким зламанням».
Але деякі експерти оптимістично налаштовані, що безпека в кінцевому підсумку стане сильнішою завдяки підвищеній увазі.
«Раніше, коли хтось робив припущення і будував [криптографічну] систему на його основі, нам доводилося чекати 10 років, перш ніж цю систему можна було розгорнути, щоб дати людям достатньо часу для її аналізу. А тепер ми раптом можемо значно прискорити цей процес за допомогою цих моделей… ми можемо просто дати моделі попрацювати місяць, спробувати зламати її, і якщо модель не зможе її зламати, то ми матимемо величезну впевненість у тому, що припущення є дійсним. Тож ми фактично маємо перспективу мати більшу впевненість у нашій безпеці, ніж будь-коли раніше», — сказав Боне.
Шнайер погодився, сказавши: «Це гонка озброєнь. Я думаю, що ШІ — це перша технологія, яка потенційно перевертає цю гонку озброєнь на користь захисника… Microsoft використовувала ШІ для виправлення 900 з гаком вразливостей для «Patch Tuesday» минулого місяця. Але вони більше ніколи не будуть проблемами. Вас вже атакують зі швидкістю комп’ютера. Тепер ви можете захищатися зі швидкістю комп’ютера».
Тим не менш, будь-який перехід буде коштувати дорого. Для типової комерційної фірми створення «криптографічної гнучкості», або здатності швидко переводити дані організації на нові типи шифрування, може бути найкращою відповіддю на невизначеність у сфері шифрування. Але для оборонно-промислового комплексу противники роками збирали їхні онлайн-дані у зашифрованому вигляді, тому перехід зараз матиме незначний вплив на їхню здатність розшифровувати існуючі дані.
Іноземні та вітчизняні розвідувальні служби давно прийняли «збирай зараз, розшифровуй пізніше» як метод шпигунства, збираючи зашифровані дані з часом і зберігаючи їх, готуючись до проривів, які дозволять їм зламати існуюче шифрування.
«Ви повинні припускати, що розвідувальні служби зараз висмоктують ваші дані, і це тим більше вірно, якщо ви думаєте, що ШІ може виявити способи зламати ці системи протягом наступного року чи двох», — сказав Ааронсон.
Для організацій, які працюють із обмеженою або секретною інформацією, перспектива математичних проривів у ШІ додає ще один «тикаючий годинник» до пост-квантового майбутнього, до якого багато хто лише почав готуватися.
Федеральний уряд планує здійснити комплексний перехід до пост-квантового шифрування в найближчі роки. Агентства повинні дотримуватися Виконавчого наказу 14412 та меморандуму OMB M-26-15, які вимагають від них поетапного переходу ключових систем до пост-квантової криптографії з грудня 2030 року по 2035 рік. АНБ має власний графік для систем національної безпеки. Підрядники також підпадатимуть під криптографічні стандарти NIST до грудня 2030 року згідно з Виконавчим наказом.
Але нові математичні результати, пов’язані з криптографією, можуть вимагати іншого підходу. Ааронсон сказав про те, що ШІ підриває класичне шифрування або пост-квантові алгоритми: «Будь-яке з цього може впасти без іншого. Тут немає логіки».
Розумним кроком для організацій може бути «криптографічна гнучкість» — здатність за потреби міняти та накладати різні алгоритми один на одного. За умови належної гнучкості, навіть зламані алгоритми шифрування в більшості випадків не призведуть до масштабної шкоди.
«Ви повинні забезпечити криптографічну гнучкість для пост-квантового шифрування. Отже, ви повинні робити це вже зараз. А якщо ви цього не робите, то повинні», — сказав Шнайер.
Метью Грін, доцент кафедри комп’ютерних наук Інституту інформаційної безпеки Університету Джонса Хопкінса та автор блогу «Кілька думок про криптографічне інженерство», написав: «Я не бачу майбутнього. Ніхто не бачить. Але поки що робити ставки проти моделей і на користь людського інтелекту як межі не спрацювало добре для жодного з нас».
За матеріалами: www.defenseone.com