У березні Марк Цукерберг та його команда Meta анонсували нову функцію — помічника Meta AI для підтримки користувачів Facebook та Instagram. Цей інструмент мав допомагати вирішувати проблеми з акаунтами, а також боротися з шахраями та фейковими профілями.
На додачу до очевидної тенденції технологічної індустрії до автоматизації підтримки клієнтів за допомогою ШІ, нова функція, схоже, обернулася вражаючим фіаско. Як повідомляє 404 Media, чат-бот із легкістю допоміг хакерам отримати доступ до високопрофільних акаунтів Instagram.
Схема шахрайства шокуюче проста: хакери, визначивши географічний регіон власника акаунту за допомогою VPN, просили чат-бот підтримки змінити електронну адресу, пов’язану з профілем. Це дозволяло їм успішно пройти двофакторну автентифікацію. Що ще гірше, ця вразливість існувала вже кілька місяців, згідно з повідомленнями в Telegram-групах, які переглянув 404 Media.
«Це або новий глюк Meta Accounts Center, або мій Instagram-акаунт став мішенню для спроби злому», — написала колишня дослідниця Meta та самопроголошена хакерка Джейн Вонг у своєму пості в Threads. «Здається, мій пароль було змінено без мого відома / я не змогла увійти за допомогою свого пароля».
Цей експлойт висвітлює кричущі проблеми кібербезпеки, які продовжують переслідувати чат-боти на основі ШІ. Ми вже бачили безліч випадків, коли інструменти на базі великих мовних моделей були «зламувані», змушені брехати або навіть вигадувати політику компанії, що призводило до значного плутанини та судових позовів.
Експерти також давно попереджають про небезпеку надання персональних даних чат-ботам, посилаючись на ризик витоку даних. Особливо Meta заслужила репутацію компанії, яка постійно демонструє недостатню турботу про дані користувачів. Наприклад, у березні The Information повідомила, що внутрішній ШІ-агент спричинив критичний інцидент безпеки в Meta, неналежним чином надавши доступ до конфіденційних даних користувачів.
Хоча достеменно невідомо, чи були ці випадки пов’язані з останнім експлойтом, ця новина з’явилася після того, як були зламані кілька високопрофільних акаунтів Instagram, зокрема акаунт колишнього президента Барака Обами та головного майстра Космічних сил Джона Бентівегна.
За інформацією 404 Media, хакери вже пропонують доступ до впливових акаунтів в обмін на невеликі суми грошей, використовуючи цю вразливість.
На щастя, Meta, схоже, вже виправила цю проблему. Однак, враховуючи, що вразливість було виявлено кілька місяців тому, збитки можуть бути значними.
Джерело новини: futurism.com