Технологічна ініціатива Meta, яка мала на меті шпигувати за комп’ютерами співробітників, зазнала нищівної поразки. Хоча головний технічний директор Ендрю Босворт запевняв, що зібрані дані будуть “суворо контролюватися”, компанія призупинила програму відстеження після того, як конфіденційна інформація про співробітників потрапила всередину компанії, як повідомляють Business Insider та Wired.
Згідно з повідомленням служби безпеки, опублікованим у понеділок, оприлюднені дані включали повні AI-запити та транскрипції співробітників, дані про продуктивність і навіть приватні розмови. Витік дозволив будь-якому співробітнику компанії отримати доступ до цих даних.
Meta заявила, що розслідує інцидент і підтвердила призупинення програми, але стверджує, що тримає ситуацію під контролем.
“Ми ретельно розробили цю програму з дотриманням заходів конфіденційності, і хоча наразі ми не маємо жодних ознак того, що будь-які дані були неналежним чином отримані співробітниками Meta, ми призупиняємо її на час розслідування”, — повідомив представник компанії.
Програма, що отримала назву Model Capability Initiative (MCI), була призначена для збору даних, аби AI-моделі Meta могли вивчати, “як люди насправді виконують повсякденні завдання за допомогою комп’ютерів”. Згідно з повідомленнями, вона збирала все: від натискань клавіш співробітниками до запису їхніх екранів.
Коли програму було оголошено у квітні, вона одразу викликала шквал критики серед працівників. Внутрішні повідомлення відкрито засуджували ініціативу як порушення приватності, а деякі співробітники навіть поширювали петицію з вимогою припинити її. Це сталося на тлі найнижчого рівня морального духу в компанії, після чергових скорочень, які призвели до звільнення майже 8000 співробітників, та агресивного просування керівництвом ідеї широкого використання AI для написання коду.
Під керівництвом генерального директора Марка Цукерберга компанія ще більше подвоїла зусилля у розробці технологій автоматизації, переводячи співробітників з інших відділів на новий AI-проєкт, що викликало ще більше невдоволення.
Реакція співробітників на витік даних була однозначно критичною.
“Я обурений”, — написав один зі співробітників у понеділок у внутрішній групі, згідно зі скріншотом, отриманим BI.
“Я не бачу жодних доказів зловмисного доступу, але той факт, що ці дані не були заблоковані, як було обіцяно, неймовірно засмучує”, — додав інший.
Мемів також було вдосталь. На внутрішньому форумі один із співробітників опублікував зображення Джима Халперта з серіалу “Офіс”, який тримає табличку з написом: “0 днів з моменту нашої останньої нісенітниці”.
Босворт, технічний директор Meta, який обіцяв, що зібрані дані будуть “суворо контролюватися”, відповів на повідомлення співробітників, визнавши, що реалізація ініціативи не відповідала стандартам, встановленим під час перевірки конфіденційності, як повідомляє Wired.
Однак компанія планує відновити програму відстеження даних після врегулювання проблеми.
“Ми знову увімкнемо MCI лише тоді, коли будемо впевнені в ефективності наших засобів захисту даних”, — повідомив співробітникам у понеділок Стефан Касріель, віце-президент Meta, який курує дослідження AI, згідно з Wired. Касріель зазначив, що компанія виявила та вирішила проблему минулого тижня, але початкове виправлення не спрацювало.
Це не єдина нещодавня помилка безпеки в Meta. У березні незалежний AI-агент надав співробітнику поради, які йому не дозволялося розголошувати, що призвело до витоку конфіденційних даних і спричинило інцидент безпеки, який було описано як критичний.
Подробиці можна знайти на сайті: futurism.com