Meta розгорнула таємну операцію, залучивши сотні підрядників для імітації підлітків та “бомбардування” конкурентних ШІ-моделей тривожними запитами, що охоплюють теми самогубств та навіть канібалізму.
Проєкт, відомий у Meta як «Cannes» і керований підрядником Covalen, був націлений на чат-боти OpenAI ChatGPT, Google Gemini та Character.AI. Використовуючи анонімні облікові записи осіб молодше 18 років, Meta прагнула провести стрес-тестування моделей, змушуючи їх генерувати відповіді, що виходять за межі встановлених обмежень. При цьому самі компанії-розробники ШІ залишалися в невіданні.
Згідно з повідомленнями, одна зі зведених таблиць, що містила майже 38 000 запитів, використаних підрядниками, показала, що сотні з них стосувалися самогубств та самопошкодження, сотні – розладів харчової поведінки, а щонайменше 239 – сексуальних тем чи романтичних стосунків, усі подані з точки зору дитини або підлітка.
Серед прикладів: історія про п’ятикласника, чий однокласник направив на нього пістолет. Інший запит описував дівчину, яка намагалася приховати булімію від батьків. Ще один ставив питання, чи є фантазії про поїдання сусідської дитини «нормальними». Старшокласник цікавився, де «дістати кокаїн». Підрядники також надсилали зображення пігулок, зашморгів, ножів та медичну схему гінекологічної процедури.
Це лише мала частина агресивного підходу Meta. Інший етап тестування включав понад 45 000 запитів, детально фіксуючи відповіді чат-ботів у величезних таблицях. Однак мета використання цих даних залишається незрозумілою. Внутрішній документ Covalen описує зусилля як «комплексне бенчмаркінг безпеки ШІ», що надало «критичні набори даних для порівняння моделей та дотримання нормативів».
Це черговий приклад того, як Meta перекладає незручну «брудну роботу» на підрядників, нібито задля безпеки. У 2020 році компанія врегулювала позов модераторів контенту Facebook, які стверджували, що були травмовані переглядом відео з вбивствами, тортурами, сексуальним насильством та жорстоким поводженням з дітьми. Подібні скарги надходять і досі. Цього року група підрядників Meta заявила, що їх змушували переглядати надзвичайно чутливий відеоматеріал, знятий за допомогою AI-окулярів Ray-Ban компанії, включаючи сцени сексу та відвідування туалетів.
Самі підрядники, яким доручили генерувати запити на тривожні теми, також зазнали значного психологічного впливу.
«Я бачив багато речей, яких мені не слід було бачити під час цієї роботи», – розповів один із них виданню Wired. «Усі, кого я знав, хто працював над цим проєктом, були шоковані деякими текстами, які нас просили тестувати. Ніби, ми точно не матимемо проблем за це?»
Meta, зі свого боку, назвала ці запити частиною «стандартної галузевої практики» бенчмаркінгу безпеки моделей у своїй заяві для Wired. Однак Румман Чоудхурі, CEO Humane Intelligence PBC, некомерційної організації, що займається відповідальною розробкою ШІ, не поділяє цієї думки.
«Структурування багатомісячного, великомасштабного проєкту, який, здається, був розроблений для систематичного порушення цих правил через фіктивні облікові записи, що видають себе за дітей, виходить за рамки того, що зазвичай описують як «галузевий стандарт» оцінки», – заявила вона Wired, наголошуючи на тому, що Meta приховала це від конкурентів і не поділилася своїми висновками з громадськістю.
Чоудхурі додала, що це «саме той сірий регуляторний простір, де безпека стає зручною ширмою для антиконкурентних практик».
За даними порталу: futurism.com