ШІ переписує реальність: Чи можна вірити “думці” машини?
Уявіть собі: минулого місяця серйозне видання Axios було змушене зробити неймовірне виправлення до своєї статті про кризу материнської смертності в США. Вони цитували нові дані опитування від компанії Aaru, представляючи їх як дослідження, засноване на відгуках реальних американців. Але, як виявилося, журналісти забули найголовніше: Aaru – це фірма, що займається дослідженнями за допомогою ШІ-симуляцій. Тобто, стаття посилалася на “опитування”, які були вигадані великою мовною моделлю, а не зібрані від справжніх людей! Це яскравий приклад того, як кожна галузь намагається витиснути максимум з ШІ, навіть коли це абсолютно безглуздо.
“Кремнієва вибірка”: Революція чи пастка?
Як пояснюють директор Digital Theory Lab Лейф Везербі та професор комп’ютерних наук Каліфорнійського університету в Берклі Бенджамін Райт у своїй колонці для New York Times, ця практика отримала назву “кремнієва вибірка” (silicon sampling). І це рецепт справжньої катастрофи! Суть проста й приваблива: оскільки великі мовні моделі можуть генерувати відповіді, що імітують людські, компанії з опитувань бачать можливість використовувати ШІ-агентів для симуляції відповідей на опитування. Це значно дешевше і швидше, ніж традиційні методи. Але чи не є це величезним перебором, який підриває саму цінність опитувань громадської думки?
Дані мають цінність лише настільки, наскільки вони узагальнюють вірування та думки реальних людей. Використання симуляцій людських думок замість справжніх призведе лише до погіршення нашої й так зламаної інформаційної екосистеми та сіятиме недовіру.
Виборщики завжди покладалися на статистичні моделі, щоб компенсувати невелику кількість відповідей та врахувати можливі змінні, які можуть спотворити дані. Адже переконати людей відповідати на запитання телефоном чи онлайн – це нелегке завдання. Але вигадування відповідей за допомогою ШІ – це жахлива альтернатива, яка легко може ввести упередження та “впливати на громадську думку, а не просто повідомляти про те, що думає громадськість”, як попереджають Везербі та Райт.
Дослідження від Університету Північно-Східного університету 2025 року показало, що “кремнієві вибірки” загалом не є надійними замінниками для людей, особливо в політичних питаннях. Моделі погано вловлюють нюанси думок і часто стереотипізують групи через упередження в навчальних даних та внутрішні фільтри безпеки. Тому найрозумніший підхід – це гібридний конвеєр, який використовує ШІ для вдосконалення дизайну досліджень, зберігаючи людські вибірки як золотий стандарт даних.
Навіть незалежне дослідження Джеймі Камінса з Університету Берна показало, що генерація “кремнієвих вибірок” вимагає “багатьох аналітичних рішень”, які можуть суттєво вплинути на якість вибірки. Навіть “невелика кількість рішень може кардинально змінити відповідність між кремнієвими вибірками та людськими даними”, – виявив Камінс.
Цифри, що лякають
Незважаючи на ці побоювання, компанії на кшталт Aaru залучають сотні мільйонів доларів фінансування, навіть співпрацюючи з такими гігантами, як Стенфордський університет та Gallup. Це тривожна нова тенденція, яка демонструє, як інструменти ШІ продовжують підривати суспільну довіру, представляючи вигадки як факти. Особливо тривожно це через потенціал маніпулювання громадською думкою за допомогою опитувань, заснованих на “відходах” ШІ, що ще більше зміцнює цінності моделей ШІ, які давно страждають від внутрішніх упереджень.
“Чисті вигадки ось-ось будуть трактуватися як наукові та політичні знання”, – дійшли висновку Везербі та Райт. “Якщо ми не відступимо, наше розуміння суспільства також може стати штучним”.
💥 Думка редакції Бомба Новини:
Ми в “Бомба Новини” вважаємо, що “кремнієва вибірка” – це надзвичайно небезпечний тренд, який може мати руйнівні наслідки для нашого суспільства. Це не просто маркетинговий трюк, а спроба створити ілюзію реальності, маніпулюючи громадською думкою. ШІ може бути потужним інструментом, але його використання для фальсифікації даних про людські думки – це крок до антиутопії. Ми закликаємо всіх бути критичними до інформації, яку ви споживаєте, і вимагати прозорості щодо джерел даних, особливо коли мова йде про ШІ.
Подробиці можна знайти на сайті: futurism.com