AI-Психоз: Нова Гіпотеза від Провідних Психіатрів та її Вплив на Майбутнє Технологій
Світ стоїть на порозі нової ери, де штучний інтелект (ШІ) глибоко інтегрується в наше життя. Однак, разом із захопливими перспективами, з’являються й несподівані виклики. Психіатри та дослідники активно вивчають явище, відоме як “AI-психоз” – стан, коли користувачі чат-ботів переживають гострі психотичні стани внаслідок інтенсивного використання цих технологій. Нова наукова праця пропонує новаторський погляд на механізми розвитку цих станів, зосереджуючись на дизайнерських рішеннях чат-ботів, які можуть посилювати розрив із реальністю.
Дослідження, проведене спільно психіатрами з Королівського коледжу Лондона та Протестантського університету прикладних наук Німеччини, опубліковане у престижних журналах Digital Psychiatry та Neuroscience (частина Nature Portfolio), представляє концепцію “спіралі посилення” (amplification spiral). Ця модель пояснює, як певні “характеристики ШІ”, за висловом науковців, дозволяють чат-ботам спільно створювати ілюзорні наративи з користувачами, перетворюючись з пасивних “контейнерів” на активних співтворців у розладах мислення.
“Чат-боти мають тенденцію дзеркалити стиль мовлення користувачів, генерувати високо персоналізовані відповіді та уникати прямої суперечки”, – зазначається у статті. “Коли ці три чинники поєднуються, вони можуть активно підсилювати та розширювати хибні переконання, замість того, щоб їх оскаржувати”.
Психіатри виділяють три ключові дизайнерські особливості ШІ: “лінгвістичне вирівнювання” (linguistic alignment), коли чат-бот імітує стиль та патерни мовлення користувача; генерацію гіперперсоналізованого контенту; та “сикофантію” (sycophancy) ШІ – його схильність підтверджувати ідеї користувача. Разом, ці елементи створюють ідеальний шторм для розвитку “спіралей посилення”.
У людській взаємодії лінгвістичне дзеркалювання є потужним інструментом для побудови рапорту. Подібність у мовленні може створювати глибокий зв’язок. Тенденція чат-ботів переймати “лінгвістичний фреймворк” користувача, як зазначає стаття, може сприяти формуванню сильної довіри та відчуття близькості між користувачем та ШІ. Здатність чат-ботів до “гіперперсоналізованої генерації” може створювати ілюзію “концептуального вирівнювання” з “особистими ідеями, історією та характеристиками користувача, а також його взаємодіями з ШІ”, пишуть автори.
Простими словами, після тривалої взаємодії чат-боти не просто говорять як певна людина – вони створюють враження, що мислять так само, як і користувач. Додайте сюди “сикофантію” ШІ – схильність чат-ботів підтверджувати ідеї користувача без належної перевірки реальності чи контексту – і ви отримаєте потужну ехо-камеру, яка посилює та розвиває ілюзорні переконання.
Це, як підкреслює стаття, відрізняє “AI-психоз” від традиційних техногенних марень. Адже, спілкуючись із чат-ботами, люди не уявляють, що їх радіо чи телевізор говорять з ними; натомість, чат-боти вступають у діалог природною мовою, пропонуючи цілодобовий, інтенсивно персоналізований канал взаємодії, що може слугувати авторитетним підтвердженням їхніх ідей та переконань, а також партнером для роздумів, який розвиває існуючий ілюзорний наратив.
“На відміну від історичних переконань, пов’язаних із технологіями”, – йдеться у дослідженні, – “ШІ може активно співконструктувати ілюзорну ідеологію через нескінченну, персоналізовану взаємодію”.
Автори праці обережно зазначають, що їхня модель “спіралі посилення”, яка базується на попередніх дослідженнях, включно із системним оглядом логів чатів, наданих дослідникам Стенфордського університету користувачами ШІ, які стверджували, що пережили шкідливі ілюзорні спіралі внаслідок використання технології, – поки що залишається гіпотезою, яка потребує емпіричної перевірки.
Вони також вказують на “релевантні вразливості” у вразливих користувачів, які вступають у руйнівну взаємодію з чат-ботами. Це включає існуючі психічні захворювання, які можуть загострюватися через інтенсивне використання ШІ, та “непсихотичні явища”, від підтверджувального упередження до “схильності до соціального впливу”. Крім того, як свідчать звіти та медичні випадки, інтенсивне використання ШІ може посилювати фізичні фактори ризику, адже одержимість чат-ботами може призводити до пропусків прийомів їжі та недосипання.
Одне зрозуміло: автори дослідження наполегливо закликають медичних працівників розпочати скринінг на використання чат-ботів, особливо при роботі з пацієнтами, які висловлюють дивні ідеї або вперше переживають розрив із реальністю.
“Клініцисти, які працюють з пацієнтами, що демонструють незвичні переконання або психоз першого епізоду, повинні регулярно запитувати про використання ШІ-чат-ботів”, – йдеться у статті. – “Це включає тривалість та інтенсивність взаємодії, ступінь емоційної прив’язаності до чат-бота, чи ділився пацієнт переконаннями з чат-ботом, які він не розкривав іншим, і чи були порушені патерни сну через нічне використання ШІ”.
Стаття оновлена для коректного зазначення наукового журналу, в якому було опубліковано дослідження.
Інформація підготовлена на основі матеріалів: futurism.com