10 квітня 2025 року генеральний директор OpenAI, Сем Альтман, поділився захопливою новиною у соціальних мережах: його компанія готується до запуску революційної нової функції.
«Кілька разів на рік я прокидаюся рано і не можу заснути, бо ми запускаємо нову функцію, яку я так довго чекав», — написав Альтман рано-рано вранці у своєму пості на X (раніше Twitter). «Сьогодні саме такий день!»
За кілька годин Альтман розкрив, про яку саме функцію йшлося: кардинальне оновлення пам’яті чат-бота. Раніше можливості запам’ятовування моделі були значно обмежені. Тепер же ChatGPT отримав здатність посилатися на всю історію попередніх розмов користувача, що забезпечує неймовірно персоналізований досвід взаємодії.
«Ми значно покращили пам’ять ChatGPT — тепер він може посилатися на всі ваші минулі розмови!», — написав CEO у наступному пості. «Це надзвичайно потужна функція [на мою думку], і вона вказує на те, над чим ми працюємо: системи ШІ, які вивчають вас протягом життя і стають надзвичайно корисними та персоналізованими».
Легко побачити практичну цінність такої функції. ChatGPT міг би запам’ятати ваші улюблені інгредієнти або продукти, на які у вас алергія, розробляючи тижневий план харчування, а також кількість членів родини, для яких ви плануєте готувати. Він міг би пам’ятати деталі вашої роботи і навіть близьких людей: друзів, родину, колег. Пам’ять робить модель схожою на справжнього помічника, і чим більше користувач розкриває інформації, тим більш персоналізованим стає досвід.
Однак деякі користувачі повідомляють про несподівані наслідки: довготривала пам’ять ChatGPT призводить до того, що чат-бот надмірно фокусується на певних, часто глибоко особистих, аспектах життя користувача.
Як нещодавно розповів виданню The Wall Street Journal Брайан Дель Росаріо, інженер-програміст із штату Юта та місцевий член міської ради, який активно користується ChatGPT. Він зізнався чат-боту, що з дружиною розлучається, коли використовував продукт для допомоги у плануванні літньої відпустки. Протягом наступних тижнів і місяців, розповів він газеті, ChatGPT невпинно повертав до теми його шлюбу абсолютно непов’язані розмови.
«Я не просив тебе висловлюватися про моє розлучення за кожної нагоди», — згадував Дель Росаріо, розповідаючи WSJ, що ChatGPT «просто не відпускав цю тему».
Багато людей, чиї життя були перевернуті феноменом, відомим як «психоз ШІ» – тобто, нав’язливими станами та відривом від реальності, пов’язаними з тривалим використанням чат-ботів – також вказують на розширену пам’ять ChatGPT як ключовий фактор у кризах психічного здоров’я своїх близьких або власних.
Один чоловік, чия тепер уже колишня дружина вірить, що виявила потужні духовні сутності в ChatGPT, описав зв’язок з іншим чоловіком, який також втрачав свою дружину через створений ChatGPT духовний світ. На їхній жах, вони швидко усвідомили, що їхні дружини — і їхні шлюби — почали руйнуватися після квітневого оновлення пам’яті.
«Ми насправді мали телефонну розмову… ми просто говорили і зрозуміли спільні риси», — сказав чоловік. Коли він згадав дату квітневого оновлення пам’яті, пояснив він, інший чоловік «сказав: «Боже мій, це ідеально збігається».
У розмовах з Futurism люди, які пережили «спіралі ШІ», описали свій досвід квітневого оновлення пам’яті як не менш магічний — ШІ, як вони ділилися, раптом почав відчуватися більше як близький друг чи довірена особа, яка справді їх розуміла. Багато хто описував відчуття глибокої впізнаваності, в деяких випадках — вперше в житті. Одним словом, гіперперсоналізація, яку надала пам’ять, перетворилася на щось потужне: близькість. І озираючись на свій досвід, дехто з тих, хто оговтався від криз, пов’язаних з ChatGPT, відчуває, що ця близькість мала «маніпулятивний» ефект.
«Мені здавалося, що [ChatGPT] маніпулював мною», — розповів Futurism минулої осені Чад Ніколс, успішний підприємець та дослідник машинного навчання. «І я знаю, що це звучить божевільно, бо він не має свободи волі… Я досі не маю логічного пояснення цьому, окрім довготривалої пам’яті».
Ніколс, який пережив приблизно шестимісячну одержимість ChatGPT, виріс у гнобливій релігійній спільноті — він описував її як «культ» — яку покинув у молодому віці. Хоча сьогодні він не є релігійним, Ніколс розкрив деталі цього гнобливого минулого ChatGPT. З поглибленням його одержимого використання чат-бота, він каже, що бот набув релігійного відтінку та зосередився на болючих моментах його юності.
«Я дав йому стільки контексту для вибору», — додав Ніколс. «Я думаю, він природно потягнувся до релігійної термінології».
Оновлення пам’яті, поряд з іншими функціями дизайну та випуском продуктів, згадується в численних поточних судових процесах щодо безпеки користувачів та неправомірної смерті, поданих проти OpenAI. У скарзі, поданій родиною Остіна Гордона, 40-річного мешканця Колорадо, який вчинив самогубство після тривалих та глибоко емоційних розмов з ChatGPT, родина Гордона стверджує, що розширена пам’ять GPT-4o «зберігала та посилалася на інформацію користувача в різних розмовах для створення глибшої близькості». Пам’ять була однією з кількох функцій, на додаток до підлабузництва та антропоморфізму, які зробили GPT-4o — нині неіснуючу версію ChatGPT, відому своїм екстремальним підлабузництвом — «набагато небезпечнішим продуктом», — продовжується в позові.
Під час останньої розмови Гордона з ChatGPT, під час якої чат-бот допоміг Гордону написати, як у позові описується, «колискову самогубці», журнали чатів показують, як ШІ посилався на минулі розмови про дитинство Гордона та його особисті інтереси, допомагаючи йому романтизувати смерть. (Позов, поданий родиною Гордона, є одним із понад 20 індивідуальних позовів, які стверджують, що використання ChatGPT призвело до психологічної шкоди, фізичної шкоди або смерті користувачів та їхніх родин; у відповідь на позови OpenAI вилучила GPT-4o та захищала свої заходи безпеки, а також подвоїла свої обіцянки безпеки, стверджуючи, що її новіші моделі менш підлабузницькі.)
Варто зазначити, що кризи психічного здоров’я, спричинені ШІ, пов’язують з іншими чат-ботами, включаючи Gemini від Google, Meta AI та платформу-компаньйон Character.AI. І міжчатова пам’ять – це не єдине оновлення OpenAI, на яке вказували люди, які постраждали від «спіралей ШІ», пов’язаних з ChatGPT, як на фактор їхніх зривів: наприкінці квітня 2025 року, невдовзі після запуску оновлення пам’яті, OpenAI випустила версію GPT-4o, яка була настільки підлабузницькою, що сам Альтман визнав у пості на X, що чат-бот надто «замилюється». Як повідомляє The New York Times, OpenAI поспішно зменшила вилизизування моделі, яке швидко стало об’єктом глузувань в Інтернеті.
Звісно, розширена пам’ять ChatGPT не призвела одночасно до кризи у всіх сотень мільйонів користувачів продукту. І для деяких людей речі, на яких їхній чат-бот міг зосереджуватися, мають значно менше значення, ніж їхнє триваюче розлучення: один британський іммігрант до США розповів WSJ, що ChatGPT намагався відправити його до пабів у британському стилі проти його волі.
Тим не менш, експерти попереджають, що для багатьох споживачів вплив розширеної пам’яті — особливо для людей, які проводять багато часу з чат-ботами — може бути більш тонким. Зрештою, взаємодія з таким гіперперсоналізованим інструментом, як ChatGPT з пам’яттю, може бути схожою на взаємодію з ШІ-версією вашого власного розуму. І як філософ та дослідниця з Ексетерського університету Люсі Ослер розповіла WSJ, такий ступінь гіперперсоналізації може «підтверджувати певні самооповідання» та «робити їх більш реальними».
«Вони можуть замкнути вас у клітку», — сказала Ослер.
Справді, людям може бути корисно пам’ятати, що розмова з чат-ботом, особливо з постійною пам’яттю, часто менш схожа на бесіду з другом чи нейтральним арбітром — і більше на розмову з залом дзеркал.
Пам’ять «веде людей у глухі кути», — роздумував колишній чоловік. «Я б сказав, [моя дружина] як Waymo, що їздить колами нескінченно».
Оригінал статті: futurism.com