Терапія — це фундамент довіри. Ви не можете бути відвертими та вразливими, ділитися справжніми почуттями, якщо не вірите у співчутливе обличчя, що сидить в кріслі навпроти вас.
Тож ви можете зрозуміти, чому 31-річна Моллі Квін була здивована, коли її довірений терапевт раптово використав ШІ-модель для запису їхніх приватних розмов, повідомляє NPR.
«Вона не робила нотатки, як зазвичай», — згадала Квін, усвідомивши це на півдорозі сеансу. «iPad просто стояв».
Де оброблялися та зберігалися її слова? Чи стануть вони колись тренувальними даними? Це питання, яке не виникає, коли терапевт робить записи на планшеті. Але ці думки тепер роїлися в голові Квін, викликаючи неспокій.
«Чим більше я думала про це, тим гірше мені ставало», — розповіла вона NPR. «Ця людина, якій я мала довіряти свої найприватніші та найінтенсивніші емоції, повністю проігнорувала те, з чим я була незгодна. Я відчула себе повністю зрадженою».
Хоча її терапевт запропонував припинити використання інструменту ШІ, Квін перервала її та знайшла іншого спеціаліста.
«Довіра була зруйнована», — сказала вона NPR.
Як і лікарі, терапевти по всій країні впроваджують інструменти ШІ для ведення нотаток та генерації транскриптів. Компанії, що пропонують ці послуги, представляють їх як спосіб зменшити рутину паперової роботи та інші адміністративні завдання, звільняючи більше часу для пацієнтів — це варіація поширеної тези індустрії ШІ: дозвольте нам робити для вас нудну роботу.
Надійність інструментів ШІ залишається досить сумнівною, і навіть якщо відкинути питання про «галюцинації» у клінічних нотатках — що вже трапляється — незрозуміло, чи комфортно пацієнтам з цією технологією. Згідно з опитуванням YouGov, процитованим NPR, лише 11 відсотків американців висловилися за використання ШІ в сфері психічного здоров’я. Ще менше, 8 відсотків, довіряли б такому використанню ШІ, тоді як 40 відсотків заявили, що взагалі не довіряють цій технології.
«Навіть сама присутність ШІ змінює терапевтичний досвід», — зазначила в інтерв’ю NPR Маріса Коен, сімейний та сексуальний терапевт з Нью-Йорка. «Клієнти знають або відчувають, що їх слухає щось інше. Це усвідомлення може subtly вплинути на їхню відвертість».
«Коли ви вводите щось, що зберігається в електронному вигляді, це викликає додаткові питання про довіру та безпеку», — додала Коен. «Це, по суті, третя сторона».
Таль Салман, генеральний директор популярного інструменту для запису терапевтичних сесій за допомогою ШІ під назвою Berries, наполягає, що записи розмов видаляються негайно, а транскрипти зберігаються на серверах, що відповідають стандартам HIPAA, у США. Навіть якщо це правда, якщо інструменти ШІ матимуть місце у приватній сфері психічного здоров’я, їм потрібна довіра пацієнтів — і це те, чого індустрія ШІ поки що не заслужила. Квін побоюється, що сесії, записані за допомогою ШІ, одного дня можуть бути зламані хакерами.
«Ми побачимо витоки даних», — сказала вона NPR. «Можливо, не завтра, можливо, не наступного тижня. Але за кілька років? Я думаю, ми їх побачимо. І я не хочу, щоб мої терапевтичні сесії стали частиною цього».
Дізнатися більше на: futurism.com