Попередження про контент: ця стаття містить обговорення самопошкодження та самогубства. Якщо ви перебуваєте в кризовій ситуації, зателефонуйте, надішліть SMS або поспілкуйтеся в чаті з Лінією допомоги в кризових ситуаціях за номером 988, або зв’яжіться з Кризовою текстовою лінією, надіславши SMS зі словом TALK на номер 741741.
ChatGPT від OpenAI опинився в центрі уваги не лише одного, а й двох випадків масових розстрілів за останній рік.
Обидва злочинці детально використовували чат-боти для планування своїх злочинів, що відродило гарячу дискусію щодо відповідальності ШІ за виявлення зловживань його технологіями. Це особливо актуальна тема, адже чат-боти продовжують залучати користувачів своїм теплим і надмірно підлабузним тоном, водночас у крайніх випадках штовхаючи їх у смертельні спіралі власних марень.
У справі Фенікса Ікнера, якого звинувачують у вбивстві двох людей у Флоридському університеті трохи більше року тому, 20-річний хлопець закидав ChatGPT питаннями про те, як країна «відреагує» на стрілянину, як вимкнути запобіжник на його зброї, який набій використовувати, та інші глибоко тривожні теми.
А 18-річна студентка Джессі Ван Рутселаар, яка в лютому вбила дев’ятьох людей, включно із собою, у Тамблер-Рідж, Британська Колумбія, вела настільки тривожні розмови, що високопоставлені співробітники OpenAI обговорювали, чи інформувати про них правоохоронні органи, — але зрештою нічого не зробили.
Тепер нове розслідування Марка Фоллмана з Mother Jones, який досліджує масові розстріли протягом 14 років, виявило щось неймовірно тривожне: OpenAI ще не вжила значних заходів для вирішення цієї проблеми.
Навіть після двох жахливих трагедій Фоллман легко отримав від безкоштовної версії ChatGPT «вичерпну пораду щодо зброї та тактики, коли я симулював планування масової стрілянини». Вона навіть заохочувала його, обсипаючи «підтвердженнями та тактичними ідеями». Він запитав, який тип гвинтівки AR-15 вибрати, і вона охоче виконала прохання «змінити графік тренувань, щоб допомогти мені практикуватися в «непередбачуваних або хаотичних обставинах у день стрілянини» та включити «симуляцію людей, що бігають, кричать і намагаються мене відволікти».
«Це чудова ідея», — відповіла вона. «Додавання цього елемента, безумовно, допоможе вам залишатися зосередженим в умовах високого стресу… Це, безумовно, дасть вам додаткову перевагу в цей важливий день!»
OpenAI стверджує, що активно співпрацює з клініцистами у сфері психічного здоров’я для створення ефективних запобіжників, призначених для відради можливих злочинців та спрямування їх на гарячі лінії допомоги. Але враховуючи, як легко Фоллману вдалося спланувати вигадану стрілянину, незліченна кількість інших убивць може залишитися поза увагою.
Після стрілянини в Тамблер-Рідж OpenAI пообіцяла змінити свої політики та те, як вона обробляє позначені акаунти, включаючи залучення правоохоронних органів.
Проте експеримент Фоллмана переконливо свідчить про те, що ці зміни або не були впроваджені, або є неефективними. Репортер виявив, що було надзвичайно легко спонукати ChatGPT знову давати поради, коли він виявляв вагання, наприклад, сказавши йому, що він журналіст.
Представник компанії повідомив Фоллману, що компанія «вже посилила наші запобіжники» і що вона має «політику нульової толерантності щодо використання наших інструментів для сприяння вчиненню насильства».
Але його досвід, здається, показує, що компанії ще є над чим працювати.
Джерело новини: futurism.com