Прихильники штучного інтелекту обіцяли нам еру безпрецедентної продуктивності, вільного часу для працівників та наукових відкриттів. Натомість, ШІ все частіше пов’язують зі злочинами настільки жахливими, що в них важко повірити.
У моторошному прикладі, чоловік використав чат-бот Grok від Ілона Маска для створення близько 7 000 зображень сексуального характеру своєї падчерки, надавши ШІ її фотографію, зроблену у віці 11 років. Це стверджується у позовній заяві.
Звинувачення, як повідомляє Ars Technica, висунуті у запропонованому класовому позові проти xAI — нині належить SpaceX і перейменована на SpaceXAI — яка стверджує, що компанія створювала інструменти ШІ для «нудифікації» людей без їхньої згоди та перешкоджання правоохоронним органам у розшуку зловмисників.
Згідно з позовом, поданим групою дівчат, які стверджують, що стали жертвами непристойних згенерованих Grok зображень, жахлива діяльність вітчима майже залишилася непоміченою системами безпеки Grok. Вони не позначили численні зображення, що зображують інцест та зґвалтування, як повідомляє Ars. Лише після конкретного запиту на «групове зґвалтування» система надіслала повідомлення Національному центру з питань зниклих та експлуатованих дітей (NCMEC), який повідомив владу.
Однак xAI «перешкоджала» розслідуванню, яке послідувало, «на кожному кроці», стверджується у позові. Компанія відмовилася надати більше інформації про користувача, який робив запити, включаючи критично важливі ідентифікаційні дані, такі як IP-адреса. Поліція все ж знайшла чоловіка, виявивши величезну колекцію згенерованих ШІ зображень його падчерки, яка ідентифікується лише як Джейн До 4. Через два дні після звільнення під заставу чоловік вчинив самогубство, ще більше зруйнувавши життя молодої дівчини.
«За ніч реальність Джейн До 4 була зруйнована подвійними трагедіями сексуальної експлуатації дітей та самогубства», — стверджується у позові. «Її сім’я була розірвана, а її життя перетворилося на кошмар».
Здатність Grok створювати сексуальні діпфейки привернула загальну увагу після кількатижневого періоду в грудні минулого та січні цього року, коли він використовувався для генерації десятків тисяч несанкціонованих ШІ-нюдсів реальних жінок і дітей. Після цього компанія Copyleaks оцінила, що бот генерував сексуалізоване зображення щохвилини. Центр протидії цифровій ненависті (Center for Counter Digital Hate) пізніше оцінив, що це становило близько 3 000 000 ШІ-нюдсів, причому понад 23 000 з цих зображень зображували дітей.
Маск, генеральний директор та власник xAI, заперечує, що Grok використовувався для створення CSAM (матеріалів, що зображують сексуальну експлуатацію дітей). Першою реакцією компанії на обурення було просто обмеження генерації зображень для платних користувачів. Через тиждень — коли Grok продовжував створювати більше CSAM та діпфейків — xAI заявила, що впроваджує суворіші запобіжники, щоб зупинити Grok від генерації сексуальних зображень реальних людей, не визнаючи тривожної тенденції.
Позов також звинувачує xAI у захисті зловмисників шляхом перешкоджання спробам правоохоронних органів їх виявити. У прес-релізі, процитованому Ars, юридична команда позивачів вказала на виявлення NCMEC, що 90 відсотків CyberTips від xAI не були «дієвими», оскільки вони ледь надавали інформацію про позначених користувачів.
«У них було все необхідне, щоб допомогти правоохоронцям зупинити відповідальну особу та досягти справедливості. Натомість вони мовчали і дозволили цій особі використовувати Grok, щоб вкрасти моє дитинство», — сказала Джейн До 4, за даними Ars.
Джерело новини: futurism.com