“Штучний інтелект-сміття” став практично невід’ємною частиною соціальних мереж. Низькоякісні та часом моторошні відео, згенеровані ШІ, витісняють творців-людей на всіх платформах.
Навіть улюблений додаток вертикальних відео, TikTok, став жертвою. Згідно з новим звітом компанії Kapwing, що займається редагуванням відео та базується в Сан-Франциско, майже 60% відео, які показують новим користувачам на алгоритмічній сторінці “Для вас” (For You), тепер є “ШІ-сміттям”. Це втричі більше, ніж показують новим користувачам YouTube.
Це особливо тривожно для наймолодших користувачів платформи: Kapwing виявив, що “найбільш насиченою ‘сміттям’ категорією виявилася ‘Діти’. Хештег #cartoonkids був ‘майже повністю складається зі ‘сміття’, і лише три зі 100 перевірених нами відео були створені людьми”, — зазначає компанія.
Що ще гірше, як тільки акаунт вказує алгоритму на зацікавленість у ШІ, стрічка швидко подвоює зусилля, показуючи ще більше “сміття”.
Ці висновки є вагомим нагадуванням про те, наскільки серйозною проблемою стало “ШІ-сміття”. Молоді, вразливі уми піддаються впливу наполовину сирих та запаморочливих ШІ-матеріалів, які можуть зашкодити їхньому розвитку мозку, попереджають експерти. Тим часом фотореалістичні діпфейки сприяють поширенню дезінформації та політичної пропаганди.
TikTok далеко не єдина платформа, що зазнає цього. Facebook та Instagram від Meta також перетворилися на значною мірою невпізнанну пустку, де користувачі — і, ймовірно, боти — взаємодіють з абсурдними зображеннями злиденних дітей, що просять милостиню без рук, або відео гуманоїдних котів, які ненавмисно вбивають своє потомство в м’ясорубці.
Щоб впоратися з проблемою, TikTok у листопаді оголосив, що дозволить користувачам збільшувати або зменшувати кількість контенту, згенерованого ШІ, у своїх стрічках.
“Ми знаємо з нашої спільноти, що багато людей насолоджуються контентом, створеним за допомогою інструментів ШІ, від цифрового мистецтва до наукових пояснень, і ми хочемо надати людям можливість бачити більше або менше цього, відповідно до їхніх власних уподобань”, — заявила тоді Джейд Нестер, директорка TikTok з питань політики громадської безпеки та приватності в Європі, в інтерв’ю The Guardian.
YouTube також нещодавно оголосив про зміни у маркуванні контенту, згенерованого ШІ, в рамках ширших зусиль зі стримування “ШІ-сміття”, але обмежився лише тим, що не змінюватиме “те, як відео рекомендується, або чи воно має право заробляти гроші”.
Неясно, яким може бути просте рішення. Технології просунулися настільки, що розрізнити реальність та “сміття” стає все складніше; як повідомляв New York Times минулими вихідними, навіть Хані Фаріда, “провідного світового експерта з діпфейків”, “перестав довіряти власним очам”.
Оригінал статті: futurism.com