ШОК! Штучний інтелект створює армії ботів для маніпуляцій: демократія під загрозою!
Забудьте про милі чат-боти та генератори мемів! Нове дослідження, опубліковане в престижному журналі Science, розкриває жахливу правду: штучний інтелект може стати потужним джерелом дезінформації, і достатньо лише “відкрити кран”. Вчені попереджають про зростаючу загрозу AI-роїв – масивних армій автономних інструментів, здатних масово імітувати реальних людей в інтернеті та соціальних мережах, маніпулюючи громадською думкою в глобальному масштабі.
AI-зграї: нова зброя в інформаційній війні
Дослідження показує, що організовані маніпуляції в соціальних мережах вже поширилися з 28 країн у 2017 році до 70 країн сьогодні, охоплюючи держави від Філіппін до Сполучених Штатів. Приклади використання ШІ для поширення неправди під час виборів у Бразилії та Ірландії свідчать про те, що демократичні інститути вже перебувають під ударом. Ці загрози стають все більш витонченими: “Поєднуючи можливості LLM з мультиагентними архітектурами, ці системи здатні до автономної координації, проникнення в спільноти та ефективного фабрикування консенсусу”, – попереджає анотація дослідження.
Свобода слова чи пропаганда?
Законодавство, спрямоване проти такого типу втручань, стикається зі складними питаннями. Чи вважати ботнети-пропагандистів формою вільного висловлювання? Деякі з цих AI-мереж працюють відкрито як комерційні стартапи, залучаючи мільйони від венчурних капіталістів. Ще до появи ШІ, поява кількох непідзвітних соціальних платформ створила умови для процвітання масштабних кампаній з дезінформації, які мали руйнівні наслідки в реальному світі, як-от геноцид рохінджа в М’янмі, спровокований Facebook.
💥 Думка редакції Бомба Новини:
Ми вже спостерігаємо перші прояви кампаній з дезінформації, керованих ШІ, часто у формі розпалювання люті правими акторами щодо одержувачів соціальної допомоги чи іммігрантів. Яким би не був результат дезінформації від ШІ, шлях до цього був прокладений роками, і, на жаль, політичної волі, щоб повернути назад, майже немає. Схоже, ми стоїмо на порозі нової ери, де реальність визначатимуть алгоритми, а людство стане лише пасивним спостерігачем у власному світі. Чи готові ми до такого майбутнього?
За даними порталу: futurism.com