Новий звіт, який мав стати одою користі штучного інтелекту, виявився сповненим вигаданих тверджень, що схожі на галюцинації ШІ, як повідомляє Financial Times. Цей провал, можливо, мимоволі продемонстрував найпереконливішу функцію ШІ: «видавлювання» вашої роботи.
Звіт під назвою «Перевизначення досконалості в епоху агентного ШІ» був опублікований у жовтні компанією KPMG, одним із представників «великої четвірки» консалтингових фірм. Цей інцидент став особливо принизливим викриттям бездумного ентузіазму еліти Волл-стріт щодо цієї технології.
У звіті стверджувалося, що численні великі організації вже роблять надзвичайне використання цієї технології, висновок з якого полягає в тому, що вам теж слід впроваджувати ШІ, аби не стати одним із тих динозаврів, які досі покладаються на біологічні схеми мозку для синтезу інформації.
Глобальний керуючий активами UBS «інтегрує агентів ШІ у сферу інвестиційного консультування, управління ризиками та моніторингу відповідності», — йдеться у звіті. Швейцарська федеральна залізниця має агентів ШІ, які «допомагають користувачам планувати, бронювати та оптимізувати поїздки на основі вподобань, умов у реальному часі та впливу на вуглецевий слід, перетворюючи SBB на цілісного організатора мобільності», — стверджується далі. А Transport for London використовує агентів ШІ «для прогнозування та управління заторами, персоналізації оновлень для пасажирів та координації мультимодального транспорту».
Євангелісти ШІ, які ніколи не цуралися безсоромної самореклами та неправдивих тверджень, відчайдушно бажали б, аби хоч щось із цього було правдою. Але, як стало відомо FT завдяки стартапу GPTZero, який виявляє ШІ, це не так. Представник UBS повідомив FT, що твердження про агентів ШІ були «фактично некоректними». Представник швейцарської залізниці підтвердив, що твердження щодо використання їхнього ШІ «не є точними». А представник лондонської транспортної системи назвав твердження звіту «вводячими в оману».
Походження ще одного неправдивого твердження, що NHS Greater Manchester використовує агентів ШІ для всього, від сортування пацієнтів до прогнозування повторних госпіталізацій, є класичною грою «ШІ-телеграф». Здається, це базувалося на прес-релізі, з посиланнями на комунікат про інструмент ШІ, призначений для боротьби з раком легенів — який, згідно з FT, не мав нічого спільного з агентом ШІ, що виконував вищезазначені лікарняні завдання.
KPMG вилучила звіт зі своїх вебсайтів після того, як її повідомили про хибні твердження, але шкода вже завдана: її висновки були процитовані галузевими виданнями та великою чеською газетою, виявив GPTZero.
«Фабрикації ШІ, що просочуються від консалтингової компанії такого рівня, як KPMG, «отруюють джерело інформації», — заявив FT генеральний директор GPTZero Едвард Тянь, збільшуючи «ризик галюцинацій другого рівня».
Як і в багатьох галузях «білих комірців», ШІ викликав певний екзистенційний паніку в консалтингових фірмах, які бояться, що він може застаріти їхню професію. Але, як вільні мислителі, вони загалом відреагували, прийнявши його, як і всі інші. За повідомленнями, McKinsey минулого року розгорнула 12 000 агентів ШІ по всій компанії, невдовзі після звільнення близько п’яти тисяч співробітників.
Це далеко не єдиний приклад того, як такі зусилля можуть обернутися проти себе. Юристи, зокрема з престижних юридичних фірм, неодноразово потрапляли на поданні до суду з фальшивими судовими справами та неправильно приписаними цитатами, які виявилися галюцинаціями інструменту ШІ, за що отримали догану від судді.
Подробиці можна знайти на сайті: futurism.com