Плануєте свою наступну відпустку? Було б мудро не довіряти порадам AI-чатбота — навіть якщо він спеціально розроблений для аналізу відгуків реальних мандрівників.
Як повідомляє The Guardian, інструмент Tripadvisor на основі штучного інтелекту, призначений для узагальнення відгуків про готелі та інші місця на його платформах, регулярно замовчує жахливі скарги, які гості висловлювали щодо свого перебування.
AI описав один готель на Кабо-Верде як “бездоганний”, не згадавши, що на нього подали до суду за масове харчове отруєння, згідно з висновками Which? Travel, про які повідомила газета.
А щодо курорту в Туреччині, який стикається з численними скаргами на сексуальні домагання, AI захоплено відгукнувся про його “дружелюбний сервіс”, лише побіжно згадавши серйозні звинувачення як “незначні недоліки в обслуговуванні, відзначені кількома”.
“Платформа несе відповідальність за перегляд точності своїх AI-узагальнень та AI-чатбота”, — заявив Рори Боланд, редактор Which? Travel, згідно з The Guardian. “А поки що користувачам слід пропускати ці узагальнення та звертати увагу на відгуки гостей, особливо на однозіркові оцінки, а також на відгуки на інших сайтах, щоб переконатися, що їхнє наступне перебування буде безпечним”.
Це ще один приклад того, як AI-узагальнення, коли вони не поширюють відверту дезінформацію, часто не дають повної картини. І це ще більш обурливо, враховуючи, що мета інструменту Tripadvisor — надати огляд того, що сказали інші гості, на відміну від загального чатбота, який може використовувати більш загальну інформацію з ширшої мережі, значна частина якої може бути маркетинговими матеріалами від самих готелів і курортів.
Іншими словами, ви б сподівалися, що AI Tripadvisor зможе просіяти “сміття”, що і є суттю відгуків клієнтів, на яких він навчається. Ми всі переглядаємо однозіркові відгуки, щоб побачити, наскільки поганим може бути місце, і робимо вибір, чи справді вони відображають досвід пересічної людини.
Але схоже, що чатбот цього не робить, що свідчить про проблему з технологією в цілому. За словами Дункана Брамбі, професора взаємодії людини з комп’ютером в Університетському коледжі Лондона, AI має тенденцію “санувати та згладжувати кути” жорсткіших поглядів, що, ймовірно, є наслідком того, що більшість його тренувальних даних містить нечіткі спостереження.
“Тут гості описують дуже негативний досвід, але AI вирішив його пом’якшити”, — сказав Брамбі The Guardian. “Наче він намагається бути ввічливим”.
Можливо, це зроблено навмисно. Чатботи сумнозвісно підлабузницькі, схильні погоджуватися з користувачем і обсипати його компліментами. Їхні захисні механізми також можуть спонукати їх уникати темніших тем, таких як сексуальні домагання, навіть якщо ця інформація буде вирішальною для обережних мандрівників.
Tripadvisor у своїй заяві для The Guardian зазначив, що він автоматично приховує AI-узагальнення для місць, які отримали скарги на серйозні інциденти безпеки, включаючи смерть, отруєння та сексуальне насильство, додавши, що вони “розглядають випадки, коли відгуки не відповідали призначеній власності”. Тим не менш, компанія стверджує, що впевнена, що її AI-функції “виконують саме те, для чого вони були створені: допомагають мандрівникам швидко зрозуміти широкий спектр відгуків, одночасно полегшуючи повний доступ до основних рецензій”.
Це не єдиний приклад того, як AI може зіпсувати відпустку туристам, майже чверть яких зараз покладаються на нього для планування подорожей. AI-чатботи надсилали мандрівників до вигаданих місць і наражали їх на небезпеку, як-от пара перуанських туристів в Андах, яких досвідчений гід відправив назад, коли він зрозумів, що вони шукають неіснуючий “священний каньйон”, вигаданий AI. Якщо ви хочете дізнатися чесну думку інших людей про щось, краще не дозволяйте цьому передаватись вам кволою машиною.
Джерело новини: futurism.com