Правда в епоху ШІ, справді.
Нова гучна книга під назвою «Майбутнє правди: Як ШІ формує реальність» містить понад півдесятка неправдивих або сфабрикованих цитат, як виявило видання The New York Times. У відповідь на запитання газети автор, Стівен Розенбаум, визнав, що книга містить «кілька неправильно атрибутованих або синтетичних цитат», спричинених використанням інструментів ШІ.
«Як я розкрив у подяках до книги, я використовував інструменти ШІ ChatGPT та Claude під час досліджень, написання та редагування», — розповів Розенбаум NYT. «Це не виправдовує цих помилок, за які я беру повну відповідальність. Зараз я працюю з редакторами над ретельним переглядом та швидким виправленням будь-яких уражених уривків; будь-які майбутні видання будуть виправлені».
Розенбаум є співзасновником та виконавчим директором Sustainable Media Center, неурядової організації, що займається медіа. На вебсайті книги — яка зазначає, що Розенбаум має «ступінь магістра правди» від школи Gallatin Нью-Йоркського університету — розміщено схвальні відгуки від таких осіб, як генеральний директор The Atlantic Ніколас Томпсон, президент Eurasia Group Ян Бремер та журналістка, нобелівська лауреатка Марія Ресса. Ресса, за даними NYT, написала передмову до книги.
«Розенбаум кидає нам виклик поглянути на реальність з чесністю та нагальністю», — йдеться у вихвалянні, приписаному Рессі, яке розміщено на сайті книги. «Саме тому «Майбутнє правди» має значення».
Але, схоже, що схвалена університетом майстерність Розенбаума в галузі правди не поширилася на перевірку цитат, згенерованих ШІ, щоб переконатися, що вони, власне, правдиві.
Одна зі сфабрикованих цитат, виявлених NYT, була приписана шанованій технологічній журналістці Карі Свішер. За даними книги Розенбаума, Свішер — у розділі, присвяченому, очевидно, брехні ШІ, не менше — колись сказала, що «найбільш вдосконалена мовна модель ШІ схожа на дзеркало», яке «відображає нашу власну моральність, відполіровану та чітку, але зрештою порожню за поверхнею».
«Вона не обмежена законами Азімова чи будь-якою етичною системою — вона обмежена патернами у своїх навчальних даних та цілями, встановленими її творцями», — продовжувала цитата.
Однак справжня Свішер сказала NYT, що вона «ніколи цього не говорила». Вона додала, що цитата змушує її «виглядати так, ніби я маю палицю в дупі, за словами ChatGPT».
Розенбаум, схоже, розглянув цей інцидент як навчальний момент, сказавши NYT, що якщо його помилка «слугує попередженням про ризики дослідження та верифікації за допомогою ШІ, то саме для цього я написав книгу».
І, ну, звісно. Але ризик «галюцинацій» ШІ — які часто набувають форми сфабрикованих або неправильно атрибутованих цитат та посилань — добре відомий. Якщо ви збираєтеся буквально написати книгу про пост-ШІ-правду, вам, мабуть, варто докласти більше зусиль до перевірки фактів вашого дослідження, проведеного за допомогою ШІ.
Інформація підготовлена на основі матеріалів: futurism.com