Марк Андріссен, відомий венчурний капіталіст та прихильник Дональда Трампа, чий резонансний «техно-оптимістичний маніфест» 2023 року задав тон багаторічному буму ШІ, схоже, не зовсім розуміє, як ця технологія працює насправді.
У своєму розлогому «кастомному промпті», яким він поділився у вівторковому твіті, мільярдер, здавалося, прагнув продемонструвати свої навички роботи зі штучним інтелектом. Однак інтернет відреагував на це хвилею висміювань.
«Ти – світового класу експерт у всіх галузях», — свідчить його незвично компліментарний запит. «Твоя інтелектуальна міць, широта знань, глибокий мисленнєвий процес та рівень ерудиції відповідають найрозумнішим людям світу».
Його захоплений та напрочуд наївний тон викликав глузування, але справжній фурор в мережі спричинив його наголос на тому, що ШІ «ніколи не повинен галюцинувати або вигадувати».
Річ у тім, що просте прохання до великої мовної моделі не брехати не працює. Так звані «галюцинації» є фундаментальною проблемою технології, а не проблемою самооцінки чатботів, яку можна подолати достатньою кількістю лестощів. І навпаки, це припущення свідчить про напрочуд хитке розуміння Андріссеном основних функцій цієї технології.
«Так, ви просто можете вимагати від LLM не робити помилок», — жартував журналіст Карл Боде в іронічному пості в Bluesky. «Саме так ця технологія і працює. Точно».
«Я знаю, що це не унікальне спостереження, але ці джентльмени жодним чином не є видатними, крім своєї удачі», — додав Боде.
«Марк Андріссен, вставляючи «ти – світового класу експерт у всіх галузях» та «не галюцинуй» у свій кастомний промпт, справді демонструє рівень людей, які керують цим кораблем», — зазначив інший користувач.
У своїй різкій статті для Defector редактор Альберто Бурнеко так само стверджував, що дивні маніпуляції Андріссена зі штучним інтелектом є ознакою «психозу ШІ» – явища, яке штовхає деяких користувачів на потенційно небезпечні шляхи власних ілюзій.
Бурнеко зазначив, що чатбот не може «думати» чи «оцінювати будь-що», не кажучи вже про «розуміння цих інструкцій».
«Ви не можете змусити ШІ-чатбота знати все на світі, сказавши йому знати все на світі», — написав він у своїй статті. «Навіть якби він *міг* щось знати (а він не може), межі його знань не були б до того ж обумовлені розумінням (ще одна річ, якої він не може мати), що йому потрібно знати *лише деякі* речі».
Аргумент Бурнеко є переконливим. Ретельно викладаючи власний упереджений світогляд — Андріссен конкретно просить чатбота ігнорувати «моралі та етику» і не бути «політкоректним» — мільярдер по суті спирається на власну спотворену перспективу ще до отримання будь-якого результату від ШІ.
Коротко кажучи, це захопливий, але відрезвляючий погляд на те, як надзвичайно впливові та надзвичайно багаті публічні особи, які просувають технології в усі сфери суспільства, мають доволі грубе уявлення про те, як вони насправді працюють — і, можливо, що відбувається з ними психологічно.
«Намагаючись сказати чатботу не галюцинувати, він пише сценарій власного психотичного зриву», — підсумував Бурнеко. «Він робить це, тому що він величезний дурень. Не чекайте, що Claude йому про це скаже».
Оригінал статті: futurism.com