Чи свідомі моделі ШІ, і якщо ні, чи можуть вони стати такими в найближчому майбутньому? Ця можливість здається малоймовірною, але компанії, що займаються розробкою ШІ, вважають за краще тримати це питання відкритим.
Financial Times повідомляє, що три провідні гравці індустрії — Anthropic, DeepMind (лабораторія штучного інтелекту Google) та Meta — залучили експертів з психології, філософії та етики для дослідження машинової свідомості та добробуту ШІ.
Anthropic, яка, ймовірно, найбільше з усіх намагається антропоморфізувати свої моделі та підкреслити аспект свідомості ШІ (її чат-бот має людське ім’я «Клод», зрештою), тестує свої моделі на поведінку, що нагадує «паніку» та «тривогу». Компанія проводить дослідження «добробуту моделей», щоб з’ясувати, чи можуть моделі ШІ мати досвід, що має моральне значення.
«Ми залишаємося глибоко невпевненими щодо цього, але вважаємо, що питання настільки серйозне, що його слід ретельно вивчати, оскільки системи ШІ стають потужнішими», — заявила компанія.
DeepMind, тим часом, найняла Генрі Шівліна, дослідника Кембриджського університету, як філософа, який працює над машиною свідомістю, взаємодією людини та ШІ та готовністю до AGI. (Раніше цього року Шівлін викликав хвилю обговорень у колах прихильників ШІ, поділившись своєю приголомшеною реакцією на електронний лист, отриманий від агента ШІ).
Експерт з етики DeepMind Іасон Габріель, який очолює команду AGI та суспільства в лабораторії, назвав питання свідомості ШІ «дуже складним» і описав ШІ як «дуже потужних когнітивних агентів, які також глибоко відрізняються від людей і навіть від тваринної свідомості».
Ці вагомі заяви викликають суперечки серед багатьох науковців та дослідників ШІ. Але FT, шукаючи контраргумент для повноти свого репортажу, цитує експерта, яка приписує чат-ботам сумнівний ступінь людської агентності. «[Моделі ШІ] мають цілі, вони можуть обманювати, вони можуть приховувати свої справжні інтереси», — сказала газеті Сьюзен Шнайдер, директорка Центру майбутнього ШІ, розуму та суспільства. Але вона додала, що «цілком науково можливо, що вони роблять це без відчуття досвіду, яким є свідомість».
Звичайно, можливість свідомості ШІ не слід повністю відкидати. Але так само не слід повністю відкидати й існування позаземних цивілізацій, які зазвичай розглядаються скоріше як науково-фантастичні роздуми, ніж як нагальне екзистенційне питання.
Більше того, ми повинні бути скептичними, коли левова частка шуму з цього питання надходить від самої індустрії. Генеральний директор Anthropic Даріо Амодей неодноразово натякав на можливість свідомості ШІ в інтерв’ю. А дослідження його компанії часто роблять сміливі заяви про те, що їхні моделі демонструють людську поведінку, наприклад, нібито мають «емоції». Просто пам’ятайте, що компаніям ШІ легше вести нас за ніс дикими сценаріями «Судного дня» в стилі Skynet, ніж протистояти набагато буденнішим наслідкам технології, які розгортаються прямо на наших очах.
Джерело новини: futurism.com