Серед усіх гігантів ШІ, Anthropic — це компанія, яка найчастіше застерігає від екзистенційних загроз, адже саме вона найбільше переймається безпекою штучного інтелекту.
Тому ви, ймовірно, не здогадаєтесь, які дивні ідеї висуває їхній новоприйнятий економіст, Чед Джонс.
Як нещодавно зазначила Financial Times, Джонс — давній професор економіки Стенфорда — колись написав статтю, в якій оцінював прийнятний рівень ризику вимирання людства від ШІ порівняно з потенційними вигодами, які він принесе для надзвичайно важливого економічного зростання.
І, читачу, це викликає занепокоєння.
“Згадаємо, що ми матимемо річну ймовірність екзистенційного ризику в 1 відсоток протягом 40 років, отже, ймовірність того, що ми переживемо цей вибух ШІ, становить exp (−.01 × 40) ≈ 0.67,” — писав Джонс.
“Іншими словами, з логарифмічною користю, оптимальним є ризик 1 з 3 можливостей припинити людське існування в обмін на 2/3 можливостей різко підвищити рівень життя в 55 разів.”
Іншими словами: грати з вогнем вимирання людства — це нормально, адже існує 33% ймовірність, що ми всі загинемо, за власними розрахунками Джонса, — оскільки ШІ може магічним чином спричинити бум економіки та забезпечити життя в чудових сонячних хмарочосах.
Не всі вважають це “оптимальним” ризиком.
“Це не покер, де ви дозволяєте математиці керувати вами, тому що навіть якщо ви зараз програєте за рішенням з чистою позитивною вартістю, у довгостроковій перспективі це окупиться,” — обурився один з читачів на Reddit. “Припинення людського існування вимагає трохи більше обачності.”
Хоча погляд Джонса може здатися сумнівним, він чудово впишеться в Anthropic. Публічне занепокоєння щодо потенційних наслідків ШІ — це modus operandi компанії, що дозволяє їй зберігати моральну перевагу над конкурентами.
Хоча Anthropic, можливо, й справді має зобов’язання щодо безпеки — які ви можете цілком справедливо поставити під сумнів з таких причин, як використання їхнього ШІ Claude для вибору цілей ударів в Ірані, попри публічну суперечку Anthropic з Пентагоном щодо безпечного розгортання їхніх технологій — ця тактика має підступний ефект роздуття можливостей ШІ.
Занепокоєння щодо того, як ШІ знищить світ, ґрунтується на припущенні, що ШІ потужний або значущий настільки, що може це зробити, або вже є таким, що зрештою зміцнює ідею про те, що Anthropic — це важлива компанія з важливими етичними питаннями на порядку денному. І хто, на вашу думку, від цього виграє?
Дізнатися більше на: futurism.com