Штучний інтелект: Чи загрожує людству повне знищення? Антропний попереджає: Штучний інтелект може стати причиною апокаліпсису! Технології майбутнього на межі катастрофи – відкриття, що шокує! Найочікуваніший прорив, що несе смертельну небезпеку.

Anthropic знову демонструє свою фірмову майстерність: грає роль найтурботливішої компанії, аби переконати всіх, що саме вони – «білі» гравці індустрії.

Минулого тижня найцінніший стартап у сфері ШІ представив нову рекламну кампанію, яка вибрала незвичний підхід до просування своїх технологій. Замість прямого занурення в оптимістичні прогнози, ролик починається з серії похмурих кадрів, на тлі яких різні голоси ставлять гострі, бентежні запитання про штучний інтелект.

Нікого б не звинуватили, якби ви подумали, що дивитеся соціальну рекламу. Все починається з палаючого будинку – що, звісно, не віщує нічого доброго. Коли лунає питання: «Чи можна довіряти ШІ?», ми бачимо кадри, схожі на відеоспостереження, де алгоритм ШІ сканує обличчя людей у натовпі.

Найбільш вражаюча послідовність кадрів настає одразу після цього.

«Хто натисне на гальма, якщо це буде потрібно?» – запитує інший голос. Далі – різкий монтаж на зображення кладовища, що густіє сотнями надгробків.

Вам не потрібен Claude, щоб зрозуміти це. Anthropic чітко визнає страх, що штучний інтелект може знищити нас усіх.

Але це насправді історія з хорошим кінцем – принаймні, з точки зору Anthropic. Слоган «Є надія в складних запитаннях» запевняє глядача, що його занепокоєння щодо ШІ – наприклад, його потенціал знищення робочих місць або підрив здатності мислити – є цілком обґрунтованими. Але, що найважливіше, це питання, над якими керівництво Anthropic не спить ночами, розмірковуючи.

«У людей багато складних запитань щодо ШІ, – йдеться в заяві компанії. – Наш обов’язок – дати на них відповідь».

Комерційний ролик, який транслювався під час чвертьфінального матчу Чемпіонату світу між Аргентиною та Швейцарією минулими вихідними, швидко викликав критику в Інтернеті. Один з вірусних постів висміяв логіку ролика, написавши: «Коли ми піднімаємо питання про зупинку небезпечно потужного суперінтелекту, ми на півсекунди показуємо 300 американських надгробків».

Навіть генеральний директор OpenAI, Сем Альтман, не втримався від коментаря.

«Я думав, це сатира», – написав він у своєму типовому стилі, використовуючи лише малі літери.

Ця реклама – Anthropic в чистому вигляді. Ключовою частиною міфології компанії є те, що її заснували колишні співробітники OpenAI, які хотіли зосередитися на безпечній розробці ШІ. Генеральний директор Даріо Амодеї стверджує, що міг би випустити чат-бот, який змінив світ, замість OpenAI з ChatGPT, але відмовився через надмірне занепокоєння щодо ризиків цієї технології.

Амодеї також надзвичайно відкрито говорив про ризики ШІ, зазначаючи, що він може знищити половину всіх робочих місць для початківців у білому комірці, одночасно натякаючи на можливість того, що його моделі вже можуть бути свідомими. Нещодавно компанія навіть закликала до глобальної «паузи» у розробці ШІ, побоюючись, що технологія може вийти з-під контролю людини. (Вони також найняли економіста, який заявив, що 33% ризик вимирання людства від ШІ є прийнятним).

Можливо, це здається контрпродуктивним для творця одного з найпопулярніших чат-ботів у світі. Але все це служить дуже чіткій меті. Найбільше висловлюючись про потенційні небезпеки ШІ, Anthropic може позиціонувати себе як єдину компанію, якій можна довіряти в його розробці.

Їхня реальна історія свідчить про протилежне. У лютому вони відмовилися від ключової обіцянки безпеки, яка передбачала зупинку тренування системи ШІ, якщо неможливо гарантувати належні запобіжники. І хоча вони боролися з Пентагоном проти використання своїх технологій у масовому спостереженні та автономній зброї, з’ясувалося, що їхній ШІ Claude використовувався для вибору цілей для ударів в Ірані.

Одна людина, яка відреагувала на рекламу компанії, найкраще підсумувала: «Чи можна довіряти Anthropic?»

Оригінал статті: futurism.com

Залишити відповідь

Ваша e-mail адреса не оприлюднюватиметься. Обов’язкові поля позначені *