Девід Фостер Воллес колись закликав читачів “розглянути омара”, у своєму знаменитому есе про етику варіння цих істот живцем.
Але нові технології приносять нові жахи, і, можливо, Воллес, якби був живий сьогодні, писав би натомість про біохакінг мозок омарів, щоб штучний інтелект міг перехопити над ними контроль. Бо саме це намагалася зробити група молодих тех-засновників у Сан-Франциско, згідно із захопливою побічною сюжетною лінією в новій статті The Atlantic про “хакерські будинки” в районі Затоки. І те, що сталося, розповідає все, що вам потрібно знати про етику — і реальні можливості, можливо — людей, які намагаються пробитися на вершину цієї багатомільярдної індустрії.
Наші двоє майбутніх “Докторів Омароштейнів” – 32-річний Еліот Рот і 19-річний Вільям Джой. Дует живе в одному з численних так званих хакерських будинків, що з’являються по всьому місту: притулках, схожих на студентські гуртожитки, де молоді тех-підприємці живуть разом і генерують шалені ідеї. Їхній дім називається Biopunk House. Він є домом для 20 амбітних технологічних володарів, і це частина ширшої мережі під назвою The Residency, радником якої є генеральний директор OpenAI Сем Альтман.
План дуету полягав у використанні набору для дистанційного керування тарганами та його імплантації в омарів. Звідти, після демонстрації того, що вони можуть використовувати його для керування омаром, щоб той виконував прості дії, як-от стискати клешні, вони підключать тепер кіборгізованого ракоподібного до OpenClaw — надзвичайно популярного відкритий програмний агент штучного інтелекту, який має омара як свій логотип. (Так, це гра з біологією живої істоти — це також невеличкий жарт.)
Але зачекайте, хіба мозки омарів і тарганів не дуже відрізняються один від одного? І хіба це не вимагатиме серйозних навичок нейрохірургії? Не хвилюйтеся. Якщо розквіт “вайб-кодингу” навчив нас чомусь про тех-бро, то це те, що вони не сприймають питання особистих здібностей серйозно. Якщо віра в технологію є, все якось складеться.
“Я майже впевнений, що це буде перший реальний приклад складного агента штучного інтелекту, що взаємодіє з біологічним організмом”, – захоплено сказав Джой репортеру The Atlantic під час планування експерименту.
Не зрозумійте неправильно, наполягала пара. Рот і Джой стверджували, що вони глибоко стурбовані добробутом омарів, тому вони розглядали можливість введення їм якогось анестетика.
“Ми приділимо багато уваги питанню: ‘Як ми можемо гарантувати, що вони не страждатимуть?'” – сказав Джой журналу, зауваживши, що тварини “вже були приречені на вечерю”. (Вони з’їдять омарів після цього, обіцяли вони, щоб вшанувати їхній внесок у “бро-науку”.)
Шокуюче, але їхні амбіції зіткнулися з жорстокою реальністю — переважно для омарів, оскільки люди, залучені до цього, вийшли досить добре. Коли репортер перевірив експеримент з омарами через кілька тижнів, він побачив, що резервуар, де утримувалися омари, “був примітно порожнім від будь-якого життя або, відверто кажучи, рідини”.
Це тому, що омари померли ще до того, як хірургічне втручання могло відбутися. Істоти дійсно потрапили під ніж — як частина “попереднього” розтину Джоя. Молодий чоловік сказав, що переживав етичну кризу, розмірковуючи: “Чи варто мені взагалі це робити?”
І ні, омарів не з’їли, як обіцяли.
Що хотіли отримати Рот і Джой від біохакінгу омарів? Чи замислилися вони хоч на секунду, чи мають вони хоч приблизно необхідний рівень експертизи, щоб це здійснити? Що вони сподівалися довести, окрім того, що це просто можливо? Ми не можемо знати, що відбувається в їхніх головах, так само як і наші “майбутні хірурги” не можуть знати нюансів життя омара.
Але це є втіленням легковажності, з якою в сфері ШІ ставляться до етики, і, можливо, навіть до реального світу за межами їхніх герметичних “хайп-куполів” технологічного євангелізму. Вони гралися з добробутом цих тварин. І коли настав час дійсно взятися за справу і здійснити серйозне нейрохірургічне втручання, вони відступили. Омари все одно померли через недбалість, а Джой визнав, що вони, можливо, помилилися з солоністю води. Це були серйозні моральні питання та базові операційні деталі, які потрібно було вирішити, але Рот і Джой, здавалося, щиро вірили, що зможуть “вайбом” пройти крізь це.
Це також ставлення всієї індустрії ШІ. Чому чат-боти ШІ досі ведуть людей до руйнівних ілюзій та спіралей психічного здоров’я? Що зроблять компанії ШІ, щоб суттєво обмежити весь шкідливий контент, який вони генерують, від дезінформації до діпфейків без згоди та інструкцій зі злому? А як щодо його впливу на навколишнє середовище та його колосальних енергетичних потреб? Відповіддю на все це є продовження руху вперед, “промптування” крізь проблеми та, час від часу, відчуття провини чи занепокоєння з цього приводу, так само як Anthropic — наведемо один яскравий приклад — постійно вдає, що відчуває.
За матеріалами: futurism.com