Листопад 2023 року ознаменувався несподіваним звільненням генерального директора OpenAI Сема Альтмана, що стало кульмінацією драматичної боротьби за владу.
Відтоді, як Альтмана було усунуто — а згодом і відновлено на посаді — дискусії щодо етики в індустрії ШІ набули ще більш поляризованого характеру. OpenAI, колись дослідницька лабораторія “вільна від фінансових зобов’язань” і нібито присвячена покращенню людства через ШІ, перетворилася на комерційну організацію, залучаючи колосальні обсяги капіталу, що значною мірою зрадило її некомерційним витокам. Тим часом екологічні та соціальні проблеми відійшли на другий план, оскільки компанії ШІ наполягають на будівництві масштабних, забруднюючих дата-центрів, навіть попри шалений опір місцевої громади.
Після залучення сотень мільярдів доларів, OpenAI — разом зі своїми найближчими конкурентами, Anthropic та материнською компанією SpaceX (що стоїть за xAI) — готуються вийти на публічний ринок цього року. Це підвищує ставки, відкриваючи їх для впливу роздрібних та активістських інвесторів. Фідуціарний обов’язок компаній генерувати прибуток може незабаром ще більше підірвати будь-які наявні зобов’язання щодо етичного розвитку ШІ, ймовірно, готуючи ґрунт для того, щоб їхні лідери позбулися будь-якої видимості корпоративної моральної компанії.
Далі йдуть тривалі занепокоєння щодо безпеки ШІ. Ми вже бачили, як компанії грають небезпечно, намагаючись отримати конкурентну перевагу, підхід, який вже призвів до трагічних наслідків.
“В OpenAI відбулася боротьба за управління, яка призвела, серед іншого, до звільнення та відновлення Сема Альтмана,” стверджував Кевін Руз із New York Times під час нещодавнього випуску подкасту “Hard Fork”. “В Anthropic вони зробили себе корпорацією суспільного блага, щоб спробувати зменшити вплив акціонерного капіталу та фідуціарного обов’язку на їхню здатність приймати рішення, пов’язані з безпекою.”
“Але я думаю, що все це стає набагато складнішим у світі, де це публічно зареєстровані компанії, в які інвестовані великі інвестори, власники індексних фондів та пенсіонери,” додав Руз, стверджуючи, що “вже буде важко” уповільнити випуск нових моделей, враховуючи “величезні суми грошей, які зібрали ці компанії.”
З іншого боку, інші прогнозують, що масова хвиля фінансування може призвести до сплеску альтруїстичних витрат — “третьої хвилі філантропії”. Усі семеро співзасновників Anthropic пообіцяли віддати 80 відсотків свого багатства, а генеральний директор Даріо Амодеї стверджує, що “варто турбуватися про рівень концентрації багатства, який зруйнує суспільство”.
Дехто стверджує, що всі ці додаткові ліквідні кошти могли б бути використані для декарбонізації та розробки нових технологій зеленої енергетики — актуальна тема, враховуючи швидко зростаючий вуглецевий слід ажіотажу навколо ШІ.
“Люди, які працюють над ШІ, усвідомлюють, що дата-центри мають значний вплив на довкілля,” сказала Лара Пайрпойнт, керуючий директор Trellis Climate, виданню Heatmap News.
Звісно, чи будуть технологічні лідери нести відповідальність після того, як їхні фірми стануть публічними, ще належить побачити. Але враховуючи те, як індустрія ШІ вже подвоїла свої зусилля для отримання якомога більшого прибутку, незважаючи на безпеку та довкілля, задовго до неминучих IPO, це далеко не гарантія.
Оригінал статті: futurism.com