Електронні листи, що сягають 2015 року, дають уявлення про фундамент OpenAI та ранні напруження в компанії.
Частина “Оперативні оновлення з судової битви Ілона Маска та Сема Альтмана за майбутнє OpenAI” Дивитися всі оновлення 
Закрити
Hayden Field
Публікації від цього автора будуть додані до вашого щоденного дайджесту електронною поштою та у стрічку новин на вашій головній сторінці.
ПідписатисяПідписатися
Переглянути все від Hayden Field
є провідним AI-репортером The Verge. Понад п’ять років вона висвітлює тему штучного інтелекту, її роботи також з’являлися на CNBC, MIT Technology Review, Wired UK та інших виданнях.
Судовий процес Маск проти Альтмана триває, а це означає, що докази, які будуть представлені в суді, розкриваються поступово. Наразі поширюються електронні листування, фотографії та корпоративні документи з найперших днів OpenAI — і ще до того, як лабораторія ШІ отримала свою назву. Деякі ключові висновки: генеральний директор Nvidia Дженсен Хуанг надав OpenAI надпотужний суперкомп’ютер, Маск значною мірою сформулював місію OpenAI та суттєво вплинув на її ранню структуру, генеральний директор OpenAI Сем Альтман, здавалося, хотів спиратися на Y Combinator для ранньої підтримки OpenAI, президент OpenAI Грег Брокман та Ілля Суцкевер хвилювалися щодо рівня контролю Маска над компанією, а Маск підкреслював важливість некомерційної організації з місією загальнокорисної ШІ.
Гучна справа Маска, яка почалася з розгляду присяжними в понеділок у федеральному суді Каліфорнії, називає відповідачем Альтмана, Брокмана та інвестора OpenAI — компанію Microsoft. Їм інкримінується порушення благодійного трасту компанії, шахрайство та необґрунтоване збагачення, але зрештою, позов Маска зводиться до того, чи відхилилася OpenAI від своєї засновницької місії забезпечення того, щоб штучний загальний інтелект (AGI) — часто невизначений термін, що позначає системи ШІ, які дорівнюють або перевершують людський інтелект — приносив користь усьому людству. Це остання з серії судових позовів проти OpenAI та її керівників з боку Маска, який був співзасновником лабораторії ШІ разом з Альтманом і Брокманом та раннім інвестором. (Маск також володіє xAI, лабораторією ШІ, яка безпосередньо конкурує з OpenAI, і належить материнській компанії SpaceX).
Маск проти Альтмана
Безкоштовна, обмежена за часом розсилка про найважливіші моменти судової битви між Маском та Альтманом.
Email (обов’язково)ПідписатисяНадсилаючи свою електронну адресу, ви погоджуєтеся з нашими Умовами та Політикою конфіденційності. Цей сайт захищений reCAPTCHA, і до нього застосовуються Політика конфіденційності та Умови обслуговування Google.
Колишні співробітники OpenAI та люди, наближені до обох компаній, уважно стежать за цим конкретним позовом, оскільки результат судового процесу може вплинути на те, як OpenAI веде свій бізнес та контролює свої швидко розвиваються технології. До того ж, OpenAI та SpaceX, за повідомленнями, змагаються за вихід на публічний ринок цього року, тому вони зараз як ніколи привертають увагу громадськості.
Процес розкриття доказів у справі вже виявив багато комунікацій між керівниками ШІ-індустрії, що викликають здивування, від електронних листів між Альтманом та Суцкевером до записів із особистого щоденника Брокмана. Навіть текстові повідомлення між генеральним директором Meta Марком Цукербергом та Маском були оприлюднені. Але це було ще до початку судового процесу — тепер же очікується розкриття ще більшої кількості матеріалів.
Ось вичерпний список усіх доказів, які були оприлюднені наразі, та найважливіші висновки з кожного. Звісно, не кожен пункт є обов’язково цікавим, тому найважливіші позначені зірочкою (*). The Verge буде постійно оновлювати список у міру додавання нових матеріалів.
*Доказ № 5
Обмін електронними листами між Альтманом та Маском у червні 2015 року. Альтман викладає п’ятичастинний план, що включає лабораторію ШІ з місією “створити перший загальний ШІ та використовувати його для розширення можливостей особистості — тобто, розподілена версія майбутнього, яка здається найбезпечнішою. Загалом, безпека повинна бути першочерговою вимогою”.
Він пропонує почати з семи-десяти людей і розширюватися звідти, використовуючи додаткову будівлю Y Combinator, розташовану в Маунтін-В’ю. Щодо управління, Альтман називає п’ятьох людей для початку, пропонуючи себе, Маска, Білла Гейтса, П’єра Омідіяра та Дастіна Московіца. “Технологія належатиме фонду і буде використовуватися ‘на благо світу’, а у випадках, коли не очевидно, як її застосувати, ми п’ятеро вирішуватимемо”, — пише Альтман. Він додає, що дослідники, які працюватимуть у лабораторії, матимуть “значний фінансовий зиск… не пов’язаний з тим, що вони створять, що повинно усунути частину конфлікту”, і пропонує платити їм “конкурентну зарплату” та надавати частку в Y Combinator. Він також зазначає, що їм слід знайти когось “керувати командою”, але ця людина “ймовірно, не повинна бути членом керівної ради”.
Далі Альтман запитує Маска, чи буде він брати участь у роботі лабораторії ШІ, окрім управління, можливо, відвідуючи раз на місяць для обговорення прогресу або принаймні публічно підтримуючи її для допомоги з рекрутингом. Як модель, він називає участь Пітера Тіля як “партнера на неповний робочий день” в Y Combinator.
Нарешті, Альтман згадує “лист про регулювання”, що, здається, натякає на те, що лабораторія ШІ напише листа із закликом до регулювання ШІ. Він каже, що радий залишити Маска поза публічним списком підписантів.
Маск відповідає: “Згоден з усім”.
*Доказ № 7
В обміні електронними листами між Альтманом та Маском у жовтні 2015 року Альтман пропонує почати зі зобов’язання Маска на 100 мільйонів доларів і запитує, чи може він внести додаткові 30 мільйонів доларів протягом наступних п’яти років. Він зазначає, що Білл Гейтс ще не зобов’язався зробити внесок, але він сподівається “залучити його наступного тижня”, додаючи, що вважає, що Марк Цукерберг, ймовірно, не долучиться через свою власну лабораторію ШІ, Facebook AI Research (FAIR). Він також пропонує, щоб він та Маск стали першими двома членами Ради з безпеки з можливістю додати ще трьох членів протягом наступного року, називаючи це “‘другим ключем’ для випуску будь-чого, що може бути небезпечним”.
Маск відповідає: “Обговоримо управління. Це критично. Я не хочу фінансувати щось, що піде в неправильному напрямку”.
*Доказ № 12
В обміні електронними листами між Маском та Альтманом у листопаді 2015 року вони обговорюють плани щодо майбутньої лабораторії ШІ. Маск починає з розповіді про “чудовий дзвінок з Грегом [Брокманом]” і каже, що він “дуже вражений усіма наразі”, називаючи це “чудовою командою”. Він пропонує створити лабораторію як “незалежну, чисту 501c3, але з кришталево чистим фокусом на позитивне впровадження сильного ШІ, широко розподіленого людству”. Він каже, що компанія “все одно прагнутиме отримувати дохід, що перевищує витрати в певний момент, але позитивний чистий дохід просто надходитиме до резервів готівки”.
Щодо компенсації співробітникам, Маск пропонує грошову зарплату та певні бонуси. Він каже, що якщо Альтман буде згоден, співробітники зможуть конвертувати готівку в акції Y Combinator, додаючи, що це нормально, якщо вони воліють конвертувати частину або все в акції SpaceX. (“Я можу робити майже все, що завгодно, з боку SpaceX, оскільки вона приватна (слава Богу)”, — пише Маск.) Він також пропонує “шалену кількість реальних даних з датчиків” від Tesla для використання лабораторією ШІ, згадуючи, що обсяг даних “на кілька порядків перевищує будь-яку іншу компанію”.
Перша спроба Маска назвати лабораторію ШІ — “Freemind”, оскільки, за його словами, це “передає відчуття, що ми намагаємося створити цифровий інтелект, який буде вільно доступний усім — протилежність підходу Deepmind ‘один перстень, щоб володарювати ними всіма'”. Він також каже, що присвятить стільки свого часу, скільки буде корисно, хоча це може означати менше часу, відведеного на SpaceX і Tesla. “Якщо я дійсно вірю, що це потенційно найбільша найближча екзистенційна загроза, то дії повинні слідувати за вірою”, — пише він. Пізніше він додає, що, незважаючи на те, що він, здавалося б, намагається бути, по суті, мовчазним партнером, йому доведеться “стиснути зуби й визнати реальну участь. Це стане шоком для багатьох, але нехай буде так. Не можна бути байдужим до цього”.
Альтман пропонує, щоб лабораторія ШІ ділила будівлю з Y Combinator і використовувала юридичну команду інкубатора для допомоги в її запуску. Він також пропонує назви “Axon” або щось, пов’язане зі знаменитим комп’ютерним вченим і математиком Аланом Тюрінгом.
Маск пише: “Щось, пов’язане з Тюрінгом, що не звучить занадто зловісно, може бути хорошим. Однак хочеться уникнути асоціації з тестом Тюрінга, оскільки це звучить занадто схоже на те, що ми замінюємо людей”.
*Доказ № 14
Обмін електронними листами між Альтманом та Маском у грудні 2015 року, де вони розробляють початкові параграфи місії та прес-релізу OpenAI. Маск каже, що “вся мета цього випуску — залучити найкращих талановитих співробітників”. Вони обговорюють формулювання, і кінцевий результат не надто відрізняється від оригінального чернетки Маска.
Маск пише у своєму чернетці: “результат цього підприємства невизначений, а оплата низька порівняно з тим, що запропонують інші, але ми вважаємо, що мета і структура правильні”. Альтман пише у своєму чернетці: “оскільки ми не маємо жодних фінансових зобов’язань, ми можемо зосередитися на максимальному позитивному впливі на людство та якомога ширшому розповсюдженні технології ШІ”.
Доказ № 16
Офіційна реєстрація OpenAI, подана 8 грудня 2015 року. Документ стверджує, що OpenAI “є некомерційною корпорацією, організованою виключно для благодійних цілей”, і що її мета — “забезпечити, щоб штучний загальний інтелект приносив користь усьому людству, зокрема шляхом проведення та/або фінансування досліджень штучного інтелекту. Корпорація також може досліджувати та/або іншим чином підтримувати зусилля щодо безпечної розробки та розповсюдження такої технології та її супутніх переваг, включаючи аналіз суспільних наслідків технології та підтримку пов’язаних освітніх, економічних та політик безпеки, досліджень та ініціатив”.
Документ продовжує: “Отримані технології приноситимуть користь громадськості, і корпорація прагнутиме розповсюджувати їх на благо громадськості, де це доречно. Корпорація не організована для приватного прибутку будь-якої особи”.
Доказ № 70
Обмін електронними листами між Маском та генеральним директором Nvidia Дженсеном Хуангом у квітні 2016 року. Маск запитує Хуанга, чи може команда OpenAI купити ранній екземпляр суперкомп’ютера, наголошуючи, що “OpenAI не пов’язана з Tesla. Це некомерційна організація, фінансована мною та кількома іншими з метою розробки безпечного AGI (і, сподіваюся, не прокладання дороги в пекло добрими намірами)”.
Хуанг відповідає, що він “переконається, що OpenAI отримає один з перших”.
Доказ № 388
Фотографія Дженсена Хуанга, який, очевидно, доставляє зазначений комп’ютер. Поруч стоїть Ілон Маск.
На стіні за ним — довга цитата, яку іноді приписують адміралу ВМС США Гімену Г. Рікковеру, що повторюється в блозі Альтмана 2013 року. (The Verge не зміг негайно підтвердити, що вся цитата належить Рікковеру; в публікації ВМС США, приписуваній адміралу, з’являється лише частина цитати: “Людина має велику здатність до зусиль. Але вона набагато більша, ніж ми думаємо, що мало хто коли-небудь досягає цієї здатності”).
*Доказ № 152
В обміні електронними листами між Маском та Шівон Зіліс, головним радником Маска, яка згодом увійшла до ради директорів OpenAI та з якою Маск згодом мав кількох дітей, у серпні 2017 року. Зіліс пише резюме своєї зустрічі з Брокманом та Суцкевером, викладаючи сім невирішених запитань. Вона зазначає, що Брокман та Суцкевер згодні з тим, щоб Маск проводив менше часу в компанії та мав менше контролю, або проводив більше часу та мав більше контролю, але не менше часу та більше контролю. Вони також сподіваються залучити значно більше 100 мільйонів доларів для початку, оскільки побоюються, що один лише центр обробки даних, який їм потрібен, коштуватиме стільки. Вона каже, що Брокман відносно наполягає на рівному розподілі акцій. Вони також, пише вона, стурбовані контролем Маска над компанією. У своїх нотатках, що резюмують їхні занепокоєння, Зіліс пише: “Чи є вимогою абсолютний контроль? Вони дивуються, чи існує сценарій, за якого могло б виникнути якесь творче право вето, якщо буквально всі інші не погодяться з напрямком”.
Найбільша точка напруження, пише Зіліс, здається, стосується тривалості контролю Маска над компанією, незважаючи на його частку власності. ” *Необхідною умовою* здається залізобетонна угода про те, що жодна особа не матиме абсолютного контролю над AGI, якщо він буде створений. Задоволення цієї вимоги означає ситуацію, за якої, незалежно від того, що станеться з цими трьома ( [Грегом, Іллею та Семом]), буде гарантовано, що влада над компанією буде розподілена після початкового періоду тривалістю 2-3 роки… Залізобетонна угода про 2-3 роки міноритарного контролю, незалежно від долі Грега / Сема / Іллі”.
Маск відповідає: “Це дуже дратує. Будь ласка, заохочуйте їх піти та заснувати компанію. Мені цього достатньо”.
*Доказ № 153
Електронний лист від вересня 2017 року до Маска від Джареда Бірчалла, радника Маска та керівника його сімейного офісу. Він додає “більш зручну для користувача версію таблиці капіталізації, яку пропонують Ілля та Грег”.
У ній Маск зазначений як власник 51,20% акцій, тоді як Альтман, Суцкевер і Брокман мають по 11,01% відповідно. Також зарезервовано частку для співробітників, і таблиця капіталізації містить ім’я або прізвисько кожного початкового співробітника, за яким слідує запропонована частка акцій.
За даними порталу: www.theverge.com