Юристка працювала в стартапі, що займався юридичними технологіями, коли захоплення її боса штучним інтелектом (ШІ) почало переходити від ентуризму до відвертої одержимості.
Спочатку він почав використовувати ChatGPT від OpenAI для генерації своїх повідомлень у Slack та електронних листів. Потім він зобов’язав усіх співробітників використовувати ШІ.
«Він скликав загальнокорпоративні збори, щоб оголосити, що відтепер ми повинні консультуватися з ШІ перед усіма нарадами або перед спілкуванням з ним», — розповіла вона Futurism, — «тому що, якщо ми не розробляємо та не обговорюємо наші ідеї з ШІ спочатку, це свідчить про те, що ми не дбаємо про свою роботу».
Невдовзі її бос почав «приймати структурні корпоративні рішення, виключно ґрунтуючись на своїх розмовах із ChatGPT», — згадує адвокатка, — включно із запитаннями до бота, кого наймати та звільняти.
Бос «явно розвинув якийсь психічний розлад», — сказала вона. «Витрачати весь день на розмови з ChatGPT та приймати рішення щодо майбутнього вашої компанії та людей, які там працюють, ґрунтуючись на тому, що він «говорить», здається божевіллям».
Бос також використовував ШІ для стеження. Він придбав кілька платних підписок ChatGPT для офісу, розповіла юристка, що дозволило йому «відстежувати наше спілкування з ШІ».
«Він оплатив, здається, три Pro-підписки, до яких усі мали доступ», — пояснила вона.
Але співробітники швидко зрозуміли, що вони також можуть переглядати розмови свого боса з чат-ботом через платні облікові записи, і вони почали фанатично шпигувати за його розмовами з ШІ, особливо коли зрозуміли, що він просить його приймати кадрових рішення.
Працівники «стежили за розмовами, які наш бос вів із ChatGPT», — сказала юристка, — «щоб дізнатися, кого збираються звільнити, а кого — підвищити».
Щоб ускладнити ситуацію, одержимість її боса ШІ призводила до постійних змін курсу.
«Він скликав наради, щоб сказати нам, що ChatGPT сказав йому, що основною причиною смерті у світі є медична недбалість, тому саме це ми тепер будемо пропонувати людям», — сказала юристка. «Потім, після інших [ШІ] розмов, нам краще зосередитися на банкрутстві».
Різкі зміни торкнулися і її власних обов’язків, які, за її словами, також залежали від «візіря» її боса — чат-бота.
«За час моєї роботи я мала три різні посади чи титули», — продовжила вона. «Залежно від розмов, які він вів з ШІ щотижня, мої функції та обов’язки в компанії постійно змінювалися: я мала автоматизувати певні процеси, потім розробляти юридичні стратегії, потім керувати командами, потім зосередитися на продажах, і так протягом багатьох місяців. Все ґрунтувалося на тому, що йому говорив ChatGPT».
Останньою краплею стало те, що її бос створив документ, який він назвав «Біблією» — постійно мінливим посібником довжиною в сотні сторінок, який співробітникам пропонувалося вивчати як святе писання.
«Метою цієї «Біблії» було те, щоб співробітники ніколи нічого не питали у людини. Ми повинні були мати можливість завантажити цей PDF до ChatGPT та запитати: «Що мені робити сьогодні? Які мої функції? Як мені вирішити ту чи іншу проблему?» — сказала юристка. Зрештою, «Біблія» перетворилася на «документ довжиною в сотні сторінок, який ми повинні були вивчати, і який, на подив нікого, змінювався щотижня».
Зіткнувшись із «Біблією», юристка відчула, що в неї залишився лише один вихід: звільнення.
«Я звільнилася на 100% через використання ШІ», — сказала вона.
Ця юристка була однією з численних співробітників, які розповіли Futurism про свій досвід спілкування з одержимими ШІ босами, передаючи почуття розчарування та гніву, коли менеджери та керівники використовують технології для закидання співробітників безглуздими наказами, непотрібною роботою та постійними змінами курсу. (Усі, з ким ми спілкувалися, просили анонімності, щоб уникнути помсти).
Підсумуйте все, і ви отримаєте чітко новий тип токсичного робочого середовища епохи «сміття». Slate раніше цього року надав більше доказів цього явища; один працівник розповів виданню, що менеджери «отримують дірки в мізках» через цю технологію.
У деяких випадках, як стверджують співробітники, вони відчували, що їхні роботодавці почали жити в зовсім іншій реальності. Робоче місце стало постійною боротьбою між їхньою версією реальності та версією ШІ — і їхній бос, як стверджують ці працівники, завжди обирав останню.
«Ви на передовій, спілкуєтеся з людьми день у день, ведете розмови і чуєте, що для них важливо, і передаєте цю інформацію засновнику, кажучи: «Гей, я говорив з 15 людьми цього тижня, і всі вони буквально сказали одне й те саме», — згадав чоловік, високопоставлений стратег з продажу, який також звільнився з роботи через одержимість його тодішнього боса ШІ. «І засновник каже: «Ну, це не те, що ми виявили. Це не те, що сказав Клод, або що сказав ChatGPT».
***
У багатьох випадках бос, здавалося, ставав залежним від лестощів чат-бота, плутаючи підлабузництво з неупередженим керівництвом.
«Моє бачення ШІ було дуже відмінним від бачення мого керівника. Я бачив його як інструмент, який міг допомогти аналізувати інформацію, знаходити закономірності та створювати смішні меми з котами», — сказав один працівник, ІТ-спеціаліст у технологічній компанії. «Його, здавалося, він використовував більше як цифрового священика, головна мета якого полягала в тому, щоб підтвердити, що він правий, а всі інші помиляються».
Керівник «регулярно копіював і вставляв майже кожну розмову, яку він мав зі співробітниками та менеджерами, у ChatGPT, запитуючи, чи правильно він впорався з ситуацією», — додав ІТ-працівник. «Відповідь майже завжди була варіацією «Так, ваш підхід був доречним», ефективно підтверджуючи будь-яке рішення, яке він вже прийняв».
Іншими словами, за словами співробітника, здавалося, що спроби його керівника використовувати ШІ для перегляду власної поведінки та прийняття рішень давали зворотний ефект.
Коли певні боси заглиблювалися в ШІ, вони, здавалося, ставали все менш сприйнятливими до людського зворотного зв’язку, оскільки ШІ продовжував підтверджувати їхні ідеї щодо того, що працює — або не працює — на робочому місці.
«Чувак жив ШІ», — згадав стратег з продажу про засновника та генерального директора його колишнього роботодавця, хмарної платформи «програмне забезпечення як послуга» для виробників, яка ребрендувалася як потужний, універсальний інструмент управління бізнесом на основі ШІ. (Нова платформа була значною мірою «закодована» генеральним директором, як пізніше виявив стратег).
Але нова платформа не продавалася, сказав стратег. І коли він спробував розповісти генеральному директору компанії, що говорять потенційні клієнти, чому продукт не підходить, це залишилося без уваги. Згідно з ШІ-радником його боса, винен був саме фахівець з продажу.
«ШІ казав: «О, причина, чому ви не продаєте, полягає в тому, що цей хлопець — проблема», — згадав він. «Він не знає, як продавати».
Переконаний, що проблема полягала в стратегії продажів, генеральний директор вирішив «закодувати» «інструмент розвідки продажів» та «зворотного зв’язку», призначений для того, щоб розповісти торговим представникам, що вони роблять неправильно.
Але ШІ «видасть усе, що ви хочете, щоб він видав», — сказав стратег. «Запит був: «проаналізуй це і знай усе, що реп зробив неправильно». Ну, а що, якби реп нічого не зробив неправильно? Що, якби це був насправді дуже хороший дзвінок? Він би нічого хорошого не виділив. Він би виділив тільки погане».
ШІ «видасть наратив, який ви хочете, щоб він видав», — додав він. «Якщо ви дійсно хочете, щоб ШІ сказав вам, що ваша ідея — найкраща ідея на світі, він вам це скаже».
Одного разу, як розповів стратег, генеральний директор переконався, що його співробітники не можуть знайти «зелені поля» (greenfield) компанії — бізнес-термін для абсолютно нового стартапу, збудованого на незайнятій території чи ринку — ідеально підготовлені для його технології.
Але, за словами стратега, ця ідея була абсолютно нереалістичною. У їхньому секторі компанії «зеленого поля» зазвичай були невеликими, лише з кількома співробітниками; тим часом генеральний директор наполягав на тому, щоб співробітники знаходили компанії зі 100 співробітниками або більше.
«Ви не будете просто заходити в ці компанії, де працює 100 осіб, і говорити: «Ми будемо заміною нічому». Такого не існує», — згадав стратег. «Але ШІ говорив [генеральному директору], що такі компанії існують».
«Це як бути у шлюбі, де тебе б’ють», — продовжив він. «Я сиджу тут, спілкуючись з кимось, хто не живе в реальності».
Ситуація стала настільки нестерпною, що стратег також звільнився з роботи.
Якщо у вас є історія про ШІ на робочому місці, якою ви хочете поділитися, напишіть нам: [email protected]. Ми можемо зберегти вашу анонімність.
***
Багато працівників вказували на роздратовану іронію: одержимість боса ШІ мала бути стимулом продуктивності, але натомість сприяла глибоко непродуктивним робочим середовищам.
«На мою думку, продуктивність сильно страждає», — сказала одна жінка, соціальний працівник та співробітниця некомерційної організації, яка допомагає з доставкою їжі та харчовим консультуванням. Вона пояснила, що її бос постійно звертається до чат-ботів за порадами щодо стратегії, лише щоб видати непрактичні ідеї та прогнози, які виходять за межі можливостей організації — процес, який призводить до того, що співробітниця характеризує як «петлю зворотного зв’язку», що марнує час.
«Мій бос бачить запропоновані ШІ ідеї, просить їх включити в дизайн програми, а потім ігнорує реальність того, що вони не будуть успішно працювати», — сказала співробітниця. «Потім, коли пояснюється або мій бос усвідомлює, що це не буде працювати в рамках наших поточних можливостей, вона вводить новий запит, який надає новий приклад — який здебільшого також не спрацює — і петля починається знову».
«Це призвело до зниження продуктивності, оскільки вона не затверджує жодних моїх рішень чи ідей, які відповідають нашим можливостям, тому що вони не були запропоновані ШІ», — продовжила вона. «Нічого не вирішується».
Співробітники стартапу знають, що їхній бос пропускає всю свою роботу через ChatGPT, який вона вважає найвищим авторитетом. І «за лічені хвилини» після нарад, як сказала співробітниця, бос надсилає непродуктивні згенеровані ШІ пропозиції, які малозрозумілі для того, хто насправді розуміє ситуацію.
«Після нарад, на яких обговорюються ідеї програм або конкретний курс дій, я часто отримую електронний лист від мого боса протягом кількох хвилин після закінчення наради з додатковими «ідеями» щодо того, як реалізувати зазначений курс дій», — сказала співробітниця некомерційної організації, додавши, що «ці ідеї явно скопійовані з ChatGPT» і «часто не відображають реальність того, як програма працюватиме в контексті нашої організації».
«Організації та бізнес-лідери повинні або вирішити, що вони повністю покладаються на ШІ, і позбавляти нас, людей, роботи», — додала вона, — «або довіряти, що люди, яких вони наймають, знають, що роблять».
Сьогодні, як розповів менеджер проектів, який працює в галузі дизайну та розробки веб-сайтів, його робота здебільшого зводиться до перегляду «нескінченного» потоку «сміття» від ШІ. Розробники його фірми тепер переважно «кодують» свою роботу, яку важче контролювати; розробники, які базуються в Пакистані, також тепер використовують ШІ для генерації своїх письмових звітів, які, як правило, довгі та сповнені галюцинацій, які важко помітити.
На додаток до практичних перешкод для продуктивності, які ШІ створює в його конкретній ролі, менеджер проектів продовжив, його бос — який повністю покладається на ШІ — тепер використовує загрозу заміщення роботи автоматизацією, щоб критикувати та погрожувати йому та іншим менеджерам середньої ланки.
«Природа моєї посади як менеджера проектів полягає в увазі до деталей та документації. Обидва ці обов’язки передбачають просіювання нескінченного «сміття» від розробників, і все більше в наші дні від клієнтів», — сказав менеджер проектів. «І моя робота, за словами мого боса, буде використовуватися як навчальні дані для доопрацювання ШІ, щоб, коли настане час, я став надлишковим».
«Я дійшов до того, що мені набридло чути про це щодня», — зітхнув він. «Я просто хочу отримувати зарплату і не втратити здоровий глузд».
***
Більшість людей, з якими ми спілкувалися, зазначили, що вони використовують ШІ у своїй роботі та особистому житті, і вважають, що він має цінність, коли використовується з обережністю та самосвідомістю. Але вони виявили, що використання їхніми роботодавцями перетнуло межу від корисного до корозійного — для співробітників, а також для фактичних інтересів компаній, у яких вони працюють.
«Мені подобається поєднувати технології з правом, тому що я вважаю, що існують певні інструменти, які дозволяють автоматизувати повторювані та прості процеси в юридичних процедурах», — сказала юристка, яка звільнилася з роботи після того, як її бос змусив її вивчати згенеровану ШІ «Біблію» для бізнесу. «Але я ніколи не делегувала б представництво інтересів когось іншого ШІ, і ніколи не приймала б бізнес-рішень на основі того, що говорить велика мовна модель».
Її бос завжди був технологічним оптимістом, додала вона. Однак до появи чат-ботів він «ніколи не втрачав з поля зору людський бік професії, яка, по суті, полягає в юридичному представництві людей, які переживають складні часи».
«Але як тільки стали доступні LLM (великі мовні моделі)», — додала вона, — «він остаточно злетів з котушок».
«Можливо, схильність завжди була присутня? Хто знає. Але все, що ChatGPT розпалив у ньому, значно змінило його мислення та ставлення до професії», — продовжила адвокатка. «Він більше не працює на людей; його компанія більше не юридична фірма, а технологічний стартап, який прагне використовувати ШІ для заміни юристів якомога більше».
Після розчаровуючого річного бонусу ІТ-працівник — той, хто сказав, що його колишній керівник використовував ШІ як «цифрового священика» — вирішив звернутися до ШІ за допомогою у вирішенні своїх проблем із вищим керівництвом.
«Я продовжував отримувати більше обов’язків, вищі очікування та кращі показники ефективності», — сказав працівник технологічної сфери. «Однак мій річний бонус склав 120 доларів».
«Я запитав ШІ… чи є річний бонус у 120 доларів прийнятним для когось із постійно позитивними відгуками та зростаючими обов’язками», — продовжив він. «Він, по суті, сказав, що бонус настільки низький, що багато співробітників вважали б його щонайменше символічним, а максимум — образливим».
Але цього разу його роботодавець не сприйняв добре пораду ШІ.
«Я висловив свої занепокоєння безпосередньо своєму керівнику та власнику компанії», — сказав працівник технологічної сфери. «Незабаром після цього я опинився без роботи».
Джерело новини: futurism.com