Detected language: English.
AI-КОД: РЕВОЛЮЦІЯ ЧИ КОЛАПС?
Корпорації з шаленою швидкістю опановують штучний інтелект (ШІ) для генерації гори коду. Зовні це подається як революція продуктивності. Але зазирнувши за лаштунки, як це зробила The New York Times, ми бачимо дещо іншу, і, чесно кажучи, комічну картину. Розгублені програмісти обтяжені такою кількістю коду, що не знають, що з ним робити, тоді як їхні роботодавці намагаються знайти найкращий спосіб перевірити всю цю поспіхом написану роботу ШІ.
Справжній Кодний Потоп
Одна фінансова компанія, наприклад, побачила, як її випуск коду зріс удесятеро після впровадження популярного інструменту ШІ Cursor. Результатом стала епічна черга з мільйона рядків коду, який потребує перегляду, за словами Джоні Кліпперта, генерального директора стартапу з безпеки StackHawk, який співпрацює з цією фінансовою установою.
І цей кодний надлишок не можна ігнорувати. Залишений без контролю, поганий код — незалежно від того, чи він згенерований ШІ, чи написаний людиною — може загальмувати роботу програмного забезпечення та створити вразливості безпеки. Amazon та Meta нещодавно зазнали збоїв після того, як інструменти ШІ вчинили несанкціоновані дії, і це лише ті випадки, про які ми чули.
“Просто величезна кількість коду, що постачається, та збільшення вразливостей — це те, з чим вони не можуть впоратися”, — сказав Кліпперт NYT. Прискорений випуск коду створив “багато стресу” в інших відділах, таких як відділи продажів і маркетингової підтримки, додала вона.
Ми зараз перебуваємо в цікавій точці впливу ШІ на робочому місці. Його використовували для обґрунтування скорочення робочих місць по всьому світу: один звіт виявив, що ШІ згадувався в оголошеннях про звільнення понад 54 000 осіб минулого року. Цього року це торкнулося таких великих технологічних компаній, як фінтех-фірма Джека Дорсі Block та програмний гігант Atlassian, які звільнили тисячі співробітників, хвалячись переходом на ШІ.
Водночас, коли робочі місця скорочуються, ШІ також створює більше роботи, яку краще було б виконати іншій людині. Хтось мусить тестувати код ШІ, і традиційно це робив той, хто його написав — але зараз вони надто зайняті, генеруючи запити для ШІ-агентів. Хто має заповнити цю прогалину, незрозуміло.
“На планеті просто недостатньо інженерів з безпеки додатків, щоб задовольнити потреби лише американських компаній”, — сказав Джо Салліван, радник Costanoa Ventures, NYT.
Більше того, ШІ може фактично ускладнювати роботу програмістів. Інженери програмного забезпечення зізнаються, що очікування продукувати більше коду, постійно контролюючи свої ШІ-інструменти, прискорює їхнє вигорання — явище, яке задокументовано в нових дослідженнях на цю тему. Одне поточне дослідження назвало цей вплив на психічне здоров’я ШІ “мозковим обсмажуванням”.
Компанії все ще намагаються вирішити проблему надлишку коду. “Благословення і прокляття полягає в тому, що тепер кожен у вашій компанії стає кодером”, — сказав Мішель Кастаста, президент і керівник відділу ШІ в стартапі Replit, NYT.
Сачін Камдар з AI-агентного стартапу Elvix зайняв жорстку позицію: весь код повинен бути переглянутий людиною, оскільки буде важче виправити його пізніше, якщо ніхто не розумітиме, що саме вигадав ШІ. “Це просто щось зламає, і вони не знатимуть, чому це зламалося”, — сказав він NYT.
Іншим рішенням є застосування ще більшої кількості ШІ для вирішення проблеми. Anthropic та OpenAI випустили ШІ-агентів, призначених для перегляду коду. А в грудні Cursor, постачальник галасливого інструменту для кодування на базі ШІ, придбав стартап Graphite, який розробляє платформу для перегляду коду за допомогою ШІ.
💥 Думка редакції Бомба Новини:
Ця технологія — справжній двосічний меч, який може змінити правила гри. З одного боку, потенціал для зростання продуктивності та інновацій приголомшує. З іншого боку, ризик хаосу, зниження якості та вигорання співробітників є цілком реальними. Ми вважаємо, що успіх залежатиме від того, чи зможуть компанії знайти баланс між автоматизацією та людським контролем. Якщо вдасться побудувати ефективні системи перевірки та інтеграції, це може стати початком нової ери ефективності. Але якщо це призведе лише до ще більшого безладу та втоми, то це буде лише черговий маркетинговий трюк, який швидко розвіється.
Джерело новини: futurism.com