На початку цього року 23-річний юнак без формальної математичної освіти потрапив у заголовки ЗМІ, стверджуючи, що використав ChatGPT від OpenAI для розв’язання однієї з «проблем Ердьоша» — бази даних складних гіпотез, залишених угорським математиком Палом Ердьошем.
Минулого місяця науковці були здивовані, коли OpenAI заявила, що їхній ШІ спростував 80-річну гіпотезу «одиничної відстані», яка також була розроблена Ердьошем.
«Це вперше, коли ШІ самостійно вирішив відому відкриту проблему, яка є центральною для галузі математики», — хвалилися тоді в OpenAI.
Однак, чи справді передові моделі ШІ, що лежать в основі таких інструментів, як ChatGPT, є значним стрибком у нашій здатності розв’язувати проблеми, що мучать математиків десятиліттями, залишається предметом палких дебатів серед експертів.
В, мабуть, найсильнішому на сьогодні публічному засудженні, нова декларація, підписана понад 150 експертами з математики з усього світу, закликає уряди «не вірити ажіотажу» щодо можливостей ШІ у розв’язанні складних математичних завдань, охолоджуючи заяви про революцію в цій галузі.
У заяві, що супроводжує 11-сторінкову «Лейденську декларацію щодо ШІ та математики», віцепрезидент Міжнародного математичного союзу Ульріке Тільманн стверджувала, що ШІ «піднімає питання, які не можна залишати без розгляду».
«Майбутнє математичних досліджень має керуватися людським судженням, справедливими та прозорими практиками, а також спільними цінностями світової математичної спільноти», — сказала Тільманн.
«Наразі існує сильний комерційний стимул з боку технологічної індустрії завищувати можливості своїх продуктів», — йдеться в декларації, яка радить політикам «консультуватися з експертами, включаючи математиків, при формуванні політичних рішень, а не покладатися на прес-релізи чи популярні повідомлення про математичні результати».
Щоб ще гірше, моделі ШІ можуть генерувати переконливі, але насправді не витримають перевірки рішення.
«Сучасні автоматизовані методи можуть створювати правдоподібні, але ненадійні (або навіть неправильні) аргументи, які важко відрізнити від коректних математичних доведень», — заявила Леслі Енн Голдберг, керівниця кафедри комп’ютерних наук Оксфордського університету, яка підписала декларацію. «Це серйозна проблема: дослідження в математиці (і в таких математичних дисциплінах, як теоретична інформатика) майже завжди спираються на попередні дослідження, тому дослідникам надзвичайно важливо знати, що результати в літературі є правильними».
Декларація підкреслила вкрай нестабільне становище, в якому опиняються багато науковців. Залучення нового фінансування виявляється складним, тоді як інтерес до ШІ продовжує зростати, часто змушуючи їх підтримувати цю технологію за будь-яку ціну.
«Ми визнаємо, що індустрія запропонувала вигідні робочі місця, грошові винагороди, обчислювальні ресурси та інтелектуально стимулюючі можливості, які деякі математики вважали привабливими», — йдеться в документі. «Це відбувалося в епоху недофінансування вищої освіти та нестабільної академічної зайнятості».
У документі також зазначалося, що існує безліч інших причин для заклику до регуляторного нагляду, окрім сфери математики, вказуючи на «залученість індустрії ШІ до військових програм та програм масового спостереження, розробку технологій, що сприяють дезінформації та підривають демократію, а також екологічні витрати».
Коротше кажучи, це потужне засудження постійного ажіотажу навколо ШІ та заклик до обмеження його використання, що резонує далеко за межами світу математики. Ширша наукова спільнота переживає шквал публікацій, які активно використовують ШІ, ризикуючи забруднити процес рецензування «галюцинаціями».
Це також слушне нагадування про те, що моделі ШІ навчаються на передових дослідженнях, часто без згоди оригінальних авторів.
«Математиків, які ніколи не мали наміру брати участь у розробці ШІ, використовують для цієї мети без їхньої згоди», — сказав Scientific American антрополог ШІ Лейденського університету Родріго Очігаме, який допомагав складати декларацію. «Я вважаю, що це глибоко тривожна ситуація».
За матеріалами: futurism.com