Чи може штучний інтелект у медицині руйнувати життя пацієнтів? Одне з найбільших медичних об’єднань, що активно впроваджує ШІ, стикається з серйозними звинуваченнями.
У новому цивільному позові колишня директорка з досліджень та керівниця з питань відповідності ШІ у Mayo Clinic, Трейсі Таміко Ето, стверджує, що всесвітньо відома клініка відплатила їй за викриття критичних недоліків у впровадженні медичних інструментів на базі ШІ.
Як повідомляє Minnesota Public Radio, Ето приєдналася до Mayo Clinic у 2023 році. Після виявлення потенційних проблем із конфіденційністю, пов’язаних з платформою Mayo Clinic Platform, інтегрованою системою даних на основі ШІ, Ето заявила, що її керівник проігнорував її занепокоєння. Натомість, за її словами, начальник “наполягав”, що виправлення проблеми “ставить під загрозу темп поточних дослідницьких проєктів, що, у свою чергу, компрометує конкурентну перевагу Mayo”.
Ето продовжила, як повідомляє MPR, вказуючи на численні порушення федеральних правил щодо перегляду нових технологій з боку вищого керівництва Mayo Clinic. Йдеться, зокрема, про MAYA – цифрового помічника клініки з інтегрованим ШІ. Згідно з позовом, команда, що працювала над MAYA, видалила невтішні результати тестів, спотворила можливості інструменту та приймала рішення, які поставили під загрозу безпеку даних.
У своїх десятьох окремих скаргах викривача, зазначає MPR, прихована інформація про те, що команда MAYA знала про показник помилок інструменту до 67 відсотків. Ето стверджує, що замість того, щоб повідомити цю жахливу цифру, співробітники MAYA намагалися її приховати.
Внаслідок цього, за словами Ето, на початку 2025 року її почали виключати з нарад керівництва, а потім заявили, що вона “погано вписується в корпоративну культуру”. Їй запропонували вибір, стверджує позов: або піти у відставку, або зіткнутися зі змінами у її особовій справі, “які зробили б її непридатною для працевлаштування в Mayo та перешкоджали б її кар’єрі поза межами установи”.
Оскільки великий судовий процес триває, загроза кар’єрних наслідків залишається.
“Коли людина вирішує, що вона готова подати позов проти публічного гіганта з питань, які є гарячими темами в нашій країні, вона буквально ризикує своєю кар’єрою”, – розповів MPR адвокат Ето, Артур Девіс. “Вона ризикує професійними нападками. Вона ризикує своєю репутацією, і те, що вона це робить, свідчить про її впевненість у власній правоті”.
Mayo відреагувала на позов досить стримано.
“Наші дослідження та клінічні інновації проводяться відповідно до чинних законів та нормативних актів, і ми залишаємося непохитними у дотриманні довіри, яку пацієнти надають нам, та повазі до їхньої конфіденційності”, – заявив представник відділу комунікацій організації для MPR. “Mayo Clinic не коментує судові процеси, що перебувають на розгляді або є активними”.
Хоча позов обертається навколо незаконного звільнення Ето, він є значним показником стану інструментів ШІ в медичному просторі. Якщо медичний титан, подібний до Mayo Clinic, бреше про ефективність своїх інтегрованих інструментів ШІ, що це означає для решти галузі?
“Якщо [люди] дбають про ідею, що ШІ має використовуватися відповідально, – сказав Девіс, – з доброчесністю, і повинні існувати правила та керівні принципи, то ця справа має мати для вас значення”.
Оригінал статті: futurism.com