Компанія, що стоїть за системою “виявлення зброї за допомогою ШІ”, опинилася під судом. Наштовхнувшись на позов від постраждалого у перестрілці в школі Теннессі, розробники системи не змогли виявити пістолет, який використав нападник.
Позов, поданий минулого місяця і помічений виданням Ars Technica, спрямований проти Omnilert, розробника та маркетингового провайдера системи ШІ для виявлення зброї, та System Integrations, компанії, яка займалася встановленням та обслуговуванням. Позивачем виступає Антоніус Хенін, якого під час стрілянини в школі Antioch High School в Нешвіллі в січні 2025 року було поранено в руку. Зловмисник відкрив вогонь у їдальні, вбивши одного учня, а потім наклавши на себе руки.
Omnilert знала або мала б знати про “суттєві операційні обмеження своїх систем виявлення зброї, які можуть призвести до збоїв у виявленні під час реальних надзвичайних ситуацій”, – стверджує позов. Далі в ньому перелічено численні гучні заяви, зроблені Omnilert у своїх маркетингових матеріалах, яким продукт, очевидно, не відповідав. Компанія хвалилася “неперевершеною надійністю” та здатністю виявити зброю “до пострілу”.
“Omnilert також стверджувала, що візуальне виявлення зброї за допомогою ШІ ‘могло б пом’якшити або запобігти трагедії в школі Marjory Stoneman Douglas’, виявляючи загрози раніше, — посилаючись на одну з найруйнівніших шкільних стрілянин у країні, щоб донести, що її продукт запобігатиме подібним трагедіям”, — продовжується в позові.
Систему ШІ було розгорнуто після того, як у 2023 році Департамент освіти Метрополітен-Нешвілла схвалив контракт на 1 мільйон доларів з Omnilert та System Integrations. Після стрілянини генеральний директор Omnilert Дейв Фрейзер, схоже, припускав, що система ШІ не зазнала збою; стрілець був просто випадково розташований відносно камер.
“Розташування стрільця та вогнепальної зброї означало, що зброя не була видимою, — заявив Фрейзер NBC News у той час. — Це не випадок, коли система не розпізнала вогнепальну зброю”.
Представник MNPS, у свою чергу, повторив аргументацію Фрейзера, по суті, посилаючись на прислів’я, що ніщо не ідеальне. “Вона працює, але не буде працювати в кожному випадку, в кожному місці, залежно від того, де зброя може бути видимою”, — сказав речник NBC News.
Кріс Сміт, один з адвокатів позивача, скептично ставився до виявлення зброї за допомогою ШІ і вважав сумнівним перелік конкретних ситуаційних умов, які мають бути виконані для належної роботи системи.
“Я просто думав, що це якась нісенітниця. У мене є Tesla, і я вважаю, що автопілот Tesla — це нісенітниця, — сказав Сміт Ars. — Це ще не готове до використання! Як ви можете цьому довіряти? Це ваш план захисту дітей від шкільних перестрілок? Чому це краще за металошукач?”
Це не перший випадок, коли Omnilert потрапляє в заголовки негативних новин. У жовтні 2025 року технологія виявлення зброї за допомогою ШІ сплутала пакет чіпсів Doritos зі зброєю, викликавши цілу армію поліцейських на нещасного 16-річного учня, чий єдиний “злочин” — це те, що він приніс закуску. Через кілька місяців інша система спостереження на базі ШІ, ZeroEyes, спричинила блокування школи після схожого “галюциногенного” випадку, коли система помилково ідентифікувала кларнет школяра як зброю.
Однак, незважаючи на сумнівну репутацію цих інструментів, системи спостереження на базі ШІ все частіше використовуються в школах по всій країні. Чи є вони справжньою спробою зробити школи безпечнішими, чи це робота винахідливих стартапів, які створюють фасад безпеки, вражаючи стурбованих батьків та адміністраторів яскравими обіцянками ШІ, критики вважають, що мільйони доларів, витрачені на їх розгортання, краще було б використати в іншому місці.
“Я ніколи не бачив шкільної стрілянини, де бракувало б сповіщення”, — сказав Ars Девід Ріедман, експерт з питань освіти та безпеки, який веде базу даних шкільних перестрілок K-12. Гроші, витрачені на розгортання Omnilert, “могли б піти на психолога або на щось інше для дитини в кризовій ситуації”, — додав він. “Кожне ваше рішення означає відведення ресурсів від чогось іншого”.
За матеріалами: futurism.com