Поліцейські у США затримали підлітка з пачкою чіпсів через помилку ШІ

Фото: Getty Images

У Балтиморі в США 16-річного школяра оточили озброєні поліцейські через хибний сигнал штучного інтелекту. Алгоритм розпізнав у нього зброю, але в руках у підлітка була всього лише порожня пачка чіпсів Doritos.

Як розповів потерпілий Такі Аллен місцевому телеканалу WMAR-2, після тренування він їв чіпси, а через 20 хвилин біля школи зупинилися 8 поліцейських машин. Офіцери наказали йому встати на коліна і вдягли кайданки: "Вони всі вийшли зі зброєю, спрямованою на мене. Казали лягти на землю".

Поліція округу Балтимор пізніше заявила, що діяла "відповідно до отриманої інформації" і відпустила підлітка, коли переконалася, що загрози немає.

Помилка сталася через збій у роботі шкільної системи відеоспостереження з ШІ-детектором зброї, розробленим компанією Omnilert. Алгоритм зафіксував "підозрілий об'єкт", який здався схожим на пістолет.

Зображення відправили на перевірку операторам і ті підтвердили, що загрози немає. Але директор школи не помітила цей звіт і повідомила про тривогу команді безпеки, яка викликала поліцію.

Компанія Omnilert вибачилася і заявила, що система спрацювала як задумано. Однак багато місцевих політиків і батьків вимагають перегляду процедур і точності подібних рішень.

Місцевий депутат Іззі Пакота вже звернувся до департаменту освіти округу з проханням перевірити використання ШІ-детекторів зброї в школах. Сам Аллен тепер намагається не виходити після тренувань: "Не відчуваю себе в безпеці - особливо якщо просто їм чіпси".

Карпова Рада
Журналист ATinform