Робокоп с предрассудками: чему ИИ учится у полиции По мере развития ИИ его всё активнее начинают использовать правоохранительные органы разных стран. Особенно для обработки огромных массивов данных и прогноза преступлений. Но есть подводные камни. Британский научный автор Адриан Дредж посвятил этой проблеме эссе, победившее в конкурсе Young Science Writer Award 2026. BBC опубликовала его сокращённую версию. А мы сократим еще сильнее) и перескажем только выводы: ⭕️ ИИ наследует предрассудки. Если полиция раньше чаще проверяла определенные районы или группы, алгоритм решит, что там больше преступности. Хотя статистика отражает и активность самой полиции. ⭕️ Замкнутый круг. Если ИИ называет район опасным, туда шлют больше патрулей. Соответственно, там фиксируют больше нарушений, и алгоритм снова «убеждается» в том, что был прав. ⭕️ Предвзятое обучение. Еще в 2019 году исследователи Нью-Йоркского университета изучили работу полиции в 13 американских городах и округах, где применялись или разрабатывались системы прогнозирования преступлений. И вот в 9 случаях алгоритмам были доступны данные, собранные с нарушением закона или с дискриминацией. Например, в Чикаго полиция годами непропорционально часто останавливала и проверяла темнокожих жителей. Собранные в ходе подобных практик сведения попадали в базы данных, которые затем использовались для прогнозирования преступности. ⭕️ Усиление неравенства. Причём речь не только о расовой дискриминации. Алгоритмы могут несправедливо оценивать людей в зависимости от возраста, пола, дохода, места проживания или состояния здоровья. Например, медицинский ИИ определял, кому из пациентов необходима дополнительная помощь, ориентируясь на расходы на их лечение. Но на некоторые группы пациентов исторически тратили меньше денег — не потому, что они меньше болели, а из-за неравного доступа к медицинской помощи. В результате алгоритм недооценивал их реальные потребности. TMT Channel | Подписаться