ИИ опять показал свою неэффективность --------------------------------------- 👁 Британские власти тайно создали масштабную систему машинного обучения для предсказания преступлений и выявления уязвимых граждан, но в итоге свернули ключевые алгоритмы из-за катастрофической неточности, — об этом сообщает издание WIRED, проведшее расследование Полицейское управление Эйвона и Сомерсета разработало не менее 23 предиктивных моделей, оценивавших риск, что наблюдаемая персона может совершить кражу со взломом, не явиться в суд ил и же наоборот стать жертвой эксплуатации несовершеннолетних. Система опиралась на базу данных Think Family, собиравшую чувствительную информацию о почти полумиллионе жителей Бристоля — от данных о жилье и психическом здоровье до оперативных данных. Однако независимый аудит показал, что большинство моделей работали с крайне низкой точностью: алгоритм по выявлению грабителей три года давал результат ниже 10%, то есть из десяти «высокорискованных» лиц реально нарушало закон менее одного. При этом жертвы сексуальных преступлений систематически получали более низкие оценки риска, чем осуждённые за кражи. Когда полиция ограничила входные данные исключительно собственными записями, исключив социальные факторы, система полностью дискредитировала себя: дети, нуждавшиеся в экстренной защите, пропадали из выдачи алгоритмов. Социальные работники отказались опираться на машинные оценки, а сотрудники муниципалитета жаловались на полное отсутствие прозрачности расчётов. К июню 2023 года власти Бристоля тихо свернули модели, нацеленные на выявление сексуальной и криминальной эксплуатации детей. Парадоксально, но провал регионального эксперимента совпал с национальной экспансией ИИ в правоохранительных органах. Британское правительство запустило программу PoliceAI стоимостью £75 млн для внедрения алгоритмов в 43 полицейских управлениях Англии и Уэльса. Курирует национальный проект Энди Марш — бывший начальник полиции Эйвона и Сомерсета, который когда-то лично лоббировал именно ту самую бристольскую систему предиктивной аналитики. ------------------------------ Судя по многим признакам, ИИ вводится в элементы госуправления отнюдь не для эффективности, а для того, чтобы любому чиновнику была дана власть принимать любые решения, исходя из своих интересов, прикрываясь алгоритмами бездушного искусственного интеллекта. Подписаться на телеканал «Сталинград»