Британские власти тайно создали масштабную систему машинного обучения для предсказания преступлений и выявления уязвимых граждан, но в итоге свернули ключевые алгоритмы из-за катастрофической неточности, — об этом сообщает издание WIRED, проведшее расследование. Полицейское управление Эйвона и Сомерсета разработало не менее 23 предиктивных моделей, оценивавших риск, что наблюдаемая персона может совершить кражу со взломом, не явиться в суд ил и же наоборот стать жертвой эксплуатации несовершеннолетних. Вообще, такие истории были задолго до нейросетей. Компьютерные программы довольно однозначно показывали, что преступники вероятнее всего - темнокожие, бедные, необразованные. По идейным соображениям такие программы свернули. Сейчас, если в нейросеть запихнуть и реальные данные и идеологические установки - они сломаются и будут выдавать бред. Классика.