В ряде городов США работа правоохранительных органов и местной судебной системы вот уже несколько лет строится на показаниях аналитических программ, которые еще называют «программы предсказания преступлений». Эти программы анализируют статистику и выдают рекомендации. По ним строятся оптимальные маршруты ночного патрулирования с указанием потенциально опасного времени для каждого района или составляются списки вероятных будущих преступников для наблюдения и оперативного пресечения возможных неправомерных действий. Всего программ по штатам существует немало, разработаны они разными компаниями и зарекомендовали себя высокой точностью: к примеру, в Чикаго более 70% жертв огнестрельных ранений присутствовали в заранее составленном списке, а 80% стрелявших – в аналогичном списке преступников.
В судебной системе аналитические программы используют для вычисления так называемого показателя риска (risk assessment score) – то есть вероятности повторного нарушения закона уже привлеченным к ответственности лицом. Такой показатель влияет на тяжесть приговора, размер залоговой суммы, выбор меры пресечения и тому подобное.
Анализ журнала ProPublica более 7 000 дел в округе Броуард (Флорида) показал, что программа компании Northpointe в два раза чаще выдает негативное предсказание афроамериканцам. Журналисты обвинили Northpointe в расизме и призвали исключить программу из действующей системы. Однако специалисты Northpointe выступили с развернутой защитой, где уверили правоохранительную систему в том, что в их алгоритме не используется фактор расы, но учитываются другие факторы, которые сильно коррелируют с расой: уровень образования, статус занятости, криминальная история родственников, прием запрещенных наркотиков друзьями / знакомыми и тому подобное.
