Полиция города Дарема на севере Англии запускает компьютерную программу, которая должна помочь определить, кого следует содержать под стражей, а кого можно отпустить. Алгоритм классифицирует задержанных по степени риска — с какой вероятностью они могут вновь совершить преступление.
Программа Harm Assessment Risk Tool (Hart) «изучала» данные полиции Дарема об арестах за период между 2008 и 2012 годами. Затем система была протестирована, после чего в течение двух лет полицейские отслеживали, вернулись ли освобожденные к преступной жизни или нет.
Как выяснилось, алгоритм мог предсказать, что задержанный не представляет опасности в 98% случаев. А находящихся в группе «высокого риска» компьютер правильно выявлял в 88% случаев, пишет ВВС.
По словам разработчиков, программа может быть хорошим помощником во многих случаях: когда полиции следует решить, держать ли задержанного еще несколько часов; следует ли отпустить его под залог до того, как ему будут предъявлены официальные обвинения, и стоит ли держать его под арестом после предъявления обвинений.
Однако, по мнению критиков алгоритма, в него заложена расовая необъективность: программа давала гораздо более негативные прогнозы в отношении чернокожих арестантов по сравнению с белыми задержанными. Отмечаются и другие недостатки.
Например, система оперирует лишь данными даремской полиции. Это означает, что если человек совершил тяжкие преступления в других регионах Британии, алгоритм не сможет точно определить, насколько он опасен.
Но разработчики не намерены отказываться от своей идеи. «Потенциально компьютеры — при наличии достаточного количества информации — могут принимать гораздо более точные решения, чем люди», — считают эксперты.
Материалы по теме
Комментарии
К статье не оставили пока что ни одного комментария. Напишите свой — и будете первым!