Компьютер не смог эффективно выявить преступников-рецидивистов

Исследователи из Дартмутского колледжа в США оценили, насколько эффективен алгоритм COMPAS, оценивающий вероятность рецидива преступления у обвиняемых. Программа успешно выявляла преступников-рецидивистов лишь в 65% случаев. Люди без специального образования и опыта вынесения приговоров справлялись с этой задачей в 67% случаев, зная лишь возраст, пол и историю преступлений обвиняемого. Авторы новой работы считают: полагаться на такие алгоритмы в реальной судебной практике пока не стоит — вероятность ошибки слишком велика.

Программу COMPAS разработали в 1998 году, с тех пор с ее помощью успели оценить поведение более миллиона обвиняемых. Алгоритм анализирует 137 параметров биографии осужденного, включая тяжесть предыдущих преступлений, уровень образования и доходов человека, его семейный статус и наличие зависимостей. Также программа учитывает результаты психологических тестов преступника, в том числе темперамент, готовность к риску, степень нарциссизма и склонности к чувству вины. На основе этих данных COMPAS прогнозирует, какова вероятность преступного рецидива в следующие два года. В последние годы популярность таких алгоритмов растет — их результаты используют в качестве материалов в суде.

В 2016 году некоммерческая организация ProPublica уличила COMPAS в склонности к расизму: оказалось, что программа часто переоценивает риск рецидивов у чернокожих осужденных. Авторы новой работы использовали ту же базу данных, содержащую информацию о 7214 обвиняемых. Ученые пригласили 400 добровольцев, не имеющих опыта участия в судебных процессах. Участники опыта получили небольшие описания преступников: их возраст, пол и список преступлений с указанием степени тяжести. На основе этой информации участники оценивали, совершал ли человек преступления в течение двух лет после освобождения.

COMPAS находил верный ответ в 65% случаев, люди — в 67%. На втором этапе исследования эффективность COMPAS сравнили с другим алгоритмом, в распоряжении которого была только информация о возрасте обвиняемого и количестве преступлений в его прошлом. Результаты обеих программ оказались сопоставимы.

Авторы работы считают, что подобные алгоритмы требуют более тщательной разработки. Сегодня их точность сравнительно невелика, поэтому использовать результаты в суде нужно с осторожностью.

Исследование опубликовано в журнале Science Advances.

Ранее ученые разработали алгоритм, способный распознать предумышленный характер преступления по активности мозга преступника.