КОМПАС (программное обеспечение) - COMPAS (software)

Профили управления исправительных правонарушителей для альтернативных санкций (КОМПАС) это управление делом и инструмент поддержки принятия решений разработан и принадлежит Northpointe (сейчас Эквивалент ) использован Суды США оценить вероятность ответчик становясь рецидивист.[1][2]

КОМПАС использовался штатами США Нью-Йорк, Висконсин, Калифорния, Флорида. Округ Бровард, и другие юрисдикции.[3]

Оценка рисков

Программное обеспечение КОМПАС использует алгоритм для оценки потенциального риска рецидивизма. Нортпойнт создал шкалу риска для общего рецидива и насильственного рецидива, а также для досудебного неправомерного поведения. Согласно Практическому руководству КОМПАС, шкалы были разработаны с использованием поведенческих и психологических конструктов, «очень важных для рецидивизма и криминальной карьеры».[4]

  • Шкала риска досудебного выпуска: Досудебный риск - это мера потенциальной неявки человека и / или совершения нового уголовного преступления при освобождении. Согласно исследованию, которое послужило основой для создания шкалы, «текущие обвинения, ожидающие рассмотрения обвинения, история предыдущих арестов, предыдущие досудебные отказы, стабильность проживания, статус занятости, связи с общественностью и злоупотребление психоактивными веществами» являются наиболее значимыми показателями, влияющими на оценку риска до суда.[4]
  • Шкала общего рецидивизма: Шкала общего рецидивизма предназначена для прогнозирования новых правонарушений после освобождения и после проведения оценки COMPAS. Шкала использует криминальное прошлое человека и сообщников, причастность к наркотикам и признаки преступности несовершеннолетних.[5]
  • Шкала насильственных рецидивов: Оценка рецидивов насилия предназначена для прогнозирования насильственных преступлений после освобождения. Шкала использует данные или показатели, которые включают «историю насилия, историю несоблюдения, профессиональные / образовательные проблемы, возраст человека на момент поступления и возраст человека на момент первого ареста».[6]

Шкала риска насильственного рецидивизма рассчитывается следующим образом:

куда оценка риска насильственного рецидива, множитель веса, текущий возраст, это возраст первого ареста, это история насилия, уровень профессионального образования, и это история несоблюдения. Вес, , "определяется силой связи предмета с рецидивом правонарушений, который мы наблюдали в данных нашего исследования".[7]

Критика и судебные решения

В июле 2016 года Верховный суд штата Висконсин постановил, что оценки риска по системе КОМПАС могут учитываться судьями во время вынесения приговора, но при этом должны быть сделаны предупреждения, отражающие «ограничения и предостережения» инструмента.[3]

Общая критика использования проприетарного программного обеспечения, такого как COMPAS, заключается в том, что, поскольку используемые им алгоритмы являются коммерческие секреты, они не могут быть изучены общественностью и затронутыми сторонами, что может быть нарушением надлежащей правовой процедуры. Кроме того, простые, прозрачные и более интерпретируемые алгоритмы (например, линейная регрессия ) показали, что могут делать прогнозы примерно так же, как алгоритм КОМПАС.[8][9][10][11]

Другая общая критика алгоритмов, основанных на машинном обучении, заключается в том, что они зависят от данных, если данные смещены, программное обеспечение, скорее всего, даст смещенные результаты.[12][страница нужна ]

Точность

В 2016 г. Джулия Энгвин был соавтором ProPublica исследование алгоритма.[13] Команда обнаружила, что «чернокожие почти в два раза чаще, чем белые, будут отмечены как группы повышенного риска, но на самом деле не совершат повторного правонарушения», тогда как COMPAS «совершает противоположную ошибку среди белых: они с гораздо большей вероятностью, чем чернокожие, будут названы группой с более низким риском но продолжайте совершать другие преступления ».[13][8][14] Они также обнаружили, что только 20 процентов людей, которым было предсказано совершение насильственных преступлений, на самом деле сделали это.[13]

В письме Northpointe раскритиковал методологию ProPublica и заявил, что: «[Компания] не согласна с тем, что результаты вашего анализа или утверждения, сделанные на основе этого анализа, верны или что они точно отражают результаты применения модель."[13]

Другая команда на Ресурсы сообщества для правосудия, уголовное правосудие мозговой центр, опубликовал опровержение выводов расследования.[15] Среди нескольких возражений опровержение CRJ заключило, что результаты Propublica: «противоречат нескольким исчерпывающим существующим исследованиям, в которых делается вывод о том, что актуарный риск можно предсказать без расовой и / или гендерной предвзятости».[15]

Последующее исследование показало, что программа COMPAS более точна, чем люди с небольшим опытом или без опыта в области уголовного правосудия, и менее точна, чем группы людей.[16] Они обнаружили, что: «В среднем они получали правильный ответ в 63 процентах случаев, а точность группы выросла до 67 процентов, если их ответы были объединены. Компас, напротив, имеет точность 65 процентов».[8]

дальнейшее чтение

  • Нортпойнт (15 марта 2015 г.). «Практическое руководство по COMPAS Core» (PDF).CS1 maint: ref = harv (связь)
  • Ангвин, Джулия; Ларсон, Джефф (23 мая 2016 г.). "Машинное смещение". ProPublica. Получено 2019-11-21.
  • Флорес, Энтони; Ловенкамп, Кристофер; Бехтель, Кристин. «Ложноположительные, ложноотрицательные и ложные анализы» (PDF). Ресурсы сообщества для правосудия. Получено 2019-11-21.
  • Образец оценки рисков КОМПАС

Смотрите также

Рекомендации

  1. ^ Сэм Корбетт-Дэвис, Эмма Пирсон, Ави Феллер и Шарад Гоэль (17 октября 2016 г.). «Компьютерная программа, используемая для освобождения под залог и вынесения приговора, была названа предвзятой против чернокожих. На самом деле это не так ясно». Вашингтон Пост. Получено 1 января, 2018.CS1 maint: несколько имен: список авторов (связь)
  2. ^ Аарон М. Борнштейн (21 декабря 2017 г.). «Строят ли алгоритмы новую инфраструктуру расизма?». Наутилус. №55. Получено 2 января, 2018.
  3. ^ а б Киркпатрик, Кит (23.01.2017). «Дело не в алгоритме, а в данных». Коммуникации ACM. 60 (2): 21–23. Дои:10.1145/3022181.
  4. ^ а б Нортпойнт 2015, п. 27.
  5. ^ Нортпойнт 2015, п. 26.
  6. ^ Нортпойнт 2015, п. 28.
  7. ^ Нортпойнт 2015, п. 29.
  8. ^ а б c Йонг, Эд (2018-01-17). «Популярный алгоритм предсказания преступлений не лучше, чем случайные люди». Получено 2019-11-21.
  9. ^ Анджелино, Элейн; Ларус-Стоун, Николай; Алаби, Даниэль; Зельцер, Марго; Рудин, Синтия (3 августа 2018 г.). «Изучение списков гарантированно оптимальных правил для категориальных данных». arXiv:1704.01701 - через arXiv.org. Цитировать журнал требует | журнал = (помощь)
  10. ^ Робин А. Смит. Открытие крышки программного обеспечения для вынесения приговоров. Герцог сегодня, 19 июля 2017
  11. ^ Анджелино, Элейн; Ларус-Стоун, Николай; Алаби, Даниэль; Зельцер, Марго; Рудин, Синтия (2017-04-06). «Изучение гарантированно оптимальных списков правил для категориальных данных». arXiv:1704.01701 [stat.ML ].
  12. ^ О'Нил, Кэти (2016). Оружие математического разрушения. ISBN  0553418815.
  13. ^ а б c d Ангвин, Джулия; Ларсон, Джефф (23 мая 2016 г.). "Машинное смещение". ProPublica. Получено 2019-11-21.
  14. ^ Исрани, Эллора (26.10.2017). «Когда алгоритм помогает отправить вас в тюрьму (мнение)». Получено 2019-11-21.
  15. ^ а б Флорес, Энтони; Ловенкамп, Кристофер; Бектел, Кристин. «Ложноположительные, ложноотрицательные и ложные анализы» (PDF). Ресурсы сообщества для правосудия. Ресурсы сообщества для правосудия. Получено 2019-11-21.
  16. ^ Дрессел, Юлия; Фарид, Хани (17.01.2018). «Точность, справедливость и пределы прогнозирования рецидивизма». Достижения науки. 4 (1). Дои:10.1126 / sciadv.aao5580. Получено 2019-11-21.