Право на объяснение - Википедия - Right to explanation

в регулирование из алгоритмы, особенно искусственный интеллект и его подполе машинное обучение, а право на объяснение (или же прямо к ан объяснение) это верно получить объяснение для вывода алгоритма. Такие права в первую очередь относятся к личные права получить объяснение решений, которые существенно влияют на человека, особенно в юридическом или финансовом плане. Например, человек, который подает заявку на получение ссуды и получает отказ, может попросить объяснения, которое может быть следующим:Кредитное бюро X сообщает, что вы объявили о банкротстве в прошлом году; это главный фактор, влияющий на вероятность того, что вы неплатежеспособны, и поэтому мы не предоставим вам ссуду, на которую вы подали заявку ".

Некоторые такие законные права уже существуют, в то время как объем общего «права на объяснение» является предметом постоянных дебатов.

Примеры

Кредитный рейтинг в США

Дальнейшая информация: Кредитный рейтинг в США

Кредитный рейтинг в США - в более общем плане, кредитные иски - имеют устоявшееся право на объяснение. Под Закон о равных возможностях кредита (Правило B Свод федеральных правил ), Титул 12, Глава X, Часть 1002, §1002.9 кредиторы обязаны уведомлять заявителей о действиях, предпринятых при определенных обстоятельствах, и в таких уведомлениях должны быть указаны конкретные причины, как описано в §1002.9 (b) (2):[1]

(2) Указание конкретных причин. Изложение причин неблагоприятного действия, требуемого параграфом (a) (2) (i) данного раздела, должно быть конкретным и указывать основную причину (-ы) для неблагоприятного действия. Утверждения о том, что неблагоприятное действие было основано на внутренних стандартах или политике кредитора или что заявитель, совместный заявитель или аналогичная сторона не набрали квалификационный балл в системе кредитного рейтинга кредитора, являются недостаточными.

В официальная интерпретация в этом разделе подробно описаны допустимые типы утверждений.

Кредитные агентства и фирмы по анализу данных, такие как FICO соблюдать это постановление, предоставив список причин (обычно не более 4 в соответствии с интерпретацией нормативных требований), состоящий из числовых код причины (в качестве идентификатора) и соответствующее объяснение, определяющее основные факторы, влияющие на кредитный рейтинг.[2] Примером может быть:[3]

32: остатки на банковской карте или возобновляемых счетах слишком высоки по сравнению с кредитными лимитами

Евросоюз

Европейский Союз Общие правила защиты данных (введено в действие в 2016 г., вступает в силу в 2018 г.) расширяет права на автоматизированное принятие решений в 1995 г. Директива о защите данных предоставить юридически оспариваемую форму права на объяснение, указанную как таковую в Сольный концерт 71: «[субъект данных должен иметь] право ... получить объяснение принятого решения». В полном объеме:

Субъект данных должен иметь право не подчиняться решению, которое может включать в себя меру, оценивающую личные аспекты, относящиеся к нему или ей, которые основаны исключительно на автоматизированной обработке и которые имеют правовые последствия в отношении него или ее или аналогичным образом существенно влияют на него. или ее, например, автоматический отказ в онлайн-заявке на кредит или методы электронного набора персонала без какого-либо вмешательства человека.

...

В любом случае, такая обработка должна быть предметом соответствующих гарантий, которые должны включать конкретную информацию для субъекта данных и право на вмешательство человека, на выражение его или ее точки зрения, на получение объяснения решения, принятого после такой оценки. и оспорить решение.

Однако степень, в которой сами правила предоставляют «право на объяснение», активно обсуждается.[4][5][6] Есть два основных направления критики. Существуют значительные юридические проблемы с правом, изложенным в статье 22, поскольку изложение не является обязательным, а право на объяснение не упоминается в обязательных статьях текста, поскольку оно было удалено в ходе законодательного процесса.[5] Кроме того, существуют значительные ограничения на типы охватываемых автоматизированных решений - которые должны быть "исключительно" основаны на автоматизированной обработке и иметь юридические или аналогичные значимые последствия, - что значительно ограничивает диапазон автоматизированных систем и решений, в отношении которых право будет применяться.[5] В частности, это право вряд ли будет применяться во многих случаях алгоритмических разногласий, которые возникают в СМИ.[7]

Второй потенциальный источник такого права был указан в статье 15, «право доступа субъекта данных». Это повторяет аналогичное положение из Директивы о защите данных 1995 года, позволяющее субъекту данных получить доступ к «значимой информации о логике, задействованной» в таком же значимом, полностью автоматизированном процессе принятия решений, как в статье 22. Тем не менее, это также страдает от предполагаемых проблем, которые связаны со сроками, когда это право может быть использовано, а также с практическими проблемами, которые означают, что оно может не иметь обязательной силы во многих случаях, вызывающих озабоченность общественности.[5]

Франция

В Франция 2016 год Loi pour une République numérique (Закон о цифровой республике или Loi numérique) вносит поправки в административный кодекс страны, вводя новое положение для разъяснения решений, принимаемых органами государственного сектора в отношении физических лиц.[8] Он отмечает, что там, где есть «решение, принятое на основе алгоритмического лечения», правила, которые определяют это обращение и его «основные характеристики», должны быть сообщены гражданину по запросу, если нет исключения (например, для национального безопасность или оборона). Они должны включать следующее:

  1. степень и способ участия алгоритмической обработки в принятии решений;
  2. обрабатываемые данные и их источник;
  3. параметры лечения и, где это уместно, их весовые коэффициенты применительно к ситуации соответствующего лица;
  4. операции, проводимые лечением.

Ученые отметили, что это право, хотя и ограничивается административными решениями, выходит за рамки права GDPR и прямо применяется к поддержке принятия решений, а не к решениям, «исключительно» основанным на автоматизированной обработке, а также обеспечивает основу для объяснения конкретных решений.[8] Действительно, права на автоматизированное принятие решений GDPR в Европейском союзе, одном из мест, где искали «право на объяснение», берут свое начало во французском законодательстве конца 1970-х годов.[9]

Критика

Некоторые утверждают, что «право на объяснение» в лучшем случае ненужно, в худшем - вредно и грозит задушить инновации. Конкретная критика включает: предпочтение человеческих решений над машинными решениями; противоречит существующим законам; и сосредоточение внимания на процессе, а не на результате.[10]

Более того, многие алгоритмы, используемые в машинном обучении, нелегко объяснить. Например, вывод глубокая нейронная сеть зависит от многих уровней вычислений, связанных сложным образом, и ни один ввод или вычисление не могут быть доминирующим фактором. Поле Объяснимый ИИ стремится предоставить лучшие объяснения на основе существующих алгоритмов и алгоритмов, которые легче объяснить, но это молодая и активная область.[11][12]

Точно так же человеческие решения часто нелегко объяснить: они могут быть основаны на интуиции или "внутреннее чувство "это трудно описать словами. Некоторые утверждают, что не следует требовать, чтобы машины соответствовали более высоким стандартам, чем люди.

Смотрите также

Рекомендации

  1. ^ Бюро финансовой защиты потребителей, §1002.9 (б) (2)
  2. ^ Коды причин оценки кредитного риска FICO США: основной документ от FICO, в котором перечислены все причины кредитного рейтинга FICO, по которым оценка не выше., 31 марта 2010 г., Грег Фишер
  3. ^ "ReasonCode.org | Решения VantageScore". www.reasoncode.org.
  4. ^ Гудман, Брайс; Флаксман, Сет (2017). «Правила Европейского Союза об алгоритмическом принятии решений и праве на объяснение'". Журнал AI. 38 (3): 50–57. arXiv:1606.08813. Дои:10.1609 / aimag.v38i3.2741. S2CID  7373959.
  5. ^ а б c d Вахтер, Сандра; Миттельштадт, Брент; Флориди, Лучано (28 декабря 2016 г.). «Почему право на разъяснение автоматизированного принятия решений не существует в Общем регламенте защиты данных». Международный закон о конфиденциальности данных. SSRN  2903469.
  6. ^ Есть ли в GDPR «право на объяснение» машинного обучения?, 1 июня 2017 г., Эндрю Берт
  7. ^ Эдвардс, Лилиан; Вил, Майкл (2017). «Подчинение алгоритму? Почему« право на объяснение », вероятно, не то средство, которое вы ищете». Duke Law and Technology Review. SSRN  2972855.
  8. ^ а б Эдвардс, Лилиан; Вил, Майкл (2018). «Порабощение алгоритма: от« права на объяснение »к« праву на лучшие решения »?» (PDF). Безопасность и конфиденциальность IEEE. 16 (3): 46–54. Дои:10.1109 / MSP.2018.2701152. S2CID  4049746. SSRN  3052831.
  9. ^ Бигрейв, Л. А. (2001). «Внимание к машине: статья 15 Директивы ЕС о защите данных и автоматизированном профилировании» (PDF). Обзор компьютерного права и безопасности. 17 (1). Дои:10.1016 / S0267-3649 (01) 00104-2.
  10. ^ Право ЕС на объяснения: вредное ограничение искусственного интеллекта, Ник Уоллес, Центр инноваций в области данных, 25 января 2017 г.
  11. ^ Миллер, Тим (2017-06-22). «Объяснение в искусственном интеллекте: выводы из социальных наук». arXiv:1706.07269 [cs.AI ].
  12. ^ Миттельштадт, Брент; Рассел, Крис; Вахтер, Сандра (2019). «Объяснение объяснений в AI» (PDF). Материалы конференции по справедливости, подотчетности и прозрачности - FAT * '19. Нью-Йорк, Нью-Йорк, США: ACM Press: 279–288. Дои:10.1145/3287560.3287574. ISBN  978-1-4503-6125-5. S2CID  53214940.

внешняя ссылка