Институт AI Now - AI Now Institute

Институт AI Now
AI Now Basic Logo Grey.jpg
Основан15 ноября 2017 г.; 2 года назад (2017-11-15)
УчредителиКейт Кроуфорд, Мередит Уиттакер
Тип501 (с) (3) Некоммерческая организация
Место расположения
Координаты40 ° 44′06 ″ с.ш. 73 ° 59′41 ″ з.д. / 40,7350 ° с.ш. 73,9948 ° з.д. / 40.7350; -73.9948Координаты: 40 ° 44′06 ″ с.ш. 73 ° 59′41 ″ з.д. / 40,7350 ° с.ш. 73,9948 ° з.д. / 40.7350; -73.9948
Интернет сайтwww.ainowinstitute.org

В Институт AI Now в Нью-Йоркском университете (AI Now) научно-исследовательский институт, изучающий социальные последствия искусственный интеллект. AI Now была основана Кейт Кроуфорд и Мередит Уиттакер в 2017 году после симпозиума, организованного белый дом под Барак Обама.[2][3] Он расположен по адресу Нью-Йоркский университет. AI Now сотрудничает с такими организациями, как Инженерная школа Тандон Нью-Йоркского университета, Центр науки о данных Нью-Йоркского университета, Партнерство по ИИ, а ACLU.[4] Они составляют годовые отчеты, в которых исследуются социальные последствия искусственный интеллект.[5] AI Now проводит междисциплинарные исследования, посвященные четырем темам:

  • Смещение и включение
  • Труд и автоматизация
  • Права и свободы
  • Безопасность и гражданская инфраструктура

Основание и миссия

AI Now выросла из симпозиума 2016 года, возглавляемого Обамой Управление научно-технической политики Белого дома. Мероприятие вел Мередит Уиттакер, основатель Google Открытая исследовательская группа и Кейт Кроуфорд, главный научный сотрудник Microsoft Исследование.[6] Мероприятие было посвящено ближайшим последствиям применения ИИ в социальных сферах: неравенство, труд, этика и здравоохранение.[7]

В ноябре 2017 года Уиттакер и Кроуфорд провели второй симпозиум по ИИ и социальным вопросам и публично запустили AI Now Institute в партнерстве с Нью-Йоркским университетом.[6] Утверждается, что это первый университетский научно-исследовательский институт, занимающийся социальными последствиями ИИ, и первый институт ИИ, основанный и возглавляемый женщинами.[1]

В интервью NPR Кроуфорд заявил, что мотивация для создания AI Now заключалась в том, что применение AI в социальных сферах, таких как здравоохранение, образование и уголовное правосудие, рассматривалось как чисто техническая проблема. Цель исследования AI Now - сначала рассматривать их как социальные проблемы и привлекать экспертов в таких областях, как социология, право и история, для изучения последствий применения ИИ.[8]

Исследование

После каждого симпозиума AI Now публикует годовой отчет о состоянии ИИ и его интеграции в общество. Его Отчет за 2017 год заявил, что «нынешние рамки этики ИИ терпят неудачу», и предоставил десять стратегических рекомендаций для этой области, включая предварительные испытания систем ИИ и усиление исследований предвзятости и разнообразия в этой области. Отчет был отмечен тем, что призывает положить конец "черный ящик «системы в основных социальных сферах, таких как системы уголовного правосудия, здравоохранения, социального обеспечения и образования.[9][10][11]

В апреле 2018 года AI Now выпустила структуру для алгоритмической оценки воздействия (Отчет AIA ), чтобы правительства могли оценить использование ИИ в государственных учреждениях. Согласно AI Now, AIA будет похожа на Оценка воздействия на окружающую среду, в том смысле, что потребуется публичное раскрытие информации и доступ для внешних экспертов для оценки эффектов системы ИИ и любых непредвиденных последствий. Это позволит проверять системы на предмет таких проблем, как предвзятые результаты или искаженные данные обучения, которые исследователи уже выявили в алгоритмических системах, развернутых по всей стране.[12][13][14]

Рекомендации

  1. ^ а б «Открытие нового научно-исследовательского института искусственного интеллекта». Новости Нью-Йоркского университета Tandon. 2017-11-25. Получено 2018-07-07.
  2. ^ «Область исследований ИИ скоро станет больше, чем код». Кварцевый. 2017-11-15. Получено 2018-07-09.
  3. ^ «Предвзятый ИИ - угроза гражданским свободам. У ACLU есть план, как это исправить». Быстрая Компания. 2017-07-25. Получено 2018-07-07.
  4. ^ "О". ainowinstitute.org. Получено 2018-07-07.
  5. ^ "Исследование". ainowinstitute.org. Получено 2018-07-07.
  6. ^ а б Ахмед, Салмана. «В поисках справедливого и подотчетного ИИ». Омидьяр. Получено 19 июля 2018.
  7. ^ «Симпозиум 2016». ainowinstitute.org. Архивировано из оригинал на 2018-07-20. Получено 2018-07-09.
  8. ^ «Изучение искусственного интеллекта в Нью-Йоркском университете». энергетический ядерный реактор. Получено 2018-07-18.
  9. ^ "AI Now 2017 Report" (PDF). AI сейчас. Получено 19 июля 2018.
  10. ^ Симонит, Том (18 октября 2017 г.). «ИИ-ЭКСПЕРТЫ ХОТЯТ ЗАКОНЧИТЬ АЛГОРИТМЫ« ЧЕРНОЙ КОРОБКИ »В ПРАВИТЕЛЬСТВЕ». Проводной. Получено 19 июля 2018.
  11. ^ Розенберг, Скотт (1 ноября 2017 г.). «ПОЧЕМУ AI все еще ждет трансплантации по этике». Проводной. Получено 19 июля 2018.
  12. ^ Гершгорн, Дэйв (9 апреля 2018 г.). «Эксперты в области искусственного интеллекта хотят, чтобы правительственные алгоритмы изучались как экологические опасности». Кварцевый. Получено 19 июля 2018.
  13. ^ "AI Now AIA Report" (PDF). AI сейчас. Получено 19 июля 2018.
  14. ^ Райзман, Диллон. «Алгоритмы принимают решения правительства. Общественность должна высказать свое мнение». Середина. ACLU. Получено 19 июля 2018.

Смотрите также