Центр искусственного интеллекта, совместимого с человеком - Center for Human-Compatible Artificial Intelligence

Центр искусственного интеллекта, совместимого с человеком
Center for Human-Compatible Artificial Intelligence.png
Формирование2016; 4 года назад (2016)
Штаб-квартираБеркли, Калифорния
Лидер
Стюарт Дж. Рассел
Головная организация
Калифорнийский университет в Беркли
Интернет сайтсовместим с человеком.ai

В Центр искусственного интеллекта, совместимого с человеком (ЧАЙ) является исследовательским центром Калифорнийский университет в Беркли (Калифорнийский университет в Беркли) уделяя особое внимание продвинутым искусственный интеллект (AI) методы безопасности. CHAI была основана в 2016 году группой ученых во главе с профессором информатики Калифорнийского университета в Беркли и автором искусственного интеллекта. Стюарт Дж. Рассел.[1][2] Рассел известен как соавтор широко используемого учебника по искусственному интеллекту. Искусственный интеллект: современный подход.

В состав преподавателей CHAI входят: Барт Селман и Джозеф Халперн из Корнельского университета,[3] Питер Аббель из Калифорнийского университета в Беркли и Майкл Веллман из Мичиганского университета.[4] В 2016 г. Открытый проект благотворительности (OpenPhil) рекомендовала предоставить грант в размере 5 555 550 долларов на пять лет для поддержки CHAI.[5] CHAI получил дополнительный грант в размере 200000 долларов от OpenPhil в 2019 году.[6]

Исследование

Подход CHAI к исследованиям безопасности ИИ фокусируется на стратегиях выравнивания ценностей, в частности обратное обучение с подкреплением, в котором ИИ выводит человеческие ценности из наблюдения за человеческим поведением.[7] Он также работал над моделированием взаимодействия человека с машиной в сценариях, где интеллектуальные машины имеют «выключатель», который они могут отключить.[8]

Смотрите также

Рекомендации

  1. ^ Норрис, Джеффри (29 августа 2016 г.). «Калифорнийский университет в Беркли открывает Центр искусственного интеллекта, совместимого с человеком». Получено 27 декабря, 2019.
  2. ^ Солон, Оливия (30 августа, 2016). «Рост роботов: забудьте про злой ИИ - реальный риск гораздо коварнее». Хранитель. Получено 27 декабря, 2019.
  3. ^ Корнелл Университет. «ИИ, совместимый с людьми». Получено 27 декабря, 2019.
  4. ^ Центр искусственного интеллекта, совместимого с человеком. "Люди". Получено 27 декабря, 2019.
  5. ^ Открытый проект благотворительности (Август 2016 г.). «Калифорнийский университет в Беркли - Центр ИИ, совместимого с людьми (2016 г.)». Получено 27 декабря, 2019.
  6. ^ Открытый проект благотворительности (Ноябрь 2019). "Калифорнийский университет в Беркли - Центр ИИ, совместимого с людьми (2019 г.)". Получено 27 декабря, 2019.
  7. ^ Конн, Ариэль (31 августа 2016 г.). «Новый центр ИИ, совместимого с человеком». Институт будущего жизни. Получено 27 декабря, 2019.
  8. ^ Мост, Марк (10 июня 2017 г.). «Снижение уверенности роботов может помешать им захватить власть».

внешняя ссылка