Центр искусственного интеллекта, совместимого с человеком - Center for Human-Compatible Artificial Intelligence
Формирование | 2016 |
---|---|
Штаб-квартира | Беркли, Калифорния |
Лидер | Стюарт Дж. Рассел |
Головная организация | Калифорнийский университет в Беркли |
Интернет сайт | совместим с человеком |
В Центр искусственного интеллекта, совместимого с человеком (ЧАЙ) является исследовательским центром Калифорнийский университет в Беркли (Калифорнийский университет в Беркли) уделяя особое внимание продвинутым искусственный интеллект (AI) методы безопасности. CHAI была основана в 2016 году группой ученых во главе с профессором информатики Калифорнийского университета в Беркли и автором искусственного интеллекта. Стюарт Дж. Рассел.[1][2] Рассел известен как соавтор широко используемого учебника по искусственному интеллекту. Искусственный интеллект: современный подход.
В состав преподавателей CHAI входят: Барт Селман и Джозеф Халперн из Корнельского университета,[3] Питер Аббель из Калифорнийского университета в Беркли и Майкл Веллман из Мичиганского университета.[4] В 2016 г. Открытый проект благотворительности (OpenPhil) рекомендовала предоставить грант в размере 5 555 550 долларов на пять лет для поддержки CHAI.[5] CHAI получил дополнительный грант в размере 200000 долларов от OpenPhil в 2019 году.[6]
Исследование
Подход CHAI к исследованиям безопасности ИИ фокусируется на стратегиях выравнивания ценностей, в частности обратное обучение с подкреплением, в котором ИИ выводит человеческие ценности из наблюдения за человеческим поведением.[7] Он также работал над моделированием взаимодействия человека с машиной в сценариях, где интеллектуальные машины имеют «выключатель», который они могут отключить.[8]
Смотрите также
- Экзистенциальный риск от общего искусственного интеллекта
- Институт будущего человечества
- Институт будущего жизни
- Совместимость с человеком
- Научно-исследовательский институт машинного интеллекта
Рекомендации
- ^ Норрис, Джеффри (29 августа 2016 г.). «Калифорнийский университет в Беркли открывает Центр искусственного интеллекта, совместимого с человеком». Получено 27 декабря, 2019.
- ^ Солон, Оливия (30 августа, 2016). «Рост роботов: забудьте про злой ИИ - реальный риск гораздо коварнее». Хранитель. Получено 27 декабря, 2019.
- ^ Корнелл Университет. «ИИ, совместимый с людьми». Получено 27 декабря, 2019.
- ^ Центр искусственного интеллекта, совместимого с человеком. "Люди". Получено 27 декабря, 2019.
- ^ Открытый проект благотворительности (Август 2016 г.). «Калифорнийский университет в Беркли - Центр ИИ, совместимого с людьми (2016 г.)». Получено 27 декабря, 2019.
- ^ Открытый проект благотворительности (Ноябрь 2019). "Калифорнийский университет в Беркли - Центр ИИ, совместимого с людьми (2019 г.)". Получено 27 декабря, 2019.
- ^ Конн, Ариэль (31 августа 2016 г.). «Новый центр ИИ, совместимого с человеком». Институт будущего жизни. Получено 27 декабря, 2019.
- ^ Мост, Марк (10 июня 2017 г.). «Снижение уверенности роботов может помешать им захватить власть».
внешняя ссылка
Эта статья об организации в Соединенных Штатах заглушка. Вы можете помочь Википедии расширяя это. |