Тимнит Гебру - Timnit Gebru

Тимнит Гебру
Гебру в 2018 году
Гебру в 2018 году
Родился
Аддис-Абеба, Эфиопия
Альма-матерСтэндфордский Университет
ИзвестенАлгоритмический уклон
Научная карьера
УчрежденияMicrosoft Research
Google

Тимнит Гебру является Эритрейско-американский компьютерный ученый, который работает над алгоритмический уклон и сбор данных. Она является сторонником разнообразия технологий и соучредителем Black in AI, сообщества чернокожих исследователей, работающих в искусственный интеллект. Ее работа с Google как технический соруководитель группы этического искусственного интеллекта была внезапно прекращена в декабре 2020 года после того, как ее якобы заставили отозвать академическую статью.[1][2][3][4][5][6][7]

ранняя жизнь и образование

Гебру родился и вырос в Аддис-Абебе, Эфиопия.[8] Ее отец и две старшие сестры - инженеры-электрики.[9] Ее отец умер, когда ей было пять лет, и ее воспитывала мать.[10] Ее мать и отец происходили из Эритрея. Она избежала возможной принудительной депортации в Эритрею со стороны правительства Эфиопии в конце 1990-х годов и отправилась в Ирландию. Затем она переехала в Соединенные Штаты чтобы присоединиться к своей матери (которая также сбежала из Эфиопии несколькими месяцами ранее) и двум ее старшим сестрам, которые жили в США, Гебру - младшая из трех.[нужна цитата ]

После окончания средней школы в Массачусетсе ее приняли на учебу в Стэндфордский Университет.[8] Там она получила степени бакалавра и магистра в электротехника.[11] Гебру работал в Apple Inc., разрабатывая алгоритмы обработки сигналов для первых iPad.[12] Гебру получила докторскую степень под руководством Фэй-Фэй Ли в Стэндфордский Университет в 2017 году. сбор данных общедоступных изображений.[13] Ее интересовало, сколько денег тратят правительственные и неправительственные организации на сбор информации об общинах.[14] Чтобы изучить альтернативы, Гебру объединил глубокое обучение с участием Google Street View оценить демографию Соединенные Штаты микрорайоны, показывая, что социально-экономические атрибуты, такие как характер голосования, доход, раса и образование, могут быть выведены из наблюдений за автомобилями.[11] Если количество пикапы превосходит количество седаны, сообщество с большей вероятностью проголосует за Республиканец партия.[15] Они проанализировали более 15 миллионов изображений из 200 самых густонаселенных городов США.[16] Работа широко освещалась в СМИ, ее подхватили Новости BBC, Newsweek, Экономист, и Нью-Йорк Таймс.[17][18][19]

Гебру представила свое исследование на конкурсе LDV Capital Vision Summit 2017, на котором ученые, занимающиеся компьютерным зрением, представляют свои работы представителям промышленности и венчурным капиталистам.[20] Гебру победил в конкурсе, начав серию сотрудничества с другими предпринимателями и инвесторами.[20] Как во время защиты докторской диссертации в 2016 году, так и в 2018 году Гебру вернулась в Эфиопия с участием Джелани Нельсон Программная кампания AddisCoder.[21][22] После получения докторской степени Гебру присоединилась к Microsoft в качестве постдокторанта в лаборатории справедливости, подотчетности, прозрачности и этики в искусственном интеллекте (FATE).[16][23]

Карьера и исследования

Гебру обсуждает свои выводы о том, что можно с некоторой достоверностью предсказать, как будет голосовать американец, исходя из типа автомобиля, которым он управляет.

Гебру работал в Google по этике искусственный интеллект. Она изучала значение искусственного интеллекта, стремясь улучшить способность технологий приносить пользу обществу.[24] Сотрудничала с Массачусетский технологический институт исследовательская группа Gender Shades.[25] Гебру работал с Джой Буоламвини исследовать программное обеспечение для распознавания лиц; обнаружив, что чернокожих женщин на 35% меньше узнают, чем белых мужчин.[26] Когда Гебру посетила конференцию по искусственному интеллекту в 2016 году, она заметила, что она была единственной чернокожей женщиной из 8500 делегатов.[27] Вместе с коллегой Rediet Abebe Гебру основал Черный в AI, сообщество чернокожих исследователей, работающих в области искусственного интеллекта. Black in AI провели мастер-классы в Конференция по нейронным системам обработки информации ежегодно с 2017 года.[нужна цитата ] Она обсуждала предвзятость в искусственном интеллекте в подкастах и ​​интервью.[28][29]

Гебру также работал над вопросами справедливости, подотчетности, прозрачности и этики Microsoft в команде ИИ. В 2017 году Гебру выступил на конференции Fairness and Transparency, где Обзор технологий MIT взял у нее интервью о предубеждениях, существующих в системах ИИ, и о том, как добавление разнообразия в команды ИИ может решить эту проблему. В своем интервью Джеки Сноу Сноу спросила Гебру: «Как отсутствие разнообразия искажает искусственный интеллект и, в частности, компьютерное зрение?» и Гебру отметили, что у разработчиков программного обеспечения есть предубеждения.[30] Гебру и другие исследователи искусственного интеллекта подписали письмо, в котором отражены системные проблемы, присущие программному обеспечению распознавания лиц Amazon. Исследование, проведенное учеными из Массачусетского технологического института, показывает, что система распознавания лиц Amazon имела больше проблем с идентификацией темнокожих женщин, чем программное обеспечение распознавания лиц любой другой технологической компании.[31] В Газета "Нью-Йорк Таймс В интервью Гебру также заявила, что она считает, что распознавание лиц слишком опасно для использования правоохранительными органами и в целях безопасности прямо сейчас.[32]

Выход из Google

В декабре 2020 года Гебру объявила, что она была уволена Google после предполагаемого спора по поводу исследовательской работы. Сотрудники Google начали #ISupportTimnit Кампания солидарности с Гебру. Джефф Дин, Руководитель отдела исследований искусственного интеллекта Google, утверждает, что она ушла в отставку по собственному желанию, хотя это оспаривали нынешние и бывшие сотрудники Google.[33][34][35]

Награды

Победили Гебру, Джой Буоламвини и Иниолува Раджи. VentureBeat's Премия AI Innovations Award 2019 в категории AI для добра за их исследования, подчеркивающие серьезную проблему алгоритмической предвзятости в распознавании лиц.[36][37]

Избранные публикации

  • Гебру, Тимнит; Краузе, Джонатан; Ван, Илунь; Чен, Дуюнь; Дэн, Цзя; Эйден, Эрез Либерман; Ли Фей-Фэй (12 декабря 2017 г.). «Использование глубокого обучения и Google Street View для оценки демографического состава районов США». Труды Национальной академии наук. 114 (50): 13108–13113. Дои:10.1073 / pnas.1700035114. ISSN  0027-8424. ЧВК  5740675. PMID  29183967.
  • Буоламвини, Радость; Гебру, Тимнит (2018). «Гендерные оттенки: межсекторные различия в точности в коммерческой гендерной классификации». Труды исследования машинного обучения. 81: 1–15. ISSN  1938-7288.
  • Гебру, Тимнит (9 июля 2020 г.). «Раса и пол». В Dubber, Markus D .; Паскуале, Франк; Дас, Сунит (ред.). Оксфордский справочник по этике ИИ. Oxford University Press. С. 251–269. Дои:10.1093 / oxfordhb / 9780190067397.013.16. ISBN  978-0-19-006739-7.

использованная литература

  1. ^ «Ведущий исследователь этики ИИ говорит, что Google уволил ее; компания это отрицает». Рейтер. В архиве из оригинала на 5 декабря 2020 г.. Получено 4 декабря 2020.
  2. ^ "Тимнит Гебру: сотрудники Google митингуют за уволенного исследователя ИИ". BBC. В архиве из оригинала 4 декабря 2020 г.. Получено 4 декабря 2020.
  3. ^ "Google увольняет известного специалиста по этике ИИ Тимнита Гебру". Грани. В архиве из оригинала на 3 декабря 2020 г.. Получено 4 декабря 2020.
  4. ^ «Со-руководитель группы по этическому искусственному интеллекту в Google говорит, что ее уволили за отправку электронного письма». TechCrunch. В архиве из оригинала 4 декабря 2020 г.. Получено 4 декабря 2020.
  5. ^ «Известный исследователь искусственного интеллекта говорит, что Google внезапно уволила ее, что вызвало критику компании в целом». CNBC. В архиве из оригинала 4 декабря 2020 г.. Получено 4 декабря 2020.
  6. ^ Лэнгли, Хью (3 декабря 2020 г.). «Один из ведущих исследователей искусственного интеллекта Google говорит, что ее уволили в отместку за письмо другим сотрудникам». Business Insider. В архиве из оригинала на 5 декабря 2020 г.. Получено 3 декабря 2020.
  7. ^ "Тимнит Гебру: сотрудники Google митингуют за уволенного исследователя ИИ". Обзор технологий MIT. Получено 5 декабря 2020.
  8. ^ а б Лахде, Лиза. «Новаторы в области ИИ: как одна женщина последовала за своим увлечением и привнесла разнообразие в ИИ». Forbes. В архиве с оригинала 10 января 2019 г.. Получено 9 января 2019.
  9. ^ "Финал | Тимнит Гебру". Кампания | 1 миллион женщин в STEM. В архиве с оригинала 10 января 2019 г.. Получено 9 января 2019.
  10. ^ Числинг, Ава (24 июля 2017 г.). "Простите, сэр, но где все женщины?". РОСС Интеллект. В архиве с оригинала 10 января 2019 г.. Получено 9 января 2019.
  11. ^ а б AI, People In (16 сентября 2017 г.). «Тимнит Гебру удостоен звания Аликорна искусственного интеллекта людьми в области ИИ». Самостоятельный предприниматель. В архиве из оригинала на 5 декабря 2020 г.. Получено 9 января 2019.
  12. ^ "Тимнит Гебру". Датабрики. В архиве с оригинала 10 января 2019 г.. Получено 9 января 2019.
  13. ^ «Понимание границ ИИ: когда алгоритмы терпят неудачу». MIT Tech Review. В архиве из оригинала на 5 декабря 2020 г.. Получено 9 января 2019.
  14. ^ Капитал, Л. Д. В. (1 августа 2017 г.), Тимнит Гебру - Выступления финалистов конкурса Entrepreneurial Computer Vision Challenge 2017, в архиве из оригинала на 5 декабря 2020 г., получено 9 января 2019
  15. ^ Фэй-Фэй, Ли; Эйден, Эрез Либерман; Дэн, Цзя; Чен, Дуюнь; Ван, Илунь; Краузе, Джонатан; Гебру, Тимнит (12 декабря 2017 г.). «Использование глубокого обучения и Google Street View для оценки демографического состава районов США». Труды Национальной академии наук. 114 (50): 13108–13113. Дои:10.1073 / pnas.1700035114. ISSN  1091-6490. ЧВК  5740675. PMID  29183967.
  16. ^ а б "Тимнит Гебру". Дизайн лучше. В архиве с оригинала 10 января 2019 г.. Получено 9 января 2019.
  17. ^ Луфкин, Брайан (6 января 2018 г.). "Что Google Street View говорит нам о доходах". Рабочая жизнь. BBC. В архиве с оригинала 10 января 2019 г.. Получено 9 января 2019.
  18. ^ "Перепись городов Америки с помощью машинного обучения". Экономист. 2 марта 2017. ISSN  0013-0613. В архиве с оригинала 10 января 2019 г.. Получено 9 января 2019.
  19. ^ Лор, Стив (31 декабря 2017 г.). «Как вы голосуете? 50 миллионов изображений Google дают подсказку». Нью-Йорк Таймс. ISSN  0362-4331. В архиве с оригинала 10 января 2019 г.. Получено 9 января 2019.
  20. ^ а б «Тимнит Гебру выиграл ECVC 2017: использование компьютерного зрения для прогнозирования расы, образования и доходов с помощью изображений Google Streetview». LDV Capital. В архиве с оригинала 10 января 2019 г.. Получено 9 января 2019.
  21. ^ Журнал, Тадиас. «Тимнит Гебру: среди невероятных женщин, продвигающих исследования искусственного интеллекта в журнале Tadias». В архиве с оригинала 10 января 2019 г.. Получено 9 января 2019.
  22. ^ "История | AddisCoder". www.addiscoder.com. В архиве из оригинала 21 марта 2018 г.. Получено 10 января 2019.
  23. ^ "Тимнит Гебру". Всемирный фестиваль науки. В архиве с оригинала 10 января 2019 г.. Получено 9 января 2019.
  24. ^ Университет, Управление веб-коммуникаций, Корнелл. «Семинар по цифровой жизни | Тимнит Гебру». Корнелл. В архиве с оригинала 10 января 2019 г.. Получено 9 января 2019.
  25. ^ "Команда". MIT Media Lab. В архиве с оригинала 25 июля 2019 г.. Получено 9 января 2019.
  26. ^ Лор, Стив (9 февраля 2018 г.). "Распознавание лиц точное, если вы белый парень". Нью-Йорк Таймс. ISSN  0362-4331. В архиве с оригинала на 9 января 2019 г.. Получено 9 января 2019.
  27. ^ Бирханер, Де (26 мая 2017 г.). «Эфиопская г-жа Тимнит Гебру борется с алгоритмической предвзятостью и гомогенным мышлением в ИИ». Де Бирхан. Архивировано из оригинал 23 октября 2018 г.. Получено 9 января 2019.
  28. ^ «Распознавание лиц, демографический анализ и многое другое с Тимнит Гебру». Грузинские партнеры. 20 декабря 2018. В архиве с оригинала 10 января 2019 г.. Получено 9 января 2019.
  29. ^ «3 способа противодействия бессознательной предвзятости в ИИ». Блог Salesforce. В архиве с оригинала 10 января 2019 г.. Получено 9 января 2019.
  30. ^ Митчелл, Маргарет; Ву, Симона; Залдивар, Андрей; Барнс, Паркер; Вассерман, Люси; Хатчинсон, Бен; Спитцер, Елена; Раджи, Иниолува Дебора; Гебру, Тимнит (2019). «Образцы карточек для типовых отчетов». Материалы конференции по справедливости, подотчетности и прозрачности - FAT * '19. Нью-Йорк, Нью-Йорк, США: ACM Press: 220–229. arXiv:1810.03993. Дои:10.1145/3287560.3287596. ISBN  978-1-4503-6125-5. S2CID  52946140.
  31. ^ Митчелл, Андреа (апрель 2019 г.). "Эксперты AI подвергают сомнению технологию распознавания лиц амазонок". ICT Monitor Worldwide; Амман. В архиве с оригинала 26 ноября 2019 г.
  32. ^ Овиде, Шира (9 июня 2020 г.). «Дело о запрете распознавания лиц». Нью-Йорк Таймс. ISSN  0362-4331. В архиве из оригинала 17 июля 2020 г.. Получено 12 июля 2020.
  33. ^ «Сотрудники Google мобилизуются против увольнения топ-чернокожей исполнительной власти». Новости NBC. В архиве из оригинала на 5 декабря 2020 г.. Получено 5 декабря 2020.
  34. ^ "Тимнит Гебру: сотрудники Google митингуют за уволенного исследователя ИИ". Обзор технологий MIT. Получено 5 декабря 2020.
  35. ^ Гаффари, Ширин (4 декабря 2020 г.). «Споры, стоящие за уходом звездного исследователя Google AI». Vox. Получено 6 декабря 2020.
  36. ^ «В Сан-Франциско объявлены победители в области инноваций в области ИИ». Матрица инноваций. 12 июля 2019. В архиве из оригинала 12 июля 2020 г.. Получено 12 июля 2020.
  37. ^ 18 июля; Берт, 2019 | Крис (18 июля 2019 г.). «Буоламвини, Гебру и Раджи выиграли премию AI Innovation Award за исследование биометрических искажений». Биометрическое обновление. В архиве из оригинала 12 июля 2020 г.. Получено 12 июля 2020.

внешние ссылки