Тематическая модель - Википедия - Topic model
В машинное обучение и обработка естественного языка, а тематическая модель это тип статистическая модель для обнаружения абстрактных «тем», встречающихся в коллекции документов. Тематическое моделирование - это часто используемый инструмент интеллектуального анализа текста для обнаружения скрытых семантических структур в теле текста. Интуитивно, учитывая, что документ посвящен определенной теме, можно было бы ожидать, что определенные слова будут появляться в документе более или менее часто: «собака» и «кость» будут чаще встречаться в документах о собаках, «кошке» и «мяу». будет фигурировать в документах о кошках, причем «то» и «есть» будут фигурировать в обоих примерно одинаково. Документ обычно затрагивает несколько тем в разных пропорциях; таким образом, в документе, который на 10% посвящен кошкам и 90% - собакам, вероятно, будет примерно в 9 раз больше слов о собаках, чем слов о кошках. «Темы», полученные с помощью методов тематического моделирования, представляют собой группы похожих слов. Тематическая модель улавливает эту интуицию в математической структуре, которая позволяет исследовать набор документов и на основе статистики слов в каждом обнаруживать, какими могут быть темы и каков баланс тем в каждом документе.
Тематические модели также называются вероятностными тематическими моделями, которые относятся к статистическим алгоритмам для обнаружения скрытых семантических структур обширного тела текста. В век информации количество письменных материалов, с которыми мы сталкиваемся каждый день, просто выходит за рамки наших возможностей обработки. Тематические модели могут помочь организовать и предложить нам понимание больших коллекций неструктурированных текстов. Изначально разработанные как инструмент интеллектуального анализа текста, тематические модели использовались для обнаружения инструктивных структур в данных, таких как генетическая информация, изображения и сети. У них также есть приложения в других областях, таких как биоинформатика[1] и компьютерное зрение.[2]
История
Ранняя тематическая модель была описана Пападимитриу, Рагхаваном, Тамаки и Вемпалой в 1998 году.[3] Другой, названный вероятностный латентно-семантический анализ (PLSA), была создана Томасом Хофманном в 1999 году.[4] Скрытое размещение Дирихле (LDA), пожалуй, самая распространенная тематическая модель, используемая в настоящее время, является обобщением PLSA. Разработан Дэвид Блей, Эндрю Нг, и Майкл И. Джордан в 2002 г. LDA вводит редкие Априорные распределения Дирихле по распределению «документ-тема» и «тема-слово», кодируя интуицию, что документы охватывают небольшое количество тем и что в темах часто используется небольшое количество слов.[5] Другие тематические модели обычно являются расширениями LDA, например Распределение патинко, который улучшает LDA, моделируя корреляции между темами в дополнение к корреляциям слов, которые составляют темы. Иерархический анализ скрытого дерева (HLTA ) является альтернативой LDA, который моделирует совместное появление слов с помощью дерева скрытых переменных, а состояния скрытых переменных, которые соответствуют мягким кластерам документов, интерпретируются как темы.
Тематические модели для контекстной информации
Подходы к временной информации включают определение Блоком и Ньюманом временной динамики тем в Газета Пенсильвании в 1728–1800 гг. Griffiths & Steyvers использовали тематическое моделирование в отрывках из журнала. PNAS для определения тем, популярность которых выросла или упала с 1991 по 2001 год, тогда как Ламба и Мадхусушан [7] использовали тематическое моделирование для полнотекстовых исследовательских статей, взятых из журнала DJLIT за 1981–2018 гг. В области библиотечного дела и информатики Ламба и Мадхусудхан [8] [9] [10] [11] прикладное тематическое моделирование на различных индийских ресурсах, таких как журнальные статьи и электронные тезисы и ресурсы (ETD). Нельсон анализирует изменение тем с течением времени в Ричмонд Таймс-Диспетч чтобы понять социальные и политические изменения и преемственность в Ричмонде во время американская гражданская война. Янг, Торгет и Михалча применили методы тематического моделирования к газетам 1829–2008 годов. Мимно использовал тематическое моделирование с 24 журналами по классической филологии и археологии за 150 лет, чтобы посмотреть, как темы в журналах меняются с течением времени и как журналы становятся более разными или похожими с течением времени.
Инь и др.[12] представила тематическую модель для географически распределенных документов, в которой положения документов объясняются скрытыми областями, которые обнаруживаются во время вывода.
Чанг и Блей[13] включала сетевую информацию между связанными документами в реляционной тематической модели для моделирования связей между веб-сайтами.
Модель автор-тема Розен-Цви и др.[14] моделирует темы, связанные с авторами документов, чтобы улучшить обнаружение тем для документов с информацией об авторстве.
HLTA был применен к коллекции недавних исследовательских работ, опубликованных на крупных площадках, посвященных искусственному интеллекту и машинному обучению. Полученная модель называется Дерево ИИ. Полученные темы используются для индексации статей на aipano.cse.ust.hk чтобы помочь исследователям отслеживать тенденции исследований и определять статьи для чтения, и помочь организаторам конференций и редакторам журналов определить рецензентов для представлений.
Алгоритмы
На практике исследователи пытаются подогнать подходящие параметры модели к корпусу данных, используя одну из нескольких эвристик для максимального правдоподобия. Недавний обзор Blei описывает этот набор алгоритмов.[15]Несколько групп исследователей, начиная с Papadimitriou et al.[3] пытались разработать алгоритмы с вероятными гарантиями. Предполагая, что данные действительно были сгенерированы рассматриваемой моделью, они пытаются разработать алгоритмы, которые, вероятно, находят модель, которая использовалась для создания данных. Используемые здесь методы включают разложение по сингулярным числам (СВД) и метод моментов. В 2012 году алгоритм, основанный на неотрицательная матричная факторизация (NMF), который также обобщается на тематические модели с корреляциями между темами.[16]
В 2018 году появился новый подход к тематическим моделям, основанный на Стохастическая блочная модель[17]
Тематические модели количественной биомедицины
Тематические модели используются и в других контекстах. Например, появилось использование тематических моделей в исследованиях биологии и биоинформатики.[18] В последнее время для извлечения информации из набора данных геномных образцов рака использовались тематические модели.[19]В этом случае темы - это скрытые биологические переменные, которые необходимо вывести.
Смотрите также
- Явный семантический анализ
- Скрытый семантический анализ
- Скрытое размещение Дирихле
- Иерархический процесс Дирихле
- Неотрицательная матричная факторизация
- Маллет (программный проект)
- Gensim
Рекомендации
- ^ Блей, Дэвид (апрель 2012 г.). «Вероятностные тематические модели». Коммуникации ACM. 55 (4): 77–84. Дои:10.1145/2133806.2133826. S2CID 753304.
- ^ Цао, Лянлян и Ли Фэй-Фэй. "Пространственно согласованная модель скрытых тем для параллельной сегментации и классификации объектов и сцен. »2007 г. 11-я Международная конференция IEEE по компьютерному зрению. IEEE, 2007 г.
- ^ а б Пападимитриу, Христос; Рагхаван, Прабхакар; Тамаки, Хисао; Вемпала, Сантош (1998). «Скрытое семантическое индексирование: вероятностный анализ» (Постскриптум). Работа ACM PODS: 159–168. Дои:10.1145/275487.275505. ISBN 978-0897919968. S2CID 1479546.
- ^ Хофманн, Томас (1999). «Вероятностное скрытое семантическое индексирование» (PDF). Материалы двадцать второй ежегодной международной конференции SIGIR по исследованиям и разработкам в области информационного поиска. Архивировано из оригинал (PDF) 14 декабря 2010 г.
- ^ Блей, Дэвид М .; Ng, Andrew Y .; Иордания, Майкл I; Лафферти, Джон (январь 2003 г.). «Скрытое размещение Дирихле». Журнал исследований в области машинного обучения. 3: 993–1022. Дои:10.1162 / jmlr.2003.3.4-5.993.
- ^ http://topicmodels.west.uni-koblenz.de/ckling/tmt/svd_ap.html
- ^ Ламба, Маника июн (2019). «Сопоставление тем в журнале DESIDOC по библиотечным и информационным технологиям, Индия: исследование». Наукометрия. 120 (2): 477–505. Дои:10.1007 / s11192-019-03137-5. ISSN 0138-9130. S2CID 174802673.
- ^ Ламба, Маника июн (2019). «Сопоставление тем в журнале DESIDOC по библиотечным и информационным технологиям, Индия: исследование». Наукометрия. 120 (2): 477–505. Дои:10.1007 / s11192-019-03137-5. ISSN 0138-9130. S2CID 174802673.
- ^ Ламба, Маника июн (2019). «Пометка метаданных и моделирование прогнозирования: пример журнала DESIDOC по библиотечным и информационным технологиям (2008-2017)». Мировые электронные библиотеки. 12: 33–89. Дои:10.18329/09757597/2019/12103 (неактивно 10.11.2020). ISSN 0975-7597.CS1 maint: DOI неактивен по состоянию на ноябрь 2020 г. (связь)
- ^ Ламба, Маника май (2019). «Авторско-тематическое моделирование журнала DESIDOC по библиотечным и информационным технологиям (2008-2017), Индия». Философия и практика библиотеки.
- ^ Ламба, Маника сен (2018). Пометка метаданных тезисов по библиотеке и информатике: Шодхганга (2013-2017) (PDF). ETD2018: За гранью краев и океанов. Тайвань, Тайбэй.
- ^ Инь, Чжицзюнь (2011). «Открытие и сравнение географических тем». Материалы 20-й Международной конференции по всемирной паутине: 247–256. Дои:10.1145/1963405.1963443. ISBN 9781450306324. S2CID 17883132.
- ^ Чанг, Джонатан (2009). «Реляционные тематические модели для сетей документов» (PDF). Аистатс. 9: 81–88.
- ^ Розен-Цви, Михал (2004). «Авторско-тематическая модель для авторов и документов». Материалы 20-й конференции по неопределенности в искусственном интеллекте: 487–494. arXiv:1207.4169.
- ^ Блей, Дэвид М. (апрель 2012 г.). «Введение в вероятностные тематические модели» (PDF). Comm. ACM. 55 (4): 77–84. Дои:10.1145/2133806.2133826. S2CID 753304.
- ^ Санджив Арора; Ронг Ге; Анкур Моитра (апрель 2012 г.). «Обучающие тематические модели - выход за рамки SVD». arXiv:1204.1956 [cs.LG ].
- ^ Мартин Герлах; Тьяго Пексиото; Эдуардо Альтманн (2018). «Сетевой подход к тематическим моделям». Достижения науки. 4 (7): eaaq1360. arXiv:1708.01677. Bibcode:2018SciA .... 4.1360G. Дои:10.1126 / sciadv.aaq1360. ЧВК 6051742. PMID 30035215.
- ^ Liu, L .; Tang, L .; и другие. (2016). «Обзор тематического моделирования и его текущих приложений в биоинформатике». SpringerPlus. 5: 1608. Дои:10.1186 / с40064-016-3252-8. ЧВК 5028368. PMID 27652181. S2CID 16712827.
- ^ Valle, F .; Osella, M .; Казелле, М. (2020). «Тематический модельный анализ транскриптомных данных рака груди и легких TCGA». Рак. 12: 3799. Дои:10.3390 / раки12123799.
дальнейшее чтение
- Стейверс, Марк; Гриффитс, Том (2007). «Вероятностные тематические модели». В Landauer, T .; McNamara, D; Деннис, S .; и другие. (ред.). Справочник по скрытому семантическому анализу (PDF). Психология Press. ISBN 978-0-8058-5418-3. Архивировано из оригинал (PDF) на 24.06.2013.
- Blei, D.M .; Лафферти, Дж. Д. (2009). «Тематические модели» (PDF).
- Blei, D .; Лафферти, Дж. (2007). "Коррелированная тематическая модель Наука". Анналы прикладной статистики. 1 (1): 17–35. arXiv:0708.3601. Дои:10.1214 / 07-AOAS114. S2CID 8872108.
- Мимно, Д. (апрель 2012 г.). «Вычислительная историография: интеллектуальный анализ данных в век классических журналов» (PDF). Журнал по вычислительной технике и культурному наследию. 5 (1): 1–19. Дои:10.1145/2160165.2160168. S2CID 12153151.
- Марвик, Бен (2013). «Открытие возникающих проблем и противоречий в антропологии с использованием интеллектуального анализа текста, тематического моделирования и анализа содержания микроблогов в социальных сетях». В Яньчане, Чжао; Юнхуа, Цен (ред.). Приложения интеллектуального анализа данных с помощью R. Эльзевир. С. 63–93.
- Джокерс, М. 2010 г. Кто ваш напарник по DH-блогу: поиск подходов ко дню блоггеров DH с помощью тематического моделирования Мэтью Л. Джокерс, опубликовано 19 марта 2010 г.
- Друин, Дж. 2011 г. Набег на тематическое моделирование[постоянная мертвая ссылка ] Церковный архив Пруста. размещено 17 марта 2011 г.
- Темплтон, К. 2011 Тематическое моделирование в гуманитарных науках: обзор Мэрилендский технологический институт в гуманитарном блоге. отправлено 1 августа 2011 г.
- Griffiths, T .; Стейверс, М. (2004). «Поиск научных тем». Труды Национальной академии наук. 101 (Приложение 1): 5228–35. Bibcode:2004ПНАС..101.5228Г. Дои:10.1073 / pnas.0307752101. ЧВК 387300. PMID 14872004.
- Янг, Т., Торгет и Р. Михалча (2011) Тематическое моделирование в исторических газетах. Материалы 5-го семинара ACL-HLT по языковым технологиям для культурного наследия, социальных и гуманитарных наук. Ассоциация компьютерной лингвистики, Мэдисон, Висконсин. страницы 96–104.
- Блок, С. (январь 2006 г.). «Делаем больше с оцифровкой: введение в тематическое моделирование ранних американских источников». Common-place Интерактивный журнал ранней американской жизни. 6 (2).
- Newman, D .; Блок, С. (март 2006 г.). «Вероятностная тематическая декомпозиция газеты восемнадцатого века» (PDF). Журнал Американского общества информационных наук и технологий. 57 (5): 753–767. Дои:10.1002 / asi.20342.
внешняя ссылка
- Мимно, Дэвид. «Тематическая модельная библиография».
- Бретт, Меган Р. «Тематическое моделирование: базовое введение». Журнал цифровых гуманитарных наук.
- Тематические модели, применяемые к онлайн-новостям и обзорам Видео презентации Google Tech Talk Элис О о моделировании с помощью LDA
- Моделирование науки: динамические тематические модели научных исследований Видео презентации Google Tech Talk Дэвида М. Блея
- Автоматизированные тематические модели в политологии Видео презентации Брэндона Стюарта на Инструменты для Text Workshop, 14 июня 2010 г.
- Шон Грэм, Ян Миллиган и Скотт Вейнгарт «Начало работы с тематическим моделированием и MALLET». Историк программирования. Архивировано из оригинал на 2014-08-28. Получено 2014-05-29.
- Блей, Дэвид М. «Вводный материал и программное обеспечение»
- код, демо - пример использования LDA для тематического моделирования