Многозадачное обучение - Multi-task learning

Многозадачное обучение (MTL) - это подполе машинное обучение в котором несколько учебных задач решаются одновременно, используя общие черты и различия между задачами. Это может привести к повышению эффективности обучения и точности прогнозов для моделей для конкретных задач по сравнению с обучением моделей по отдельности.^[1][2][3] Ранние версии MTL назывались «подсказками».^[4][5].

В широко цитируемой статье 1997 года Рич Каруана дал следующую характеристику:

Многозадачное обучение - это подход к индуктивный перенос это улучшает обобщение используя информацию о предметной области, содержащуюся в обучающих сигналах связанных задач, в качестве индуктивное смещение. Это достигается путем параллельного обучения задачам при использовании общего представление; то, что изучено для каждой задачи, может помочь лучше усвоить другие задачи.^[3]

В контексте классификации MTL стремится улучшить выполнение нескольких задач классификации путем их совместного изучения. Одним из примеров является спам-фильтр, который можно рассматривать как отдельные, но связанные задачи классификации для разных пользователей. Чтобы сделать это более конкретным, учтите, что разные люди имеют разное распределение функций, которые отличают спам-сообщения от законных, например, говорящий по-английски может обнаружить, что все электронные письма на русском языке являются спамом, а не для русскоязычных. Тем не менее, у этой задачи классификации пользователей есть определенная общность, например, одной общей чертой может быть текст, связанный с денежным переводом. Совместное решение проблемы классификации спама каждого пользователя с помощью MTL может позволить решениям информировать друг друга и повысить производительность.^[6] Дополнительные примеры настроек для MTL включают мультиклассовая классификация и классификация с несколькими этикетками.^[7]

Многозадачное обучение работает, потому что регуляризация вызванный требованием того, чтобы алгоритм хорошо работал над связанной задачей, может превзойти регуляризацию, которая предотвращает переоснащение равномерно наказывая всю сложность. Одна из ситуаций, в которой MTL может быть особенно полезна, - это если задачи имеют существенные общие черты и обычно немного занижены.^[8][6] Однако, как обсуждается ниже, MTL также оказался полезным для изучения несвязанных задач.^[8][9]

Методы

Группировка задач и перекрытие

В рамках парадигмы MTL информация может совместно использоваться для некоторых или всех задач. В зависимости от структуры взаимосвязи задач может потребоваться выборочный обмен информацией по задачам. Например, задачи могут быть сгруппированы, существовать в иерархии или быть связаны в соответствии с некоторой общей метрикой. Предположим, что более формально показано ниже, что вектор параметров, моделирующий каждую задачу, представляет собой линейная комбинация какой-то основы. Сходство по этой основе может указывать на взаимосвязь задач. Например, с редкость, перекрытие ненулевых коэффициентов между задачами указывает на общность. Группировка задач тогда соответствует тем задачам, которые лежат в подпространстве, порожденном некоторым подмножеством базовых элементов, где задачи в разных группах могут не пересекаться или перекрываться произвольно с точки зрения их баз.^[10] Связанность задач может быть наложена априори или извлечена из данных.^[7][11] Иерархическая взаимосвязь задач также может использоваться неявно, не предполагая явных априорных знаний или обучающих отношений.^[8][12]. Например, явное изучение релевантности выборки для разных задач может быть выполнено, чтобы гарантировать эффективность совместного обучения в нескольких областях.^[8]

Использование несвязанных задач

Можно попытаться изучить группу основных задач, используя группу вспомогательных задач, не связанных с основными. Во многих приложениях совместное изучение несвязанных задач, использующих одни и те же входные данные, может быть полезным. Причина в том, что предварительные знания о взаимосвязи задач могут привести к более разреженным и более информативным представлениям для каждой группы задач, по сути, за счет исключения особенностей распределения данных. Были предложены новые методы, которые основаны на предыдущей методологии многозадачности, отдавая предпочтение общему низкоразмерному представлению в каждой группе задач. Программист может наложить штраф на задачи из разных групп, что побуждает два представления быть ортогональный. Эксперименты с синтетическими и реальными данными показали, что включение несвязанных задач может привести к значительным улучшениям по сравнению со стандартными методами многозадачного обучения.^[9]

Передача знаний

С многозадачным обучением связана концепция передачи знаний. В то время как традиционное многозадачное обучение подразумевает, что совместно используемое представление разрабатывается одновременно для разных задач, передача знаний подразумевает последовательно разделяемое представление. Крупномасштабные проекты машинного обучения, такие как глубокое сверточная нейронная сеть GoogLeNet,^[13] классификатор объектов на основе изображений, может создавать надежные представления, которые могут быть полезны для дальнейших задач, связанных с обучением алгоритмов. Например, предварительно обученная модель может использоваться в качестве экстрактора признаков для выполнения предварительной обработки для другого алгоритма обучения. Или предварительно обученную модель можно использовать для инициализации модели с аналогичной архитектурой, которая затем настраивается для изучения другой задачи классификации.^[14]

Групповое адаптивное онлайн-обучение

Традиционно многозадачное обучение и передача знаний применяются в условиях стационарного обучения. Их распространение на нестационарные среды называется групповым онлайн-адаптивным обучением (ЦЕЛЬ).^[15] Обмен информацией может быть особенно полезным, если учащиеся работают в постоянно меняющейся среде, потому что учащийся может извлечь выгоду из предыдущего опыта другого учащегося, чтобы быстро адаптироваться к своей новой среде. Такое групповое адаптивное обучение имеет множество применений, от прогнозирования финансовых временных рядов с помощью систем рекомендаций по содержанию до визуального понимания для адаптивных автономных агентов.

Математика

Воспроизводящее гильбертово пространство векторных функций (RKHSvv)

Проблема MTL может быть приведена в контексте RKHSvv (a полный внутреннее пространство продукта из векторнозначные функции оснащен воспроизводящее ядро ). В частности, в последнее время основное внимание уделялось случаям, когда структура задачи может быть идентифицирована через разделяемое ядро, описанное ниже. Представленная здесь презентация основана на Ciliberto et al., 2015.^[7]

Концепции RKHSvv

Предположим, что набор обучающих данных ${ displaystyle { mathcal {S}} _ {t} = {(x_ {i} ^ {t}, y_ {i} ^ {t}) } _ {i = 1} ^ {n_ {t} }}$, с ${ displaystyle x_ {i} ^ {t} in { mathcal {X}}}$, ${ displaystyle y_ {i} ^ {t} in { mathcal {Y}}}$, куда т индексирует задачу и ${ displaystyle t in 1, ..., T}$. Позволять ${ Displaystyle п = сумма _ {т = 1} ^ {Т} п_ {т}}$. В этом параметре есть согласованное пространство ввода и вывода и одно и то же функция потерь ${ displaystyle { mathcal {L}}: mathbb {R} times mathbb {R} rightarrow mathbb {R} _ {+}}$ для каждой задачи:. Это приводит к упорядоченной проблеме машинного обучения:

$${ displaystyle min _ {f in { mathcal {H}}} sum _ {t = 1} ^ {T} { frac {1} {n_ {t}}} sum _ {i = 1 } ^ {n_ {t}} { mathcal {L}} (y_ {i} ^ {t}, f_ {t} (x_ {i} ^ {t})) + lambda || f || _ { mathcal {H}} ^ {2}}$$

(1)

куда ${ displaystyle { mathcal {H}}}$ - векторнозначное воспроизводящее ядро ​​гильбертова пространства с функциями ${ displaystyle f: { mathcal {X}} rightarrow { mathcal {Y}} ^ {T}}$ имеющий компоненты ${ displaystyle f_ {t}: { mathcal {X}} rightarrow { mathcal {Y}}}$.

Воспроизводящее ядро ​​для космоса ${ displaystyle { mathcal {H}}}$ функций ${ displaystyle f: { mathcal {X}} rightarrow mathbb {R} ^ {T}}$ - симметричная матричнозначная функция ${ displaystyle Gamma: { mathcal {X}} times { mathcal {X}} rightarrow mathbb {R} ^ {T times T}}$ , так что ${ Displaystyle Gamma ( cdot, x) с in { mathcal {H}}}$ и имеет место следующее воспроизводящее свойство:

$${ Displaystyle langle е (х), c rangle _ { mathbb {R} ^ {T}} = langle f, Gamma (x, cdot) c rangle _ { mathcal {H}}}$$

(2)

Воспроизводящее ядро ​​приводит к теореме о представителе, показывающей, что любое решение уравнения 1 имеет вид:

$${ displaystyle f (x) = sum _ {t = 1} ^ {T} sum _ {i = 1} ^ {n_ {t}} Gamma (x, x_ {i} ^ {t}) c_ {i} ^ {t}}$$

(3)

Отделяемые ядра

Форма ядра Γ индуцирует как представление пространство функций и структурирует вывод по задачам. Естественное упрощение - выбрать отделяемое ядро, который делится на отдельные ядра во входном пространстве Икс и по задачам ${ Displaystyle {1, ..., Т }}$. В этом случае ядро, связывающее скалярные компоненты ${ displaystyle f_ {t}}$ и ${ displaystyle f_ {s}}$ дан кем-то ${ textstyle gamma ((x_ {i}, t), (x_ {j}, s)) = k (x_ {i}, x_ {j}) k_ {T} (s, t) = k (x_ {i}, x_ {j}) A_ {s, t}}$. Для векторнозначных функций ${ displaystyle f in { mathcal {H}}}$ мы можем написать ${ displaystyle Gamma (x_ {i}, x_ {j}) = k (x_ {i}, x_ {j}) A}$, куда k - скалярное воспроизводящее ядро, и А является симметричным положительным полуопределенным ${ displaystyle T times T}$ матрица. В дальнейшем обозначать ${ Displaystyle S _ {+} ^ {T} = {{ text {PSD-матрицы}} } subset mathbb {R} ^ {T times T}}$ .

Это свойство факторизации, разделимость, подразумевает, что входное представление пространства признаков не зависит от задачи. То есть нет взаимодействия между входным ядром и ядром задачи. Структура по задачам представлена ​​исключительно А. Способы получения неотделимых ядер Γ это текущая область исследований.

Для сепарабельного случая теорема о представлении сводится к ${ textstyle f (x) = sum _ {i = 1} ^ {N} k (x, x_ {i}) Ac_ {i}}$. Выход модели для данных обучения затем KCA , куда K это ${ Displaystyle п раз п}$ матрица эмпирического ядра с элементами ${ textstyle K_ {я, j} = k (x_ {i}, x_ {j})}$, и C это ${ Displaystyle п раз T}$ матрица строк ${ displaystyle c_ {i}}$.

С отделимым ядром уравнение 1 можно переписать как

$${ displaystyle min _ {C in mathbb {R} ^ {n times T}} V (Y, KCA) + lambda tr (KCAC ^ { top})}$$

(п)

куда V представляет собой (взвешенное) среднее значение L применяется по отношению к Y и KCA. (Вес равен нулю, если ${ displaystyle Y_ {i} ^ {t}}$ это отсутствующее наблюдение).

Обратите внимание на второй член в п можно получить следующим образом:

${ displaystyle { begin {align} | f | _ { mathcal {H}} ^ {2} & = left langle sum _ {i = 1} ^ {n} k ( cdot, x_ {i}) Ac_ {i}, sum _ {j = 1} ^ {n} k ( cdot, x_ {j}) Ac_ {j} right rangle _ { mathcal {H}} & = sum _ {i, j = 1} ^ {n} langle k ( cdot, x_ {i}) Ac_ {i}, k ( cdot, x_ {j}) Ac_ {j} rangle _ { mathcal {H}} & { text {(билинейность)}} & = sum _ {i, j = 1} ^ {n} langle k (x_ {i}, x_ {j}) Ac_ { i}, c_ {j} rangle _ { mathbb {R} ^ {T}} & { text {(свойство воспроизведения)}} & = sum _ {i, j = 1} ^ {n} k (x_ {i}, x_ {j}) c_ {i} ^ { top} Ac_ {j} = tr (KCAC ^ { top}) end {выровнено}}}$

Известная структура задачи

Представления структуры задач

Существует три в основном эквивалентных способа представления структуры задачи: через регуляризатор; через метрику вывода и через отображение вывода.

Примеры структуры задач

С помощью формулировки регуляризатора можно легко представить множество структур задач.

• Сдача ${ textstyle A ^ { dagger} = gamma I_ {T} + ( gamma - lambda) { frac {1} {T}} mathbf {1} mathbf {1} ^ { top}}$ (куда ${ displaystyle I_ {T}}$ это ТИксТ единичная матрица и ${ textstyle mathbf {1} mathbf {1} ^ { top}}$ это ТИксТ матрица единиц) эквивалентно разрешению Γ контролировать дисперсию ${ textstyle sum _ {t} || f_ {t} - { bar {f}} || _ {{ mathcal {H}} _ {k}}}$ задач от их среднего ${ textstyle { frac {1} {T}} sum _ {t} f_ {t}}$. Например, можно измерить уровень некоторых биомаркеров в крови. Т пациенты в ${ displaystyle n_ {t}}$ моменты времени в течение дня, и интерес может заключаться в регуляризации дисперсии прогнозов для разных пациентов.
• Сдача ${ displaystyle A ^ { dagger} = alpha I_ {T} + ( alpha - lambda) M}$ , куда ${ displaystyle M_ {t, s} = { frac {1} {| G_ {r} |}} mathbb {I} (t, s in G_ {r})}$ эквивалентно разрешению ${ displaystyle alpha}$ контролировать дисперсию, измеренную относительно среднего значения группы: ${ displaystyle sum _ {r} sum _ {t in G_ {r}} || f_ {t} - { frac {1} {| G_ {r} |}} sum _ {s in G_ {r})} f_ {s} ||}$. (Здесь ${ displaystyle | G_ {r} |}$ мощность группы r, и ${ displaystyle mathbb {I}}$ - индикаторная функция). Например, люди в разных политических партиях (группах) могут быть объединены в регуляризацию с точки зрения прогнозирования рейтинга благосклонности политика. Обратите внимание, что этот штраф уменьшается до первого, когда все задачи находятся в одной группе.
• Сдача ${ displaystyle A ^ { dagger} = delta I_ {T} + ( delta - lambda) L}$, куда ${ Displaystyle L = Д-М}$ это Lаплацианский для графа с матрицей смежности M давая попарное сходство задач. Это эквивалентно большему штрафу за задачи разделения расстояний. т и s когда они более похожи (по весу ${ displaystyle M_ {t, s}}$,) т.е. ${ displaystyle delta}$ упорядочивает ${ displaystyle sum _ {t, s} || f_ {t} -f_ {s} || _ {{ mathcal {H}} _ {k}} ^ {2} M_ {t, s}}$.
• Все указанные выше варианты выбора A также вызывают дополнительный член регуляризации ${ textstyle lambda sum _ {t} || f || _ {{ mathcal {H}} _ {k}} ^ {2}}$ который штрафует сложность f в более широком смысле.

Учебные задания вместе с их структурой

Проблема обучения п можно обобщить, чтобы допускать матрицу задач обучения A следующим образом:

$${ displaystyle min _ {C in mathbb {R} ^ {n times T}, A in S _ {+} ^ {T}} V (Y, KCA) + lambda tr (KCAC ^ { вверх}) + F (A)}$$

(Q)

Выбор ${ Displaystyle F: S _ {+} ^ {T} rightarrow mathbb {R} _ {+}}$ должен быть разработан для изучения матриц А данного типа. См. «Особые случаи» ниже.

Оптимизация Q

Ограничение случаем выпуклый потери и принудительный штрафы Чилиберто и другие. показали, что хотя Q вместе не выпукла в C и А, родственная задача является совместно выпуклой.

Конкретно на выпуклом множестве ${ displaystyle { mathcal {C}} = {(C, A) in mathbb {R} ^ {n times T} times S _ {+} ^ {T} | Диапазон (C ^ { top } KC) substeq Range (A) }}$, эквивалентная задача

$${ displaystyle min _ {C, A in { mathcal {C}}} V (Y, KC) + lambda tr (A ^ { dagger} C ^ { top} KC) + F (A) }$$

(р)

выпукла с тем же минимальным значением. И если ${ displaystyle (C_ {R}, A_ {R})}$ минимизатор для р тогда ${ displaystyle (C_ {R} A_ {R} ^ { dagger}, A_ {R})}$ минимизатор для Q.

р может быть решена барьерным методом на замкнутом множестве путем введения следующего возмущения:

$${ displaystyle min _ {C in mathbb {R} ^ {n times T}, A in S _ {+} ^ {T}} V (Y, KC) + lambda tr (A ^ { кинжал} (C ^ { top} KC + delta ^ {2} I_ {T})) + F (A)}$$

(S)

Возмущение через барьер ${ displaystyle delta ^ {2} tr (A ^ { dagger})}$ заставляет целевые функции быть равными ${ displaystyle + infty}$ на границе ${ Displaystyle R ^ {п раз T} раз S _ {+} ^ {T}}$ .

S решается методом блочного координатного спуска, чередуя C и А. Это приводит к последовательности минимизаторов ${ displaystyle (C_ {m}, A_ {m})}$ в S которое сходится к решению в р в качестве ${ displaystyle delta _ {m} rightarrow 0}$, и, следовательно, дает решение Q.

Особые случаи

Призрачные штрафы - Диннузо и другие^[16] предлагаемая настройка F как норма Фробениуса ${ displaystyle { sqrt {tr (A ^ { top} A)}}}$. Они оптимизировали Q напрямую с помощью блочного координатного спуска, не учитывая затруднений на границе ${ Displaystyle mathbb {R} ^ {п раз T} раз S _ {+} ^ {T}}$.

Обучение кластерным задачам - Джейкоб и другие^[17] предложил узнать А в обстановке, где Т задачи организованы в р непересекающиеся кластеры. В этом случае пусть ${ displaystyle E in {0,1 } ^ {T times R}}$ быть матрицей с ${ displaystyle E_ {t, r} = mathbb {I} ({ text {task}} t in { text {group}} r)}$. Параметр ${ Displaystyle M = I-E ^ { dagger} E ^ {T}}$, и ${ displaystyle U = { frac {1} {T}} mathbf {11} ^ { top}}$, матрица задач ${ displaystyle A ^ { dagger}}$ можно параметризовать как функцию ${ displaystyle M}$: ${ displaystyle A ^ { dagger} (M) = epsilon _ {M} U + epsilon _ {B} (M-U) + epsilon (I-M)}$ , с условиями, которые штрафуют среднее значение, между дисперсией кластеров и дисперсией внутри кластеров, соответственно, прогнозов задачи. M не выпуклый, но имеется выпуклая релаксация ${ displaystyle { mathcal {S}} _ {c} = {M in S _ {+} ^ {T}: IM in S _ {+} ^ {T} land tr (M) = r } }$. В этой формулировке ${ Displaystyle F (A) = mathbb {I} (A (M) in {A: M in { mathcal {S}} _ {C} })}$.

Обобщения

Невыпуклые штрафы - Штрафы могут быть построены так, что A должен быть лапласианом графа, или что A имеет факторизацию низкого ранга. Однако эти штрафы не являются выпуклыми, и анализ барьерного метода, предложенный Ciliberto et al. не проходит в этих случаях.

Неразъемные ядра - Разделимые ядра ограничены, в частности, они не учитывают структуры в пространстве взаимодействия между входным и выходным доменами совместно. Дальнейшая работа необходима для разработки моделей для этих ядер.

Приложения

Фильтрация спама

Используя принципы MTL, методы совместной работы фильтрация спама что облегчает персонализацию. В крупномасштабных системах электронной почты с открытым членством большинство пользователей не маркируют достаточно сообщений для отдельного локального пользователя. классификатор чтобы быть эффективными, в то время как данные слишком шумные, чтобы их можно было использовать для глобального фильтра для всех пользователей. Гибридный глобальный / индивидуальный классификатор может эффективно поглощать влияние пользователей, которые очень старательно маркируют электронные письма от широкой публики. Этого можно достичь, обеспечивая при этом достаточное качество для пользователей с несколькими помеченными экземплярами.^[18]

веб-поиск

Использование ускоренного деревья решений, можно включить неявный обмен данными и регуляризацию. Этот метод обучения можно использовать в наборах данных ранжирования веб-поиска. Одним из примеров является использование наборов данных ранжирования из нескольких стран. Здесь многозадачное обучение особенно полезно, поскольку наборы данных из разных стран в значительной степени различаются по размеру из-за стоимости редакционных суждений. Было продемонстрировано, что совместное обучение различным задачам может привести к значительному повышению производительности с удивительной надежностью.^[19]

Пакет программного обеспечения

Многозадачное обучение с помощью пакета Matlab StructurAl Regularization (MALSAR)^[20] реализует следующие алгоритмы многозадачного обучения:

• Средне-регулярное многозадачное обучение^[21][22]
• Многозадачное обучение с совместным выбором функций^[23]
• Надежное многозадачное обучение^[24]
• Регуляризованное многозадачное обучение по нормам^[25]
• Альтернативная структурная оптимизация^[26][27]
• Некогерентное низкоранговое и разреженное обучение^[28]
• Надежное многозадачное обучение низкого ранга
• Кластерное многозадачное обучение^[29][30]
• Многозадачное обучение с графическими структурами

Смотрите также

Рекомендации

внешняя ссылка

• Группа Biosignals Intelligence в UIUC
• Вашингтонский университет в Сент-Луисе Depart. компьютерных наук

Программного обеспечения

• Многозадачное обучение с помощью пакета структурной регуляризации
• Набор средств многозадачного онлайн-обучения (OMT) Универсальный многозадачный онлайн-инструментарий для обучения, основанный на условное случайное поле модели и стохастический градиентный спуск обучение персонала (C #, .СЕТЬ )