Алгоритм взвешенного большинства (машинное обучение) - Weighted majority algorithm (machine learning)

В машинное обучение, алгоритм взвешенного большинства (WMA) это мета-обучение алгоритм используется для построения составного алгоритма из пула алгоритмов прогнозирования, которые могут быть алгоритмами обучения любого типа, классификаторами или даже настоящими людьми-экспертами.[1][2]Алгоритм предполагает, что у нас нет предварительных знаний о точности алгоритмов в пуле, но есть достаточные основания полагать, что один или несколько из них будут работать хорошо.

Предположим, что проблема заключается в двоичном проблема решения. Для построения составного алгоритма каждому алгоритму в пуле присваивается положительный вес. Затем составной алгоритм собирает взвешенные голоса от всех алгоритмов в пуле и дает прогноз, который имеет более высокий голос. Если составной алгоритм допускает ошибку, алгоритмы в пуле, которые способствовали неправильному прогнозированию, будут дисконтированы с определенным коэффициентом β, где 0 <β <1.

Можно показать, что верхняя граница количества ошибок, сделанных в данной последовательности предсказаний из пула алгоритмов является

если один алгоритм в делает самое большее ошибки.

Существует множество вариантов алгоритма взвешенного большинства для обработки различных ситуаций, таких как смещение целей, бесконечные пулы или рандомизированные прогнозы. Основной механизм остается аналогичным, с конечными характеристиками составного алгоритма, ограниченными функцией производительности алгоритма. специалист (лучший алгоритм) в пуле.

Смотрите также

Рекомендации

  1. ^ Littlestone, N .; Вармут, М. (1994). «Алгоритм взвешенного большинства». Информация и вычисления. 108 (2): 212–261. Дои:10.1006 / inco.1994.1009.
  2. ^ Littlestone, N .; Вармут, М. (1989). Алгоритм взвешенного большинства. Симпозиум IEEE по основам компьютерных наук.