LogitBoost - LogitBoost

В машинное обучение и теория вычислительного обучения, LogitBoost это повышение алгоритм сформулирован Джером Фридман, Тревор Хасти, и Роберт Тибширани. Исходная бумага отбрасывает AdaBoost алгоритм в статистическую структуру.[1] В частности, если учесть AdaBoost как обобщенная аддитивная модель а затем применяет функцию стоимости логистическая регрессия, можно вывести алгоритм LogitBoost.

Минимизация функции стоимости LogitBoost

LogitBoost можно рассматривать как выпуклая оптимизация. В частности, учитывая, что мы ищем аддитивную модель вида

алгоритм LogitBoost минимизирует логистическая потеря:

Смотрите также

Рекомендации

  1. ^ Фридман, Джером; Хасти, Тревор; Тибширани, Роберт (2000). «Аддитивная логистическая регрессия: статистический взгляд на повышение». Анналы статистики. 28 (2): 337–407. CiteSeerX  10.1.1.51.9525. Дои:10.1214 / aos / 1016218223.