Необъяснимая доля дисперсии - Википедия - Fraction of variance unexplained

В статистика, то доля необъяснимой дисперсии (ФВУ) в контексте задача регрессии - доля дисперсии регресс (зависимая переменная) Y что не может быть объяснено, т. е. неверно предсказано объясняющие переменные Икс.

Формальное определение

Предположим, нам дана функция регрессии ${ displaystyle f}$ уступая для каждого ${ displaystyle y_ {i}}$ оценка ${ displaystyle { widehat {y}} _ {i} = f (x_ {i})}$ куда ${ displaystyle x_ {i}}$ вектор я^th наблюдения по всем независимым переменным.^[1]:181 Мы определяем долю необъяснимой дисперсии (FVU) как:

${ displaystyle { begin {align} { text {FVU}} & = {{ text {VAR}} _ { text {err}} over { text {VAR}} _ { text {tot} }} = {{ text {SS}} _ { text {err}} / N over { text {SS}} _ { text {tot}} / N} = {{ text {SS}} _ { text {err}} over { text {SS}} _ { text {tot}}} left (= 1 - {{ text {SS}} _ { text {reg}} over { text {SS}} _ { text {tot}}}, { text {истинно только в некоторых случаях, таких как линейная регрессия}} right) [6pt] & = 1-R ^ {2} конец {выровнен}}}$

куда р² это коэффициент детерминации и VAR_{ошибаться} и VAR_малыш являются дисперсией остатков и выборочной дисперсией зависимой переменной. SS_{ошибаться} (сумма квадратов ошибок прогнозов, что эквивалентно остаточная сумма квадратов ), SS_малыш (в общая сумма квадратов ), и SS_рег (сумма квадратов регрессии, эквивалентно объясненная сумма квадратов ) даны

${ displaystyle { begin {align} { text {SS}} _ { text {err}} & = sum _ {i = 1} ^ {N} ; (y_ {i} - { widehat { y}} _ {i}) ^ {2} { text {SS}} _ { text {tot}} & = sum _ {i = 1} ^ {N} ; (y_ {i} - { bar {y}}) ^ {2} { text {SS}} _ { text {reg}} & = sum _ {i = 1} ^ {N} ; ({ widehat {y}} _ {i} - { bar {y}}) ^ {2} { text {and}} { bar {y}} & = { frac {1} {N}} сумма _ {i = 1} ^ {N} ; y_ {i}. end {выравнивается}}}$

В качестве альтернативы, долю необъяснимой дисперсии можно определить следующим образом:

${ displaystyle { text {FVU}} = { frac { operatorname {MSE} (f)} { operatorname {var} [Y]}}}$

где MSE (ж) это среднеквадратичная ошибка функции регрессииƒ.

Объяснение

Чтобы понять FVU, полезно рассмотреть второе определение. При попытке предсказать Y, самая наивная функция регрессии, которую мы можем придумать, - это постоянная функция, предсказывающая среднее значение Y, т.е. ${ displaystyle f (x_ {i}) = { bar {y}}}$. Отсюда следует, что MSE этой функции равна дисперсии Y; то есть, SS_{ошибаться} = SS_малыш, и SS_рег = 0. В этом случае изменение Y может быть учтен, и тогда максимальное значение FVU равно 1.

В более общем смысле, FVU будет 1, если независимые переменные Икс не расскажи нам ничего о Y в том смысле, что предсказанные значения Y не коварий с Y. Но по мере того, как прогноз становится лучше, а MSE может быть уменьшена, FVU снижается. В случае точного предсказания, когда ${ displaystyle { hat {y}} _ {i} = y_ {i}}$ для всех я, MSE равно 0, SS_{ошибаться} = 0, SS_рег = SS_малыш, а FVU - 0.

Смотрите также

• Коэффициент детерминации
• Корреляция
• Объясненная сумма квадратов
• Регрессивный анализ
• Линейная регрессия
• Неподходящая сумма квадратов

Рекомендации