Обратное распределение Уишарта - Inverse-Wishart distribution

Инверс-Уишарт

Обозначение	${displaystyle {mathcal {W}} ^ {- 1} ({mathbf {Psi}}, u)}$
Параметры	${displaystyle u> p-1}$ степени свободы (настоящий ) ${displaystyle mathbf {Psi}> 0}$, ${displaystyle p imes p}$ масштабная матрица (поз. деф. )
Поддерживать	${displaystyle mathbf {X}}$ является п × п положительно определенный
PDF	${displaystyle {frac {left | mathbf {Psi} ight | ^ {u / 2}} {2 ^ {up / 2} Gamma _ {p} ({frac {u} {2}})}} left | mathbf { x} ight | ^ {- (u + p + 1) / 2} e ^ {- {frac {1} {2}} имя оператора {tr} (mathbf {Psi} mathbf {x} ^ {- 1})} }$ ${displaystyle Gamma _ {p}}$ это многомерная гамма-функция ${displaystyle operatorname {tr}}$ это след функция
Иметь в виду	${displaystyle {frac {mathbf {Psi}} {u -p-1}}}$За ${displaystyle u> p + 1}$
Режим	${displaystyle {frac {mathbf {Psi}} {u + p + 1}}}$[1]:406
Дисперсия	Смотри ниже

В статистика, то обратное распределение Уишарта, также называемый инвертированное распределение Уишарта, это распределение вероятностей определен на реальных положительно определенный матрицы. В Байесовская статистика он используется как сопряженный предшествующий для ковариационной матрицы многомерный нормальный распределение.

Мы говорим ${displaystyle mathbf {X}}$ следует обратному распределению Уишарта, обозначенному как ${displaystyle mathbf {X} sim {mathcal {W}} ^ {- 1} (mathbf {Psi}, u)}$, если это обратный ${displaystyle mathbf {X} ^ {- 1}}$ имеет Распределение Уишарта ${displaystyle {mathcal {W}} (mathbf {Psi} ^ {- 1}, u)}$. Важные тождества были получены для обратного распределения Вишарта.^[2]

Плотность

В функция плотности вероятности обратного Уишарта:^[3]

${displaystyle f_ {mathbf {x}} ({mathbf {x}}; {mathbf {Psi}}, u) = {frac {left | {mathbf {Psi}} полет | ^ {u / 2}} {2 ^ {up / 2} Gamma _ {p} ({frac {u} {2}})}} left | mathbf {x} ight | ^ {- (u + p + 1) / 2} e ^ {- {frac {1} {2}} имя оператора {tr} (mathbf {Psi} mathbf {x} ^ {- 1})}}$

куда ${displaystyle mathbf {x}}$ и ${displaystyle {mathbf {Psi}}}$ находятся ${displaystyle p imes p}$ положительно определенный матрицы, а Γ_п(·) это многомерная гамма-функция.

Теоремы

Распределение обратной матрицы с распределением Уишарта

Если ${displaystyle {mathbf {X}} sim {mathcal {W}} ({mathbf {Sigma}}, u)}$ и ${displaystyle {mathbf {Sigma}}}$ имеет размер ${displaystyle p imes p}$, тогда ${displaystyle mathbf {A} = {mathbf {X}} ^ {- 1}}$ имеет обратное распределение Уишарта ${displaystyle mathbf {A} sim {mathcal {W}} ^ {- 1} ({mathbf {Sigma}} ^ {- 1}, u)}$ .^[4]

Маргинальные и условные распределения из обратной матрицы с распределением Уишарта

Предполагать ${displaystyle {mathbf {A}} sim {mathcal {W}} ^ {- 1} ({mathbf {Psi}}, u)}$ имеет обратное распределение Уишарта. Разбиваем матрицы ${displaystyle {mathbf {A}}}$ и ${displaystyle {mathbf {Psi}}}$ соответственно друг с другом

${displaystyle {mathbf {A}} = {egin {bmatrix} mathbf {A} _ {11} & mathbf {A} _ {12} mathbf {A} _ {21} & mathbf {A} _ {22} end {bmatrix }},; {mathbf {Psi}} = {egin {bmatrix} mathbf {Psi} _ {11} & mathbf {Psi} _ {12} mathbf {Psi} _ {21} & mathbf {Psi} _ {22} конец {bmatrix}}}$

куда ${displaystyle {mathbf {A} _ {ij}}}$ и ${displaystyle {mathbf {Psi} _ {ij}}}$ находятся ${displaystyle p_ {i} imes p_ {j}}$ матрицы, то имеем

я) ${displaystyle mathbf {A} _ {11}}$ не зависит от ${displaystyle mathbf {A} _ {11} ^ {- 1} mathbf {A} _ {12}}$ и ${displaystyle {mathbf {A}} _ {22cdot 1}}$, куда ${displaystyle {mathbf {A} _ {22cdot 1}} = {mathbf {A}} _ {22} - {mathbf {A}} _ {21} {mathbf {A}} _ {11} ^ {- 1} {mathbf {A}} _ {12}}$ это Дополнение Шура из ${displaystyle {mathbf {A} _ {11}}}$ в ${displaystyle {mathbf {A}}}$;

II) ${displaystyle {mathbf {A} _ {11}} sim {mathcal {W}} ^ {- 1} ({mathbf {Psi} _ {11}}, u -p_ {2})}$;

iii) ${displaystyle {mathbf {A}} _ {11} ^ {- 1} {mathbf {A}} _ {12} mid {mathbf {A}} _ {22cdot 1} sim MN_ {p_ {1} imes p_ {2 }} ({mathbf {Psi}} _ {11} ^ {- 1} {mathbf {Psi}} _ {12}, {mathbf {A}} _ {22cdot 1} otimes {mathbf {Psi}} _ {11 } ^ {- 1})}$, куда ${displaystyle MN_ {p imes q} (cdot, cdot)}$ это матричное нормальное распределение;

iv) ${displaystyle {mathbf {A}} _ {22cdot 1} sim {mathcal {W}} ^ {- 1} ({mathbf {Psi}} _ {22cdot 1}, u)}$, куда ${displaystyle {mathbf {Psi} _ {22cdot 1}} = {mathbf {Psi}} _ {22} - {mathbf {Psi}} _ {21} {mathbf {Psi}} _ {11} ^ {- 1} {mathbf {Psi}} _ {12}}$;

Сопряженное распределение

Предположим, мы хотим сделать вывод о ковариационной матрице ${displaystyle {mathbf {Sigma}}}$ чей прежний ${displaystyle {p (mathbf {Sigma})}}$ имеет ${displaystyle {mathcal {W}} ^ {- 1} ({mathbf {Psi}}, u)}$ распределение. Если наблюдения ${displaystyle mathbf {X} = [mathbf {x} _ {1}, ldots, mathbf {x} _ {n}]}$ независимые гауссовские переменные с переменной p, взятые из ${displaystyle N (mathbf {0}, {mathbf {Sigma}})}$ распределения, то условное распределение ${displaystyle {p (mathbf {Sigma} mid mathbf {X})}}$ имеет ${displaystyle {mathcal {W}} ^ {- 1} ({mathbf {A}} + {mathbf {Psi}}, n + u)}$ распределение, где ${displaystyle {mathbf {A}} = mathbf {X} mathbf {X} ^ {T}}$.

Поскольку априорное и апостериорное распределения являются одним и тем же семейством, мы говорим, что обратное распределение Уишарта сопрягать к многомерному гауссову.

Благодаря его сопряженности с многомерным гауссианом, можно маргинализировать (проинтегрировать) параметр Гаусса ${displaystyle mathbf {Sigma}}$.

${displaystyle f_ {mathbf {X}, mid, Psi, u} (mathbf {x}) = int f_ {mathbf {X}, mid, mathbf {Sigma}, =, sigma} (mathbf {x}) f_ {mathbf {Sigma}, mid, mathbf {Psi}, u} (sigma), dsigma = {frac {| mathbf {Psi} | ^ {u / 2} Gamma _ {p} left ({frac {u + n} {2 }} ight)} {pi ^ {np / 2} | mathbf {Psi} + mathbf {A} | ^ {(u + n) / 2} Gamma _ {p} ({frac {u} {2}}) }}}$

(это полезно, потому что матрица дисперсии ${displaystyle mathbf {Sigma}}$ не известно на практике, но потому что ${displaystyle {mathbf {Psi}}}$ известен априори, и ${displaystyle {mathbf {A}}}$ можно получить из данных, правая часть может быть оценена напрямую). Распределение обратного Вишарта, как и ранее, может быть построено через существующие переданные предварительное знание.^[5]

Моменты

Нижеследующее основано на издании Press, S.J. (1982) "Applied Multivariate Analysis", 2-е изд. (Dover Publications, Нью-Йорк), после повторной параметризации степени свободы, чтобы она соответствовала p.d.f. определение выше.

Значение:^[4]:85

${displaystyle operatorname {E} (mathbf {X}) = {frac {mathbf {Psi}} {u -p-1}}.}.$

Дисперсия каждого элемента ${displaystyle mathbf {X}}$:

${displaystyle operatorname {Var} (x_ {ij}) = {frac {(u -p + 1) psi _ {ij} ^ {2} + (u -p-1) psi _ {ii} psi _ {jj} } {(u -p) (u -p-1) ^ {2} (u -p-3)}}}$

Дисперсия диагонали использует ту же формулу, что и выше, с ${displaystyle i = j}$, что упрощает:

${displaystyle operatorname {Var} (x_ {ii}) = {frac {2psi _ {ii} ^ {2}} {(u -p-1) ^ {2} (u -p-3)}}.}.$

Ковариация элементов ${displaystyle mathbf {X}}$ даны:

${displaystyle operatorname {Cov} (x_ {ij}, x_ {kell}) = {frac {2psi _ {ij} psi _ {kell} + (u -p-1) (psi _ {ik} psi _ {jell} + psi _ {iell} psi _ {kj})} {(u -p) (u -p-1) ^ {2} (u -p-3)}}}$

Результаты представлены в более сжатой форме продукта Кронекера фон Розена.^[6] следующее.

${displaystyle mathbf {E} left (W ^ {- 1} иногда W ^ {- 1} ight) = c_ {1} Psi, иногда Psi + c_ {2} Vec (Psi) Vec (Psi) ^ {T} + c_ {2} K_ {pp} Psi otimes Psi}$

${displaystyle mathbf {Cov} left (W ^ {- 1} otimes W ^ {- 1} ight) = (c_ {1} -c_ {3}) Psi otimes Psi + c_ {2} Vec (Psi) Vec (Psi ) ^ {T} + c_ {2} K_ {pp} пси или пси}$

куда ${displaystyle c_ {2} = left [(u -p) (u -p-1) (u -p-3) ight] ^ {- 1}, ;; c_ {1} = (u -p-2) c_ {2} ,; c_ {3} = (u -p-1) ^ {- 2}}$и ${displaystyle K_ {pp} {ext {is a}} p ^ {2} imes p ^ {2}}$ матрица коммутации. В статье допущена опечатка: коэффициент при ${displaystyle K_ {pp} Psi otimes Psi}$ дается как ${displaystyle c_ {1}}$ скорее, чем ${displaystyle c_ {2}}$. Также выражение для среднего квадрата обратной функции Уишарта, следствие 3.1, должно иметь вид ${displaystyle mathbf {E} left [W ^ {- 1} W ^ {- 1} ight] = (c_ {1} + c_ {2}) Sigma ^ {- 1} Sigma ^ {- 1} + c_ {2 } Сигма ^ {- 1} mathbf {tr} (Сигма ^ {- 1})}$

Чтобы показать, как взаимодействующие члены становятся разреженными, когда ковариация диагональна, пусть ${displaystyle Psi = mathbf {I} _ {3 imes 3}}$ и введем произвольные параметры ${displaystyle u, v, w}$:

${displaystyle mathbf {E} left (W ^ {- 1} иногда W ^ {- 1} ight) = uPsi otimes Psi + vVec (Psi) Vec (Psi) ^ {T} + wK_ {pp} Psi otimes Psi}$

тогда матрица второго момента становится

${displaystyle mathbf {E} left (W ^ {- 1} иногда W ^ {- 1} ight) = {egin {bmatrix} u + v + w & cdot & cdot & cdot & v & cdot & cdot & cdot & v cdot & u & cdot & w & cdot & cdot & cdot & cdot & CDOT & U & CDOT & CDOT & CDOT & W & CDOT & CDOT CDOT & ш & CDOT & U & CDOT & CDOT & CDOT & CDOT & CDOT v & CDOT & CDOT & CDOT & и + v + W & CDOT & CDOT & CDOT & v CDOT & CDOT & CDOT & CDOT & CDOT & U & CDOT & ш & CDOT CDOT & CDOT & W & CDOT & CDOT & CDOT & U & CDOT & CDOT CDOT & CDOT & CDOT & CDOT & CDOT & ш & CDOT & U & CDOT v & cdot & cdot & cdot & v & cdot & cdot & cdot & u + v + w end {bmatrix}}}$

Дисперсии продукта Уишарта также получены Cook et. al.^[7] в особом случае и, как следствие, до полного ранга. В комплексном случае "белый" обратный комплекс Вишарта ${displaystyle {mathcal {W}} ^ {- 1} (mathbf {I}, u, p)}$ показал шаман^[8] иметь диагональную статистическую структуру, в которой ведущие диагональные элементы коррелированы, а все остальные элементы не коррелированы. Это также показали Бреннан и Рид.^[9] с использованием процедуры разделения матрицы, хотя и в области комплексных переменных, что маргинальный PDF диагонального элемента [1,1] этой матрицы имеет Обратное распределение хи-квадрат. Это легко распространяется на все диагональные элементы, поскольку ${displaystyle {mathcal {W}} ^ {- 1} (mathbf {I}, u, p)}$ статистически инвариантен относительно ортогональных преобразований, включающих перестановки диагональных элементов.

Для обратного распределения хи-квадрат с произвольным ${displaystyle u _ {c}}$ степени свободы, pdf

${displaystyle {ext {Inv -}} chi ^ {2} (x; u _ {c}) = {frac {2 ^ {- u _ {c} / 2}} {Gamma (u _ {c} / 2 )}} x ^ {- u _ {c} / 2-1} e ^ {- 1 / (2x)}.}$

среднее значение и дисперсия которых ${displaystyle {frac {1} {u _ {c} -2}} {ext {and}} {frac {2} {(u _ {c} -2) ^ {2} (u _ {c} -4 )}}}$ соответственно. Эти два параметра согласованы с соответствующими обратными диагональными моментами Уишарта, когда ${displaystyle u _ {c} = u -p + 1}$ и, следовательно, диагональный элемент marginal pdf ${displaystyle {mathcal {W}} ^ {- 1} (mathbf {I}, u, p)}$ становится:

${displaystyle f_ {x_ {11}} (x_ {11}; Psi, u, p) = {frac {2 ^ {- (u -p + 1) / 2}} {Гамма слева ({frac {u -p +1} {2}} ight)}}, x_ {11} ^ {- (u -p + 1) / 2-1} e ^ {- 1 / (2x_ {11})}}$

которое ниже обобщается на все диагональные элементы. Обратите внимание, что среднее значение комплексного обратного Вишарта равно ${displaystyle {frac {mathbf {I}} {u -p}}}$ и отличается от действительного случая Уишарта, который ${displaystyle {frac {mathbf {I}} {u -p-1}}}$.

Связанные дистрибутивы

А одномерный специализацией обратного распределения Вишарта является обратное гамма-распределение. С ${displaystyle p = 1}$ (т.е. одномерный) и ${displaystyle alpha = u / 2}$, ${displaystyle eta = mathbf {Psi} / 2}$ и ${displaystyle x = mathbf {X}}$ то функция плотности вероятности обратного распределения Уишарта становится

${displaystyle p (xmid alpha, eta) = {frac {eta ^ {alpha}, x ^ {- alpha -1} exp (- eta / x)} {Gamma _ {1} (alpha)}}.}.}$

т.е. обратное гамма-распределение, где ${displaystyle Gamma _ {1} (cdot)}$ это обычный Гамма-функция.

Обратное распределение Уишарта - частный случай гамма-распределение обратной матрицы когда параметр формы ${displaystyle alpha = {frac {u} {2}}}$ и масштабный параметр ${displaystyle eta = 2}$.

Другое обобщение получило название обобщенного обратного распределения Уишарта, ${displaystyle {mathcal {GW}} ^ {- 1}}$. А ${displaystyle p imes p}$ положительно определенная матрица ${displaystyle mathbf {X}}$ называется распределенным как ${displaystyle {mathcal {GW}} ^ {- 1} (mathbf {Psi}, u, mathbf {S})}$ если ${displaystyle mathbf {Y} = mathbf {X} ^ {1/2} mathbf {S} ^ {- 1} mathbf {X} ^ {1/2}}$ распространяется как ${displaystyle {mathcal {W}} ^ {- 1} (mathbf {Psi}, u)}$. Здесь ${displaystyle mathbf {X} ^ {1/2}}$ обозначает квадратный корень симметричной матрицы из ${displaystyle mathbf {X}}$, параметры ${displaystyle mathbf {Psi}, mathbf {S}}$ находятся ${displaystyle p imes p}$ положительно определенные матрицы, а параметр ${displaystyle u}$ положительный скаляр больше, чем ${displaystyle 2p}$. Обратите внимание, что когда ${displaystyle mathbf {S}}$ равна единичной матрице, ${displaystyle {mathcal {GW}} ^ {- 1} (mathbf {Psi}, u, mathbf {S}) = {mathcal {W}} ^ {- 1} (mathbf {Psi}, u)}$. Это обобщенное обратное распределение Уишарта применялось для оценки распределений многомерных процессов авторегрессии.^[10]

Другой тип обобщения - это нормальное обратное распределение Вишарта, по сути, продукт многомерное нормальное распределение с обратным распределением Уишарта.

Когда масштабная матрица является единичной матрицей, ${displaystyle {mathcal {Psi}} = mathbf {I}, {ext {and}} {mathcal {Phi}}}$ - произвольная ортогональная матрица, замена ${displaystyle mathbf {X}}$ к ${displaystyle {Phi} mathbf {X} {mathcal {Phi}} ^ {T}}$ не изменяет PDF-файл ${displaystyle mathbf {X}}$ так ${displaystyle {mathcal {W}} ^ {- 1} (mathbf {I}, u, p)}$ в некотором смысле принадлежит к семейству сферически инвариантных случайных процессов (SIRP).
Таким образом, произвольный p-вектор ${displaystyle V}$ с ${displaystyle l_ {2} {ext {length}} V ^ {T} V = 1}$ можно повернуть в вектор ${displaystyle mathbf {Phi} V = [1; 0; 0cdots] ^ {T}}$ без изменения PDF файла ${displaystyle V ^ {T} mathbf {X} V}$, более того ${displaystyle mathbf {Phi}}$ может быть матрицей перестановок, которая меняет диагональные элементы. Отсюда следует, что диагональные элементы ${displaystyle mathbf {X}}$ одинаково обратные распределения хи-квадрат, с pdf ${displaystyle f_ {x_ {11}}}$ в предыдущем разделе, хотя они не являются взаимно независимыми. Результат известен в статистике оптимального портфеля, как в теореме 2, следствие 1 Боднара и др.,^[11] где он выражен в обратной форме ${displaystyle {frac {V ^ {T} mathbf {Psi} V} {V ^ {T} mathbf {X} V}} сим чи _ {u -p + 1} ^ {2}}$.

Смотрите также

• Гамма-распределение обратной матрицы
• Матричное нормальное распределение
• Распределение Уишарта
• Комплексное обратное распределение Вишарта

Рекомендации