Обобщенное разложение по сингулярным числам - Generalized singular value decomposition

В линейная алгебра, то обобщенное сингулярное разложение (GSVD) - это название двух разных методов, основанных на разложение по сингулярным числам. Две версии различаются, потому что одна версия раскладывает две (или более) матрицы (как и PCA высшего порядка ), а в другой версии используется набор ограничений, накладываемых на левый и правый сингулярные векторы.

Версия высшего порядка

В обобщенное сингулярное разложение (GSVD) это матричное разложение более общий, чем разложение по сингулярным числам. Его представил Ван Лоан.^[1] в 1976 году и позже разработан Пейдж и Сондерс. СВД и ГСВД, а также некоторые другие возможные обобщения СВД^[2][3][4], широко используются при изучении кондиционирование и регуляризация линейных систем относительно квадратичной полунормы

Позволять ${ Displaystyle mathbb {F} = mathbb {R}}$, или же ${ Displaystyle mathbb {F} = mathbb {C}}$.Данные матрицы ${ displaystyle A in mathbb {F} ^ {m times n}}$ и ${ displaystyle B in mathbb {F} ^ {p times n}}$, их GSVD определяется как^[5]

${ displaystyle A = U Sigma _ {1} [X, 0] Q ^ {*}}$

и

${ displaystyle B = V Sigma _ {2} [X, 0] Q ^ {*}}$

куда ${ Displaystyle U in mathbb {F} ^ {m times m}, V in mathbb {F} ^ {p times p}}$, и ${ Displaystyle Q in mathbb {F} ^ {п раз п}}$ находятся унитарные матрицы, и ${ displaystyle X in mathbb {F} ^ {r times r}}$ неособая, где ${ displaystyle r = ранг ([A ^ {*}, B ^ {*}])}$. Также,${ displaystyle Sigma _ {1} in mathbb {F} ^ {m times r}}$ неотрицательная диагональ, и ${ displaystyle Sigma _ {2} in mathbb {F} ^ {p times r}}$ неотрицательная блочно-диагональная, с диагональными блоками; ${ displaystyle Sigma _ {2}}$ не всегда диагональный. Он считает, что ${ Displaystyle Sigma _ {1} ^ {T} Sigma _ {1} = lceil alpha _ {1} ^ {2}, dots, alpha _ {r} ^ {2} rfloor}$ и ${ Displaystyle Sigma _ {2} ^ {T} Sigma _ {2} = lceil beta _ {1} ^ {2}, dots, beta _ {r} ^ {2} rfloor}$, и это ${ Displaystyle Sigma _ {1} ^ {T} Sigma _ {1} + Sigma _ {2} ^ {T} Sigma _ {2} = I_ {r}}$. Из этого следует ${ displaystyle 0 leq alpha _ {i}, beta _ {i} leq 1}$.Отношения ${ Displaystyle sigma _ {я} = альфа _ {я} / бета _ {я}}$ называются обобщенные сингулярные значения из ${ displaystyle A}$ и ${ displaystyle B}$. Если ${ displaystyle B}$ квадратна и обратима, то обобщенные сингулярные значения находятся сингулярные значения, и ${ displaystyle U}$ и ${ displaystyle V}$ - матрицы сингулярных векторов матрицы ${ displaystyle AB ^ {- 1}}$. Далее, если ${ displaystyle B = I}$, то GSVD сводится к разложению по сингулярным числам, объясняя название.

Взвешенная версия

Взвешенная версия обобщенное сингулярное разложение (GSVD) является ограниченным матричное разложение с ограничениями на левый и правый сингулярные векторы разложение по сингулярным числам.^[6][7][8] Эта форма GSVD является продолжением СВД в качестве таких. Учитывая СВД из м × п вещественная или комплексная матрица M

${ Displaystyle M = U Sigma V ^ {*} ,}$

куда

${ Displaystyle U ^ {*} W_ {u} U = V ^ {*} W_ {v} V = I.}$

Где я это единичная матрица и где ${ displaystyle U}$ и ${ displaystyle V}$ ортонормированы с учетом их ограничений (${ displaystyle W_ {u}}$ и ${ displaystyle W_ {v}}$). Кроме того, ${ displaystyle W_ {u}}$ и ${ displaystyle W_ {v}}$ положительно определенные матрицы (часто диагональные матрицы весов). Эта форма GSVD является ядром некоторых методов, таких как обобщенный анализ главных компонентов и Анализ корреспонденции.

Взвешенная форма GSVD называется так потому, что при правильном подборе весов он обобщает многие техники (такие как многомерное масштабирование и линейный дискриминантный анализ )^[9]

Приложения

GSVD, сформулированный как сравнительное спектральное разложение,^[10] успешно применяется в обработке сигналов и науке о данных, например, в обработке геномных сигналов.^[11][12][13]

Эти приложения вдохновили на несколько дополнительных сравнительных спектральных разложений, то есть GSVD более высокого порядка (HO GSVD)^[14]и тензор GSVD.^[15][16]

Рекомендации

дальнейшее чтение