Спектральный анализ методом наименьших квадратов - Least-squares spectral analysis

Спектральный анализ методом наименьших квадратов (LSSA) - метод оценки частотный спектр, на основе наименьших квадратов соответствие синусоиды к выборкам данных, аналогичным Анализ Фурье.^[1][2] Анализ Фурье наиболее часто используемый спектральный метод в науке, как правило, усиливает длиннопериодический шум в записях с длинными интервалами; LSSA смягчает такие проблемы.^[3]

LSSA также известен как Метод Ваничека^[4] после Петр Ваничек, и как Метод Ломба^[3] (или Периодограмма Ломба^[5]) и Метод Ломба – Скаргла^[6] (или же Периодограмма Ломба – Скаргла^[2][7]), основанный на вкладе Николаса Р. Ломба^[8] и, независимо, Джеффри Д. Скаргл.^[9] Близко связанные методы были разработаны Майклом Коренбергом, Скоттом Ченом и Дэвид Донохо.

Историческое прошлое

Тесные связи между Анализ Фурье, то периодограмма, и наименьших квадратов подгонка синусоид известна давно.^[10] Однако большинство разработок ограничиваются полными наборами данных, состоящими из равномерных выборок. В 1963 г. Фрик Дж. М. Барнинг из Mathematisch Centrum, Амстердам, данные с неравномерным интервалом обрабатывались аналогичными методами,^[11] включая анализ периодограммы, эквивалентный тому, что сейчас называется методом Ломба, и аппроксимацию методом наименьших квадратов выбранных частот синусоид, определенных из таких периодограмм, связанных процедурой, которая теперь известна как подходящее преследование с дооборудованием^[12] или поиск ортогонального соответствия.^[13]

Петр Ваничек, канадец геодезист из Университет Нью-Брансуика, также предложил подход согласования-преследования, который он назвал «последовательным спектральным анализом», и в результате в 1969 году получил «периодограмму наименьших квадратов» с одинаковыми и неравно разнесенными данными.^[14] Он обобщил этот метод для учета систематических компонентов, выходящих за рамки простого среднего, таких как «предсказанный линейный (квадратичный, экспоненциальный, ...) вековой тренд неизвестной величины», и применил его к множеству выборок в 1971 году.^[15]

Затем метод Ваничека был упрощен в 1976 году Николасом Р. Ломбом из Сиднейский университет, который указал на его тесную связь с периодограмма анализ.^[8] Определение периодограммы неравномерно разнесенных данных было впоследствии модифицировано и проанализировано Джеффри Д. Скарглом из Исследовательский центр НАСА Эймса,^[9] который показал, что с небольшими изменениями ее можно сделать идентичной формуле наименьших квадратов Ломба для подбора индивидуальных частот синусоид.

Скаргл заявляет, что его статья «не вводит новый метод обнаружения, а вместо этого изучает надежность и эффективность обнаружения с помощью наиболее часто используемого метода, периодограммы, в случае, когда время наблюдения неравномерно расположены, "и далее указывает в отношении подбора синусоид методом наименьших квадратов по сравнению с анализом периодограмм, что его статья", по-видимому, впервые устанавливает, что (с предложенными модификациями) эти два метода в точности эквивалентны ".^[9]

Нажмите^[3] резюмирует развитие следующим образом:

Совершенно другой метод спектрального анализа для неравномерно отобранных данных, который смягчает эти трудности и имеет некоторые другие очень желательные свойства, был разработан Ломбом, частично на основе более ранней работы Барнинга и Ваничека, и дополнительно разработан Скаргл.

Майкл Коренберг из Королевского университета в 1989 году разработал метод «быстрого ортогонального поиска», позволяющий быстрее находить почти оптимальное разложение спектров или другие проблемы.^[16] похож на метод, который позже стал известен как преследование ортогонального соответствия. В 1994 году Скотт Чен и Дэвид Донохо из Стэнфордского университета разработали метод «базового поиска» с использованием минимизации L1 норма коэффициентов, чтобы представить задачу как линейное программирование проблема, для которой доступны эффективные решения.^[17]

Метод Ваничека

В методе Ваничека дискретный набор данных аппроксимируется взвешенной суммой синусоид прогрессивно определяемых частот с использованием стандартной линейная регрессия, или же наименьших квадратов поместиться.^[18] Частоты выбираются с использованием метода, аналогичного методу Барнинга, но идущего дальше в оптимизации выбора каждой последующей новой частоты путем выбора частоты, которая минимизирует невязку после аппроксимации методом наименьших квадратов (эквивалентно методу аппроксимации, теперь известному как подходящее преследование с дооснащением^[12]). Количество синусоид должно быть меньше или равно количеству выборок данных (считая синусы и косинусы той же частоты, что и отдельные синусоиды).

Вектор данных Φ представлен в виде взвешенной суммы синусоидальных базисных функций, табулированных в матрице А оценивая каждую функцию во время выборки, с вектором веса Икс:

${ displaystyle phi приблизительно { textbf {A}} x}$

где весовой вектор Икс выбирается так, чтобы минимизировать сумму квадратов ошибок аппроксимации Φ. Решение для Икс в закрытой форме, используя стандартные линейная регрессия:^[19]

${ displaystyle x = ({ textbf {A}} ^ { mathrm {T}} { textbf {A}}) ^ {- 1} { textbf {A}} ^ { mathrm {T}} фи.}$

Здесь матрица A может быть основана на любом наборе функций, которые являются взаимно независимыми (не обязательно ортогональными) при оценке во время выборки; для спектрального анализа обычно используются функции синусов и косинусов, равномерно распределенных по интересующему диапазону частот. Если слишком много частот выбрано в слишком узком частотном диапазоне, функции не будут достаточно независимыми, матрица будет плохо обусловлена, и результирующий спектр не будет иметь смысла.^[19]

Когда базис функционирует в А ортогональны (т. е. не коррелированы, то есть столбцы не имеют попарных точечные продукты ), матрица А^ТА - диагональная матрица; когда все столбцы имеют одинаковую мощность (сумму квадратов элементов), тогда эта матрица является единичная матрица умноженное на константу, поэтому обращение тривиально. Последний случай имеет место, когда времена выборки равномерно разнесены, а синусоиды выбраны так, чтобы быть синусами и косинусами, равномерно распределенными попарно в частотном интервале от 0 до полупериода на выборку (с интервалом 1 / N цикла на выборку, опуская синус фазы на 0 и максимальной частоте, где они идентичны нулю). Этот конкретный случай известен как дискретное преобразование Фурье, немного переписанный с точки зрения реальных данных и коэффициентов.^[19]

${ Displaystyle х = { textbf {A}} ^ { mathrm {T}} phi}$ (Случай DFT для N равномерно распределенные выборки и частоты в пределах скалярного фактора)

Ломб предложил использовать это упрощение в целом, за исключением парных корреляций между синусоидальными и косинусными основаниями одной и той же частоты, поскольку корреляции между парами синусоид часто невелики, по крайней мере, когда они не слишком близко расположены. По сути, это традиционный периодограмма формулировка, но теперь принята для использования с неравномерно расположенными образцами. Вектор Икс является хорошей оценкой основного спектра, но поскольку корреляции игнорируются, АИкс больше не является хорошим приближением к сигналу, и этот метод больше не является методом наименьших квадратов - тем не менее, он продолжает называться таковым.

Периодограмма Ломба – Скаргла

Вместо того, чтобы напрямую брать точечные произведения данных с синусоидальными и косинусоидальными сигналами, Скаргл изменил стандартную формулу периодограммы, чтобы сначала найти временную задержку τ, так что эта пара синусоид будет взаимно ортогональной во время выборки. т_j, а также с поправкой на потенциально неравные мощности этих двух базисных функций, чтобы получить лучшую оценку мощности на частоте,^[3][9] что сделало его модифицированный метод периодограмм в точности эквивалентным методу наименьших квадратов Ломба. Задержка τ определяется по формуле

${ displaystyle tan {2 omega tau} = { frac { sum _ {j} sin 2 omega t_ {j}} { sum _ {j} cos 2 omega t_ {j}} }.}$

Периодограмма на частоте ω затем оценивается как:

${ displaystyle P_ {x} ( omega) = { frac {1} {2}} left ({ frac { left [ sum _ {j} X_ {j} cos omega (t_ {j } - tau) right] ^ {2}} { sum _ {j} cos ^ {2} omega (t_ {j} - tau)}} + { frac { left [ sum _ {j} X_ {j} sin omega (t_ {j} - tau) right] ^ {2}} { sum _ {j} sin ^ {2} omega (t_ {j} - tau)}} right)}$

отчеты Scargle имеют такое же статистическое распределение, что и периодограмма в случае с равномерной выборкой.^[9]

На любой индивидуальной частоте ω этот метод дает ту же мощность, что и метод наименьших квадратов для синусоид этой частоты в форме

${ displaystyle phi (t) = A sin omega t + B cos omega t.}$^[20]

Обобщенная периодограмма Ломба – Скаргла.

Стандартная периодограмма Ломба – Скаргла действительна для модели с нулевым средним. Обычно это приближается путем вычитания среднего значения данных перед вычислением периодограммы. Однако это неверное предположение, когда среднее значение модели (подогнанные синусоиды) не равно нулю. В обобщенный Периодограмма Ломба – Скаргла устраняет это предположение и явно вычисляет среднее значение. В этом случае установленная функция

${ displaystyle phi (t) = A sin omega t + B cos omega t + C.}$^[21]

Обобщенная периодограмма Ломба – Скаргла также упоминается как периодограмма с плавающим средним.^[22]

Метод "быстрого ортогонального поиска" Коренберга

Майкл Коренберг из Королевский университет в Кингстон, Онтарио, разработала метод выбора разреженного набора компонентов из чрезмерно полного набора, такого как синусоидальные компоненты для спектрального анализа, который называется быстрым ортогональным поиском (FOS). Математически FOS использует слегка измененный Разложение Холецкого в процессе уменьшения среднеквадратичной ошибки (MSER), реализованном как разреженная матрица инверсия.^[16][23] Как и другие методы LSSA, FOS позволяет избежать главного недостатка дискретного анализа Фурье и может обеспечить высокоточную идентификацию встроенных периодичностей и превосходит данные с неравномерными интервалами; Метод быстрого ортогонального поиска также применялся для решения других задач, таких как идентификация нелинейных систем.

Метод "преследования за основу" Чена и Донохо

Чен и Донохо разработали процедуру под названием базовое преследование для подгонки редкого набора синусоид или других функций из чрезмерно полного набора. Метод определяет оптимальное решение как такое, которое минимизирует L1 норма коэффициентов, так что задачу можно представить в виде линейное программирование проблема, для которой доступны эффективные методы решения.^[17]

Метод хи-квадрат Палмера

Палмер разработал метод поиска функции наилучшего соответствия для любого выбранного количества гармоник, что дает больше свободы для поиска несинусоидальных гармонических функций.^[24] Этот метод является быстрым (БПФ на основе) для выполнения взвешенный анализ методом наименьших квадратов на произвольно расположенных данных с неоднородными стандартными ошибками. Исходный код, реализующий эту технику, доступен.^[25]Поскольку данные часто не отбираются в равномерно распределенные дискретные моменты времени, этот метод «объединяет» данные в виде сетки, разреженно заполняя массив временных рядов во время выборки. Все промежуточные точки сетки получают нулевой статистический вес, что эквивалентно бесконечным полосам погрешностей между выборками.

Приложения

Самая полезная функция метода LSSA - это возможность использования неполных записей. спектрально проанализированы, без необходимости манипулировать запись или изобретать иным образом несуществующие данные.

Величины в LSSA спектр изображают вклад частоты или периода в отклонение из Временные ряды.^[14] Как правило, спектральные амплитуды, определенные вышеописанным способом, позволяют напрямую уровень значимости режим.^[26] В качестве альтернативы звездные величины в спектре Ваничека также могут быть выражены в дБ.^[27] Обратите внимание, что звездные величины в спектре Ваничека следуют β-распределение.^[28]

Обратное преобразование LSSA Ваничека возможно, что легче всего увидеть, записав прямое преобразование в виде матрицы; обратная матрица (когда матрица не является сингулярной) или псевдообратная будет тогда обратным преобразованием; обратное будет точно соответствовать исходным данным, если выбранные синусоиды взаимно независимы в точках выборки и их количество равно количеству точек данных.^[19] Подобная обратная процедура для метода периодограммы неизвестна.

Выполнение

LSSA можно реализовать менее чем за страницу MATLAB код.^[29] По сути:^[18]

"чтобы вычислить спектр наименьших квадратов, мы должны вычислить м спектральные значения ... который включает в себя выполнение приближения наименьших квадратов м раз, каждый раз, чтобы получить [спектральную мощность] для другой частоты »

То есть для каждой частоты в желаемом наборе частот синус и косинус функции оцениваются в моменты времени, соответствующие выборкам данных, и точечные продукты данных вектор с синусоиды векторы взяты и соответствующим образом нормированы; следуя методу, известному как периодограмма Ломба / Скаргла, временной сдвиг вычисляется для каждой частоты, чтобы ортогонализировать компоненты синуса и косинуса перед скалярным произведением, как описано Креймером;^[19] наконец, мощность вычисляется из этих двух амплитуда составные части. Этот же процесс реализует дискретное преобразование Фурье когда данные равномерно распределены во времени, а выбранные частоты соответствуют целому числу циклов конечной записи данных.

Этот метод обрабатывает каждый синусоидальный компонент независимо или вне контекста, даже если они могут быть не ортогональными в точках данных; это оригинальный метод Ваничека. Напротив, как объясняет Креймер, также можно выполнить полную одновременную или контекстную аппроксимацию методом наименьших квадратов, решив матричное уравнение, разделив общую дисперсию данных между указанными частотами синусоид.^[19] Такое матричное решение методом наименьших квадратов изначально доступно в MATLAB как обратная косая черта оператор.^[30]

Креймер объясняет, что одновременный или контекстный метод, в отличие от независимой или внеконтекстной версии (а также версии периодограммы из-за Ломба), не может вместить больше компонентов (синусов и косинусов), чем имеется выборок данных, и далее что:^[19]

«... серьезные последствия могут также возникнуть, если выбранные частоты приводят к тому, что некоторые из компонентов Фурье (триггерные функции) становятся почти линейно зависимыми друг от друга, тем самым создавая плохо обусловленную или почти сингулярную N. Во избежание такой плохой обусловленности становится необходимо либо выбрать другой набор частот для оценки (например, равномерно разнесенные частоты), либо просто пренебречь корреляциями в N (то есть недиагональными блоками) и оценить обратное преобразование методом наименьших квадратов отдельно для отдельных частот ... "

С другой стороны, метод периодограммы Ломба может использовать произвольно большое количество или плотность частотных компонентов, как в стандартном периодограмма; то есть частотная область может быть передискретизирована произвольным фактором.^[3]

В анализе Фурье, например преобразование Фурье или дискретное преобразование Фурье, синусоиды, подгоняемые к данным, все взаимно ортогональны, поэтому нет никакого различия между простой проекцией на основе скалярного произведения вне контекста на базисные функции и одновременной подгонкой методом наименьших квадратов в контексте; то есть не требуется обращения матрицы для разделения дисперсии между ортогональными синусоидами различных частот методом наименьших квадратов.^[31] Этот метод обычно предпочитают из-за его эффективной быстрое преобразование Фурье реализация, когда доступны полные записи данных с одинаковыми выборками.

Смотрите также

• Ортогональные функции
• SigSpec
• Синусоидальная модель
• Спектральная плотность
• Оценка спектральной плотности, для конкурирующих альтернатив

Рекомендации

внешняя ссылка

• Бесплатная загрузка программного обеспечения LSSA^{[постоянная мертвая ссылка ]} (через ftp), FORTRAN, метод Ваничека, из Природные ресурсы Канады.