Рекурсивный фильтр наименьших квадратов - Recursive least squares filter

Рекурсивный метод наименьших квадратов (RLS) является адаптивный фильтр алгоритм, рекурсивно находящий коэффициенты, которые минимизируют взвешенный линейный метод наименьших квадратов функция стоимости относящиеся к входным сигналам. Этот подход отличается от других алгоритмов, таких как наименьшие средние квадраты (LMS), которые направлены на сокращение среднеквадратичная ошибка. При выводе RLS входные сигналы учитываются детерминированный, а для LMS и аналогичного алгоритма они считаются стохастический. По сравнению с большинством своих конкурентов, RLS демонстрирует чрезвычайно быструю сходимость. Однако это преимущество достигается за счет высокой вычислительной сложности.

Мотивация

RLS был открыт Гаусс но оставался неиспользованным или игнорировался до 1950 года, когда Плакетт заново открыл оригинальную работу Гаусса с 1821 года. В общем, RLS можно использовать для решения любой проблемы, которая может быть решена с помощью адаптивные фильтры. Например, предположим, что сигнал ${ Displaystyle d (п)}$ передается по эху, шумный канал что приводит к его получению как

{ Displaystyle х (п) = сумма _ {к = 0} ^ {q} b_ {п} (к) d (п-к) + v (п)}

где ${ Displaystyle v (п)}$ представляет собой аддитивный шум. Назначение фильтра RLS - восстановить полезный сигнал. ${ Displaystyle d (п)}$ с помощью ${ displaystyle p + 1}$ -нажмите FIR фильтр, ${ displaystyle mathbf {w}}$ :

{ Displaystyle д (п) приблизительно сумма _ {к = 0} ^ {p} вес (к) х (nk) = mathbf {w} ^ { mathit {T}} mathbf {x} _ { n}}

где ${ displaystyle mathbf {x} _ {n} = [x (n) quad x (n-1) quad ldots quad x (n-p)] ^ {T}}$ это вектор столбца содержащий ${ displaystyle p + 1}$ самые последние образцы ${ Displaystyle х (п)}$ . Оценка восстановленного полезного сигнала

{ displaystyle { hat {d}} (n) = sum _ {k = 0} ^ {p} w_ {n} (k) x (nk) = mathbf {w} _ {n} ^ { mathit {T}} mathbf {x} _ {n}}

Цель - оценить параметры фильтра. ${ displaystyle mathbf {w}}$ , и каждый раз ${ displaystyle n}$ мы называем текущую оценку как ${ displaystyle mathbf {w} _ {n}}$ и адаптированная оценка методом наименьших квадратов ${ Displaystyle mathbf {ш} _ {п + 1}}$ . ${ displaystyle mathbf {w} _ {n}}$ также вектор-столбец, как показано ниже, а транспонировать, ${ displaystyle mathbf {w} _ {n} ^ { mathit {T}}}$ , это вектор строки. В матричный продукт ${ Displaystyle mathbf {w} _ {n} ^ { mathit {T}} mathbf {x} _ {n}}$ (какой скалярное произведение из ${ displaystyle mathbf {w} _ {n}}$ и ${ displaystyle mathbf {x} _ {n}}$ ) является ${ Displaystyle { шляпа {d}} (п)}$ , скаляр. Оценка "хорошо" если ${ Displaystyle { шляпа {d}} (п) -d (п)}$ небольшой по величине в некоторых наименьших квадратов смысл.

С течением времени желательно избегать полного повторения алгоритма наименьших квадратов, чтобы найти новую оценку для ${ Displaystyle mathbf {ш} _ {п + 1}}$ , с точки зрения ${ displaystyle mathbf {w} _ {n}}$ .

Преимущество алгоритма RLS заключается в том, что нет необходимости инвертировать матрицы, тем самым экономя вычислительные затраты. Еще одно преимущество заключается в том, что он обеспечивает интуитивное понимание таких результатов, как Фильтр Калмана.

Обсуждение

Идея фильтров RLS состоит в том, чтобы минимизировать функция стоимости ${ displaystyle C}$ надлежащим образом подобрав коэффициенты фильтра ${ displaystyle mathbf {w} _ {n}}$ , обновляя фильтр по мере поступления новых данных. Сигнал ошибки ${ Displaystyle е (п)}$ и желаемый сигнал ${ Displaystyle d (п)}$ определены в негативный отзыв диаграмма ниже:

Ошибка неявно зависит от коэффициентов фильтра через оценку ${ Displaystyle { шляпа {d}} (п)}$ :

{ Displaystyle е (п) = d (п) - { шляпа {d}} (п)}

Функция взвешенных наименьших квадратов ошибок ${ displaystyle C}$ - функция затрат, которую мы хотим минимизировать, - являющаяся функцией ${ Displaystyle е (п)}$ поэтому также зависит от коэффициентов фильтра:

{ Displaystyle С ( mathbf {ш} _ {п}) = сумма _ {я = 0} ^ {п} лямбда ^ {п-я} е ^ {2} (я)}

где ${ Displaystyle 0 < лямбда leq 1}$ это «фактор забвения», который придает экспоненциально меньший вес старым выборкам ошибок.

Функция стоимости минимизируется путем взятия частных производных для всех элементов ${ displaystyle k}$ вектора коэффициентов ${ displaystyle mathbf {w} _ {n}}$ и обнуление результатов

{ displaystyle { frac { partial C ( mathbf {w} _ {n})} { partial w_ {n} (k)}} = sum _ {i = 0} ^ {n} , 2 lambda ^ {ni} e (i) , { frac { partial e (i)} { partial w_ {n} (k)}} = {-} sum _ {i = 0} ^ {n } , 2 lambda ^ {ni} e (i) , x (ik) = 0 qquad k = 0,1, cdots, p}

Далее замените ${ Displaystyle е (п)}$ с определением сигнала ошибки

{ displaystyle sum _ {я = 0} ^ {n} lambda ^ {ni} left [d (i) - sum _ {l = 0} ^ {p} w_ {n} (l) x ( il) right] x (ik) = 0 qquad k = 0,1, cdots, p}

Преобразование уравнения дает

{ displaystyle sum _ {l = 0} ^ {p} w_ {n} (l) left [ sum _ {i = 0} ^ {n} lambda ^ {ni} , x (il) x (ik) right] = sum _ {i = 0} ^ {n} lambda ^ {ni} d (i) x (ik) qquad k = 0,1, cdots, p}

Эту форму можно выразить через матрицы

{ displaystyle mathbf {R} _ {x} (n) , mathbf {w} _ {n} = mathbf {r} _ {dx} (n)}

где ${ Displaystyle mathbf {R} _ {х} (п)}$ взвешенный выборочная ковариация матрица для ${ Displaystyle х (п)}$ , и ${ Displaystyle mathbf {r} _ {dx} (п)}$ эквивалентная оценка для кросс-ковариация между ${ Displaystyle d (п)}$ и ${ Displaystyle х (п)}$ . На основе этого выражения находим коэффициенты, которые минимизируют функцию стоимости как

{ displaystyle mathbf {w} _ {n} = mathbf {R} _ {x} ^ {- 1} (n) , mathbf {r} _ {dx} (n)}

Это главный результат обсуждения.

Выбор ${ displaystyle lambda}$

Меньший ${ displaystyle lambda}$ , тем меньше вклад предыдущих выборок в ковариационную матрицу. Это делает фильтр Больше чувствителен к недавним выборкам, что означает большие колебания коэффициентов фильтра. В ${ displaystyle lambda = 1}$ дело упоминается как алгоритм растущего окна RLS. На практике, ${ displaystyle lambda}$ обычно выбирается между 0,98 и 1.^[1] Используя оценку максимального правдоподобия типа II, оптимальная ${ displaystyle lambda}$ можно оценить на основе набора данных.^[2]

Рекурсивный алгоритм

Обсуждение привело к единому уравнению для определения вектора коэффициентов, который минимизирует функцию стоимости. В этом разделе мы хотим получить рекурсивное решение вида

{ displaystyle mathbf {w} _ {n} = mathbf {w} _ {n-1} + Delta mathbf {w} _ {n-1}}

где ${ displaystyle Delta mathbf {w} _ {n-1}}$ поправочный коэффициент во времени ${ displaystyle {n-1}}$ . Мы начинаем вывод рекурсивного алгоритма с выражения кросс-ковариации ${ Displaystyle mathbf {r} _ {dx} (п)}$ с точки зрения ${ displaystyle mathbf {r} _ {dx} (n-1)}$

${ Displaystyle mathbf {r} _ {dx} (п)}$	${ Displaystyle = сумма _ {я = 0} ^ {п} лямбда ^ {п-я} d (я) mathbf {х} (я)}$
	${ Displaystyle = сумма _ {я = 0} ^ {n-1} lambda ^ {ni} d (i) mathbf {x} (i) + lambda ^ {0} d (n) mathbf { x} (n)}$
	${ displaystyle = lambda mathbf {r} _ {dx} (n-1) + d (n) mathbf {x} (n)}$

где ${ Displaystyle mathbf {х} (я)}$ это ${ displaystyle {p + 1}}$ размерный вектор данных

{ displaystyle mathbf {x} (i) = [x (i), x (i-1), dots, x (i-p)] ^ {T}}

Аналогично выражаем ${ Displaystyle mathbf {R} _ {х} (п)}$ с точки зрения ${ Displaystyle mathbf {R} _ {х} (п-1)}$ от

${ Displaystyle mathbf {R} _ {х} (п)}$	${ displaystyle = sum _ {i = 0} ^ {n} lambda ^ {n-i} mathbf {x} (i) mathbf {x} ^ {T} (i)}$
	${ displaystyle = lambda mathbf {R} _ {x} (n-1) + mathbf {x} (n) mathbf {x} ^ {T} (n)}$

Для генерации вектора коэффициентов нас интересует инверсия детерминированной автоковариационной матрицы. Для этой задачи Тождество матрицы Вудбери пригодится. С участием

${ displaystyle A}$	${ Displaystyle = лямбда mathbf {R} _ {x} (п-1)}$ является ${ Displaystyle (п + 1)}$ -от- ${ Displaystyle (п + 1)}$
${ displaystyle U}$	${ Displaystyle = mathbf {х} (п)}$ является ${ Displaystyle (п + 1)}$ -by-1 (вектор-столбец)
${ displaystyle V}$	${ displaystyle = mathbf {x} ^ {T} (n)}$ 1 к ${ Displaystyle (п + 1)}$ (вектор-строка)
${ displaystyle C}$	${ displaystyle = mathbf {I} _ {1}}$ это 1 на 1 единичная матрица

Матричное тождество Вудбери следует

${ Displaystyle mathbf {R} _ {х} ^ {- 1} (п)}$	${ displaystyle =}$	${ displaystyle left [ lambda mathbf {R} _ {x} (n-1) + mathbf {x} (n) mathbf {x} ^ {T} (n) right] ^ {- 1 }}$
	${ displaystyle =}$	${ displaystyle lambda ^ {- 1} mathbf {R} _ {x} ^ {- 1} (n-1)}$
		${ displaystyle - lambda ^ {- 1} mathbf {R} _ {x} ^ {- 1} (n-1) mathbf {x} (n)}$
		${ displaystyle left {1+ mathbf {x} ^ {T} (n) lambda ^ {- 1} mathbf {R} _ {x} ^ {- 1} (n-1) mathbf { x} (n) right } ^ {- 1} mathbf {x} ^ {T} (n) lambda ^ {- 1} mathbf {R} _ {x} ^ {- 1} (n- 1)}$

Чтобы соответствовать стандартной литературе, мы определяем

${ Displaystyle mathbf {P} (п)}$	${ Displaystyle = mathbf {R} _ {x} ^ {- 1} (п)}$
	${ displaystyle = lambda ^ {- 1} mathbf {P} (n-1) - mathbf {g} (n) mathbf {x} ^ {T} (n) lambda ^ {- 1} mathbf {P} (n-1)}$

где вектор усиления ${ Displaystyle г (п)}$ является

${ Displaystyle mathbf {g} (п)}$	${ displaystyle = lambda ^ {- 1} mathbf {P} (n-1) mathbf {x} (n) left {1+ mathbf {x} ^ {T} (n) lambda ^ {-1} mathbf {P} (n-1) mathbf {x} (n) right } ^ {- 1}}$
	${ displaystyle = mathbf {P} (n-1) mathbf {x} (n) left { lambda + mathbf {x} ^ {T} (n) mathbf {P} (n-1 ) mathbf {x} (n) right } ^ {- 1}}$

Прежде чем двигаться дальше, необходимо принести ${ Displaystyle mathbf {g} (п)}$ в другую форму

${ displaystyle mathbf {g} (n) left {1+ mathbf {x} ^ {T} (n) lambda ^ {- 1} mathbf {P} (n-1) mathbf {x } (п) право }}$	${ displaystyle = lambda ^ {- 1} mathbf {P} (n-1) mathbf {x} (n)}$
${ displaystyle mathbf {g} (n) + mathbf {g} (n) mathbf {x} ^ {T} (n) lambda ^ {- 1} mathbf {P} (n-1) mathbf {x} (n)}$	${ displaystyle = lambda ^ {- 1} mathbf {P} (n-1) mathbf {x} (n)}$

Вычитание второго члена в левой части дает

${ Displaystyle mathbf {g} (п)}$	${ displaystyle = lambda ^ {- 1} mathbf {P} (n-1) mathbf {x} (n) - mathbf {g} (n) mathbf {x} ^ {T} (n) lambda ^ {- 1} mathbf {P} (n-1) mathbf {x} (n)}$
	${ displaystyle = lambda ^ {- 1} left [ mathbf {P} (n-1) - mathbf {g} (n) mathbf {x} ^ {T} (n) mathbf {P} (n-1) right] mathbf {x} (n)}$

С рекурсивным определением ${ Displaystyle mathbf {P} (п)}$ желаемая форма следует

{ Displaystyle mathbf {g} (n) = mathbf {P} (n) mathbf {x} (n)}

Теперь мы готовы завершить рекурсию. Как обсуждалось

${ displaystyle mathbf {w} _ {n}}$	${ displaystyle = mathbf {P} (n) , mathbf {r} _ {dx} (n)}$
	${ displaystyle = lambda mathbf {P} (n) , mathbf {r} _ {dx} (n-1) + d (n) mathbf {P} (n) , mathbf {x} (n)}$

Второй шаг следует из рекурсивного определения ${ Displaystyle mathbf {r} _ {dx} (п)}$ . Далее мы включаем рекурсивное определение ${ Displaystyle mathbf {P} (п)}$ вместе с альтернативной формой ${ Displaystyle mathbf {g} (п)}$ и получить

${ displaystyle mathbf {w} _ {n}}$	${ displaystyle = lambda left [ lambda ^ {- 1} mathbf {P} (n-1) - mathbf {g} (n) mathbf {x} ^ {T} (n) lambda ^ {-1} mathbf {P} (n-1) right] mathbf {r} _ {dx} (n-1) + d (n) mathbf {g} (n)}$
	${ displaystyle = mathbf {P} (n-1) mathbf {r} _ {dx} (n-1) - mathbf {g} (n) mathbf {x} ^ {T} (n) mathbf {P} (n-1) mathbf {r} _ {dx} (n-1) + d (n) mathbf {g} (n)}$
	${ displaystyle = mathbf {P} (n-1) mathbf {r} _ {dx} (n-1) + mathbf {g} (n) left [d (n) - mathbf {x} ^ {T} (n) mathbf {P} (n-1) mathbf {r} _ {dx} (n-1) right]}$

С участием ${ displaystyle mathbf {w} _ {n-1} = mathbf {P} (n-1) mathbf {r} _ {dx} (n-1)}$ мы приходим к уравнению обновления

${ displaystyle mathbf {w} _ {n}}$	${ displaystyle = mathbf {w} _ {n-1} + mathbf {g} (n) left [d (n) - mathbf {x} ^ {T} (n) mathbf {w} _ {n-1} right]}$
	${ displaystyle = mathbf {w} _ {n-1} + mathbf {g} (n) alpha (n)}$

где ${ Displaystyle альфа (п) = д (п) - mathbf {x} ^ {T} (п) mathbf {w} _ {п-1}}$ это априори ошибка. Сравните это с апостериорный ошибка; вычисленная ошибка после фильтр обновлен:

{ Displaystyle е (п) = d (п) - mathbf {x} ^ {T} (п) mathbf {w} _ {п}}

Значит, мы нашли поправочный коэффициент

{ displaystyle Delta mathbf {w} _ {n-1} = mathbf {g} (n) alpha (n)}

Этот интуитивно удовлетворительный результат показывает, что поправочный коэффициент прямо пропорционален как ошибке, так и вектору усиления, который определяет желаемую чувствительность через весовой коэффициент, ${ displaystyle lambda}$ .

Резюме алгоритма RLS

Алгоритм RLS для пФильтр RLS -го порядка можно резюмировать как

Параметры:	${ displaystyle p =}$ порядок фильтров
	${ displaystyle lambda =}$ фактор забвения
	${ displaystyle delta =}$ значение для инициализации ${ displaystyle mathbf {P} (0)}$
Инициализация:	${ Displaystyle mathbf {ш} (п) = 0}$ ,
	${ Displaystyle х (к) = 0, к = -p, точки, -1}$ ,
	${ displaystyle d (k) = 0, k = -p, dots, -1}$
	${ displaystyle mathbf {P} (0) = delta I}$ где ${ displaystyle I}$ это единичная матрица ранга ${ displaystyle p + 1}$
Расчет:	Для ${ Displaystyle п = 1,2, точки}$
	${ displaystyle mathbf {x} (n) = left [{ begin {matrix} x (n) x (n-1) vdots x (np) end {matrix}} правильно]}$
	${ Displaystyle альфа (п) = d (п) - mathbf {x} ^ {T} (п) mathbf {w} (п-1)}$
	${ displaystyle mathbf {g} (n) = mathbf {P} (n-1) mathbf {x} (n) left { lambda + mathbf {x} ^ {T} (n) mathbf {P} (n-1) mathbf {x} (n) right } ^ {- 1}}$
	${ displaystyle mathbf {P} (n) = lambda ^ {- 1} mathbf {P} (n-1) - mathbf {g} (n) mathbf {x} ^ {T} (n) lambda ^ {- 1} mathbf {P} (n-1)}$
	${ Displaystyle mathbf {ш} (п) = mathbf {ш} (п-1) + , альфа (п) mathbf {г} (п)}$ .

Рекурсия для ${ displaystyle P}$ следует за Алгебраическое уравнение Риккати и таким образом проводит параллели с Фильтр Калмана.^[3]

Решеточный рекурсивный фильтр наименьших квадратов (LRLS)

В Решетка рекурсивных наименьших квадратов адаптивный фильтр относится к стандартному RLS, за исключением того, что требует меньшего количества арифметических операций (порядок N). Он предлагает дополнительные преимущества по сравнению с обычными алгоритмами LMS, такими как более высокая скорость сходимости, модульная структура и нечувствительность к вариациям разброса собственных значений входной корреляционной матрицы. Описанный алгоритм LRLS основан на апостериорный ошибок и включает нормализованную форму. Вывод аналогичен стандартному алгоритму RLS и основан на определении ${ Displaystyle д (к) , !}$ . В случае прямого прогнозирования мы имеем ${ Displaystyle д (к) = х (к) , !}$ с входным сигналом ${ Displaystyle х (к-1) , !}$ как самый актуальный образец. Случай обратного предсказания ${ Displaystyle д (к) = Икс (к-я-1) , !}$ , где i - индекс выборки в прошлом, которую мы хотим спрогнозировать, а входной сигнал ${ Displaystyle х (к) , !}$ это самый последний образец.^[4]

Сводка параметров

{ Displaystyle каппа _ {е} (к, я) , !}

- коэффициент прямого отражения

{ Displaystyle каппа _ {Ь} (к, я) , !}

коэффициент обратного отражения

{ Displaystyle е_ {е} (к, я) , !}

представляет собой мгновенный апостериорный ошибка прогнозирования вперед

{ Displaystyle е_ {Ь} (к, я) , !}

представляет собой мгновенный апостериорный ошибка обратного предсказания

{ Displaystyle хи _ {b_ {мин}} ^ {d} (к, я) , !}

минимальная ошибка обратного предсказания методом наименьших квадратов

{ Displaystyle хи _ {е_ {мин}} ^ {d} (к, я) , !}

минимальная ошибка прямого прогнозирования методом наименьших квадратов

{ Displaystyle гамма (к, я) , !}

коэффициент преобразования между априори и апостериорный ошибки

{ Displaystyle v_ {я} (к) , !}

- коэффициенты множителя с прямой связью.

{ Displaystyle epsilon , !}

небольшая положительная константа, которая может быть 0,01

Сводка алгоритма LRLS

Алгоритм LRLS-фильтра можно резюмировать как

Инициализация:
	Для i = 0,1, ..., N
	${ Displaystyle дельта (-1, я) = дельта _ {D} (- 1, я) = 0 , !}$ (если x (k) = 0 для k <0)
	${ displaystyle xi _ {b_ {min}} ^ {d} (- 1, i) = xi _ {f_ {min}} ^ {d} (- 1, i) = epsilon}$
	${ Displaystyle гамма (-1, я) = 1 , !}$
	${ Displaystyle е_ {b} (- 1, я) = 0 , !}$
	Конец
Расчет:
	Для k ≥ 0
	${ Displaystyle гамма (к, 0) = 1 , !}$
	${ Displaystyle е_ {Ь} (к, 0) = е_ {е} (к, 0) = х (к) , !}$
	${ displaystyle xi _ {b_ {min}} ^ {d} (k, 0) = xi _ {f_ {min}} ^ {d} (k, 0) = x ^ {2} (k) + lambda xi _ {f_ {min}} ^ {d} (k-1,0) , !}$
	${ Displaystyle е (к, 0) = d (к) , !}$
	Для i = 0,1, ..., N
	${ Displaystyle дельта (к, я) = лямбда дельта (к-1, я) + { гидроразрыва {е_ {b} (к-1, я) е_ {f} (к, я)} { гамма (k-1, i)}}}$
	${ Displaystyle гамма (к, я + 1) = гамма (к, я) - { гидроразрыва {е_ {b} ^ {2} (к, я)} { xi _ {b_ {мин}} ^ {d} (k, i)}}}$
	${ displaystyle kappa _ {b} (k, i) = { frac { delta (k, i)} { xi _ {f_ {min}} ^ {d} (k, i)}}}$
	${ Displaystyle каппа _ {е} (к, я) = { гидроразрыва { дельта (к, я)} { хи _ {b_ {мин}} ^ {d} (к-1, я)}} }$
	${ Displaystyle е_ {Ь} (к, я + 1) = е_ {Ь} (к-1, я) - каппа _ {b} (к, я) е_ {е} (к, я) , !}$
	${ Displaystyle е_ {е} (к, я + 1) = е_ {е} (к, я) - каппа _ {е} (к, я) е_ {Ь} (к-1, я) , !}$
	${ displaystyle xi _ {b_ {min}} ^ {d} (k, i + 1) = xi _ {b_ {min}} ^ {d} (k-1, i) - delta (k, i) kappa _ {b} (k, i)}$
	${ Displaystyle хи _ {е_ {мин}} ^ {d} (к, я + 1) = хи _ {е_ {мин}} ^ {d} (к, я) - дельта (к, я) каппа _ {е} (к, я)}$
	Упреждающая фильтрация
	${ Displaystyle дельта _ {D} (к, я) = лямбда дельта _ {D} (к-1, я) + { гидроразрыва {е (к, я) е_ {b} (к, я) } { gamma (k, i)}}}$
	${ displaystyle v_ {i} (k) = { frac { delta _ {D} (k, i)} { xi _ {b_ {min}} ^ {d} (k, i)}}}$
	${ Displaystyle е (к, я + 1) = е (к, я) -v_ {я} (к) е_ {Ь} (к, я) , !}$
	Конец
	Конец

Нормализованный решетчатый рекурсивный фильтр наименьших квадратов (NLRLS)

Нормализованная форма LRLS имеет меньше рекурсий и переменных. Его можно вычислить, применив нормализацию к внутренним переменным алгоритма, при этом их величина останется ограниченной единицей. Обычно это не используется в приложениях реального времени из-за большого количества операций деления и извлечения квадратного корня, что связано с высокой вычислительной нагрузкой.

Резюме алгоритма NLRLS

Алгоритм для фильтра NLRLS можно резюмировать как

Инициализация:
	Для i = 0,1, ..., N
	${ Displaystyle { overline { delta}} (- 1, я) = 0 , !}$ (если x (k) = d (k) = 0 для k <0)
	${ displaystyle { overline { delta}} _ {D} (- 1, i) = 0 , !}$
	${ displaystyle { overline {e}} _ {b} (- 1, i) = 0 , !}$
	Конец
	${ displaystyle sigma _ {x} ^ {2} (- 1) = lambda sigma _ {d} ^ {2} (- 1) = epsilon , !}$
Расчет:
	Для k ≥ 0
	${ displaystyle sigma _ {x} ^ {2} (k) = lambda sigma _ {x} ^ {2} (k-1) + x ^ {2} (k) , !}$ (Энергия входного сигнала)
	${ displaystyle sigma _ {d} ^ {2} (k) = lambda sigma _ {d} ^ {2} (k-1) + d ^ {2} (k) , !}$ (Энергия сигнала ссылка)
	${ displaystyle { overline {e}} _ {b} (k, 0) = { overline {e}} _ {f} (k, 0) = { frac {x (k)} { sigma _ {х} (к)}} , !}$
	${ displaystyle { overline {e}} (k, 0) = { frac {d (k)} { sigma _ {d} (k)}} , !}$
	Для i = 0,1, ..., N
	${ displaystyle { overline { delta}} (k, i) = delta (k-1, i) { sqrt {(1 - { overline {e}} _ {b} ^ {2} (k -1, i)) (1 - { overline {e}} _ {f} ^ {2} (k, i))}} + { overline {e}} _ {b} (k-1, i ) { overline {e}} _ {f} (k, i)}$
	${ displaystyle { overline {e}} _ {b} (k, i + 1) = { frac {{ overline {e}} _ {b} (k-1, i) - { overline { delta}} (k, i) { overline {e}} _ {f} (k, i)} { sqrt {(1 - { overline { delta}} ^ {2} (k, i)) (1 - { overline {e}} _ {f} ^ {2} (k, i))}}}}$
	${ displaystyle { overline {e}} _ {f} (k, i + 1) = { frac {{ overline {e}} _ {f} (k, i) - { overline { delta} } (k, i) { overline {e}} _ {b} (k-1, i)} { sqrt {(1 - { overline { delta}} ^ {2} (k, i)) (1 - { overline {e}} _ {b} ^ {2} (k-1, i))}}}}$
	Упреждающий фильтр
	${ displaystyle { overline { delta}} _ {D} (k, i) = { overline { delta}} _ {D} (k-1, i) { sqrt {(1 - { overline) {e}} _ {b} ^ {2} (k, i)) (1 - { overline {e}} ^ {2} (k, i))}} + { overline {e}} (k , i) { overline {e}} _ {b} (k, i)}$
	${ displaystyle { overline {e}} (k, i + 1) = { frac {1} { sqrt {(1 - { overline {e}} _ {b} ^ {2} (k, i )) (1 - { overline { delta}} _ {D} ^ {2} (k, i))}}} [{ overline {e}} (k, i) - { overline { delta }} _ {D} (k, i) { overline {e}} _ {b} (k, i)]}$
	Конец
	Конец

Смотрите также

использованная литература

Хейс, Монсон Х. (1996). «9.4: Рекурсивные наименьшие квадраты». Статистическая цифровая обработка сигналов и моделирование. Вайли. п. 541. ISBN 0-471-59431-8.
Саймон Хайкин, Теория адаптивного фильтра, Прентис Холл, 2002 г., ISBN 0-13-048434-2
М.Х. А. Дэвис, Р. Б. Винтер, Стохастическое моделирование и управление, Спрингер, 1985, ISBN 0-412-16200-8
Вайфенг Лю, Хосе Принсипи и Саймон Хайкин, Адаптивная фильтрация ядра: всестороннее введение, Джон Вили, 2010, ISBN 0-470-44753-2
Р. Л. Плакетт, Некоторые теоремы о наименьших квадратах, Биометрика, 1950, 37, 149-157, ISSN 0006-3444
К. Ф. Гаусс, Комбинация теории и наблюдения erroribus minimis obnoxiae, 1821, Werke, 4. Gottinge

Заметки

^ Эманнуаль К. Ифакор, Барри В. Джервис. Цифровая обработка сигналов: практический подход, второе издание. Индианаполис: Pearson Education Limited, 2002, стр. 718
^ Стивен Ван Вэренберг, Игнасио Сантамария, Мигель Ласаро-Гредилья «Оценка фактора забывания в ядерных рекурсивных методах наименьших квадратов», 2012 IEEE International Workshop on Machine Learning for Signal Processing, 2012, по состоянию на 23 июня 2016 г.
^ Уэлч, Грег и Бишоп, Гэри "Введение в фильтр Калмана", Департамент компьютерных наук, Университет Северной Каролины в Чапел-Хилл, 17 сентября 1997 г., по состоянию на 19 июля 2011 г.
^ Альбу, Кадлец, Софтли, Матушек, Херманек, Коулман, Фаган «Реализация (нормализованной) решетки СБН на Virtex», Digital Signal Processing, 2001, по состоянию на 24 декабря 2011 г.

[1] Эманнуаль К. Ифакор, Барри В. Джервис. Цифровая обработка сигналов: практический подход, второе издание. Индианаполис: Pearson Education Limited, 2002, стр. 718

[2] Стивен Ван Вэренберг, Игнасио Сантамария, Мигель Ласаро-Гредилья «Оценка фактора забывания в ядерных рекурсивных методах наименьших квадратов», 2012 IEEE International Workshop on Machine Learning for Signal Processing, 2012, по состоянию на 23 июня 2016 г.

[3] Уэлч, Грег и Бишоп, Гэри "Введение в фильтр Калмана", Департамент компьютерных наук, Университет Северной Каролины в Чапел-Хилл, 17 сентября 1997 г., по состоянию на 19 июля 2011 г.

[4] Альбу, Кадлец, Софтли, Матушек, Херманек, Коулман, Фаган «Реализация (нормализованной) решетки СБН на Virtex», Digital Signal Processing, 2001, по состоянию на 24 декабря 2011 г.

[1]

[2]

[3]

[4]