Модель авторегрессии – скользящего среднего - Autoregressive–moving-average model

в статистический анализ Временные ряды, авторегрессия – скользящее среднее (ARMA) модели дать краткое описание (слабо) стационарный случайный процесс в терминах двух многочленов, один для авторегрессия (AR) и второй для скользящая средняя (Массачусетс). Общая модель ARMA была описана в диссертации 1951 г. Питер Уиттл, Проверка гипотез при анализе временных рядов, и это было популяризировано в книге 1970 г. Джордж Э. П. Бокс и Гвилим Дженкинс.

Учитывая временной ряд данных Икс_т , модель ARMA - это инструмент для понимания и, возможно, прогнозирования будущих значений в этой серии. Часть AR включает регрессию переменной по ее собственным запаздывающим (т. Е. Прошлым) значениям. Часть MA включает моделирование срок ошибки как линейная комбинация ошибок, возникающих одновременно и в разное время в прошлом. Модель обычно называют ARMA (п,q) модель, где п - порядок части AR и q - это порядок части MA (как определено ниже).

Модели ARMA можно оценить с помощью Метод Бокса – Дженкинса.

Авторегрессионная модель

Обозначение AR (п) относится к авторегрессионной модели порядка п. AR (п) модель написана

{ displaystyle X_ {t} = c + sum _ {i = 1} ^ {p} varphi _ {i} X_ {t-i} + varepsilon _ {t}. ,}

куда ${ displaystyle varphi _ {1}, ldots, varphi _ {p}}$ находятся параметры, ${ displaystyle c}$ - константа, а случайная величина ${ displaystyle varepsilon _ {t}}$ является белый шум.

Необходимы некоторые ограничения на значения параметров, чтобы модель оставалась стационарный. Например, процессы в модели AR (1) с ${ displaystyle | varphi _ {1} | geq 1}$ не являются стационарными.

Модель скользящего среднего

Обозначение MA (q) относится к модели скользящего среднего порядка q:

{ displaystyle X_ {t} = mu + varepsilon _ {t} + sum _ {i = 1} ^ {q} theta _ {i} varepsilon _ {t-i} ,}

где θ₁, ..., θ_q - параметры модели, μ - математическое ожидание ${ displaystyle X_ {t}}$ (часто принимается равным 0), а ${ displaystyle varepsilon _ {t}}$ , ${ Displaystyle varepsilon _ {т-1}}$ , ... снова, белый шум условия ошибки.

Модель ARMA

Обозначение ARMA (п, q) относится к модели с п авторегрессионные условия и q условия скользящего среднего. Эта модель содержит AR (п) и MA (q) модели,

{ displaystyle X_ {t} = c + varepsilon _ {t} + sum _ {i = 1} ^ {p} varphi _ {i} X_ {ti} + sum _ {i = 1} ^ {q } theta _ {i} varepsilon _ {ti}. ,}

Общая модель ARMA была описана в диссертации 1951 г. Питер Уиттл, использовавший математический анализ (Серия Laurent и Анализ Фурье ) и статистический вывод.^[1]^[2] Модели ARMA были популяризированы в книге 1970 г. Джордж Э. П. Бокс и Дженкинс, который изложил итеративную (Бокс – Дженкинс ) метод их выбора и оценки. Этот метод был полезен для полиномов низкого порядка (степени три или меньше).^[3]

Модель ARMA по сути бесконечный импульсный отклик фильтр, примененный к белому шуму с некоторой дополнительной интерпретацией.

Примечание об условиях ошибки

Условия ошибки ${ displaystyle varepsilon _ {t}}$ обычно считаются независимые одинаково распределенные случайные величины (i.i.d.) взяты из нормальное распределение с нулевым средним: ${ displaystyle varepsilon _ {t}}$ ~ N (0, σ²) где σ² это дисперсия. Эти предположения могут быть ослаблены, но это изменит свойства модели. В частности, изменение i.i.d. предположение будет иметь довольно фундаментальное значение.

Спецификация в терминах оператора запаздывания

В некоторых текстах модели будут указаны в терминах оператор запаздывания LВ этих условиях AR (п) модель задается

{ displaystyle varepsilon _ {t} = left (1- sum _ {i = 1} ^ {p} varphi _ {i} L ^ {i} right) X_ {t} = varphi (L ) X_ {t} ,}

куда ${ displaystyle varphi}$ представляет собой многочлен

{ displaystyle varphi (L) = 1- sum _ {i = 1} ^ {p} varphi _ {i} L ^ {i}. ,}

МА (q) модель задается

{ displaystyle X_ {t} = left (1+ sum _ {i = 1} ^ {q} theta _ {i} L ^ {i} right) varepsilon _ {t} = theta (L ) varepsilon _ {t}, ,}

где θ представляет собой многочлен

{ displaystyle theta (L) = 1 + sum _ {i = 1} ^ {q} theta _ {i} L ^ {i}. ,}

Наконец, комбинированный ARMA (п, q) модель задается

{ displaystyle left (1- sum _ {i = 1} ^ {p} varphi _ {i} L ^ {i} right) X_ {t} = left (1+ sum _ {i = 1} ^ {q} theta _ {i} L ^ {i} right) varepsilon _ {t} ,,}

или более кратко,

{ Displaystyle varphi (L) X_ {t} = theta (L) varepsilon _ {t} ,}

или же

{ Displaystyle { frac { varphi (L)} { theta (L)}} X_ {t} = varepsilon _ {t} ,.}

Альтернативная нотация

Некоторые авторы, в том числе Коробка, Дженкинс & Reinsel использует другое соглашение для коэффициентов авторегрессии.^[4] Это позволяет всем многочленам, содержащим оператор запаздывания, везде появляться в одинаковой форме. Таким образом, модель ARMA будет записана как

{ displaystyle left (1- сумма _ {я = 1} ^ {p} phi _ {i} L ^ {i} right) X_ {t} = left (1+ sum _ {i = 1} ^ {q} theta _ {i} L ^ {i} right) varepsilon _ {t} ,.}

Более того, если положить ${ displaystyle phi _ {0} = - 1}$ и ${ displaystyle theta _ {0} = 1}$ , то мы получаем еще более элегантную формулировку: ${ displaystyle - sum _ {i = 0} ^ {p} phi _ {i} L ^ {i} ; X_ {t} = sum _ {i = 0} ^ {q} theta _ { i} L ^ {i} ; varepsilon _ {t} ,.}$

Примерочные модели

Выбор p и q

Нахождение подходящих значений п и q в ARMA (п,q) модель может быть упрощена путем построения графика частичные автокорреляционные функции для оценки п, а также используя автокорреляционные функции для оценки q. Расширенные функции автокорреляции (EACF) могут использоваться для одновременного определения p и q.^[5] Дополнительную информацию можно получить, рассматривая те же функции для остатков модели, снабженной первоначальным выбором п и q.

Brockwell & Davis рекомендуют использовать Информационный критерий Акаике (AIC) для поиска п и q.^[6] Другой возможный выбор для определения порядка - это BIC критерий.

Оценочные коэффициенты

Модели ARMA в целом могут быть, после выбора п и q, оснащенный наименьших квадратов регрессии, чтобы найти значения параметров, которые минимизируют член ошибки. Обычно считается хорошей практикой находить наименьшие значения п и q которые обеспечивают приемлемое соответствие данным. Для чистой модели AR Уравнения Юла-Уокера может использоваться для подгонки.

Реализации в статистических пакетах

В р, то арима функция (в стандартной комплектации статистика) задокументировано в Моделирование временных рядов ARIMA. Пакеты расширений содержат связанные и расширенные функции, например, серия пакет включает Arma функция, задокументированная в «Соответствие моделей ARMA временным рядам»; то fracdiff упаковка содержит fracdiff () для частично интегрированных процессов ARMA; и прогноз упаковка включает auto.arima для выбора экономного набора р, д. Представление задачи CRAN на Временные ряды содержит ссылки на большинство из них.
Mathematica имеет полную библиотеку функций временных рядов, включая ARMA.^[7]
MATLAB включает такие функции, как Arma и ар для оценки моделей AR, ARX (авторегрессионная экзогенная) и ARMAX. Видеть Набор инструментов для идентификации системы и Инструменты эконометрики для дополнительной информации.
Юля есть несколько пакетов, управляемых сообществом, которые реализуют совместимость с моделью ARMA, например arma.jl.
Статистические модели Модуль Python включает в себя множество моделей и функций для анализа временных рядов, включая ARMA. Ранее часть Scikit-Learn теперь он автономен и хорошо интегрируется с Панды. Подробнее см. Здесь.
PyFlux имеет основанную на Python реализацию моделей ARIMAX, включая байесовские модели ARIMAX.
Цифровые библиотеки IMSL представляют собой библиотеки функций численного анализа, включая процедуры ARMA и ARIMA, реализованные на стандартных языках программирования, таких как C, Java, C # .NET и Fortran.
гретл может также оценить модель ARMA, см. здесь, где это упоминается.
GNU Octave может оценивать модели AR, используя функции из дополнительного пакета октавно-кузнечный.
Stata включает функцию арима который может оценить ARMA и ARIMA модели. Подробнее см. Здесь.
СуанШу представляет собой Java-библиотеку численных методов, включая комплексные статистические пакеты, в которых одномерные / многомерные модели ARMA, ARIMA, ARMAX и т. д. реализованы в объектно-ориентированном подходе. Эти реализации задокументированы в "SuanShu, числовая и статистическая библиотека Java".
SAS имеет эконометрический пакет ETS, который оценивает модели ARIMA. Подробнее см. Здесь.

Приложения

ARMA подходит, когда система является функцией серии ненаблюдаемых шоков (MA или часть скользящей средней), а также ее собственного поведения. Например, цены на акции могут быть шокированы фундаментальной информацией, а также техническими тенденциями и тенденциями. значит возвращение эффекты за счет участников рынка.^{[нужна цитата ]}

Обобщения

Зависимость Икс_т от прошлых значений и ошибок ε_т считается линейным, если не указано иное. Если зависимость нелинейная, модель конкретно называется нелинейное скользящее среднее (NMA), нелинейная авторегрессия (NAR), или нелинейная авторегрессия – скользящее среднее (НАРМА) модель.

Модели авторегрессии – скользящего среднего могут быть обобщены и другими способами. Смотрите также авторегрессионная условная гетероскедастичность (ARCH) модели и авторегрессионная интегрированная скользящая средняя (ARIMA) модели. Если необходимо подобрать несколько временных рядов, можно подобрать векторную модель ARIMA (или VARIMA). Если рассматриваемый временной ряд демонстрирует длинную память, тогда может быть целесообразным моделирование дробной ARIMA (FARIMA, иногда называемой ARFIMA): см. Авторегрессионное дробно-интегрированное скользящее среднее. Если предполагается, что данные содержат сезонные эффекты, они могут быть смоделированы с помощью SARIMA (сезонный ARIMA) или периодической модели ARMA.

Еще одно обобщение - это многомасштабная авторегрессия (MAR) модель. Модель MAR индексируется узлами дерева, тогда как стандартная (дискретная по времени) модель авторегрессии индексируется целыми числами.

Обратите внимание, что модель ARMA - это одномерный модель. Расширениями для многомерного случая являются векторная авторегрессия (VAR) и скользящее среднее векторной авторегрессии (VARMA).

Модель авторегрессии – скользящего среднего с моделью экзогенных входов (модель ARMAX)

Обозначение ARMAX (п, q, б) относится к модели с п условия авторегрессии, q условия скользящего среднего и б условия экзогенных входов. Эта модель содержит AR (п) и MA (q) модели и линейная комбинация последних б условия известного и внешнего временного ряда ${ displaystyle d_ {t}}$ . Выдается:

{ displaystyle X_ {t} = varepsilon _ {t} + sum _ {i = 1} ^ {p} varphi _ {i} X_ {ti} + sum _ {i = 1} ^ {q} theta _ {i} varepsilon _ {ti} + sum _ {i = 1} ^ {b} eta _ {i} d_ {ti}. ,}

куда ${ displaystyle eta _ {1}, ldots, eta _ {b}}$ являются параметры экзогенного входа ${ displaystyle d_ {t}}$ .

Определены некоторые нелинейные варианты моделей с экзогенными переменными: см. Например Нелинейная авторегрессионная экзогенная модель.

Статистические пакеты реализуют модель ARMAX за счет использования «экзогенных» (то есть независимых) переменных. Следует проявлять осторожность при интерпретации вывода этих пакетов, поскольку обычно оцениваемые параметры (например, в р^[8] и гретл ) относятся к регрессии:

{ displaystyle X_ {t} -m_ {t} = varepsilon _ {t} + sum _ {i = 1} ^ {p} varphi _ {i} (X_ {ti} -m_ {ti}) + sum _ {i = 1} ^ {q} theta _ {i} varepsilon _ {ti}. ,}

куда м_т включает все экзогенные (или независимые) переменные:

{ displaystyle m_ {t} = c + sum _ {i = 0} ^ {b} eta _ {i} d_ {t-i}. ,}

Смотрите также

дальнейшее чтение

Миллс, Теренс С. (1990). Методы временных рядов для экономистов. Издательство Кембриджского университета. ISBN 0521343399.
Персиваль, Дональд Б.; Уолден, Эндрю Т. (1993). Спектральный анализ для физических приложений. Издательство Кембриджского университета. ISBN 052135532X.
Francq, C .; Закоян, Ж.-М. (2005), «Недавние результаты для моделей линейных временных рядов с независимыми инновациями», в Duchesne, P .; Ремиллар, Б. (ред.), Статистическое моделирование и анализ сложных проблем с данными, Springer, стр. 241–265, CiteSeerX 10.1.1.721.1754.

[1] Ханнан, Эдвард Джеймс (1970). Множественные временные ряды. Ряды Уайли по вероятности и математической статистике. Нью-Йорк: Джон Уайли и сыновья.CS1 maint: ref = harv (связь)

[2] Уиттл, П. (1951). Проверка гипотез при анализе временных рядов. Альмквист и Виксель.Уиттл, П. (1963). Прогнозирование и регулирование. English Universities Press. ISBN 0-8166-1147-5.
Переиздано как: Уиттл, П. (1983). Прогнозирование и регулирование линейными методами наименьших квадратов. Университет Миннесоты Press. ISBN 0-8166-1148-3.

[3] Ханнан и Дайстлер (1988), п. 227): Ханнан, Э. Дж.; Дайстлер, Манфред (1988). Статистическая теория линейных систем. Ряды Уайли по вероятности и математической статистике. Нью-Йорк: Джон Уайли и сыновья.CS1 maint: ref = harv (связь)

[4] Коробка, Джордж; Jenkins, Gwilym M .; Рейнзель, Грегори С. (1994). Анализ временных рядов: прогнозирование и контроль (Третье изд.). Прентис-Холл. ISBN 0130607746.

[5] Государственный университет Миссури. «Спецификация модели, анализ временных рядов» (PDF).

[6] Brockwell, P.J .; Дэвис, Р. А. (2009). Временные ряды: теория и методы (2-е изд.). Нью-Йорк: Спрингер. п. 273. ISBN 9781441903198.

[7] Возможности временных рядов в системе Mathematica В архиве 24 ноября 2011 г. Wayback Machine

[R.stats.arima-8] Моделирование временных рядов ARIMA, R документация

[1]

[2]

[3]

[4]

[5]

[6]

[7]

[8]

Стохастические процессы
Дискретное время	Процесс Бернулли Ветвящийся процесс Китайский ресторанный процесс Процесс Гальтона – Ватсона Независимые и одинаково распределенные случайные величины Цепь Маркова Процесс Морана Случайная прогулка Со стиранием петли Избегать себя Пристрастный Максимальная энтропия
Непрерывное время	Аддитивный процесс Бесселевский процесс Процесс рождения – смерти чистое рождение Броуновское движение Мост Экскурсия Дробное Геометрический Меандр Процесс Коши Контактный процесс Случайное блуждание в непрерывном времени Процесс Кокса Процесс диффузии Эмпирический процесс Валочный процесс Процесс Флеминга – Виота Гамма-процесс Геометрический процесс Процесс охоты Системы взаимодействующих частиц Ито диффузия Процесс Ито Скачок диффузии Перейти процесс Леви процесс Местное время Марковский аддитивный процесс Процесс Маккина – Власова Процесс Орнштейна – Уленбека Пуассоновский процесс Сложный Неоднородный Эволюция Шрамма – Лёвнера Семимартингейл Сигма-мартингейл Стабильный процесс Суперпроцесс Телеграфный процесс Вариант гамма-процесса Винеровский процесс Венская колбаса
Обе	Ветвящийся процесс Модель Гальвеса – Лёхербаха Гауссовский процесс Скрытая марковская модель (HMM) Марковский процесс Мартингейл Отличия Местный Суб- Супер- Случайная динамическая система Регенеративный процесс Процесс продления Стохастические цепочки с памятью переменной длины белый шум
Поля и прочее	Процесс Дирихле Гауссовское случайное поле Мера Гиббса Модель Хопфилда Модель Изинга Модель Поттса Логическая сеть Марковское случайное поле Перколяция Процесс Питмана – Йорка Точечный процесс Кокс Пуассон Случайное поле Случайный график
Модели временных рядов	Модель авторегрессионной условной гетероскедастичности (ARCH) Модель авторегрессионного интегрированного скользящего среднего (ARIMA) Модель авторегрессии (AR) Модель авторегрессии – скользящего среднего (ARMA) Модель обобщенной авторегрессионной условной гетероскедастичности (GARCH) Модель скользящего среднего (MA)
Финансовые модели	Блэк – Дерман – Той Черный – Карасинский Блэк – Скоулз Чен Постоянная эластичность дисперсии (CEV) Кокс – Ингерсолл – Росс (CIR) Гарман – Кольхаген Хит – Джарроу – Мортон (HJM) Heston Хо – Ли Корпус – Белый Рынок LIBOR Рендлман – Барттер Волатильность SABR Вашичек Уилки
Актуарные модели	Бюльманн Крамер-Лундберг Рисковый процесс Спарре – Андерсон
Модели очередей	Масса Жидкость Обобщенная сеть массового обслуживания M / G / 1 M / M / 1 М / м / ц
Характеристики	Càdlàg тропы Непрерывный Непрерывные пути Эргодический Заменяемый Валочно-непрерывный Гаусс – Марков Марков Смешивание Кусочно-детерминированный Предсказуемый Постепенно измеримый Самоподобный Стационарный Обратимый во времени
Предельные теоремы	Центральная предельная теорема Теорема Донскера Теоремы Дуба о сходимости мартингалов Эргодическая теорема Теорема Фишера – Типпета – Гнеденко. Принцип большого отклонения Закон больших чисел (слабый / сильный) Закон повторного логарифма Максимальная эргодическая теорема Теорема Санова Законы нуля или единицы (Блюменталь, Борель – Кантелли, Энгельберт-Шмидт, Хьюитт-Сэвидж, Колмогоров, Леви )
Неравенства	Буркхолдер – Дэвис – Ганди Мартингейл Дуба Апкроссинг Дуба Кунита – Ватанабэ
Инструменты	Формула Камерона – Мартина Сходимость случайных величин Показательная величина Далеана-Даде Теорема Дуба о разложении Теорема Дуба – Мейера о разложении Теорема Дуба об необязательной остановке Формула Дынкина Формула Фейнмана – Каца Фильтрация Теорема Гирсанова Генератор бесконечно малых Ито интегральный Лемма Ито Карунен – Loève_theorem Колмогорова теорема непрерывности Колмогорова теорема о продолжении Метрика Леви – Прохорова Исчисление Маллявэна Теорема о мартингальном представлении Теорема о необязательной остановке Теорема Прохорова Квадратичная вариация Принцип отражения Скороход интеграл Теорема Скорохода о представлении Скороход космос Конверт Снелла Стохастическое дифференциальное уравнение Танака Время остановки Интеграл Стратоновича Равномерная интегрируемость Обычные гипотезы Винеровское пространство Классический Абстрактный
Дисциплины	Актуарная математика Теория управления Эконометрика Эргодическая теория Теория экстремальных ценностей (EVT) Теория больших отклонений Математические финансы Математическая статистика Теория вероятности Теория массового обслуживания Теория обновления Теория разорения Обработка сигналов Статистика Система на чипе дизайн Стохастический анализ Анализ временных рядов Машинное обучение
Список тем Категория