Авторегрессионная интегрированная скользящая средняя - Autoregressive integrated moving average

В статистика и эконометрика, и в частности в анализ временных рядов, авторегрессионная интегрированная скользящая средняя (ARIMA) модель является обобщением авторегрессионная скользящая средняя (ARMA) модель. Обе эти модели подходят для Временные ряды данные либо для лучшего понимания данных, либо для прогнозирования будущих точек в серии (прогнозирование ). Модели ARIMA применяются в некоторых случаях, когда данные свидетельствуют о наличии нестационарность в смысле среднего (но не дисперсии /автоковариация ), где начальный шаг дифференцирования (соответствующий "интегрированный" часть модели) можно применить один или несколько раз, чтобы устранить нестационарность функции среднего (т. е. тренда).^[1] Когда сезонность отображается во временном ряду, сезонная разница^[2] может применяться для устранения сезонной составляющей. Поскольку ARMA модель, согласно теореме разложения Вольда,^[3][4] теоретически достаточно, чтобы описать стационарный в широком смысле временного ряда, мы мотивированы сделать стационарный нестационарный временной ряд, например, с помощью разности, прежде чем мы сможем использовать ARMA модель.^[5]

В AR часть ARIMA указывает на то, что развивающаяся интересующая переменная регресс сами по себе запаздывающие (т.е. априорные) значения. В MA часть указывает, что ошибка регрессии на самом деле линейная комбинация терминов ошибок, значения которых имели место одновременно и в разное время в прошлом.^[6] В я (для «интегрированного») указывает, что значения данных были заменены разницей между их значениями и предыдущими значениями (и этот процесс сравнения мог быть выполнен более одного раза). Цель каждой из этих функций - сделать модель максимально подходящей для данных.

Несезонные модели ARIMA обычно обозначаются ARIMA (п,d,q) куда параметры п, d, и q неотрицательные целые числа, п это порядок (количество временных лагов) авторегрессионная модель, d - степень разности (количество раз, когда из данных вычитались прошлые значения), и q это порядок модель скользящего среднего. Сезонные модели ARIMA обычно обозначаются ARIMA (п,d,q)(п,D,Q)_м, куда м относится к количеству периодов в каждом сезоне, а заглавные буквы п,D,Q относятся к условиям авторегрессии, дифференцирования и скользящего среднего для сезонной части модели ARIMA.^[7][2]

Когда два из трех членов равны нулю, к модели можно обратиться на основе ненулевого параметра, отбрасывая "AR", "я" или же "MA"от аббревиатуры, описывающей модель. Например, ${ displaystyle { text {ARIMA}} (1,0,0)}$ является AR (1), ${ displaystyle { text {ARIMA}} (0,1,0)}$ является Я (1), и ${ displaystyle { text {ARIMA}} (0,0,1)}$ является Массачусетс (1).

Модели ARIMA можно оценить, следуя Бокс – Дженкинс подход.

Определение

Учитывая данные временного ряда Икс_т куда т - целочисленный индекс, а Икс_т настоящие числа, ${ displaystyle { text {ARMA}} (p ', q)}$ модель дается

${ displaystyle X_ {t} - alpha _ {1} X_ {t-1} - dots - alpha _ {p '} X_ {t-p'} = varepsilon _ {t} + theta _ { 1} varepsilon _ {t-1} + cdots + theta _ {q} varepsilon _ {tq},}$

или эквивалентно

${ displaystyle left (1- sum _ {i = 1} ^ {p '} alpha _ {i} L ^ {i} right) X_ {t} = left (1+ sum _ {i = 1} ^ {q} theta _ {i} L ^ {i} right) varepsilon _ {t} ,}$

куда ${ displaystyle L}$ это оператор запаздывания, то ${ displaystyle alpha _ {я}}$ - параметры авторегрессионной части модели, ${ displaystyle theta _ {я}}$ - параметры части скользящего среднего и ${ displaystyle varepsilon _ {t}}$ являются ошибочными условиями. Условия ошибки ${ displaystyle varepsilon _ {t}}$ обычно считаются независимые, одинаково распределенные переменные, взятые из нормальное распределение с нулевым средним.

Предположим теперь, что многочлен ${ displaystyle textstyle left (1- сумма _ {я = 1} ^ {p '} alpha _ {i} L ^ {i} right)}$ имеет единичный корень (фактор ${ Displaystyle (1-L)}$) кратности d. Тогда его можно переписать как:

${ Displaystyle влево (1- сумма _ {я = 1} ^ {p '} альфа _ {я} L ^ {я} справа) = влево (1- сумма _ {я = 1} ^ {p'-d} varphi _ {i} L ^ {i} right) left (1-L right) ^ {d}.}$

ARIMA (п,d,q) процесс выражает это свойство полиномиальной факторизации с помощью п=п'-д, и определяется как:

${ displaystyle left (1- сумма _ {я = 1} ^ {p} varphi _ {i} L ^ {i} right) (1-L) ^ {d} X_ {t} = left (1+ sum _ {i = 1} ^ {q} theta _ {i} L ^ {i} right) varepsilon _ {t} ,}$

и поэтому может рассматриваться как частный случай ARMA (п + д,q) процесс, имеющий авторегрессионный полином с d единичные корни. (По этой причине ни один процесс, который точно описывается моделью ARIMA с d > 0 это стационарный в широком смысле.)

Сказанное выше можно обобщить следующим образом.

${ displaystyle left (1- сумма _ {я = 1} ^ {p} varphi _ {i} L ^ {i} right) (1-L) ^ {d} X_ {t} = delta + left (1+ sum _ {i = 1} ^ {q} theta _ {i} L ^ {i} right) varepsilon _ {t}. ,}$

Это определяет ARIMA (п,d,q) процесс с дрейф ${ displaystyle { frac { delta} {1- sum varphi _ {i}}}}$.

Другие специальные формы

Явная идентификация факторизации полинома авторегрессии на факторы, как указано выше, может быть распространена на другие случаи, во-первых, для применения к полиному скользящего среднего, а во-вторых, для включения других специальных факторов. Например, имея фактор ${ Displaystyle (1-L ^ {s})}$ в модели - это один из способов включения нестационарной сезонности периода s в модель; этот фактор имеет эффект повторного выражения данных как изменений от s периодов назад. Другой пример - фактор ${ displaystyle left (1 - { sqrt {3}} L + L ^ {2} right)}$, который включает (нестационарную) сезонность периода 2.^{[требуется разъяснение ]} Эффект первого типа факторов состоит в том, чтобы позволить значениям каждого сезона раздельно смещаться во времени, тогда как значения второго типа для смежных сезонов перемещаются вместе.^{[требуется разъяснение ]}

Идентификация и спецификация соответствующих факторов в модели ARIMA может быть важным шагом в моделировании, поскольку это может позволить уменьшить общее количество параметров, которые необходимо оценить, в то же время позволяя наложить на модель типы поведения, которые, как подсказывают логика и опыт, должны будь там.

Различие

Свойства стационарного временного ряда не зависят от времени, в которое этот ряд наблюдается. В частности, для стационарный в широком смысле временной ряд, среднее и дисперсия /автоковариация сохраняйте постоянство с течением времени. Различие в статистике - это преобразование, применяемое к нестационарному временному ряду, чтобы сделать его стационарным. в среднем смысле (а именно, чтобы удалить непостоянный тренд), но не имеющий ничего общего с нестационарность дисперсии /автоковариация. Точно так же сезонная разница применяется к сезонному временному ряду, чтобы удалить сезонную составляющую. С точки зрения обработки сигналов, особенно Спектральный анализ Фурье Тем не менее, тренд - это низкочастотная часть в спектре нестационарного временного ряда, а сезон - это периодическая частотная часть в его спектре. Следовательно, разность работает как высокая частота (т. е. нижний предел) и сезонную разность как гребенчатый фильтр для подавления низкочастотного тренда и периодического частотного сезона в спектральной области (а не непосредственно во временной области), соответственно.^[5] Эта точка зрения объясняет философию, математику, силу и недостатки разности и сезонной разницы.

Чтобы различать данные, вычисляется разница между последовательными наблюдениями. Математически это показано как

${ displaystyle y_ {t} '= y_ {t} -y_ {t-1} ,}$

Дифференцирование устраняет изменения в уровне временного ряда, устраняя тенденцию и сезонность и, следовательно, стабилизируя среднее значение временного ряда.^[5]

Иногда может потребоваться различить данные во второй раз, чтобы получить стационарный временной ряд, который называется разность второго порядка:

${ displaystyle { begin {align} y_ {t} ^ {*} & = y_ {t} '- y_ {t-1}' & = (y_ {t} -y_ {t-1}) - (y_ {t-1} -y_ {t-2}) & = y_ {t} -2y_ {t-1} + y_ {t-2} end {выровнено}}}$

Другой метод дифференцирования данных - это сезонная дифференциация, которая включает в себя вычисление разницы между наблюдением и соответствующим наблюдением в предыдущем сезоне, например, году. Это показано как:

${ displaystyle y_ {t} '= y_ {t} -y_ {t-m} quad { text {where}} m = { text {продолжительность сезона}}.}$

Затем разностные данные используются для оценки ARMA модель.

Примеры

Некоторые хорошо известные частные случаи возникают естественным образом или математически эквивалентны другим популярным моделям прогнозирования. Например:

• Модель ARIMA (0, 1, 0) (или Я (1) модель) дается ${ displaystyle X_ {t} = X_ {t-1} + varepsilon _ {t}}$ - это просто случайная прогулка.
• ARIMA (0, 1, 0) с константой, задаваемой ${ displaystyle X_ {t} = c + X_ {t-1} + varepsilon _ {t}}$ - что представляет собой случайное блуждание со сносом.
• Модель ARIMA (0, 0, 0) - это белый шум модель.
• Модель ARIMA (0, 1, 2) - это модель Демпфированного Холта.
• Модель ARIMA (0, 1, 1) без константы - это базовое экспоненциальное сглаживание модель.^[8]
• Модель ARIMA (0, 2, 2) задается формулой ${ displaystyle X_ {t} = 2X_ {t-1} -X_ {t-2} + ( alpha + beta -2) varepsilon _ {t-1} + (1- alpha) varepsilon _ { т-2} + varepsilon _ {т}}$ - что эквивалентно линейному методу Холта с аддитивными ошибками, или двойное экспоненциальное сглаживание.^[8]

Выбираем заказ

Порядок p и q может быть определен с использованием метода автокорреляционной функции выборки (ACF), функции частичной автокорреляции (PACF) и / или метода расширенной автокорреляционной функции (EACF).^[9]

Другие альтернативные методы включают AIC, BIC и т. Д.^[9] Чтобы определить порядок несезонной модели ARIMA, полезным критерием является Информационный критерий Акаике (AIC). Написано как

${ displaystyle { text {AIC}} = - 2 log (L) +2 (p + q + k),}$

куда L вероятность данных, п - порядок авторегрессионной части и q - порядок части скользящей средней. В k представляет собой пересечение модели ARIMA. Для AIC, если k = 1, то в модели ARIMA есть перехват (c ≠ 0) и если k = 0, то в модели ARIMA нет пересечения (c = 0).

Исправленный AIC для моделей ARIMA можно записать как

${ displaystyle { text {AICc}} = { text {AIC}} + { frac {2 (p + q + k) (p + q + k + 1)} {T-p-q-k-1}}.}$

В Байесовский информационный критерий (BIC) можно записать как

${ displaystyle { text {BIC}} = { text {AIC}} + (( log T) -2) (p + q + k).}$

Цель состоит в том, чтобы минимизировать значения AIC, AICc или BIC для хорошей модели. Чем ниже значение одного из этих критериев для ряда исследуемых моделей, тем лучше модель будет соответствовать данным. AIC и BIC используются для двух совершенно разных целей. В то время как AIC пытается приблизить модели к реальности, BIC пытается найти идеальное соответствие. Подход BIC часто критикуют за то, что он никогда не идеально подходит для реальных сложных данных; тем не менее, это по-прежнему полезный метод выбора, поскольку он более серьезно наказывает модели за наличие большего количества параметров, чем в случае с AIC.

AICc можно использовать только для сравнения моделей ARIMA с одинаковым порядком сравнения. Для ARIMA с разными порядками дифференцирования RMSE можно использовать для сравнения моделей.

Оценка коэффициентов

Этот раздел пуст. Вы можете помочь добавляя к этому. (Март 2017 г.)

Прогнозы с использованием моделей ARIMA

Модель ARIMA можно рассматривать как «каскад» двух моделей. Первый нестационарный:

${ Displaystyle Y_ {t} = (1-L) ^ {d} X_ {t}}$

а второй стационарный в широком смысле:

${ displaystyle left (1- sum _ {i = 1} ^ {p} varphi _ {i} L ^ {i} right) Y_ {t} = left (1+ sum _ {i = 1} ^ {q} theta _ {i} L ^ {i} right) varepsilon _ {t} ,.}$

Теперь можно делать прогнозы по процессу ${ displaystyle Y_ {t}}$, используя обобщение метода авторегрессионное прогнозирование.

Интервалы прогнозов

Интервалы прогноза (доверительные интервалы для прогнозов) для моделей ARIMA основаны на предположении, что остатки некоррелированы и нормально распределены. Если одно из этих предположений не выполняется, то интервалы прогноза могут быть неверными. По этой причине исследователи строят ACF и гистограмму остатков, чтобы проверить предположения, прежде чем создавать интервалы прогноза.

95% интервал прогноза: ${ displaystyle { hat {y}} _ {T + h , mid , T} pm 1.96 { sqrt {v_ {T + h , mid , T}}}}$, куда ${ displaystyle v_ {T + h mid T}}$ это дисперсия ${ displaystyle y_ {T + h} mid y_ {1}, dots, y_ {T}}$.

За ${ displaystyle h = 1}$, ${ displaystyle v_ {T + h , mid , T} = { hat { sigma}} ^ {2}}$ для всех моделей ARIMA независимо от параметров и порядков.

Для ARIMA (0,0, q), ${ displaystyle y_ {t} = e_ {t} + sum _ {i = 1} ^ {q} theta _ {i} e_ {t-i}.}$

${ displaystyle v_ {T + h , mid , T} = { hat { sigma}} ^ {2} left [1+ sum _ {i = 1} ^ {h-1} theta _ {i} e_ {ti} right], { text {for}} h = 2,3, ldots}$^{[нужна цитата ]}

Как правило, интервалы прогнозов по моделям ARIMA будут увеличиваться по мере увеличения горизонта прогноза.

Варианты и расширения

Обычно используется ряд вариаций модели ARIMA. Если используются несколько временных рядов, то ${ displaystyle X_ {t}}$ можно рассматривать как векторы, и модель VARIMA может быть подходящей. Иногда в модели подозревают сезонный эффект; в этом случае обычно считается лучше использовать модель SARIMA (сезонная ARIMA), чем увеличивать порядок частей модели AR или MA.^[10] Если есть подозрение, что временной ряд демонстрирует дальнодействующая зависимость, то d параметру может быть разрешено иметь нецелые значения в авторегрессионное дробно-интегрированное скользящее среднее модель, которую также называют фракционной моделью ARIMA (FARIMA или ARFIMA).

Программные реализации

Различные пакеты, которые применяют методологию, например Бокс – Дженкинс доступна оптимизация параметров, чтобы найти правильные параметры для модели ARIMA.

• EViews: имеет обширные возможности ARIMA и SARIMA.
• Юля: содержит реализацию ARIMA в пакете TimeModels^[11]
• Mathematica: включает ARIMAProcess функция.
• MATLAB: the Инструменты эконометрики включает Модели ARIMA и регрессия с ошибками ARIMA
• NCSS: включает несколько процедур для ARIMA примерка и прогнозирование.^[12][13][14]
• Python: the "statsmodels" Пакет включает модели для анализа временных рядов - одномерный анализ временных рядов: AR, ARIMA - векторные авторегрессионные модели, VAR и структурный VAR - описательную статистику и модели процессов для анализа временных рядов.
• р: стандартный R статистика пакет включает арима функция, которая задокументирована в «Моделирование временных рядов ARIMA». Кроме ${ displaystyle { text {ARIMA}} (p, d, q)}$ часть, функция также включает сезонные факторы, член пересечения и экзогенные переменные (xreg, называемые «внешними регрессорами»). Представление задачи CRAN на Временные ряды это ссылка со многими другими ссылками. В "прогноз" пакет в р может автоматически выбирать модель ARIMA для данного временного ряда с помощью auto.arima () функция, а также может моделировать сезонные и несезонные модели ARIMA с помощью simulate.Arima () функция.^[15]
• Рубин: the "statsample-timeseries" gem используется для анализа временных рядов, включая модели ARIMA и фильтрацию Калмана.
• JavaScript: the "арима" пакет включает модели для анализа и прогнозирования временных рядов (ARIMA, SARIMA, SARIMAX, AutoARIMA)
• C: the "ctsa" пакет включает ARIMA, SARIMA, SARIMAX, AutoARIMA и несколько методов анализа временных рядов.
• БЕЗОПАСНЫЕ ЯЩИКИ ДЛЯ ИНСТРУМЕНТОВ: включает ARIMA моделирование и регрессия с ошибками ARIMA.
• SAS: включает расширенную обработку ARIMA в свою систему эконометрического анализа и анализа временных рядов: SAS / ETS.
• IBM SPSS: включает моделирование ARIMA в свои статистические пакеты Statistics и Modeler. Функция Expert Modeler по умолчанию оценивает диапазон сезонной и несезонной авторегрессии (п), интегрированный (d) и скользящей средней (q) и семь моделей экспоненциального сглаживания. Expert Modeler может также преобразовать данные целевого временного ряда в квадратный корень или натуральный логарифм. Пользователь также имеет возможность ограничить эксперт по моделированию моделями ARIMA или вручную ввести несезонный и сезонный ARIMA. п, d, и q настройки без Expert Modeler. Автоматическое обнаружение выбросов доступно для семи типов выбросов, и обнаруженные выбросы будут включены в модель временных рядов, если эта функция выбрана.
• SAP: пакет APO-FCS^[16] в SAP ERP из SAP позволяет создавать и настраивать модели ARIMA с использованием методологии Бокса – Дженкинса.
• Службы аналитики SQL Server: из Microsoft включает ARIMA в качестве алгоритма интеллектуального анализа данных.
• Stata включает моделирование ARIMA (с использованием его команды arima) начиная с Stata 9.
• StatSim: включает модели ARIMA в Прогноз веб-приложение.
• Терадата Vantage имеет функцию ARIMA как часть своего механизма машинного обучения.
• TOL (Time Oriented Language) разработан для моделирования моделей ARIMA (включая варианты SARIMA, ARIMAX и DSARIMAX) [1].
• Scala: искры Библиотека содержит реализацию ARIMA для Scala, Java и Python. Реализация предназначена для работы на Apache Spark.
• PostgreSQL / MadLib: Анализ временных рядов / ARIMA.
• X-12-ARIMA: от Бюро переписи населения США

Смотрите также

• Автокорреляция
• ARMA
• Частичная автокорреляция
• Конечный импульсный отклик
• Бесконечный импульсный отклик

Рекомендации

Эта статья включает в себя список общих Рекомендации, но он остается в основном непроверенным, потому что ему не хватает соответствующих встроенные цитаты. Пожалуйста, помогите улучшать эта статья введение более точные цитаты. (Май 2011 г.) (Узнайте, как и когда удалить этот шаблон сообщения)

дальнейшее чтение

• Астериу, Димитрос; Холл, Стивен Г. (2011). «Модели ARIMA и методология Бокса – Дженкинса». Прикладная эконометрика (Второе изд.). Пэлгрейв Макмиллан. С. 265–286. ISBN  978-0-230-27182-1.
• Миллс, Теренс С. (1990). Методы временных рядов для экономистов. Издательство Кембриджского университета. ISBN  978-0-521-34339-8.
• Персиваль, Дональд Б.; Уолден, Эндрю Т. (1993). Спектральный анализ для физических приложений. Издательство Кембриджского университета. ISBN  978-0-521-35532-2.

внешняя ссылка

• Бюро переписи населения США использует ARIMA для "сезонно скорректированных" данных (программы, документы и статьи здесь)
• Конспект лекций по моделям ARIMA (Роберт Нау, Университет Дьюка)