Проверка статистической модели - Statistical model validation

«Проверка модели» перенаправляется сюда. О роли инвестиционного банка см. Количественный анализ (финансы) § Проверка модели.

В статистика, проверка модели является задачей подтверждения того, что выходы статистическая модель приемлемы по отношению к реальному процессу генерации данных. Другими словами, проверка модели - это задача подтверждения того, что выходные данные статистической модели имеют достаточную точность для результатов процесса генерации данных, чтобы цели исследования могли быть достигнуты.

Обзор

Проверка модели может быть основана на двух типах данных: данных, которые использовались при построении модели, и данных, которые не использовались при построении. Валидация на основе первого типа обычно включает анализ степень соответствия модели или анализируя, остатки кажутся случайными (т.е. остаточная диагностика ). Валидация по второму типу обычно включает анализ того, насколько прогнозная производительность ухудшается незначительно при применении к соответствующим новым данным.

Рис. 1. Данные (черные точки), полученные с помощью прямой линии и некоторого дополнительного шума, идеально соответствуют кривой кривой. многочлен.

Проверка, основанная только на первом типе (данные, которые использовались при построении модели), часто бывает неадекватной. Экстремальный пример показан на рисунке 1. На рисунке показаны данные (черные точки), которые были сгенерированы с помощью прямой линии + шум. На рисунке также изображена извилистая линия, которая является многочлен выбран, чтобы идеально соответствовать данным. Все остатки для кривой линии равны нулю. Следовательно, проверка, основанная только на первом типе данных, приведет к выводу, что извилистая линия была хорошей моделью. И все же кривая линия, очевидно, плохая модель: интерполяция, особенно между −5 и −4, будет иметь тенденцию вводить в заблуждение; более того, любая существенная экстраполяция была бы плохой.

Таким образом, проверка обычно не основана только на рассмотрении данных, которые использовались при построении модели; скорее, при проверке обычно также используются данные, которые не использовались при построении. Другими словами, проверка обычно включает проверку некоторых прогнозов модели.

Модель может быть проверена только относительно некоторой области применения.[1][2] Модель, действующая для одного приложения, может быть недействительной для некоторых других приложений. В качестве примера рассмотрим извилистую линию на рисунке 1: если приложение использовало только входные данные из интервала [0, 2], то кривая линия вполне могла бы быть приемлемой моделью.

Методы проверки

При проведении валидации существует три заметных причины потенциальных трудностей, согласно Энциклопедия статистических наук.[3] Вот три причины: недостаток данных; отсутствие контроля входных переменных; неопределенность в отношении основных распределений вероятностей и корреляций. Обычные методы решения проблем при валидации включают следующее: проверка допущений, сделанных при построении модели; изучение имеющихся данных и соответствующих выходных данных модели; применение экспертной оценки.[1] Обратите внимание, что для экспертной оценки обычно требуется опыт в области применения.[1]

Иногда для оценки достоверности прогноза может использоваться экспертная оценка. без получение реальных данных: например, для извилистой линии на рисунке 1 эксперт вполне может оценить, что существенная экстраполяция будет недействительной. Дополнительно экспертная оценка может использоваться в Тьюринг -типовые тесты, при которых экспертам представляются как реальные данные, так и выходы соответствующих моделей, а затем предлагается провести различие между ними.[4]

Для некоторых классов статистических моделей доступны специализированные методы проверки. Например, если статистическая модель была получена с помощью регресс, затем специализированный анализ для проверка регрессионной модели существуют и обычно используются.

Остаточная диагностика

Остаточная диагностика включает анализ остатки чтобы определить, кажутся ли остатки случайными. Такой анализ обычно требует оценок распределений вероятностей для остатков. Оценки распределений остатков часто можно получить, многократно прогоняя модель, т.е. стохастическое моделирование (используя генератор псевдослучайных чисел для случайных величин в модели).

Если статистическая модель была получена с помощью регрессии, то регрессионно-остаточная диагностика существуют и могут быть использованы; такая диагностика хорошо изучена.

Смотрите также

Рекомендации

  1. ^ а б c Национальный исследовательский совет (2012), «Глава 5: Проверка и прогнозирование модели», Оценка надежности сложных моделей: математические и статистические основы верификации, валидации и количественной оценки неопределенности, Вашингтон, округ Колумбия: Национальная академия прессы, стр. 52–85CS1 maint: несколько имен: список авторов (связь).
  2. ^ Batzel, J. J .; Bachar, M .; Karemaker, J.M .; Каппель, Ф. (2013), «Глава 1: Слияние математических и физиологических знаний», в Batzel, J. J .; Bachar, M .; Каппель, Ф. (ред.), Математическое моделирование и валидация в физиологии, Springer, стр. 3–19, Дои:10.1007/978-3-642-32882-4_1.
  3. ^ Дитон, М. Л. (2006), «Имитационные модели, проверка», в Коц, С.; и другие. (ред.), Энциклопедия статистических наук, Wiley.
  4. ^ Mayer, D. G .; Батлер, Д. (1993), «Статистическая проверка», Экологическое моделирование, 68: 21–32, Дои:10.1016/0304-3800(93)90105-2.

дальнейшее чтение

  • Барлас, Ю. (1996), "Формальные аспекты достоверности и валидации модели в системной динамике", Обзор системной динамики, 12: 183–210, Дои:10.1002 / (SICI) 1099-1727 (199623) 12: 3 <183 :: AID-SDR103> 3.0.CO; 2-4
  • Хорошо, П.И.; Хардин, Дж. У. (2012), «Глава 15: Проверка», Распространенные ошибки в статистике (Четвертое изд.), Джон Уайли и сыновья, стр. 277–285
  • Хубер, П. Дж. (2002), «Глава 3: Приближенные модели», в Huber-Carol, C .; Балакришнан, Н .; Никулин, М. С .; Месбах, М. (ред.), Тесты согласия и валидность модели, Springer, стр. 25–41

внешняя ссылка