Проверка регрессии - Regression validation
Часть серии по |
Регрессивный анализ |
---|
Модели |
Оценка |
Фон |
|
В статистика, проверка регрессии представляет собой процесс определения того, являются ли численные результаты количественной оценки предполагаемых взаимосвязей между переменными, полученных из регрессивный анализ, приемлемы в качестве описания данных. Процесс проверки может включать в себя анализ степень соответствия регрессии, анализируя, остатки регрессии являются случайными, и проверка того, существенно ли ухудшается прогнозирующая способность модели при применении к данным, которые не использовались при оценке модели.
Доброту соответствия
Одним из критериев соответствия является р2 (коэффициент детерминации ), который в обычном методе наименьших квадратов с точкой пересечения находится в диапазоне от 0 до 1. Однако р2 близкое к 1 не гарантирует, что модель хорошо соответствует данным: так как Квартет анскомба шоу, высокий р2 может возникать при неправильном указании функциональной формы отношения или при наличии выбросов, искажающих истинное отношение.
Одна проблема с р2 в качестве меры достоверности модели является то, что она всегда может быть увеличена путем добавления дополнительных переменных в модель, за исключением маловероятного случая, когда дополнительные переменные точно не коррелируют с зависимой переменной в используемой выборке данных. Этой проблемы можно избежать, выполнив F-тест статистической значимости увеличения р2, или вместо этого используя скорректированный р2.
Анализ остатков
В остатки из подобранной модели - это различия между ответами, наблюдаемыми при каждой комбинации значений объясняющие переменные и соответствующее предсказание ответа, вычисленное с использованием функции регрессии. Математически определение невязки для яth наблюдение в набор данных написано
с уя обозначая яth ответ в наборе данных и Икся вектор независимых переменных, каждая из которых имеет соответствующие значения, найденные в яth наблюдение в наборе данных.
Если бы модель соответствовала данным, то остатки аппроксимировали бы случайные ошибки, которые делают взаимосвязь между независимыми переменными и переменной отклика статистической зависимостью. Следовательно, если кажется, что остатки ведут себя случайным образом, это говорит о том, что модель хорошо соответствует данным. С другой стороны, если в остатках очевидна неслучайная структура, это явный признак того, что модель плохо соответствует данным. В следующем разделе подробно описаны типы графиков, используемых для тестирования различных аспектов модели, и даны правильные интерпретации различных результатов, которые можно было наблюдать для каждого типа графика.
Графический анализ остатков
Основной, хотя и не количественно точный, способ проверки проблем, которые делают модель неадекватной, - это провести визуальный анализ остатков (ошибочных предсказаний данных, используемых при количественной оценке модели), чтобы найти очевидные отклонения от случайности. Если визуальный осмотр предполагает, например, возможное присутствие гетероскедастичность (взаимосвязь между дисперсией ошибок модели и размером наблюдений независимой переменной), затем можно провести статистические тесты, чтобы подтвердить или опровергнуть это предположение; если это подтверждается, требуются другие процедуры моделирования.
Различные типы графиков остатков от подобранной модели предоставляют информацию об адекватности различных аспектов модели.
- достаточность функциональной части модели: точечные диаграммы остатков по сравнению с предикторами
- непостоянное изменение данных: точечные диаграммы остатков по сравнению с предикторами; для данных, собранных с течением времени, а также графики остатков от времени
- дрейф ошибок (данные собираются с течением времени): запускать графики ответа и ошибок в зависимости от времени
- независимость от ошибок: лаг сюжет
- нормальность ошибок: гистограмма и график нормальной вероятности
Графические методы имеют преимущество перед численными методами проверки модели, поскольку они легко иллюстрируют широкий спектр сложных аспектов взаимосвязи между моделью и данными.
Количественный анализ остатков
Численные методы также играют важную роль в валидации модели. Например, тест на неподготовленность для оценки правильности функциональной части модели может помочь в интерпретации графика пограничных остатков. Одна из распространенных ситуаций, когда числовые методы проверки имеют приоритет над графическими методами, - это когда количество параметры оценивается относительно близко к размеру набора данных. В этой ситуации графики остатков часто трудно интерпретировать из-за ограничений на остатки, налагаемых оценкой неизвестных параметров. Одна из областей, в которой это обычно происходит, - это приложения для оптимизации, использующие разработанные эксперименты. Логистическая регрессия с двоичными данными - еще одна область, в которой графический остаточный анализ может быть затруднен.
Последовательная корреляция остатков могут указывать на неправильную спецификацию модели и могут быть проверены с помощью Статистика Дарбина – Ватсона. Проблема гетероскедастичность можно проверить в любом из несколько способов.
Оценка вне выборки
Перекрестная проверка - это процесс оценки того, как результаты статистического анализа будут обобщены на независимый набор данных. Если модель была оценена по некоторым, но не всем доступным данным, то модель, использующая оцененные параметры, может использоваться для прогнозирования удерживаемых данных. Если, например, вне выборки среднеквадратичная ошибка, также известный как среднеквадратичная ошибка прогноза, существенно превышает среднеквадратичную ошибку по выборке, что свидетельствует о недостатке модели.
Развитие медицинской статистики - это использование методов перекрестной проверки вне выборки в метаанализе. Он составляет основу статистика валидации, Vn, который используется для проверки статистической достоверности сводных оценок метаанализа. По сути, он измеряет тип нормализованной ошибки прогнозирования, а его распределение представляет собой линейную комбинацию χ2 переменные степени 1. [1]
Смотрите также
- Все модели неправильные
- Интервал прогноза
- Ресэмплинг (статистика)
- Достоверность статистического заключения
- Спецификация статистической модели
- Проверка статистической модели
- Срок действия (статистика)
- Коэффициент детерминации
- Неподходящая сумма квадратов
- Уменьшенный хи-квадрат
Рекомендации
Эта статья нужны дополнительные цитаты для проверка.Март 2010 г.) (Узнайте, как и когда удалить этот шаблон сообщения) ( |
- ^ Уиллис Б.Х., Райли Р.Д. (2017). «Измерение статистической достоверности сводных результатов мета-анализа и мета-регрессии для использования в клинической практике». Статистика в медицине. 36 (21): 3283–3301. Дои:10.1002 / sim.7372. ЧВК 5575530. PMID 28620945.
дальнейшее чтение
- Arboretti Giancristofaro, R .; Салмазо, Л. (2003), «Анализ производительности модели и проверка модели в логистической регрессии», Статистика, 63: 375–396
- Кмента Ян (1986), Элементы эконометрики (Второе изд.), Macmillan, стр. 593–600.; переиздан в 1997 г. Пресса Мичиганского университета
внешняя ссылка
- Как я могу определить, подходит ли модель моим данным? (NIST)
- Электронный справочник статистических методов NIST / SEMATECH
- Диагностика модели (Эберли Колледж Науки )
Эта статья включаетматериалы общественного достояния от Национальный институт стандартов и технологий интернет сайт https://www.nist.gov.