Оценка минимального расстояния - Minimum-distance estimation

Оценка минимального расстояния (MDE) - концептуальный метод подгонки статистической модели к данным, обычно эмпирическое распределение. Часто используемые оценщики, такие как обыкновенный метод наименьших квадратов можно рассматривать как Особые случаи оценки минимального расстояния.

Пока последовательный и асимптотически нормальный, оценки минимального расстояния обычно не статистически эффективный по сравнению с оценщики максимального правдоподобия, потому что они опускают Якобиан обычно присутствует в функция правдоподобия. Однако это существенно снижает вычислительная сложность задачи оптимизации.

Определение

Позволять ${displaystyle displaystyle X_ {1}, ldots, X_ {n}}$ быть независимые и одинаково распределенные (iid) случайный образец из численность населения с распределение ${displaystyle F (x; heta) Heta толстой кишки в тета}$ и ${displaystyle Theta substeq mathbb {R} ^ {k} (kgeq 1)}$ .

Позволять ${displaystyle displaystyle F_ {n} (x)}$ быть эмпирическая функция распределения по образцу.

Позволять ${displaystyle {hat {heta}}}$ быть оценщик за ${displaystyle displaystyle heta}$ . потом ${displaystyle F (x; {шляпа {heta}})}$ это оценка для ${displaystyle displaystyle F (x; heta)}$ .

Позволять ${displaystyle d [cdot, cdot]}$ быть функциональный возвращая некоторую меру "расстояние" между двумя аргументы. Функционал ${displaystyle displaystyle d}$ также называется целевой функцией.

Если существует ${displaystyle {hat {heta}} в тета}$ такой, что ${displaystyle d [F (x; {шляпа {heta}}), F_ {n} (x)] = inf {d [F (x; heta), F_ {n} (x)]; heta в Theta}}$ , тогда ${displaystyle {hat {heta}}}$ называется оценка минимального расстояния из ${displaystyle displaystyle heta}$ .

(Дроссос и Филиппу 1980, п. 121)

Статистика, используемая в оценке

Большинство теоретических исследований оценки минимального расстояния и большинство приложений используют меры «расстояния», которые лежат в основе уже установленных степень соответствия тесты: статистика теста, используемая в одном из этих тестов, используется в качестве меры расстояния, которую необходимо минимизировать. Ниже приведены некоторые примеры статистических тестов, которые использовались для оценки минимального расстояния.

Критерий хи-квадрат

В критерий хи-квадрат в качестве критерия используется сумма квадратов разницы между увеличением эмпирического распределения и оценочного распределения по заранее заданным группам, взвешенная по увеличению оценки для этой группы.

Критерий Крамера – фон Мизеса

В Критерий Крамера – фон Мизеса использует интеграл квадрата разности между эмпирической и оцененной функциями распределения (Парр и Шукани 1980, п. 616).

Критерий Колмогорова – Смирнова.

В Тест Колмогорова – Смирнова использует супремум из абсолютная разница между эмпирической и оценочной функциями распределения (Парр и Шукани 1980, п. 616).

Критерий Андерсона – Дарлинга

В Тест Андерсона – Дарлинга аналогичен критерию Крамера – фон Мизеса, за исключением того, что интеграл представляет собой взвешенную версию квадрата разности, где взвешивание связывает дисперсию эмпирической функции распределения (Парр и Шукани 1980, п. 616).

Теоретические результаты

Теория оценивания минимального расстояния связана с теорией асимптотического распределения соответствующих статистических степень соответствия тесты. Часто случаи Критерий Крамера – фон Мизеса, то Тест Колмогорова – Смирнова и Тест Андерсона – Дарлинга рассматриваются одновременно, рассматривая их как частные случаи более общей формулировки меры расстояния. Примеры имеющихся теоретических результатов: последовательность оценок параметров; асимптотические ковариационные матрицы оценок параметров.