Снижение дисперсии - Variance reduction

Дисперсия случайно сгенерированных точек внутри единичного квадрата может быть уменьшена с помощью процесса стратификации.

В математика, точнее в теории Методы Монте-Карло, уменьшение дисперсии - это процедура, используемая для повышения точности оценок, которые могут быть получены для данного моделирования или вычислительных усилий.^[1] Каждая выходная случайная величина из моделирования связана с отклонение что ограничивает точность результатов моделирования. Для того, чтобы моделирование было статистически эффективным, т. Е. Для получения большей точности и меньшего доверительные интервалы для интересующей выходной случайной величины могут использоваться методы уменьшения дисперсии. Основные из них - обычные случайные числа, противоположные варианты, управление варьируется, выборка по важности, стратифицированная выборка, совпадение моментов, условный Монте-Карло и квазислучайные величины. Для моделирования с черный ящик модели моделирование подмножества и линейная выборка также можно использовать. Под этими заголовками находятся различные специализированные методы; например, при моделировании переноса частиц широко используются методы «окна веса» и «разбиение / русская рулетка», которые являются формой выборки по важности.

Грубое моделирование Монте-Карло

Предположим, кто-то хочет вычислить ${displaystyle z: = E (Z)}$ со случайной величиной ${displaystyle Z}$ определены на вероятностное пространство ${displaystyle (Omega, {mathcal {F}}, P)}$. Монте-Карло делает это путем отбора проб i.i.d. копии ${displaystyle Z_ {1}, ..., Z_ {R}}$ из${displaystyle Z}$ а затем оценить ${displaystyle z}$ с помощью оценки выборочного среднего

${displaystyle {overline {z}} = {frac {1} {n}} sum _ {i = 1} ^ {n} Z_ {i}}$

В более мягких условиях, таких как ${displaystyle var (Z)$, а Центральная предельная теорема будет применяться так, что для больших ${displaystyle nightarrow infty}$, распределение ${displaystyle {overline {z}}}$ сходится к нормальному распределению со средним ${displaystyle z}$ и стандартное отклонение ${displaystyle sigma / {sqrt {n}}}$. Поскольку стандартное отклонение сходится только к ${displaystyle 0}$ по оценке ${displaystyle {sqrt {n}}}$, что означает необходимость увеличения количества симуляций (${displaystyle n}$) в раз ${displaystyle 10}$ до половины стандартного отклонения ${displaystyle {overline {z}}}$, методы уменьшения дисперсии часто полезны для получения более точных оценок ${displaystyle z}$ без необходимости очень большого количества симуляций.

Общие случайные числа (CRN)

Общий метод уменьшения дисперсии случайных чисел - это популярный и полезный метод уменьшения дисперсии, который применяется, когда мы сравниваем две или более альтернативных конфигураций (системы) вместо исследования одной конфигурации. CRN также называют коррелированная выборка, согласованные потоки или же совпадающие пары.

CRN требует синхронизации потоков случайных чисел, которая гарантирует, что помимо использования одних и тех же случайных чисел для моделирования всех конфигураций, конкретное случайное число, используемое для определенной цели в одной конфигурации, используется для точно такой же цели во всех других конфигурациях. Например, в теории очередей, если мы сравниваем две разные конфигурации кассиров в банке, нам нужно (случайное) время прибытия N--го клиента, который должен быть сгенерирован с использованием одного и того же извлечения из потока случайных чисел для обеих конфигураций.

Основополагающий принцип метода CRN

Предполагать ${displaystyle X_ {1j}}$ и ${displaystyle X_ {2j}}$ - наблюдения из первой и второй конфигураций на j--я независимая репликация.

Мы хотим оценить

${displaystyle xi = E (X_ {1j}) - E (X_ {2j}) = mu _ {1} -mu _ {2}.,}$

Если мы выполним п репликации каждой конфигурации и пусть

${displaystyle Z_ {j} = X_ {1j} -X_ {2j} quad {mbox {for}} j = 1,2, ldots, n,}$

тогда ${displaystyle E (Z_ {j}) = xi}$ и ${displaystyle Z (n) = {frac {sum _ {j = 1, ldots, n} Z_ {j}} {n}}}$ беспристрастная оценка ${displaystyle xi}$.

А поскольку ${displaystyle Z_ {j}}$являются независимыми одинаково распределенными случайными величинами,

${displaystyle operatorname {Var} [Z (n)] = {frac {operatorname {Var} (Z_ {j})} {n}} = {frac {operatorname {Var} [X_ {1j}] + operatorname {Var} [X_ {2j}] - 2операторное имя {Cov} [X_ {1j}, X_ {2j}]} {n}}.}$

В случае независимой выборки, т. Е. Без использования общих случайных чисел, Cov (Икс_1j, Икс_2j) = 0. Но если нам удастся вызвать элемент положительной корреляции между Икс₁ и Икс₂ такой, что Cov (Икс_1j, Икс_2j)> 0, из приведенного выше уравнения видно, что дисперсия уменьшается.

Также можно заметить, что если CRN вызывает отрицательную корреляцию, то есть Cov (Икс_1j, Икс_2j) <0, этот метод может иметь неприятные последствия, когда дисперсия увеличивается, а не уменьшается (как предполагалось).^[2]

Смотрите также

• Объясненная дисперсия

Рекомендации

• Hammersley, J.M .; Хандскомб, Д. К. (1964). Методы Монте-Карло. Лондон: Метуэн. ISBN  0-416-52340-4.
• Kahn, H .; Маршалл, А. В. (1953). «Методы уменьшения размера выборки в вычислениях Монте-Карло». Журнал Общества исследования операций Америки. 1 (5): 263–271. Дои:10.1287 / opre.1.5.263.
• MCNP - Общий код Монте-Карло по переносу N-частиц, версия 5, отчет Лос-Аламоса, LA-UR-03-1987