Гамильтониан Монте-Карло - Википедия - Hamiltonian Monte Carlo

В вычислительная физика и статистика, то Гамильтониан Монте-Карло алгоритм (также известный как гибрид Монте-Карло), это Цепь Маркова Монте-Карло метод получения последовательности случайные выборки который сходиться быть распределен в соответствии с целевым распределением вероятностей, для которого затруднен прямой отбор. Эта последовательность может использоваться для оценки интегралы относительно целевого распределения (ожидаемые значения ).

Гамильтониан Монте-Карло соответствует экземпляру Алгоритм Метрополиса – Гастингса, с Гамильтонова динамика эволюция смоделирована с помощью обратимый во времени и числовой интегратор, сохраняющий объем (обычно интегратор чехарда ), чтобы предложить переезд в новую точку в пространстве состояний. По сравнению с использованием Гауссовское случайное блуждание распространение предложения в Алгоритм Метрополиса – Гастингса, Гамильтониан Монте-Карло уменьшает корреляцию между последовательными выборочными состояниями, предлагая переходы в отдаленные состояния, которые поддерживают высокую вероятность принятия из-за приближенного энергосбережение свойства моделируемой гамильтоновой динамики при использовании симплектический интегратор. Пониженная корреляция означает меньше Цепь Маркова образцы необходимы для аппроксимации интегралов относительно целевого распределения вероятностей для данного Монте-Карло ошибка. Алгоритм был первоначально предложен Саймоном Дуэйном, Энтони Кеннеди, Брайаном Пендлтоном и Дунканом Роуэтом в 1987 году.^[1] для расчетов в решеточная квантовая хромодинамика.

Алгоритм

Предположим, что целевое распределение для выборки ${ Displaystyle е ( mathbf {х})}$ и цепочка образцов ${ displaystyle mathbf {X} _ {0}, mathbf {X} _ {1}, mathbf {X} _ {2}, ldots}$ необходимо. В Уравнения Гамильтона находятся

{ displaystyle { frac {{ text {d}} x_ {i}} {{ text {d}} t}} = { frac { partial H} { partial p_ {i}}}}

и

{ displaystyle { dfrac {{ text {d}} p_ {i}} {{ text {d}} t}} = - { dfrac { partial H} { partial x_ {i}}}}

куда ${ displaystyle x_ {i}}$ и ${ displaystyle p_ {i}}$ являются ${ displaystyle i}$ й компонент позиция и импульс вектор соответственно и ${ displaystyle H}$ гамильтониан. Позволять ${ displaystyle M}$ быть матрица масс который является симметричным и положительно определенным, то гамильтониан имеет вид

{ Displaystyle Н ( mathbf {x}, mathbf {p}) = U ( mathbf {x}) + { dfrac {1} {2}} mathbf {p} ^ { text {T}} M ^ {- 1} mathbf {p}}

куда ${ Displaystyle U ( mathbf {x})}$ это потенциальная энергия. Потенциальная энергия цели задается как

{ Displaystyle U ( mathbf {x}) = - ln f ( mathbf {x})}

который исходит из Фактор Больцмана.

Алгоритм требует положительное целое число для количества шагов прыжка. ${ displaystyle L}$ и положительное число для размера шага ${ displaystyle Delta t}$ . Предположим, что цепь находится в ${ displaystyle mathbf {X} _ {n} = mathbf {x} _ {n}}$ . Позволять ${ displaystyle mathbf {x} _ {n} (0) = mathbf {x} _ {n}}$ . Первый случайный Гауссовский импульс ${ displaystyle mathbf {p} _ {n} (0)}$ взят из ${ displaystyle { text {N}} left ( mathbf {0}, M right)}$ . Затем частица будет двигаться в гамильтоновой динамике в течение времени ${ displaystyle L Delta t}$ , это делается путем численного решения уравнений Гамильтона с использованием алгоритм прыжковой лягушки. Векторы положения и импульса после времени ${ displaystyle Delta t}$ с использованием алгоритма прыжковой лягушки

{ displaystyle mathbf {p} _ {n} left (t + { dfrac { Delta t} {2}} right) = mathbf {p} _ {n} (t) - { dfrac { Дельта t} {2}} nabla left.U ( mathbf {x}) right | _ { mathbf {x} = mathbf {x} _ {n} (t)}}

{ displaystyle mathbf {x} _ {n} (t + Delta t) = mathbf {x} _ {n} (t) + Delta tM ^ {- 1} mathbf {p} _ {n} left (t + { dfrac { Delta t} {2}} right)}

{ displaystyle mathbf {p} _ {n} (t + Delta t) = mathbf {p} _ {n} left (t + { dfrac { Delta t} {2}} right) - { dfrac { Delta t} {2}} nabla left.U ( mathbf {x}) right | _ { mathbf {x} = mathbf {x} _ {n} (t + Delta t)} }

Эти уравнения должны применяться к ${ displaystyle mathbf {x} _ {n} (0)}$ и ${ displaystyle mathbf {p} _ {n} (0)}$ ${ displaystyle L}$ раз, чтобы получить ${ displaystyle mathbf {x} _ {n} (L Delta t)}$ и ${ displaystyle mathbf {p} _ {n} (L Delta t)}$ .

Поскольку алгоритм «чехарда» является численным методом и не решает точно уравнения Гамильтона, a Метрополис – Гастингс шаг используется. Переход от ${ displaystyle mathbf {X} _ {n} = mathbf {x} _ {n}}$ к ${ displaystyle mathbf {X} _ {n + 1}}$ является

{ displaystyle mathbf {X} _ {n + 1} | mathbf {X} _ {n} = mathbf {x} _ {n} = { begin {cases} mathbf {x} _ {n} (L Delta t) & { text {с вероятностью}} alpha left ( mathbf {x} _ {n} (0), mathbf {x} _ {n} (L Delta t) right ) mathbf {x} _ {n} (0) & { text {иначе}} end {case}}}

куда

{ displaystyle alpha left ( mathbf {x} _ {n} (0) _ {n}, mathbf {x} _ {n} (L Delta t) right) = { text {min} } left (1, { dfrac { exp left [-H ( mathbf {x} _ {n} (L Delta t), mathbf {p} _ {n} (L Delta t)) right]} { exp left [-H ( mathbf {x} _ {n} (0), mathbf {p} _ {n} (0)) right]}} right)}

Это повторяется для получения ${ displaystyle mathbf {X} _ {n + 1}, mathbf {X} _ {n + 2}, mathbf {X} _ {n + 3}, ldots}$ .

Пробоотборник без переворота

Пробоотборник без разворота (NUTS)^[2] расширение путем управления ${ displaystyle L}$ автоматически. Тюнинг ${ displaystyle L}$ имеет решающее значение. Например, в одномерном ${ displaystyle { text {N}} (0,1 / { sqrt {k}})}$ случае, потенциал ${ Displaystyle U (х) = kx ^ {2} / 2}$ что соответствует потенциалу простой гармонический осциллятор. За ${ displaystyle L}$ слишком большой, частица будет колебаться, и это приведет к потере вычислительного времени. За ${ displaystyle L}$ слишком маленький, частица будет вести себя как случайное блуждание.

В общем, NUTS случайным образом запускает гамильтонову динамику вперед и назад во времени, пока не будет выполнено условие разворота. Когда это происходит, для выборки MCMC выбирается случайная точка пути, и процесс повторяется с этой новой точки.

Подробно двоичное дерево построен так, чтобы проследить путь шагов прыжка. Для получения образца MCMC проводится итерационная процедура. Переменная среза ${ displaystyle U_ {n} sim { text {Uniform}} (0, exp (-H [ mathbf {x} _ {n} (0), mathbf {p} _ {n} (0) ]))}$ отбирается. Позволять ${ Displaystyle mathbf {х} _ {п} ^ {+}}$ и ${ displaystyle mathbf {p} _ {n} ^ {+}}$ - положение и импульс передней частицы соответственно. По аналогии, ${ displaystyle mathbf {x} _ {n} ^ {-}}$ и ${ displaystyle mathbf {p} _ {n} ^ {-}}$ для обратной частицы. На каждой итерации двоичное дерево выбирает случайным образом и равномерно, чтобы переместить прямую частицу вперед во времени или обратную частицу назад во времени. Также для каждой итерации количество шагов прыжка увеличивается в 2 раза. Например, в первой итерации передняя частица перемещается вперед во времени с использованием 1 шага прыжка. В следующей итерации обратная частица движется назад во времени, используя 2 шага прыжка.

Итерационная процедура продолжается до тех пор, пока не будет выполнено условие разворота, то есть

{ displaystyle ( mathbf {x} _ {n} ^ {+} - mathbf {x} _ {n} ^ {-}) cdot mathbf {p} _ {n} ^ {-} <0 quad { text {или}} quad ( mathbf {x} _ {n} ^ {+} - mathbf {x} _ {n} ^ {-}) cdot mathbf {p} _ {n} ^ {+} <0}

или когда гамильтониан становится неточным

{ displaystyle exp left [-H ( mathbf {x} _ {n} ^ {+}, mathbf {p} _ {n} ^ {+}) + delta right]

или же

{ displaystyle exp left [-H ( mathbf {x} _ {n} ^ {-}, mathbf {p} _ {n} ^ {-}) + delta right]

где, например, ${ displaystyle delta = 1000}$ .

После выполнения условия разворота следующий образец MCMC, ${ Displaystyle mathbf {х} _ {п + 1}}$ , получается путем равномерной выборки пути прыгуна, прослеживаемого двоичным деревом ${ displaystyle { mathbf {x} _ {n} ^ {-}, ldots, mathbf {x} _ {n} (- Delta t), mathbf {x} _ {n} (0) , mathbf {x} _ {n} ( Delta t), ldots, mathbf {x} _ {n} ^ {+} }}$ который удовлетворяет

{ displaystyle U_ {n} < exp left [-H ( mathbf {x_ {n + 1}}, mathbf {p_ {n + 1})} right]}

Обычно это выполняется, если остальные параметры HMC разумны.

Смотрите также

дальнейшее чтение

Нил, Рэдфорд М (2011). «MCMC с использованием гамильтоновой динамики» (PDF). В Стиве Бруксе; Андрей Гельман; Галин Л. Джонс; Сяо-Ли Мэн (ред.). Справочник цепи Маркова Монте-Карло. Чепмен и Холл / CRC. ISBN 9781420079418.
Бетанкур, Майкл (2018). «Концептуальное введение в гамильтониан Монте-Карло». arXiv:1701.02434. Bibcode:2017arXiv170102434B. Цитировать журнал требует | журнал = (помощь)
Лю, Цзюнь С. (2004). Стратегии Монте-Карло в научных вычислениях. Серия Springer в статистике, Springer. С. 189-203. ISBN 978-0-387-76369-9.

внешняя ссылка

Бетанкур, Майкл. «Эффективный байесовский вывод с гамильтонианом Монте-Карло». MLSS Исландия 2014 - через YouTube.
Гамильтониан Монте-Карло с нуля
Оптимизация и методы Монте-Карло

[1] Дуэйн, Саймон; Кеннеди, Энтони Д .; Пендлтон, Брайан Дж .; Ровет, Дункан (3 сентября 1987 г.). «Гибрид Монте-Карло». Письма по физике B. 195 (2): 216–222. Bibcode:1987ФЛБ..195..216Д. Дои:10.1016 / 0370-2693 (87) 91197-X.

[2] Хоффман, Мэтью Д.; Гельман, Андрей (2014). «Пробоотборник без разворота: адаптивная установка длины пути в гамильтониане Монте-Карло». Журнал исследований в области машинного обучения. 15 (1): 1593-1623.

[1]

[2]