Метод аппроксимации цепей Маркова - Markov chain approximation method

В численные методы за стохастические дифференциальные уравнения, то Метод приближения цепи Маркова (MCAM) принадлежит к нескольким численным (схемным) подходам, используемым в стохастическая теория управления. К сожалению, простая адаптация детерминированных схем для согласования со стохастическими моделями, такими как метод Рунге – Кутта, вообще не работает.

Это мощный и широко используемый набор идей, поскольку в настоящее время стохастический контроль находится в зачаточном состоянии, его можно даже назвать «прозрениями». для численных и других задач аппроксимации в случайные процессы.[1][2] Они представляют собой аналоги детерминированной теории управления, такие как теория оптимального управления.[3]

Основная идея MCAM - приблизить исходный контролируемый процесс избранным контролируемый марковский процесс на пространство конечных состояний. В случае необходимости необходимо также приблизить функция стоимости для того, что соответствует Цепь Маркова выбран для аппроксимации исходного случайного процесса.

Смотрите также

Рекомендации

  1. ^ Гарольд Дж. Кушнер, Пол Г. Дюпюи, Численные методы для задач стохастического управления в непрерывном времени, Приложения математики 24, Springer-Verlag, 1992.
  2. ^ П. Э. Клёден, Экхард Платен, Численные решения стохастических дифференциальных уравнений, Приложения математики 23, Стохастическое моделирование и прикладная вероятность, Springer, 1992.
  3. ^ Ф. Б. Хэнсон, «Аппроксимация цепи Маркова», в C. T. Leondes, ed., Методы стохастической цифровой системы управления, Academic Press, 1996, ISBN  978-0120127764.