马尔科夫蒙特卡洛 - 维基百科，自由的百科全书

维基周边，你身边的维基百科！立刻关注“维基周边”微信公众账号，了解你周围的大千世界 | [关闭]

#
马尔科夫蒙特卡洛[ 编辑]

维基百科，自由的百科全书

马尔科夫 蒙特卡洛（MCMC）方法（含 随机游走 蒙特卡洛 方法）是一组 算法 用马氏链 从随机分布 取样，之前步骤的作为底本。步数越多，结果越好。

建立一个指定属性的马氏链并非难事。难的是如何在许可误差内得出限定步数。马氏链还可以有 快速混合——从开始阶段迅速获得的一个稳定状态—请参考 马氏链最大时间。

因于初始样本，最常见的MCMC取样只能近似得到分布。复杂的MCMC改进算法如 过往耦合 ，但是会消耗更多的计算资源和时间。

典型用法是模拟一个随机行走的行人来进行路径优化等。每一步都算作是一个状态。而统计经过次数最多的地方将在下一步中更有可能为目的地. 马氏蒙特卡洛方法是一种结合了蒙特卡罗法的解决方案。但不同于以往的蒙特卡洛 integration 是统计独立的，MCMC中的是统计相关的。

本方法的相关应用包括：贝叶斯统计、计算物理、计算生物 以及 计算语言学，此外还有Gill先生的一些著作。

Jeff Gill. Bayesian methods: a social and behavioral sciences approach Second Edition. London: Chapman and Hall/CRC. 2008. ISBN 1-58488-562-9. </ref> and Robert & Casella.[1]

## 随机游走算法[ 编辑]

马氏链性质决定了下一个方位取决于当前状态和随机变量。这样的性质决定了最终所有的空间将被覆盖但是却需要花费较长时间。下面给出MCMC方法：

- Metropolis–Hastings算法：给出预见密度和回绝按照给出方向前进的方法。
- Gibbs取样：取目标区域所有的条件分布样本。
- 平滑取样
- 多重实验Metropolis：Metropolis–Hastings算法的改良版本。

## 基本步序[ 编辑]

MCMC 方法的基本思路可概括为：构造一条Markov链，使其平稳分布为我们的目标分布；运行这条马尔科夫链产生目标分布的样本。 在采用 MCMC 方法时，马尔科夫链的构造至关重要，不同的构造方法 将产生不同的 MCMC 方法， 目前常用的 MCMC 方法主要有两种 Gibbs 抽样和MetropoLis-Hastings算法。

- 构造Markov链。构造一条Markov链，使其收敛到平稳分布35px；
- 产生样本：由17px中的某一点25px出发，用i中的Markov链进行抽样模拟，产生点序列：73px

- 蒙特卡罗积分。任一函数36px的期望估计为：180px

在采用 MCMC 方法时 马尔科夫链转移核的构造至关重要，不同的转移核构造方法 将产生不同的 MCMC 方法，目前常用的 MCMC 方法主要有两种 Gibbs 抽样和Metropo-Lis-Hastings算法。

## 抽样算法[ 编辑]

l Gibbs '抽样'

Gibbs 抽样是现实中最简单 应用最广泛的 MCMC 方法，由 Geman 最初命名提出 其基础思路如下：

给定任意的初始向量119px；

从119px中抽取样本24px

从121px中抽取样本24px

…

从121px中抽取样本24px

…

从121px中抽取样本24px

至此，完成69px的转移。经过 n 次迭代，可得后验样本101px。根据后验样本可计算后验分布的各阶矩，进行相应的统计推断。

- Metropolis-Hastings '算法'

Metropolis-Hastings 算法是较早出现且比较一般化的MCMC 方法，最初由 Metropolis 等人在 1953 年提出 之后由Hastings 对其加以推广 形成了，Metropolis-Hastings 方法。该方法的基本思路是：选择一转移函数68px和初始值25px，若第9px次迭代开始时的参数值为

33px，则第29px次迭代过程为：

- 从68px中抽取一个备选值15px

- 计算接受概率253px

- 以概率73px，置52px，以概率93px，置69px；
- 重复i –iii 次，则可得后验样本101px。根据后验样本可计算后验分布的各阶矩，进行相应的统计推断。

## 参见[ 编辑]

- 贝叶斯推理

## 注释[ 编辑]

1. ^ Christian P Robert & Casella G. Monte Carlo statistical methods Second Edition. New York: Springer. 2004. ISBN 0-387-21239-6.

## 参考文献[ 编辑]

- Christophe Andrieu et al., "An Introduction to MCMC for Machine Learning", 2003
- Bernd A. Berg. "Markov Chain Monte Carlo Simulations and Their Statistical Analysis". Singapore, World Scientific 2004.
- George Casella and Edward I. George. "Explaining the Gibbs sampler". The American Statistician, 46:167–174, 1992. (Basic summary and many references.)
- A.E. Gelfand and A.F.M. Smith. "Sampling-Based Approaches to Calculating Marginal Densities". J. American Statistical Association, 85:398–409, 1990.
- Andrew Gelman, John B. Carlin, Hal S. Stern, and Donald B. Rubin. Bayesian Data Analysis. London: Chapman and Hall. First edition, 1995. (See Chapter 11.)
- S. Geman and D. Geman. "Stochastic Relaxation, Gibbs Distributions, and the Bayesian Restoration of Images". IEEE Transactions on Pattern Analysis and Machine Intelligence, 6:721–741, 1984.
- Radford M. Neal, Probabilistic Inference Using Markov Chain Monte Carlo Methods, 1993.
- Gilks W.R., Richardson S. and Spiegelhalter D.J. "Markov Chain Monte Carlo in Practice". Chapman & Hall/CRC, 1996.
- C.P. Robert and G. Casella. "Monte Carlo Statistical Methods" (second edition). New York: Springer-Verlag, 2004.
- R. Y. Rubinstein and D. P. Kroese. Simulation and the Monte Carlo Method (second edition). New York: John Wiley & Sons, 2007. ISBN 978-0470177945
- R. L. Smith "Efficient Monte Carlo Procedures for Generating Points Uniformly Distributed Over Bounded Regions", Operations Research, Vol. 32, pp. 1296–1308, 1984.
- Asmussen and Glynn "Stochastic Simulation: Algorithms and Analysis", Springer. Series: Stochastic Modelling and Applied Probability, Vol. 57, 2007.
- P. Atzberger, "An Introduction to Monte-Carlo Methods." [1].
- Bolstad, William M. (2010) Understanding Computational Bayesian Statistics, John Wiley ISBN 0-470-04609-8

## 延展阅读[ 编辑]

- Diaconis, Persi, "The Markov chain Monte Carlo revolution", Bull. Amer. Math. Soc. (2009)
- Press, WH; Teukolsky, SA; Vetterling, WT; Flannery, BP, Section 15.8. Markov Chain Monte Carlo, Numerical Recipes: The Art of Scientific Computing. 3rd, New York: Cambridge University Press. 2007, ISBN 978-0-521-88068-8
- Richey, Matthew, "The Evolution of Markov Chain Monte Carlo Methods", The American Mathematical Monthly, May 2010, 383-413

## 外部链接[ 编辑]

- MCMC sampling and other methods in a basic overview, by Alexander Mantzaris
- Visual demonstration of MCMC sampling methods (Java applet), by Laird Breyer
- A Toy Example of MCMC sampling, by Zhiyuan Weng
- MCL - a cluster algorithm for graphs, by Stijn van Dongen

取自“http://zh.wikipedia.org/w/index.php?title=马尔科夫蒙特卡洛&oldid=29052866”
分类：

- Monte Carlo methods
- Markov chain Monte Carlo
- Computational statistics
- Markov models

隐藏分类：

- 缺少文件的条目