谁来讲讲bayesian和MCMC的关系？ « COS论坛 | 统计之都

搜索：

# COS论坛 | 统计之都

统计学论坛

用户名 密码
记住我

注册或登录( - 忘记密码？)

COS论坛 | 统计之都 » 统计学世界 » 特别兴趣小组 » 贝叶斯统计学

## 谁来讲讲bayesian和MCMC的关系？

(12 篇回复) (9 个人参与)

- 发表于 4 年 之前，作者：pengchy
- 来自 bayes 的最后回复
- (没有相关主题)

标签：

还没有标签。

1. 1楼

   pengchy

   常规会员
   注册于: 2007/01/02
   发帖数: 320

   最近在看他们，感觉搅得一锅粥，谁能给理个头绪？
   4 年 前回复 # 回复
2. 2楼

   储诚进

   版主
   注册于: 2009/04/26
   发帖数: 8

   把Bayesian分成两部分
   1.复杂的问题：Bayesian分析，很大部分都是去解决复杂问题的，典型都是等级模型。对于多参数的，如果先验和似然conjungate，那么可以写出该参数的“条件后验”，然后利用Gibbs取样器取样；如果不时conjungate，就要用比如Metropolis，Metropolis-Hasting等等其他的取样。MCMC是一类方法的总称，具体的有很多种不同。
   2.除此之外，有许多Bayesian不是等级的，对于不是等级的，如果先验和似然conjungate，那么你就可以轻松得到后验的完整的分布，这时就不需要借助MCMC来解决。同样对于不是等级的Bayesian，如果先验和似然不conjungate，那么还是要用到MCMC的。
   希望有用。
   4 年 前回复 # 回复
3. 3楼

   大树

   初级会员
   注册于: 2008/12/05
   发帖数: 110

   > 引用第1楼储诚进于2009-05-16 21:40发表的 回 楼主(pengchy) 的帖子 :
   > 把Bayesian分成两部分
   > 1.复杂的问题：Bayesian分析，很大部分都是去解决复杂问题的，典型都是等级模型。对于多参数的，如果先验和似然conjungate，那么可以写出该参数的“条件后验”，然后利用Gibbs取样器取样；如果不时conjungate，就要用比如Metropolis，Metropolis-Hasting等等其他的取样。MCMC是一类方法的总称，具体的有很多种不同。
   > 2.除此之外，有许多Bayesian不是等级的，对于不是等级的，如果先验和似然conjungate，那么你就可以轻松得到后验的完整的分布，这时就不需要借助MCMC来解决。同样对于不是等级的Bayesian，如果先验和似然不conjungate，那么还是要用到MCMC的。
   > 希望有用。 [url=http://cos.name/bbs/job.php?action=topost&tid=15289&pid=70705][/url]

   请问，你所说的等级的英语原文是什么？
   4 年 前回复 # 回复
4. 4楼

   hyuangx

   新手上路
   注册于: 2009/03/26
   发帖数: 11

   个人感觉，我不太懂，说得不对：
   实际上是在多个参数的情况下p(参数1|参数2，参数3)，这样的形式，这样的形式有很多组成，构成不同的状态，
   状态与另一状态之间的转换会有一定的概率，这些概率组成matrix就是马科夫链，再模拟各种状态的转换（随机步行），在反复很多万次以后，再统计走了哪些状态，这些状态出现了多少次，
   可以获得各个状态的分布，这个分布就可以获得每个参数的分布
   总的来说是多个参数模型的求解办法。
   4 年 前回复 # 回复
5. 5楼

   谢益辉

   个人主页
   注册于: 2006/05/19
   发帖数: 9,078

   应该是hierachical吧
   4 年 前回复 # 回复
6. 6楼

   大树

   初级会员
   注册于: 2008/12/05
   发帖数: 110

   > 引用第4楼谢益辉于2009-05-20 21:05发表的 回 2楼(大树) 的帖子 :
   > 应该是hierachical吧 [url=http://cos.name/bbs/job.php?action=topost&tid=15289&pid=71007][/url]

   那就应翻译成“层次”或“层级”。
   4 年 前回复 # 回复
7. 7楼

   jiaojiaojing

   版主
   注册于: 2008/10/17
   发帖数: 162

   我大四时候学过贝叶斯和MCMC，现在讲点自己的初步理解吧。
   感觉概念和应用方面，前面大家都讲了不少了，我就说说MCMC的具体过程吧。
   基本思路：
   1 创建一个Markov chain
   a(1),a(2),a(i)......
   整个过程就是让p(a(i)|y)->p(a|y)
   2 这样，每次抽样都是相当于将一个时间序列的后验再当成先验来抽取，具体的抽样过程
   有Gibbs抽样，也可以是Metropolis，关键是判断怎样才是抽样停止。
   起始时一般选取若干个起点，用一个R^表示，它反映了不同起点间的方差和起点自身时间序列
   间的方差的比较，当这个值差不多为1的时候，表示不同起点几乎汇聚到同一个区域了，认为
   抽样停止了。
   可见，MCMC的具体抽样思想是建立在贝叶斯前提上的，而且在实际中，许多模型，比如上面
   大家提的hierarchy模型，也经常用MCMC方法解决。
   以上仅仅是本人自己看法，大家可以参考，也欢迎大家补充指正。
   4 年 前回复 # 回复
8. 8楼

   panhaitao

   新手上路
   注册于: 2008/11/18
   发帖数: 17

   贝叶斯统计与MCMC的关系基本就一句话：因为我们由贝叶斯框架得到的是感兴趣的参数的后验分布（而且一般还仅是去掉了normalizing constant的kernel），现在想从后验分布中做出感兴趣的统计推断，但这些一般都会牵扯到求后验的积分，但一般的数值分析（quradure methods)的方法不太管用了（很多时候此方法得到的值作为MCMC构造proposal distribution时可用），那么处理这些积分（很多时候是高维积分）的一个最重要和有效的方法就是伟大的MCMC了。
   哈哈，虽是一句话，但有点长了。
   4 年 前回复 # 回复
9. 9楼

   dingpeng

   版主
   注册于: 2008/04/19
   发帖数: 365

   贝叶斯是一种methodology或者philosophy，MCMC是一种抽样的技术。
   由于贝叶斯的推断最终化成了关于后验分布的推断，而很多时候后验分布有具有复杂的形式，所以通常考虑如何用Monte Carlo的方法将后验分布模拟出来。MCMC就是一种从复杂分布抽样的方法。
   4 年 前回复 # 回复
10. 10楼

    bayes

    新手上路
    注册于: 2009/06/18
    发帖数: 18

    > 引用第8楼dingpeng于2009-06-26 15:31发表的 :
    > 贝叶斯是一种methodology或者philosophy，MCMC是一种抽样的技术。
    > 由于贝叶斯的推断最终化成了关于后验分布的推断，而很多时候后验分布有具有复杂的形式，所以通常考虑如何用Monte Carlo的方法将后验分布模拟出来。MCMC就是一种从复杂分布抽样的方法。 [url=http://cos.name/bbs/job.php?action=topost&tid=15289&pid=73330][/url]

    同意
    MCMC可用于很多方面
    不能说用了mcmc就一定是bayes
    4 年 前回复 # 回复
11. 11楼

    jiaojiaojing

    版主
    注册于: 2008/10/17
    发帖数: 162

    哎，对头。MCMC就是种方法哈！
    4 年 前回复 # 回复
12. 12楼

    bayes

    新手上路
    注册于: 2009/06/18
    发帖数: 18

    > 引用第10楼jiaojiaojing于2009-06-29 13:46发表的 :
    > 哎，对头。MCMC就是种方法哈！ [url=http://cos.name/bbs/job.php?action=topost&tid=15289&pid=73547][/url]

    因为MCMC能够解决从高维（highly dimensional） 分布中simulation的难题
    所以在Bayes有广泛的运用
    4 年 前回复 # 回复

RSS 订阅本帖

## 回复

您必须登录才能回复。