概率图模型(2)——马尔科夫随机场

表达 概率分布 的方式。图中的每个节点表示一个 随机变量 ,与之相连的 则表示了各随机变量之间的概率依赖关系。所以, 表示联合概率分布。以上图为例,设有联合概率分布 , 是 一组 随机变量,那么在图中,节点A表示一个随机变量 , 节点A节点B 表示 随机变量A随机变量B 之间的依赖关系。

  • 无向图表示MarKov的三个性质:

    • 成对马尔科夫性
      节点u、v互不相连,其他所有节点记为O,其所对应的随机变量为 和 。此时:在给定 随机变量组 的情况下, 条件独立 ,即有
  • 局部马尔可夫性
    在图中任意取一个结点,将与之有边相连的结点均记为W,O是除v、W之外的所有点,v表示随机变量 ,W表示随机变量组为 ,O表示随机变量组 ,则:在给定 随机变量组 的情况下, 条件独立 ,即有
  • 全局马尔科夫性
    在图中设有集合A,B是被集合C分开的任意结点集合,其所对应的 随机变量组 分别为 ,则在此条件下,认定 随机变量组 条件下, 随机变量组条件独立 的。

2.3 概率图模型:

如果联合概率分布 满足 成对、局部或全局马尔可夫性 ,则该联合概率分布为 概率无向图模型(马尔科夫随机场)。

  • 概率图模型中的团和最大团:

在无向图中 任何 两个结点均有边连接的结点子集称为 ,例如,在下图中,假设有随机变量 ,则 构成了一个

未构成团。

此时,再往 中加入 任意 一个结点,若集合不满足成 的条件,则称加入结点之前的 最大团 。如,往集合 中加入 ,依然满足成 的条件,继续加入结点 ,由于 不与 相连,故而 为 最大团

  • 概率图模型中因式分解

谈这个问题之前,先看一看贝叶斯模型和概率图模型的区别:

  • 两个 贝叶斯模型
  1. 贝叶斯网络1的联合概率

贝叶斯网络2是一个无效的网络,因为按照公式有

  • 概率图模型: 但是在概率图模型中就不一样了
    有人 找了一个函数,能够使得,概率图中的 最大团 们有:

概率图模型中因式分解:将概率图中的联合概率分布表示为其 最大团 上的随机变量函数成绩的形式。

其中,C是无向图的最大团, 是C的结点对应的随机变量, 是 势函数 ,是C上定义的 严格正函数 ,乘积是在无向图所有的最大团上进行的。

  • 概率图模型与贝叶斯网络的区别

  1. 链状模型 注意,在概率图模型中, 与 不一定只有图中的对应关系。

  2. 共享一个父结点

  3. 共享一个孩子结点 贝叶斯网络:

根据 成对马尔科夫性

的定义,该图中A、B是相互独立的,因此图中右侧所列等式在该情况下并不成立。此时计算联合概率,需要改成下图的形式:

我来评几句
登录后评论

已发表评论数()

相关站点

+订阅
热门文章