PGM：有向图模型：贝叶斯网络

客官°小女子只卖身不卖艺 2022-09-25 12:23 371阅读 0赞

http://[blog.csdn.net/pipisorry/article/details/52489270][blog.csdn.net_pipisorry_article_details_52489270]

# 为什么用贝叶斯网络    #

### 联合分布的显式表示    ###

![Center][]

Note: n个变量的联合分布，每个x对应两个值，共n个x，且所有概率总和为1，则联合分布需要2^n-1个参数。

### 贝叶斯网表示    ###

![Center 1][]

独立性质的应用会降低参数数目，表达更紧凑。

\[[PGM：贝叶斯网表示之朴素贝叶斯模型naive Bayes ][PGM_naive Bayes]:独立性质的利用\]

[皮皮blog][blog]

# 贝叶斯网络    #

贝叶斯网络(Bayesian network)，又称信念网络(Belief Network)，或有向无环图模型(directed acyclic graphical model)，是一种概率图模型，于1985年由Judea Pearl首先提出。它是一种模拟人类推理过程中因果关系的不确定性处理模型，其网络拓朴结构是一个有向无环图(DAG)。

贝叶斯网络的有向无环图中的节点表示随机变量![20141110221023930][]，它们可以是可观察到的变量，或隐变量、未知参数等。认为有因果关系（或非条件独立）的变量或命题则用箭头来连接。若两个节点间以一个单箭头连接在一起，表示其中一个节点是“因(parents)”，另一个是“果(children)”，两节点就会产生一个条件概率值。总而言之，连接两个节点的箭头代表此两个随机变量是具有因果关系，或非条件独立。

例如，假设节点E直接影响到节点H，即E→H，则用从E指向H的箭头建立结点E到结点H的有向弧(E,H)，权值(即连接强度)用条件概率P(H|E)来表示，如下图所示：

> > > > > ![20141111180200463][]

简言之，把某个研究系统中涉及的随机变量，根据是否条件独立绘制在一个有向图中，就形成了贝叶斯网络。其主要用来描述随机变量之间的条件依赖，用圈表示随机变量(random variables)，用箭头表示条件依赖(conditional dependencies)。

![Center 2][]

贝叶斯网的边的指向代表节点对其指向节点的直接影响？

## **模型：联合概率的表示**    ##

令G = (I,E)表示一个有向无环图(DAG)，其中I代表图形中所有的节点的集合，而E代表有向连接线段的集合，且令X = (Xi)i ∈ I为其有向无环图中的某一节点i所代表的随机变量，若节点X的联合概率可以表示成：

![20141110222518593][]

则称X为相对于一有向无环图G 的贝叶斯网络，其中， ![20141110222555954][]表示节点i之“因”，或称pa(i)是i的parents（父母）。

此外，对于任意的随机变量，其联合概率可由各自的局部条件概率分布相乘而得出：

![20141110224303808][]

### 更复杂的学生示例 ###

![Center 3][]  
Note: 这里给出的概率都是条件概率而不是联合概率，如i0, d0  g1值0.3表示p(g1 | i0, d0)。  
且从图中可知，这里I和D是独立的。  
 ![Center 4][]

### 局部概率模型 ###

![Center 5][]  
![Center 6][]

### 模型表示 ###

![Center 7][]

##  推理模式 ##

考虑贝叶斯网Bstudent，并观察当证据获得时各种事件的概率如何变化。  
当我们只有部分证据时，要想推理某个概率，要对结果进行重新归一化。  
![Center 8][]

### 因果推理和预测 ###

![Center 9][]  
![Center 10][]  
p(l1)概率值的推导过程：  
![Center 11][]  
![Center 12][]  
p(l1 | i0)的推导过程：  
![Center 13][]  
![Center 14][]

### 证据推理和解释 ###

![Center 15][]

### 解释消除    ###

相同结果的不同原因可以互相影响。  
![Center 16][]  
![Center 17][]

## 贝叶斯网的基本独立性：局部独立性 ##

## ![Center 18][] ##

节点只直接依赖其父节点是贝叶斯网语义的核心。  
![Center 19][]  
![Center 20][]  
![Center 21][]  
但是G和L还是有关系的  
![Center 22][]  
给定节点父节点时，搜索独立性时实际上搜索的是边缘独立性。  
![Center 23][]  
![Center 24][]  
直觉告诉我们，变量的父节点将其从具有因果关系的性质的概率影响中屏蔽了。也就是说，一旦知道了一个 节点的父节点的值，那么与其父节点或其它祖先节点直接或间接相关的任何信息都不会影响到该节点的可信度。不过，与其后代节点相关的信息仍然可以通过证据推理过程来改变我们关于它的判断。

### 贝叶斯网语义 ###

![Center 25][]

## 图与分布 ##

\{CPD参数化有向图，给图结构关联一个参数集\}  
贝叶斯网图的形式化语义是一系列独立性断言。另一方面，学生贝叶斯网是由条件概率分布作注释的图，这个图通过链式法则为贝叶斯网定义了一个联合分布。这里将证明这两个定义实际上是等价的。分布P满足与图G相关的局部独立性，当且仅当P可以由与图G相关的一系列条件概率分布表示。

### I-MAP ###

与P相关的独立性集合。  
![Center 26][]  
Note: 这个定义，尤其是I(G)包含于I(P)这个表示，说明G上的独立性P都满足，但是反过来P上的独立性G不一定都满足。  
Note: 关于贝叶斯网，I-map的概念本身是不充分的：完备图意味着不存在独立性假设，因此是任意分布的一个I-map。   
 ![Center 27][]

### I-MAP到因子分解 ###

![SouthEast][]  
由贝叶斯网的条件独立性假设，有下式成立  
![Center 28][]  
结果告诉我们， 联合分布中的任何表值都可以通过每个变量所对应的因子的乘积来计算。每个因子表示一个变量在网络中给定父节点时的条件概率。在G是I-MAP条件下，这种因子分解可以应用于任何分布P。  
**贝叶斯网链式法则和局部概率模型**  
![Center 29][]

Note: 条件概率链式法则

![gif.latex_P_5Cleft_28_7BD_I_G_S_L_7D_20_5Cright_29_20_20P_5Cleft_28_20D_20_5Cright_29P_5Cleft_28_20_7BI_5Cleft_7C_20D_20_5Cright._7D_5Cright_29P_5Cleft_28_20_7BG_5Cleft_7C_20_7BD_I_7D_20_5Cright._7D_20_5Cright_29P_5Cleft_28_20_7BS_5Cleft_7C_20_7BD_I_G_7D_20_5Cright._7D_5Cright_29P_5Cleft_28_20_7BL_5Cleft_7C_20_7BD_I_G_S_7D_20_5Cright._7D_20_5Cright_29][]

### 独立参数个数 ###

学生示例中15个独立参数，联合分布的完全赋值需要47个独立参数。  
更一般的  
![Center 30][]

### 因子分解到I-MAP ###

![Center 31][]  
  
![Center 32][]  
![Center 33][]

## 知识工程 ##

### 变量选择 ###

![Center 34][]  
![Center 35][]  
![Center 36][]  
  
![Center 37][]  
概率选择  
![Center 38][]  
  
![Center 39][]  
  
![Center 40][]  
[皮皮blog][blog]

# 图中的独立性：全局独立性 #

贝叶斯网中的独立性的两种定义：局部独立性（给定父节点条件下，每个节点都独立于它的非后代节点）和由d-分离导出的全局独立性。这两种独立性集合间相互蕴含，实际上是等价的。

## d-分离 ##

了解何时可以保证独立性条件 ![Center 41][]在与贝叶斯网结构G相关的分布中成立。尝试理解在变量Z的证据存在的条件下，何时考虑变量X的一个观察值有可能改变我们对Y的判断。  
![Center 42][]  ![Center 18][]

### 1 直接连接 ###

![Center 43][]

### 2 间接连接 ###

**间接的因果作用图a(间接的证据作用图b)**  
如果可以观察到Z，那么X不会通过Z作用于Y(那么Y不会通过Z作用于X)。  
**共同的原因图c**  
![Center 44][]  
![Center 45][]  
X可以通过Z来影响Y，仅限于没有观察到Z的以情形。  
**共同的作用d**  
![Center 46][]  
如果没有观察到中间节点Z，那么影响无法沿着迹X->Z<-Y流动。  
![Center 47][]  
![Center 48][]  
  
如果观察到中间节点Z或者其子节点，那么影响就沿着迹X->Z<-Y流动。  
![Center 49][]

### 有效迹 ###

![Center 50][]

### 全局马尔可夫独立性：d-分离 ###

![Center 51][]  
![Center 52][]

### 可靠性与完备性 ###

![Center 53][]  
可靠性soundness：如果给定某个Z时，找到两个节点X与Y是d-分离的，那么可以保证，在给定Z时它们实际上是条件独立的。  
互补性质 完备性completness: d-分离可以检测出所有可能的独立性。如果两个变量X和Y，且它们在给定Z时相互独立，那么它们是d-分离的。  
。。。  
  
d-分离算法  
。。。  
I-等价性  
。。。

## 从分布到图 ##

### 最小i-map ###

找到分布P的图的一种方法是简单地给出P的任何一个I-map图。  
![Center 54][]  
。。。

### p-map ###

在给定的分布P中找到可以准确刻画所有独立性的图G。  
![Center 55][]  
。。。  
发现p-map  
。。。  
[皮皮blog][blog]

## 贝叶斯网络图模型的表示2    ##

为了理解有向图对于描述概率分布的作用,首先考虑三个变量 a, b, c 上的一个任意的联合分布 p(a, b, c) 。注意,现阶段我们不需要对这些变量做出任何更多的假设,例如它们是离散的还是连续的。实际上,图模型的一个强大的方面是,一个具体的图可以描述一大类概率分布。通过使用概率的乘积规则(1.11),我们可以将联合概率分布写成下面的形式。  
p(a, b, c) = p(c | a, b)p(a, b)            (8.1)  
再次使用乘积规则,这次处理方程(8.1)右侧的第二项,我们有  
p(a, b, c) = p(c | a, b)p(b | a)p(a)           (8.2)  
注意,这个分解方法对于任意的联合概率分布的选择都成立。

### 简单的图模型表示    ###

现在,我们使用一个简单的图模型表示方程(8.2)的右侧,如下所述。首先,我们为每个随机变量 a, b, c 引入一个结点,然后为每个结点关联上公式(8.2)右侧的对应的条件概率。然后,对于每个条件概率分布,我们在图中添加一个链接(箭头),链接的起点是条件概率的条件中的随机变量对应的结点。因此,对于因子 p(c | a, b) ,会存在从结点 a, b 到结点 c 的链接,而对于因子 p(a) ,没有输入的链接。结果就是图8.1中的图。如果存在一个从结点 a 到结点 b 的链接,那么我们说结点 a 是结点 b 的父结点,结点 b 是结点 a 的子结点。注意,我们不会形式化地区分结点和结点对应的变量,而是简单地使用同样的符号表示两者。关于公式(8.2),很有趣的一点是,它的左侧关于三个变量 a, b, c 是对称的,而右侧不是。实际上,通过进行公式(8.2)的分解,我们隐式地选择了一个特定的顺序(即 a, b, c )。如果选择一个不同的顺序,我们会得到一个不同的分解方式,因此就得到一个不同的图表示形式。

![Center 56][]

### K变量联合概率分布的图模型表示 ###

我们将图8.1给出的例子扩展到 K 个变量的联合概率分布 p(x 1 , . . . , x K ) 。通过重复使用概率的乘积规则,联合概率分布可以写成条件概率的乘积,每一项对应一个变量,形式如下  
p(x 1 , . . . , x K ) = p(x K | x 1 , . . . , x K−1 ) . . . p(x 2 | x 1 )p(x 1 )    (8.3)  
对应一个给定的 K ,我们可以将其表示为一个具有 K 个结点的有向图,每个结点对应于公式(8.3)右侧的一个条件概率分布,每个结点的输入链接包括所有以编号低于当前结点编号的结点为起点的链接。我们说,这个图是全连接的( fully connected ),因为每对结点之间都存在一个链接。

### 缺失连接图表示    ###

目前为止,我们操作的对象是一个完全一般的联合概率分布,从而分解方式以及对应的全连接图表示,可以应用于概率分布的任意选择。正如我们将会看到的,真正传递出图表示的概率分布的性质的有趣信息的是图中链接的缺失( absence )。考虑图8.2的图。这不是一个全连接的图,因为从 x 1 到 x 2 或者从 x 3 到 x 7 之间不存在链接。  
现在,我们将根据这幅图,写出对应的联合概率表达式。联合概率表达式由一系列条件概率的乘积组成,每一项对应于图中的一个结点。每个这样的条件概率分布只以图中对应结点的父结点为条件。例如, x 5 以 x 1 和 x 3 为条件。于是,7个变量的联合概率分布为

p(x 1 )p(x 2 )p(x 3 )p(x 4 | x 1 , x 2 , x 3 )p(x 5 | x 1 , x 3 )p(x 6 | x 4 )p(x 7 | x 4 , x 5 )        (8.4)

![Center 57][]

### 有向图和变量的概率分布间的一般关系    ###

我们现在说明给定的有向图和变量上对应的概率分布之间的一般关系。在图的所有结点上定义的联合概率分布由每个结点上的条件概率分布的乘积表示,每个条件概率分布的条件都是图中结点的父结点所对应的变量。因此,对于一个有 K 个结点的图,联合概率为  
![Center 58][]  
其中, pa k 表示 x k 的父结点的集合, x = \{x 1 , . . . , x K \} 。这个关键的方程表示有向图模型的联合概率分布的分解( factorization )属性。虽然我们之前考虑的情况是每个结点对应于一个变量的情形,但是我们可以很容易地推广到让图的每个结点关联一个变量的集合,或者关联向量值的变量。很容易证明,如果公式(8.5)右侧的每一个条件概率分布都是归一化的,那么这个表示方法整体总是归一化的。[  
][blog]

## 贝叶斯网络的3种结构形式 ##

对于下面的贝叶斯网络：

![20141110234449486][]

1. x1,x2,…x7的联合分布为

> > ![20141110233944921][]  
> >

2. x1和x2独立（对应head-to-head）；

3. x6和x7在x4给定的条件下独立（对应tail-to-tail）。

### D-Separation（D-分离）    ###

D-Separation是一种用来判断变量是否条件独立的图形化方法。换言之，对于一个DAG(有向无环图)E，D-Separation方法可以快速的判断出两个节点之间是否是条件独立的。

### 形式1 head-to-head ###

![20141110235330121][]

有P(a,b,c) = P(a)\*P(b)\*P(c|a,b)，积分c后可得：

> > > ![20141110235818784][]

即在c未知的条件下，a、b被阻断(blocked)，是独立的，称之为head-to-head（ 因 为 它 连 接 了 两 个 箭 头 的 头）条件独立。

### 形式2 tail-to-tail ###

![20141111000434953][]      ![20141111000649872][]

> > > > >   
> > > > >

考虑c未知，跟c已知这两种情况：

在c未知的时候，有：P(a,b,c)=P(c)\*P(a|c)\*P(b|c)，此时，没法得出P(a,b) = P(a)P(b)，即c未知时，a、b不独立。

所以，在c给定的条件下，a，b被阻断(blocked)，是独立的，称之为tail-to-tail条件独立。

Any node is d-seperated from its non-descendants given its parents.父节点已知后，其它节点就不能通过父节点影响该节点的值了。

### 形式3 head-to-tail ###

![20141111001937768][]      ![20141111002057687][]

还是分c未知跟c已知这两种情况：

c未知时，有：P(a,b,c)=P(a)\*P(c|a)\*P(b|c)，但无法推出P(a,b) = P(a)P(b)，即c未知时，a、b不独立。

c已知时，有：P(a,b|c)=P(a,b,c)/P(c)，且根据P(a,c) = P(a)\*P(c|a) = P(c)\*P(a|c)，可化简得到：

> > > ![20141111001901123][]

所以，在c给定的条件下，a，b被阻断(blocked)，是独立的，称之为head-to-tail条件独立。

head-to-tail其实就是一个链式网络：

> > ![20141111002737625][]

### **马尔科夫链（Markov chain）**    ###

根据head-to-tail，在xi给定的条件下，xi+1的分布和x1,x2…xi-1条件独立。意味着xi+1的分布状态只和xi有关，和其他变量条件独立。也就是当前状态只跟上一状态有关，跟之前的状态无关。这种顺次演变的随机过程，就叫做马尔科夫链（Markov chain）。也就是：

> > ![20141111003037680][]

### D-Separation的3种情况的总结 ###

\{即贝叶斯网络的3种结构形式\}

>   ![20141111004832787][]

head-to-tail，给定 T 时，A 和 X 独立；tail-to-tail，给定S时，L和B独立；head-to-head，未给定D时，L和B独立。

### 有向图d-划分性质的一般叙述 ###

考虑一个一般的有向图,其中 A, B, C 是任意无交集的结点集合(它们的并集可能比图中结点的完整集合要小)。我们希望弄清楚,一个有向无环图是否暗示了一个特定的条件依赖表述![Center 59][]。我们考虑从 A 中任意结点到 B 中任意结点的所有可能的路径。  
我们说这样的路径被“阻隔”,如果它包含一个结点满足下面两个性质中的任何一个:  
    • 路径上的箭头以头到尾或者尾到尾的方式交汇于这个结点,且这个结点在集合 C 中，也就是A和B的“head-to-tail型”和“tail-to-tail型”路径都通过C。  
    • 箭头以头到头的方式交汇于这个结点,且这个结点和它的所有后继都不在集合 C 中，也就是A和B的“head-to-head型”路径不通过C以及C的子孙。  
如果所有的路径都被“阻隔”（上面两个条件均满足）,那么我们说 C 把 A 从 B 中 d -划分开,且图中所有变量上的联合概率分布将会满足 ![Center 59][]。

Note: 这里C是已知的，A和B的“head-to-tail型”和“tail-to-tail型”路径都通过C则AB条件独立；A和B的“head-to-head型”路径不通过C以及C的子孙，否则根据1在C已知的情况下AB就不独立了。

[皮皮blog][blog]

# 示例：贝叶斯多项式回归 #

## 1.2.6曲线拟合问题    ##

在曲线拟合问题中,我们知道训练数据 x 和 t ,以及一个新的测试点 x ,我们的目标是预测 t 的值。因此我们想估计预测分布 p(t | x, x, t) 。这里我们要假设参数 α 和 β 是固定的,事先知道的(后续章节中我们会讨论这种参数如何通过贝叶斯方法从数据中推断出来)。简单地说,贝叶斯方法就是自始至终地使用概率的加和规则和乘积规则。因此预测概率可以写成下面的形式

p(t | x, x, t)  = ∫p(t | x, w)p(w | x, t) d w

## 随机变量联合概率分布的表示    ##

作为有向图描述概率分布的一个例子,我们考虑1.2.6节介绍的贝叶斯多项式拟合模型。这个模型中的随机变量是多项式系数向量 w 和观测数据 t = (t 1 , . . . , t N ) T 。此外,这个模型包含输入数据 x = (x 1 , . . . , x N ) T 、噪声方差 σ 2 以及表示 w 的高斯先验分布的精度的超参数 α 。所有这些都是模型的参数而不是随机变量。  
现阶段我们只关注随机变量,我们看到联合概率分布等于先验概率分布 p(w) 与 N 个条件概率分布 p(t n | w) 的乘积( n = 1, . . . , N ),即  
![Center 60][]（lz：8.6和p(w | x, t)是正比的）  
图模型表示的联合概率分布如图8.3所示。

![Center 61][]

### 复杂模型的板( plate )表示    ###

当我们开始处理更加复杂的模型时,我们会看到,像图8.3那样显式地写出 t 1 , . . . , t N 的结点是很不方便的。于是,我们引入一种图结构,使得多个结点可以更简洁地表示出来。这种图结构中,我们画出一个单一表示的结点 t n ,然后用一个被称为板( plate )的方框圈起来,标记为 N ,表示有 N 个同类型的点。用这种方式重新表示图8.3,我们得到了图8.4所示的图。

![Center 62][]

### 显式表示参数和随机变量    ###

我们有时会发现,显式地写出模型的参数和随机变量是很有帮助的。此时,公式(8.6)就变成了  
![Center 63][]  
对应地,我们可以在图表示中显式地写出 x 和 α 。为了这样做,我们会遵循下面的惯例:随机变量由空心圆表示,确定性参数由小的实心圆表示。如果我们让图8.4包含确定性参数,我们就得到了图8.5。

![Center 64][]

### 观测变量和潜在变量 ###

当我们将图模型应用于机器学习或者模式识别的问题中时,我们通常将某些随机变量设置为具体的值,例如将变量 \{t n \} 根据多项式曲线拟合中的训练集进行设置。在图模型中,我们通过给对应的结点加上阴影的方式来表示这种观测变量( observed variables )。于是,图8.5所示的图中,如果 \{t n \} 是观测变量,那么就变成了图8.6。注意, w 不是观测变量,因此 w 是潜在变量( latent variable )的一个例子。潜在变量也被称为隐含变量( hidden variable )。

![Center 65][]

## 系数 w 的的后验概率    ##

观测到了 \{t n \} 的值,如果必要的话,我们可以计算系数 w 的的后验概率。现阶段,我们注意到,这是贝叶斯定理的一个直接应用。

![Center 66][]

## 观测数据为条件的t 的概率分布    ##

其中,我们再一次省略了确定性参数,使得记号简洁。

通常,我们对于 w 这样的参数本身不感兴趣,因为我们的最终目标是对输入变量进行预测。假设给定一个输入值 x ,我们想找到以观测数据为条件的对应的 t 的概率分布。描述这个问题的图模型如图8.7所示。以确定性参数（x）为条件,这个模型的所有随机变量（t, w）的联合分布为

![Center 67][]

然后,根据概率的加和规则,对模型参数 w 积分,即可得到 t 的预测分布

![Center 68][]

其中我们隐式地将 t 中的随机变量设置为数据集中观测到的具体值。

![Center 69][]

[皮皮blog][blog]

# 生成式模型    #

### 祖先取样( ancestral sampling )    ###

许多情况下,我们希望从给定的概率分布中抽取样本。这里简要介绍祖先取样( ancestral sampling ),与图模型特别相关。考虑 K 个变量的一个联合概率分布 p(x 1 , . . . , x K ) ,它根据公式(8.5)进行分解,对应于一个有向无环图。我们假设变量已经进行了排序,从而不存在从某个结点到序号较低的结点的链接。换句话说,每个结点的序号都大于它的父结点。我们的目标是从这样的联合概率分布中取样 x 1 , . . . , x K

为了完成这一点,我们首先选出序号最小的结点,按照概率分布 p(x 1 ) 取样,记作 x 1 。然后,我们顺序计算每个结点,使得对于结点 n ,我们根据条件概率 p(x n | pa n ) 进行取样,其中父结点的变量被设置为它们的取样值。注意,在每个阶段,这些父结点的变量总是可以得到的,因为它们对应于已经采样过的序号较小的结点。按照具体的概率分布的取样方法将会在第11章详细讨论。一旦我们对最后的变量 x K 取样结束,我们就达到了根据联合概率分布取样的目标。为了从对应于变量的子集的边缘概率分布中取样,我们简单地取要求结点的取样值,忽略剩余结点的取样值。例如,为了从概率分布 p(x 2 , x 4 ) 中取样,我们简单地对联合概率分布取样,然后保留 x 2 , x 4 ,丢弃剩余的值 \{x j̸ =2,4 \} 。

### 概率模型的实际应用    ###

对于概率模型的实际应用,通常的情况是,数量众多的变量对应于图的终端结点(表示观测值),较少的变量对应于潜在变量。潜在变量的主要作用是使得观测变量上的复杂分布可以表示为由简单条件分布(通常是指数族分布)构建的模型。

我们可以将这样的模型表示为观测数据产生的过程。例如,考虑一个模式识别的任务,其中每个观测值对应于一幅图像(由像素灰度值的向量组成)。这种情况下,潜在变量可以看成物体的位置或者方向。给定一个特定的观测图像,我们的目标是找到物体上的后验概率分布,其中我们对于所有可能的位置和方向进行了积分。我们可以使用图8.8的图模型表示这个问题。

![Center 70][]

The image (a vectorof pixel intensities) has a probability distribution thatis dependent on the identity of the object as well ason its position and orientation.

### 生成式模型( generative model )    ###

图模型描述了生成观测数据的一种因果关系( causal )过程( Pearl, 1988 )。因此,这种模型通常被称为生成式模型( generative model )。相反,图8.5描述的多项式回归模型不是生成式模型,因为没有与输入变量 x 相关联的概率分布,因此无法从这个模型中人工生成数据点。通过引入合适的先验概率分布 p(x) ,我们可以将模型变为生成式模型,代价是增加了模型的复杂度。

![Center 64][]

然而,概率模型中的隐含变量不必具有显式的物理含义。它的引入可以仅仅为了从更简单的成分中建立一个更复杂的联合概率分布。在任何一种情况下,应用于生成式模型的祖先取样方法都模拟了观测数据的创造过程,因此可以产生“幻想的”数据,它的概率分布(如果模型完美地表示现实)与观测数据的概率分布相同。在实际应用中,从一个生成式模型中产生人工生成的观测数据,对于理解模型所表示的概率分布形式很有帮助。[  
][blog]

[皮皮blog][blog]

# 离散变量 #

\{如何在一组离散变量上构建联合概率分布\}

指数族概率分布将许多著名的概率分布当成了指数族分布的特例。虽然指数族分布相对比较简单,但是它们组成了构建更复杂概率分布的基本元件。图模型的框架在表达这些基本元件之间的联系时非常有用。

如果我们将有向图中的每个父结点-子结点对的关系选为共轭的,那么这样的模型有一些特别好的性质,我们稍后会给出几个例子。两种情形很值得注意,即父结点和子结点都对应于离散变量的情形,以及它们都对应高斯变量的情形,因为在这两种情形中,关系可以层次化地推广,构建任意复杂的有向无环图。我们首先考察离散变量的情形。

### 一元离散变量概率分布表达式    ###

对于有着 K 个可能状态(使用“1- of - K ”表达方式)的一元离散变量 x ,概率 p(x | μ) 为

![Center 71][](lz：多项式分布)

并且由参数 μ = (μ 1 , . . . , μ K ) T 控制。由于限制条件 k μ k = 1 的存在,因此为了定义概率分布,只需要指定 K − 1 个 μ k 的值即可。

### 多元离散变量概率分布表达式    ###

现在假设我们有两个离散变量 x 1 和 x 2 ,每个都有 K 个状态,我们项对它们的联合概率分布建模。我们将 x 1k = 1 和 x 2l = 1 同时被观测到的概率记作参数 μ kl ,其中 x 1k 表示 x 1 的第 k 个分量, x 2l 的意义与此相似。联合概率分布可以写成

![Center 72][]

由于参数 μ kl 满足限制条件![Center 73][] ,因此这个分布由 K^ 2 − 1 个参数控制。很容易看到,对于 M 个变量的任意一个联合概率分布,需要确定的参数的数量为 K ^M − 1 ,因此随着变量 M 的数量指数增长。

### 减小模型中独立参数数量 ###

**1 减少图链接**

使用概率的乘积规则,我们可以将联合概率分布 p(x 1 , x 2 ) 分解为 p(x 2 | x 1 )p(x 1 ) ,它对应于一个具有两个结点的图,链接从结点 x 1 指向结点 x 2 ,如图8.9(a)所示。边缘概率分布 p(x 1 ) 与之前一样,由 K − 1 个参数控制。类似地,条件概率分布 p(x 2 | x 1 ) 需要指定 K − 1 个参数,确定 x 1 的 K 个可能的取值。因此,与之前一样,在联合概率分布中,需要指定的参数的总数为 (K − 1) + K(K − 1) = K ^ 2 − 1 。

![Center 74][]

现在假设变量 x 1 和 x 2 是独立的,对应于图8.9(b)所示的图模型。这样,每个变量由一个独立的多项式概率分布描述,参数的总数是 2(K − 1) 。对于 M 个独立离散变量上的概率分布,其中每个变量有 K 个可能的状态,参数的总数为 M (K − 1) ,因此随着变量的数量线性增长。从图的角度看,我们通过删除结点之间链接的方式,减小了参数的数量,代价是类别的概率分布受到了限制。

更一般地,如果我们有 M 个离散变量 x 1 , . . . , x M ,那么我们可以使用有向图来对联合概率分布建模,每个变量对应于一个结点。每个结点的条件概率分布由一组非负参数给出,同时需要满足归一化限制条件。如果图是全连接的,那么我们有一个完全一般的概率分布,这个分布有 K M − 1 个参数。而如果图中不存在链接,那么联合概率分布可以分解为边缘概率分布的乘积,参数的总数为 M (K − 1) 。连接度处于二者之间的图使得模型能够处理比完全分解的概率分布更加一般的概率分布,同时参数的数量比一般的联合概率分布的参数数量少。作为一个说明,考虑图8.10所示的结点链。边缘概率分布 p(x 1 ) 需要 K − 1 个参数,而对于 M − 1 个条件概率分布 p(x i | x i−1 ) (其中 i = 2, . . . , M )需要 K(K − 1) 个参数。从而,参数的总数为 K − 1 + (M − 1)K(K − 1) ,这是 K 的二次函数,并且随着链的长度 M 线性增长(而不是指数增长)。

![Center 75][]

**2 参数共享**

另一种减小模型中独立参数数量的方法是参数共享(sharing),也被称为参数捆扎(tying)。例如,在图8.10给出的结点链的例子,我们可以使所有的条件概率分布p(xi|xi−1)(其中i=2,...,M)由同样的参数集合K(K−1)。加上控制x1的K−1个参数,为了定义联合概率分布所需指定的参数的总数为K2−1。

**    贝叶斯模型：引入参数的狄利克雷先验**

通过引入参数的狄利克雷先验,我们可以将离散变量上的图模型转化为贝叶斯模型。从图的观点来看,每个结点需要额外的父结点表示对应于每个离散结点的参数。这种情况在图8.11中进行了说明。

![Center 76][]

如果我们将控制条件概率分布 p(x i | x i−1 ) (其中 i = 2, . . . , M )的参数进行参数共享,那么对应的模型如图8.12所示。

![Center 77][]

**3 对条件概率分布使用参数化的模型**

另一种控制离散变量模型参数数量的指数增长的方式是对条件概率分布使用参数化的模型,而不使用条件概率值的完整表格。为了说明这个想法,考虑图8.13所示的图,其中所有的结点表示二值变量。每个父结点变量 x i 由单一参数 μ i 控制,这个参数表示概率 p(x i = 1) ,从而对于 M 个父结点,参数总数为 M 。但是,条件概率分布 p(x 1 , . . . , x M ) 需要 2 M 个参数,每个参数表示 2 M 种父结点变量的可能配置下的概率 p(y = 1) 。因此,通常来说,确定这个条件概率分布的参数的数量会随着 M 指数增长。将 logistic sigmoid 函数作用于父结点变量的线性组合上,我们可以得到一个更加简洁的条件概率分布,形式为

![Center 78][]

其中σ(a)=(1+exp(−a))^−1是一个logisticsigmoid函数,x=(x0,x1,...,xM)T是一个(M+1)维向量,表示父结点的M个状态加上一个额外的变量x0,其值被固定为1。w=(w0,w1,...,wM)T是一个M+1个参数的向量。与一般的情形相比,这是一个更加受限形式的条件概率分布,但是参数的数量随着M线性增长。在这种情况下,类似于选择多元高斯分布的协方差矩阵的限制形式(例如对角矩阵)。

![Center 79][]

[皮皮blog][blog]

# 线性高斯模型    #

\{多元高斯分布如何表示为一个对应于成分变量上的线性高斯模型的有向无环图\}

说明多元高斯分布如何表示为一个对应于成分变量上的线性高斯模型的有向无环图。这使得我们在概率分布上施加有趣的结构,这些结构中的两个相反的极端情况是一般的高斯分布和对角化协方差高斯分布。几种广泛使用的方法是线性高斯模型的例子,例如概率主成分分析,因子分析,以及线性动态系统( Roweis and Ghahramani,1999 )。

### 多元高斯分布的联合概率分布 p(x)    ###

考虑 D 个变量上的任意的有向无环图,其中结点 i 表示服从高斯分布的一元连续随机变量 x i 。这个分布的均值是结点 i 的父结点pa i 的状态的线性组合,即

![Center 80][]

其中 w ij 和 b i 是控制均值的参数, v i 是 x i 的条件概率分布的方差。这样,联合概率分布的对数为图中所有结点上的这些条件分布的乘积的对数,因此形式为

![Center 81][]

其中 x = (x 1 , . . . , x D ) T ,“常数”表示与 x 无关的项。我们看到这是 x 的元素的二次函数,因此联合概率分布 p(x) 是一个多元高斯分布。

### 递归计算联合概率分布的均值和方差    ###

我们可以递归地确定联合概率分布的均值和方差,方法如下。每个变量 x i 的概率分布都是(以父结点状态为条件的)高斯分布,形式为公式(8.11)所示。因此

![Center 82][]

其中 ε i 是一个零均值单位方差的高斯随机变量,满足 E\[ε i \] = 0 且 E\[ε i ε j \] = I ij ,其中 I ij 是单位矩阵的第 i, j 个元素。对公式(8.14)取期望,我们有

![Center 83][]

这 样, 从 一 个 序 号 最 低 的 结 点 开 始, 沿 着 图 递 归 地 计 算, 我 们 就 可 以 求出 E\[x\] = (E\[x 1 \], . . . , E\[x D \]) T 的各个元素。这里,我们再一次假设所有结点的序号都大于它的父结点的句号。类似地,我们可以使用公式(8.14)和(8.15),以递归的方式得到 p(x) 的协方差矩阵的第 i, j 个元素,即

![Center 84][]

因此协方差可以从序号最低的结点开始,递归地计算。

### 两 个 极 端 的 情 形    ###

让 我 们 考 虑 两 个 极 端 的 情 形。  
    首 先, 假 设 图 中 不 存 在 链 接, 因 此 图 由 D 个 孤 立 的 结 点组 成。 在 这 种 情 况 下, 不 存 在 参 数 w ij , 因 此 只 有 D 个 参 数 b i 和 D 个 参 数 v i 。 根 据 递 归 关 系(8.15)和(8.16),我们看到 p(x) 的均值为 (b 1 , . . . , b D ) T ,协方差矩阵是一个对角矩阵,形式为diag (v 1 , . . . , v D ) 。联合概率分布总计有 2D 个参数,表示 D 个独立的一元高斯分布组成的集合。

现在考虑一个全连接的图,其中每个结点的序号都低于其父结点的序号。这样矩阵 w ij 的第 i 行有 i − 1 项,因此矩阵是一个下三角矩阵(主对角线上没有元素)。参数 w ij 的数量从而可以通过下面的方式得到:取 D × D 的元素个数 D^2 ,减去 D ,表示主对角线上没有元素,再除以2,因为矩阵只在对角线下方存在元素,从而参数的总数为 D(D−1)/2。独立参数 \{w ij \} 加上协方差矩阵中的 \{v i \} ,因此独立参数的总数为 D(D+1)/2 ,对应于一个一般的对称协方差矩阵。

### 复杂度处于两种极端情况之间    ###

复杂度处于两种极端情况之间的图对应于协方差矩阵取特定形式的联合高斯分布。考虑图8.14中的图,它在变量 x 1 和 x 3 之间不存在链接。使用递归关系(8.15)和(8.16),我们看到联合高斯分布的均值和协方差为

![Center 85][]

![Center 86][]

我们已经可以将线性高斯图模型扩展到结点表示多元高斯变量的情形。在这种情况下,我们可以将结点 i 的条件概率分布写成下面的形式

![Center 87][]

现在 W ij 是一个矩阵。如果 x i 和 x j 的维度不同,那么 W ij 不是方阵。与之前一样,很容易证明所有变量上的联合概率分布是高斯分布。

注意,我们已经看到高斯变量 x 的均值 μ 的共轭先验本身是 μ 上的一个高斯分布。此时我们已经遇到了线性高斯关系的一个具体的例子。因此 x 和 μ 的联合分布就是高斯分布。这对应于一个简单的具有两个结点的图,其中表示 μ 和结点是表示 x 的结点的父结点。 μ 上的概率分布的均值是控制先验分布的参数,因此它可以被看做超参数。由于超参数的值本身是未知的,因此我们可以再一次使用贝叶斯的观点,引入一个超参数上的先验概率分布。这个先验概率分布有时被称为超先验( hyperprior ),它还是一个高斯分布。这种构造过程原则上可以延伸到任意层次。这个模型是层次贝叶斯模型( hierarchical Bayesian model )的一个例子。

# 贝叶斯网络的应用 #

![Center 88][]

from: [http://blog.csdn.net/pipisorry/article/details/52489270][blog.csdn.net_pipisorry_article_details_52489270]

ref: prml chapter 8:GRAPHICAL MODELS

\[[概率图模型  原理与技术\[（美）科勒，（以）弗里德曼著\]][Link 1]\*

[贝叶斯网络 - 维基百科][-][  
][Link 2]

[贝叶斯网络简介][Link 2]

[贝叶斯网络简介][Link 3][  
][Link 4]

[算法杂货铺——分类算法之贝叶斯网络(Bayesian networks)][Link 4]

[blog.csdn.net_pipisorry_article_details_52489270]: http://blog.csdn.net/pipisorry/article/details/52489270
[Center]: /images/20220717/08395498d06843cab6611f5216f82ebc.png
[Center 1]: /images/20220717/47465d8e63644fd3b7f139b1f7be6cdc.png
[PGM_naive Bayes]: http://blog.csdn.net/pipisorry/article/details/52469064
[blog]: http://blog.csdn.net/pipisorry
[20141110221023930]: /images/20220717/7be44c0186be498a95a2c341cd729da0.png
[20141111180200463]: /images/20220717/add21339c8c3408fb792999e174d283f.png
[Center 2]: /images/20220717/a987af4a577a414793622a9e6a3d57f5.png
[20141110222518593]: /images/20220717/5995f9b7617541c1b222199b7e9ae861.png
[20141110222555954]: /images/20220717/619458a82488458989a2e0871b2f313e.png
[20141110224303808]: /images/20220717/6c18a7ee8df54bb8ad7c79e0eaa302b0.png
[Center 3]: /images/20220717/ded63953cdcc4d8ab032be707c34cd5a.png
[Center 4]: /images/20220717/fffa00a0035b43e1981a411e823f0bc8.png
[Center 5]: /images/20220717/64dad48101644acdb5a28f57740ea093.png
[Center 6]: /images/20220717/51d533c5235c49348739e15206c12a5d.png
[Center 7]: /images/20220717/819668f675d643cdacc8e5e411f807e8.png
[Center 8]: /images/20220717/7d53a97c6d244831975511695c547522.png
[Center 9]: /images/20220717/3a21db7fd3c94c2a8d4722b41c2ce1b7.png
[Center 10]: /images/20220717/35b7947987ce470193ebb7bc6e4cda1b.png
[Center 11]: /images/20220717/7dea6427f5b3448c9c8d3172c6131193.png
[Center 12]: /images/20220717/ff10f5f4f7c74bce9052161d4324297f.png
[Center 13]: /images/20220717/82243d873bac4d67a637e1ae1d014fa4.png
[Center 14]: /images/20220717/244518291ead4b3cb024dd12ece32ca7.png
[Center 15]: /images/20220717/3f2992c6c29246af9c36a173183578a9.png
[Center 16]: /images/20220717/07a2f051a3b343069da2d7429cc66cc1.png
[Center 17]: /images/20220717/bb7c232ae8d445118d16facb175ebefb.png
[Center 18]: /images/20220717/eae656bc746c4b4587ecabf1d9aeac4b.png
[Center 19]: /images/20220717/bc243fa9e4b44ffbb46f1556c88ffa7a.png
[Center 20]: /images/20220717/7f3cf8198ff94559be645dba34c6cce0.png
[Center 21]: /images/20220717/d87769cc6b2f4e6c8a2a137be15ce7ea.png
[Center 22]: /images/20220717/781c86f6823c43d9b5eda75ea398376a.png
[Center 23]: /images/20220717/52e6af682fde4270b679c4c7c2f173d0.png
[Center 24]: /images/20220717/77851c4560204fe88559e8d1b132c14a.png
[Center 25]: /images/20220717/9898fe781d3b45e6a08acdd8907562f9.png
[Center 26]: /images/20220717/ca5bb350f8af4d589c4c6932266bccef.png
[Center 27]: /images/20220717/d8c717913ac347d29d9f2f91b2fd118f.png
[SouthEast]: /images/20220717/b2cc2fb5e0924de9b0a6729cf4da9b5d.png
[Center 28]: /images/20220717/833bd32defa84533817b2682d7d538d9.png
[Center 29]: /images/20220717/cd4cfe937eba4fc38f2402a6f88f0453.png
[gif.latex_P_5Cleft_28_7BD_I_G_S_L_7D_20_5Cright_29_20_20P_5Cleft_28_20D_20_5Cright_29P_5Cleft_28_20_7BI_5Cleft_7C_20D_20_5Cright._7D_5Cright_29P_5Cleft_28_20_7BG_5Cleft_7C_20_7BD_I_7D_20_5Cright._7D_20_5Cright_29P_5Cleft_28_20_7BS_5Cleft_7C_20_7BD_I_G_7D_20_5Cright._7D_5Cright_29P_5Cleft_28_20_7BL_5Cleft_7C_20_7BD_I_G_S_7D_20_5Cright._7D_20_5Cright_29]: /images/20220717/1e28ef0b6e1f4afeb5c682279919e069.png
[Center 30]: /images/20220717/f7d9f9f372b945f7b9d9b702656c1b8b.png
[Center 31]: /images/20220717/a28be827166440cdac1f7a4abacf6657.png
[Center 32]: /images/20220717/65ff6b821ee74426952f0bc3a4e84fa0.png
[Center 33]: /images/20220717/5d66caf2ffa94333bfbeb191befac78b.png
[Center 34]: /images/20220717/41b1d055940149f3b42a0d9d44fecce0.png
[Center 35]: /images/20220717/aa59a10997ee49db970c383b163b7b13.png
[Center 36]: /images/20220717/6c2bad20e5f7443bb05659102d5c2a7b.png
[Center 37]: /images/20220717/13973e26cfa04dbc90e95d380b4323ac.png
[Center 38]: /images/20220717/d77fadc9fcf943eeb8c02cbfcc3d78ca.png
[Center 39]: /images/20220717/679c60236f1f409bb1c6be9866cd8897.png
[Center 40]: /images/20220717/8d769c68ef0046128afceb8c240304f8.png
[Center 41]: /images/20220717/f8fb00c0364943ee9aab673b52b5fa0b.png
[Center 42]: https://img-blog.csdn.net/20160909221957885?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQv/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center
[Center 43]: /images/20220717/a99ea8dfe6124a318047741461e714de.png
[Center 44]: /images/20220717/b86d6761be194e14aab1597c98fb8f53.png
[Center 45]: /images/20220717/0f344a411b41408aa60a8a7bdc7c2b97.png
[Center 46]: /images/20220717/55a693058f6b44fca13c9b1b2d9522f9.png
[Center 47]: /images/20220717/1b1c9d115f9f46959a6a91d8277f2f4b.png
[Center 48]: /images/20220717/ac37a21f5ab949eda3393cad4f90b2b9.png
[Center 49]: /images/20220717/14aa6526fdb4419c9091704ea5f40b06.png
[Center 50]: /images/20220717/cd82ede3ed234cb6b3eea0351a16cd0e.png
[Center 51]: /images/20220717/d77c83001e954966940db7d613059497.png
[Center 52]: /images/20220717/f9e1d820936f4f5db75595ce88aa4342.png
[Center 53]: /images/20220717/9cefa905d9fb4a99bd1567a47f6ccee4.png
[Center 54]: /images/20220717/201046530740412797aa6765ac9fc7d2.png
[Center 55]: /images/20220717/ec2149afce0c4b208a83ac7af0c1bee3.png
[Center 56]: /images/20220717/0f527f5cd0de45c1a9f87897ff4037aa.png
[Center 57]: /images/20220717/9de51a90659c465696ea1cc380bfd84f.png
[Center 58]: /images/20220717/3c36583651cc4ef0bb601af474a4b585.png
[20141110234449486]: /images/20220717/07cd1f14062745dc9bbfb365dc32f57f.png
[20141110233944921]: /images/20220717/df02a860638b4204a1b684b06d342a87.png
[20141110235330121]: /images/20220717/3b07f65cf387425988b86663874d142f.png
[20141110235818784]: /images/20220717/a89e9f0a39114bfaa4959da60acfeacb.png
[20141111000434953]: https://img-blog.csdn.net/20141111000434953
[20141111000649872]: /images/20220717/9e649e2778d045a691c1a5ca8d2c5e1d.png
[20141111001937768]: https://img-blog.csdn.net/20141111001937768
[20141111002057687]: /images/20220717/17c00149fb3349669b41f9c41a362bab.png
[20141111001901123]: /images/20220717/4bf7b1d6887d4d1f8345df621f332af6.png
[20141111002737625]: /images/20220717/63f45a9a4f0b4de0978f8bb59cd2d0b7.png
[20141111003037680]: /images/20220717/f2819aaa84a34dd69b9d6dae36550d28.png
[20141111004832787]: /images/20220717/096104c515a644c48c9833a68d7f4a5d.png
[Center 59]: /images/20220717/47c9ac1ee3b3400bb21a5054fff7a013.png
[Center 60]: /images/20220717/a0c76d6126b446d7bf1068154bfba28e.png
[Center 61]: /images/20220717/a9bd19189f814a2c883da86005692275.png
[Center 62]: /images/20220717/c91a27c77c564198b101b28f12b58d34.png
[Center 63]: /images/20220717/4f06d0b2096d4b87822882f8b0465dfb.png
[Center 64]: /images/20220717/c1fda7c78c944c83806c6d0d5cd4b706.png
[Center 65]: /images/20220717/497b0cbc96c14b51b3342859efc57b5a.png
[Center 66]: /images/20220717/c566f1eddcd34fcea1e891584aa437d4.png
[Center 67]: /images/20220717/5114ffdd299b485e9dbedee373a1503f.png
[Center 68]: /images/20220717/f19efedb609c400ba42ccb0d2e37cc76.png
[Center 69]: /images/20220717/c661c9b614fb494e8fdf0acef5c9f5af.png
[Center 70]: /images/20220717/d40eeccc023042f49838e9bf3c96ce2f.png
[Center 71]: /images/20220717/d11d9c1522b149189b71b9c335f10e0a.png
[Center 72]: /images/20220717/a892194601ab4c058b8e70abd278c10a.png
[Center 73]: /images/20220717/529ca7db678c4ac79aa6c8d496608cdc.png
[Center 74]: /images/20220717/4f937621ad264463abba4a718263e29b.png
[Center 75]: /images/20220717/76e3b63b775b4e0fa5bb013f2d556b32.png
[Center 76]: /images/20220717/32c853adff3f49d08e2e22abb60600f1.png
[Center 77]: /images/20220717/6386ddcc0a8b4b0791870ca257725d57.png
[Center 78]: /images/20220717/133a1c762fbc4e9ba64c25a81277cb1c.png
[Center 79]: /images/20220717/2b8a441d630540fd843f4f6aea1cbfe2.png
[Center 80]: /images/20220717/71e163314cce4ab6bc282bc7f2d00223.png
[Center 81]: /images/20220717/73bc13aa228e47198213ac749b6ed702.png
[Center 82]: /images/20220717/620a6d451a1646329620def6b3dbe596.png
[Center 83]: /images/20220717/4d0e28de4c49412d90eb254e50072703.png
[Center 84]: /images/20220717/8faf22ad06ca416daf4fa1cb5b7b7af1.png
[Center 85]: /images/20220717/56a2b7fa8e9f441f929110dbc42b51e6.png
[Center 86]: /images/20220717/d90432427ab94754902726e098a7d0b1.png
[Center 87]: /images/20220717/691d09d688fa4c928d2ce006c6e865ec.png
[Center 88]: /images/20220717/cee77479576542e196f3c6f2bc74963c.png
[Link 1]: http://download.csdn.net/detail/pipisorry/9527752
[-]: https://zh.wikipedia.org/zh-cn/%E8%B4%9D%E5%8F%B6%E6%96%AF%E7%BD%91%E7%BB%9C
[Link 2]: http://blog.csdn.net/memory513773348/article/details/16973807
[Link 3]: http://blog.163.com/zzz216@yeah/blog/static/16255468420123802052800/
[Link 4]: http://www.cnblogs.com/leoo2sk/archive/2010/09/18/bayes-network.html