概率无向图模型与条件随机场的异同

概率无向图模型

$P(X_{1},X_{2},...,X_{3})=frac{1}{Z(X)} ilde{P}(X_{1},X_{2},...,X_{n})$

$ ilde{P}(X_{1},X_{2},...,X_{n}) = prod_{i=k}^m phi_{i}(X)=exp(sum_{i=k}^m xi_{i}(X))$

$Z(X)=sum prod phi_{i}(X)$  ---归一化因子

X是变量,Z(X)取所有的X序列的情况

条件随机场

$P(Y|X)=frac{1}{Z(X)} ilde{P}(Y,X)$

$ ilde{P}(Y,X)=exp(sum_{i}w_{i}*f_{i}(Y,X))$

$Z(X)=sum_{Y}exp(sum_{i}w_{i}*f_{i}(Y,X))$

X不变,是条件,Y是变量。条件随机场的推理过程必定先求联合概率,而且要求解归一化项。

相同点

  本质一样,都是个体在所有情况中的归一化过程。其中的$ ilde{P}$不严格的表示概率,值不一定在0-1之间。概率无向图体现的是工程上的归一化过程,条件随机场体现的是概率论中的条件概率求解过程,二者本质上相同,抽象出来的意义有些区别。

异同点

  概率无向图模型是求所有的X序列的情况;而条件随机场是求在X的情况下,Y的情况,全局X不变,是条件。