Teorema de Hammersley-Clifford

Es trivial demostrar que un campo aleatorio de Gibbs satisface todas las propiedades de Markov. Como ejemplo de este hecho, véase lo siguiente:

En la imagen de la derecha, un campo aleatorio de Gibbs sobre el gráfico proporcionado tiene la forma ${\displaystyle \Pr(A,B,C,D,E,F)\propto f_{1}(A,B,D)f_{2}(A,C,D)f_{3}(C,D,F)f_{4}(C,E,F)}$. Si las variables ${\displaystyle C}$ y ${\displaystyle D}$ son fijas, entonces la propiedad global de Markov requiere que: ${\displaystyle A,B\perp E,F|C,D}$ (véase independencia condicional), ya que ${\displaystyle C,D}$ forman una barrera entre ${\displaystyle A,B}$ y ${\displaystyle E,F}$.

Con ${\displaystyle C}$ y ${\displaystyle D}$ constantes, ${\displaystyle \Pr(A,B,E,F|C=c,D=d)\propto [f_{1}(A,B,d)f_{2}(A,c,d)]\cdot [f_{3}(c,d,F)f_{4}(c,E,F)]=g_{1}(A,B)g_{2}(E,F)}$ donde ${\displaystyle g_{1}(A,B)=f_{1}(A,B,d)f_{2}(A,c,d)}$ y ${\displaystyle g_{2}(E,F)=f_{3}(c,d,F)f_{4}(c,E,F)}$. Esto implica que ${\displaystyle A,B\perp E,F|C,D}$.

Para establecer que toda distribución de probabilidad positiva que satisfaga la propiedad local de Markov es también un campo aleatorio de Gibbs, es necesario demostrar el siguiente lema, que proporciona un medio para combinar diferentes factorizaciones:

Lema 1

Sea ${\displaystyle U}$ el conjunto de todas las variables aleatorias consideradas, y sean ${\displaystyle \Theta ,\Phi _{1},\Phi _{2},\dots ,\Phi _{n}\subseteq U}$ y ${\displaystyle \Psi _{1},\Psi _{2},\dots ,\Psi _{m}\subseteq U}$ conjuntos arbitrarios de variables. (Aquí, dado un conjunto arbitrario de variables ${\displaystyle X}$, ${\displaystyle X}$ también denotará una asignación arbitraria a las variables de ${\displaystyle X}$).

Si

${\displaystyle \Pr(U)=f(\Theta )\prod _{i=1}^{n}g_{i}(\Phi _{i})=\prod _{j=1}^{m}h_{j}(\Psi _{j})}$

para las funciones ${\displaystyle f,g_{1},g_{2},\dots g_{n}}$ y ${\displaystyle h_{1},h_{2},\dots ,h_{m}}$, entonces existen funciones ${\displaystyle h'_{1},h'_{2},\dots ,h'_{m}}$ y ${\displaystyle g'_{1},g'_{2},\dots ,g'_{n}}$ tales que

${\displaystyle \Pr(U)={\bigg (}\prod _{j=1}^{m}h'_{j}(\Theta \cap \Psi _{j}){\bigg )}{\bigg (}\prod _{i=1}^{n}g'_{i}(\Phi _{i}){\bigg )}}$

En otras palabras, ${\displaystyle \prod _{j=1}^{m}h_{j}(\Psi _{j})}$ proporciona una plantilla para la factorización adicional de ${\displaystyle f(\Theta )}$.

Demostración del Lema 1

Para utilizar ${\displaystyle \prod _{j=1}^{m}h_{j}(\Psi _{j})}$ como plantilla para factorizar aún más ${\displaystyle f(\Theta )}$, es necesario fijar todas las variables fuera de ${\displaystyle \Theta }$. Para ello, sea ${\displaystyle {\bar {\theta }}}$ una asignación fija arbitraria a las variables de ${\displaystyle U\setminus \Theta }$ (las variables que no están en ${\displaystyle \Theta }$). Para un conjunto arbitrario de variables ${\displaystyle X}$, sea ${\displaystyle {\bar {\theta }}[X]}$ la asignación ${\displaystyle {\bar {\theta }}}$ restringida a las variables de ${\displaystyle X\setminus \Theta }$ (las variables de ${\displaystyle X}$, excluyendo las variables de ${\displaystyle \Theta }$).

Además, para factorizar solo ${\displaystyle f(\Theta )}$, los otros factores ${\displaystyle g_{1}(\Phi _{1}),g_{2}(\Phi _{2}),...,g_{n}(\Phi _{n})}$ deben quedar sin efecto para las variables de ${\displaystyle \Theta }$. Para ello, la factorización

${\displaystyle \Pr(U)=f(\Theta )\prod _{i=1}^{n}g_{i}(\Phi _{i})}$

se reexpresará como

${\displaystyle \Pr(U)={\bigg (}f(\Theta )\prod _{i=1}^{n}g_{i}(\Phi _{i}\cap \ Theta,{\bar {\theta }}[\Phi _{i}]){\bigg )}{\bigg (}\prod _{i=1}^{n}{\frac {g_{i}(\Phi _{i})}{g_{i}(\Phi _{i}\cap \Theta ,{\bar {\theta }}[\Phi _{i}])}}{\bigg )}}$

Para cada ${\displaystyle i=1,2,...,n}$: ${\displaystyle g_{i}(\Phi _{i}\cap \Theta ,{\bar {\theta }}[\Phi _{i}])}$ es ${\displaystyle g_{i}(\Phi _{i})}$, donde todas las variables fuera de ${\displaystyle \Theta }$ se han fijado en los valores prescritos por ${\displaystyle {\bar {\theta }}}$.

Sea ${\displaystyle f'(\Theta )=f(\Theta )\prod _{i=1}^{n}g_{i}(\Phi _{i}\cap \Theta ,{\bar {\theta }}[\Phi _{i}])}$ y ${\displaystyle g'_{i}(\Phi _{i})={\frac {g_{i}(\Phi _{i})}{g_{i}(\Phi _{i}\cap \Theta ,{\bar {\theta }}[\Phi _{i}])}}}$ para cada ${\displaystyle i=1,2,\dots ,n}$, de modo que

${\displaystyle \Pr(U)=f'(\Theta )\prod _{i=1}^{n}g'_{i}(\Phi _{i})=\prod _{j=1}^{m}h_{j}(\Psi _{j})}$

Lo más importante es que ${\displaystyle g'_{i}(\Phi _{i})={\frac {g_{i}(\Phi _{i})}{g_{i}(\Phi _{i}\cap \Theta ,{\bar {\theta }}[\Phi _{i}])}}=1}$ cuando los valores asignados a ${\displaystyle \Phi _{i}}$ no entran en conflicto con los valores prescritos por ${\displaystyle {\bar {\theta }}}$, haciendo que ${\displaystyle g'_{i}(\Phi _{i})}$ «desaparezca» cuando todas las variables que no están en ${\displaystyle \Theta }$ se fijan en los valores de ${\displaystyle {\bar {\theta }}}$.

Fijar todas las variables que no están en ${\displaystyle \Theta }$ en los valores de ${\displaystyle {\bar {\theta }}}$ da

${\displaystyle \Pr(\Theta ,{\bar {\theta }})=f'(\Theta )\prod _{i=1}^{n}g'_{i}(\Phi _{i}\cap \Theta ,{\bar {\theta }}[\Phi _{i}])=\prod _{j=1}^{m}h_{j}(\Psi _{j}\cap \Theta ,{\bar {\theta }}[\Psi _{j}])}$

Dado que ${\displaystyle g'_{i}(\Phi _{i}\cap \Theta ,{\bar {\theta }}[\Phi _{i}])=1}$,

${\displaystyle f'(\Theta )=\prod _{j=1}^{m}h_{j}(\Psi _{j}\cap \Theta ,{\bar {\theta }}[\Psi _{j}])}$

Si ${\displaystyle h'_{j}(\Theta \cap \Psi _{j})=h_{j}(\Psi _{j}\cap \Theta ,{\bar {\theta }}[\Psi _{j}])}$ se obtiene:

${\displaystyle f'(\Theta )=\prod _{j=1}^{m}h'_{j}(\Theta \cap \Psi _{j})}$ lo que finalmente da:

${\displaystyle \Pr(U)={\bigg (}\prod _{j=1}^{m}h'_{j}(\Theta \cap \Psi _{j}){\bigg )}{\bigg (}\prod _{i=1}^{n}g'_{i}(\Phi _{i}){\bigg )}}$

El Lema 1 proporciona un medio para combinar dos factorizaciones diferentes de ${\displaystyle \Pr(U)}$. La propiedad local de Markov implica que, para cualquier variable aleatoria ${\displaystyle x\in U}$, existen factores ${\displaystyle f_{x}}$ y ${\displaystyle f_{-x}}$ tales que:

${\displaystyle \Pr(U)=f_{x}(x,\partial x)f_{-x}(U\setminus \{x\})}$

donde ${\displaystyle \partial x}$ son los vecinos del nodo ${\displaystyle x}$. La aplicación repetida del Lema 1 acaba factorizando ${\displaystyle \Pr(U)}$ en un producto de potenciales de clique (véase la imagen de la derecha).

Fin de la prueba