Reversible Markow-Kette

Eine Markow-Kette mit möglichen Zuständen ${\displaystyle (X_{z})_{z\in \mathbb {Z} }}$ und einer Übergangsmatrix ${\displaystyle (w_{ij})}$, wobei ${\displaystyle w_{ij}}$ die Wahrscheinlichkeit für einen Übergang von Zustand ${\displaystyle X_{i}}$ zum Zustand ${\displaystyle X_{j}}$ bezeichnet (also die Übergangswahrscheinlichkeit), heißt reversibel bezüglich der Verteilung ${\displaystyle P}$, wenn

${\displaystyle P(X_{i})w_{ij}=P(X_{j})w_{ji}}$

für alle ${\displaystyle i,j}$ gilt. Eine Markow-Kette heißt reversibel, wenn sie eine Verteilung besitzt, bezüglich derer sie reversibel ist.

Die obige Gleichung ist die Bedingung der detaillierten Balance. Ist sie erfüllt, so ist das System, das durch den Markow-Prozess beschrieben wird, in der detaillierten Balance.

Die Bedingung der detaillierten Balance wird gelegentlich auch (stationsspezifische) detaillierte Balancegleichung^[1] genannt. Anstatt des Begriffs der detaillierten Balance werden auch die Begriffe detaillierte Bilanz^[2][3] oder detailliertes Gleichgewicht^[4] gebraucht.

• Für stationäre Markow-Ketten ${\displaystyle (X_{z})_{z\in \mathbb {Z} }}$ mit Übergangsmatrix ${\displaystyle (w_{ij})}$ (also insbesondere für diejenigen Ketten, die in einer stationären Verteilung starten) ist diese Eigenschaft äquivalent zur zeitlichen Reversibilität, das heißt, für den zeitumgekehrten Prozess ${\displaystyle {\tilde {X}}_{z}:=X_{-z}}$ gilt für alle ${\displaystyle t_{1},\dots ,t_{n}\in \mathbb {Z} }$, dass ${\displaystyle (X_{t_{1}},\dots ,X_{t_{n}})\sim (X_{-t_{1}},\dots ,X_{-t_{n}})}$.^[5] Für jede Realisierung ist also gleichgültig, in welcher Richtung sie durchlaufen wird.
• Jede Verteilung, welche die Bedingung der detaillierten Balance erfüllt, ist eine stationäre Verteilung. Das folgt direkt aus der Mastergleichung ${\textstyle {\frac {\mathrm {d} P_{k}}{\mathrm {d} t}}=\sum _{\ell \neq k}(w_{k\ell }P_{\ell }-w_{\ell k}P_{k})=0}$. Die Konvergenz einer beliebigen Verteilung gegen die stationäre Verteilung ist daraus aber nicht gegeben. Ein hinreichendes Kriterium dafür liefert zum Beispiel der Ergodensatz.

• Der Metropolisalgorithmus ist ein Beispiel für einen stochastischen Prozess, der die Bedingung der detaillierten Balance erfüllt. Er wird in Monte-Carlo-Simulationen dazu genutzt, Zustände eines Systems aus vorhergehenden Zuständen gemäß einer Übergangswahrscheinlichkeit zu erzeugen.^[6]

• Gibbs-Sampling

• G. Bhanot, The Metropolis algorithm, Rep. Prog. Phys. 51 (1988) 429
• Achim Klenke: Wahrscheinlichkeitstheorie. 2. Auflage. Springer-Verlag, Berlin Heidelberg 2008, ISBN 978-3-540-76317-8, 19.2 Reversible Markovketten
• Hans-Otto Georgii: Stochastik: Einführung in die Wahrscheinlichkeitstheorie und Statistik, 5. Auflage, de Gruyter 2015