Apakah algoritma Gibbs Sampling menjamin saldo terperinci?

Saya memilikinya pada otoritas tertinggi ¹ bahwa Gibbs Sampling adalah kasus khusus dari algoritma Metropolis-Hastings untuk pengambilan sampel Markov Chain Monte Carlo. Algoritma MH selalu memberikan probabilitas transisi dengan properti keseimbangan terperinci; Saya berharap Gibbs juga harus. Jadi di mana dalam kasus sederhana berikut ini saya salah?

Untuk distribusi target pada dua variabel diskrit (untuk kesederhanaan), distribusi bersyarat penuh adalah: $\pi(x, y)$

\begin{aligned} q_{1} (x; y) & = \frac{π (x, y)}{\sum_{z} π (z, y)} \\ q_{2} (y; x) & = \frac{π (x, y)}{\sum_{z} π (x, z)} \end{aligned}

$\begin{align} q_1 (x;y) & =\frac{\pi (x,y)}{\sum_z \pi (z,y)} \\ q_2 (y;x) & =\frac{\pi (x,y)}{\sum_z \pi (x,z)} \end{align}$

Seperti yang saya pahami Gibbs Sampling, probabilitas transisi dapat ditulis:

P r o b {(y_{1}, y_{2}) \to (x_{1}, x_{2})} = q_{1} (x_{1}; y_{2}) q_{2} (x_{2}; x_{1})

$Prob\{(y_1, y_2) \to (x_1, x_2)\} = q_1(x_1; y_2) q_2(x_2; x_1)$

Pertanyaannya adalah, apakah tetapi yang terdekat yang bisa saya dapatkan adalah Itu agak berbeda, dan tidak menyiratkan saldo terperinci. Terima kasih atas pemikiran Anda!

π (y_{1}, y_{2}) P r o b {(y_{1}, y_{2}) \to (x_{1}, x_{2})} \overset{?}{=} π (x_{1}, x_{2}) P r o b {(x_{1}, x_{2}) \to (y_{1}, y_{2})},

$\pi(y_1,y_2) Prob\{(y_1, y_2) \to (x_1, x_2)\} \overset{?}{=} \pi(x_1,x_2) Prob\{(x_1, x_2) \to (y_1, y_2)\},$

\begin{aligned} π (y_{1}, y_{2}) P r o b {(y_{1}, y_{2}) & \to (x_{1}, x_{2})} \\ = π (y_{1}, y_{2}) q_{2} (x_{2}; x_{1}) q_{1} (x_{1}; y_{2}) \\ = \frac{π (x_{1}, x_{2})}{\sum_{z} π (x_{1}, z)} \frac{π (x_{1}, y_{2})}{\sum_{z} π (z, y_{2})} π (y_{1}, y_{2}) \\ = π (x_{1}, x_{2}) q_{2} (y_{2}; x_{1}) q_{1} (y_{1}; y_{2}) \end{aligned}

$\begin{align} \pi(y_1,y_2) Prob\{(y_1, y_2) & \to (x_1, x_2)\} \\ & = \pi(y_1, y_2) q_2(x_2; x_1) q_1(x_1; y_2) \\ & = \frac{\pi(x_1, x_2)}{\sum_z \pi(x_1,z)}\frac{\pi(x_1, y_2)}{\sum_z \pi(z, y_2)}\pi (y_1, y_2) \\ & = \pi(x_1, x_2) q_2(y_2; x_1) q_1(y_1; y_2) \end{align}$

mcmc gibbs

— Ian
sumber

Anda mencoba untuk menunjukkan saldo terperinci untuk rantai Markov yang diperoleh dengan mempertimbangkan satu transisi dari rantai Markov menjadi 'sapuan Gibbs' di mana Anda mencicipi setiap komponen secara bergiliran dari distribusi kondisionalnya. Untuk rantai ini, saldo terperinci tidak terpenuhi. Intinya adalah bahwa setiap pengambilan sampel dari komponen tertentu dari distribusi kondisionalnya adalah transisi yang memenuhi keseimbangan terinci. Akan lebih akurat untuk mengatakan bahwa pengambilan sampel Gibbs adalah kasus khusus dari Metropolis-Hastings yang sedikit digeneralisasi, tempat Anda berganti-ganti di antara beberapa proposal yang berbeda. Lebih detail ikuti.

Sapuan tidak memenuhi keseimbangan terperinci

Saya membuat contoh tandingan. Pertimbangkan dua variabel Bernoulli ( ), dengan probabilitas seperti yang ditunjukkan pada tabel berikut: $X_1,X_2$ Asumsikan penyapu Gibbs dipesan sehinggamenjadi sampel pertama. Pindah dari kondisike kondisidalam satu gerakan adalah tidak mungkin, karena itu akan membutuhkan perpindahan darike. Namun, pindah darikememiliki probabilitas positif, yaitu

\begin{array}{ccc} X_{2} = 0 & X_{2} = 1 \\ X_{1} = 0 & \frac{1}{3} & \frac{1}{3} \\ X_{1} = 1 & 0 & \frac{1}{3} \end{array}

$\begin{equation} \begin{array}{ccc} & X_2 = 0 & X_2 = 1 \\ X_1 = 0 & \frac{1}{3} & \frac{1}{3} \\ X_1 = 1 & 0 & \frac{1}{3} \end{array} \end{equation}$

X_{1}

$X_1$

(0, 0)

$(0,0)$

(1, 1)

$(1,1)$

(0, 0)

$(0,0)$

(1, 0)

$(1,0)$

(1, 1)

$(1,1)$

(0, 0)

$(0,0)$

. Oleh karena itu kami menyimpulkan bahwa saldo terperinci tidak terpenuhi.

\frac{1}{4}

$\frac{1}{4}$

Namun, rantai ini masih memiliki distribusi stasioner yang benar. Keseimbangan terperinci adalah kondisi yang cukup, tetapi tidak perlu, untuk konvergen ke target distribusi.

Gerakan komponen-bijaksana memenuhi keseimbangan rinci

$(x_1,x_2)$ $(y_1,y_2)$ $x_2 \neq y_2$ $x_2 = y_2$

π (x_{1}, x_{2}) P r o b ((x_{1}, x_{2}) \to (y_{1}, x_{2})) = π (x_{1}, x_{2}) p (y_{1} ∣ X_{2} = x_{2}) = π (x_{1}, x_{2}) \frac{π (y_{1}, x_{2})}{\sum_{z} π (z, x_{2})} = π (y_{1}, x_{2}) \frac{π (x_{1}, x_{2})}{\sum_{z} π (z, x_{2})} = π (y_{1}, x_{2}) p (x_{1} ∣ X_{2} = x_{2}) = π (y_{1}, x_{2}) P r o b ((y_{1}, x_{2}) \to (x_{1}, x_{2})) .

$\begin{equation} \pi(x_1,x_2) \mathrm{Prob}((x_1,x_2) \rightarrow (y_1,x_2)) = \pi(x_1,x_2)\,p(y_1 \mid X_2 = x_2) = \pi(x_1,x_2) \, \frac{\pi(y_1,x_2)}{\sum_z \pi(z,x_2)} \\ = \pi(y_1,x_2) \, \frac{\pi(x_1,x_2)}{\sum_z \pi(z,x_2)} = \pi(y_1,x_2) \,p(x_1 \mid X_2 = x_2) = \pi(y_1,x_2) \mathrm{Prob}((y_1,x_2) \rightarrow (x_1,x_2)). \end{equation}$

Bagaimana gerakan komponen-bijaksana adalah gerakan Metropolis-Hastings?

$1$ $(x_1, x_2)$ $(y_1, y_2)$

\frac{π (y_{1}, x_{2})}{π (x_{1}, x_{2})} .

$\begin{equation} \frac{\pi(y_1,x_2)}{\pi(x_1,x_2)}. \end{equation}$

\frac{P r o b ((y_{1}, x_{2}) \to (x_{1}, x_{2}))}{P r o b ((x_{1}, x_{2}) \to (y_{1}, x_{2}))} = \frac{\frac{π (x_{1}, x_{2})}{\sum_{z} π (z, x_{2})}}{\frac{π (y_{1}, x_{2})}{\sum_{z} π (z, x_{2})}} = \frac{π (x_{1}, x_{2})}{π (y_{1}, x_{2})} .

$\begin{equation} \frac{\mathrm{Prob}((y_1,x_2) \rightarrow (x_1,x_2))}{\mathrm{Prob}((x_1,x_2) \rightarrow (y_1,x_2))} = \frac{\frac{\pi(x_1,x_2)}{\sum_z \pi(z,x_2)}}{\frac{\pi(y_1,x_2)}{\sum_z \pi(z,x_2)}} = \frac{\pi(x_1,x_2)}{\pi(y_1,x_2)}. \end{equation}$ So, the ratio of target probabilities and the ratio of proposal probabilities are reciprocals, and thus the acceptance probability will be

1

$1$ . In this sense, each of the moves in the Gibbs sampler are special cases of Metropolis-Hastings moves. However, the overall algorithm viewed in this light is a slight generalization of the typically presented Metropolis-Hastings algorithm in that you have alternate between different proposal distributions (one for each component of the target variable).

— Juho Kokkala
sumber

Great answer, thanks (minor edit: y_2 -> x_2 in your third section). When calling the Gibbs sweep one step, is the existence of the stationary distribution (along with irreducibility and recurrence) a sufficient condition for convergence to the stationary distribution from any initial state?

— Ian

The Gibbs sampler is a composition of Metropolis-Hastings moves with acceptance probability 1. Each move is reversible but the composition is not, unless the order of the steps is random.

— Xi'an