Diagnosis konvergensi Gelman dan Rubin, bagaimana cara menggeneralisasi untuk bekerja dengan vektor?

Diagnostik Gelman dan Rubin digunakan untuk memeriksa konvergensi beberapa rantai mcmc yang berjalan secara paralel. Ini membandingkan varians dalam-rantai dengan varians antara-rantai, eksposisi di bawah ini:

Langkah-langkah (untuk setiap parameter):

Jalankan m ≥ 2 rantai panjang 2n dari nilai awal overdispersed.
Buang imbang pertama di setiap rantai.
Hitung varian dalam-rantai dan antar-rantai.
Hitung varians estimasi parameter sebagai jumlah terbobot dari varians dalam-rantai dan antar-rantai.
Hitung faktor reduksi skala potensial.
Daftar barang

Saya ingin menggunakan statistik ini tetapi variabel yang ingin saya gunakan adalah vektor acak.

Apakah masuk akal untuk mengambil mean dari matriks kovarian dalam kasus ini?

mcmc convergence covariance-matrix

— Tim
sumber

Rekomendasi: cukup hitung PSRF secara terpisah untuk setiap komponen skalar

Artikel asli oleh Gelman & Rubin [1], serta buku teks Analisis Data Bayesian dari Gelman et al. [2], merekomendasikan untuk menghitung faktor reduksi skala potensial (PSRF) secara terpisah untuk setiap parameter skalar yang diinginkan. Untuk menyimpulkan konvergensi, maka diperlukan bahwa semua PSRF dekat dengan 1. Tidak masalah bahwa parameter Anda ditafsirkan sebagai vektor acak, komponennya adalah skalar yang dapat digunakan untuk menghitung PSRF.

Brooks & Gelman [3] telah mengusulkan perpanjangan multivariat dari PSRF, yang saya ulas pada bagian selanjutnya dari jawaban ini. Namun, mengutip Gelman & Shirley [4]:

[...] metode-metode ini kadang-kadang mungkin mewakili pembunuhan berlebihan: parameter individual dapat diestimasi dengan baik bahkan saat perkiraan konvergensi simulasi distribusi multivarian membutuhkan waktu yang sangat lama.

Alternatif: ekstensi multivarian oleh Brooks & Gelman

Brooks & Gelman [3] mengusulkan perpanjangan multivariat dari PSRF, di mana memang dihitung matriks kovarians yang diperkirakan (langkah Anda 4) sebagai jumlah bobot dari matriks kovarian dalam-rantai ( ) dan antara-rantai ( ) dan antar-rantai ( ) (Anda langkah $W$ $B$

\hat{V} = \frac{n - 1}{n} W + \frac{1}{n} B,

$\begin{equation} \hat{V} = \frac{n-1}{n}W + \frac{1}{n}B, \end{equation}$

n

$n$

\hat{V}, W

$\hat{V},W$

\hat{R} = max_{a} \frac{a^{T} \hat{V} a}{a^{T} W a} = \frac{n - 1}{n} + (\frac{m + 1}{m}) λ_{1},

$\begin{equation} \hat{R} = \max_a \frac{a^T\hat{V}a}{a^TWa} = \frac{n-1}{n} + \left(\frac{m+1}{m}\right)\lambda_1, \end{equation}$

m

$m$

λ_{1}

$\lambda_1$

W^{- 1} \hat{V} / n

$W^{-1}\hat{V}/n$

λ_{1} \to 0

$\lambda_1\rightarrow 0$

n

$n$

\hat{R}

$\hat{R}$

Referensi

[1] Gelman, Andrew, dan Donald B. Rubin. "Inferensi dari simulasi berulang menggunakan beberapa urutan." Ilmu Statistik (1992): 457-472.

[2] Gelman, Andrew, et al. Analisis data Bayesian. Pers CRC, 2013.

[3] Brooks, Stephen P., dan Andrew Gelman. "Metode umum untuk memantau konvergensi simulasi berulang." Jurnal Statistik Komputasi dan Grafis 7.4 (1998): 434-455.

[4] Gelman, Andrew, dan Kenneth Shirley. + Msgstr "Kesimpulan dari simulasi dan pemantauan konvergensi". (Bab 6 dalam Brooks, Steve, et al., Eds. Buku Pegangan Markov Chain Monte Carlo. CRC Press, 2011.)

Semua artikel kecuali buku teks [2] tersedia di situs web Andrew Gelman Andrew Gelman Andrew Gelman .

— Juho Kokkala
sumber