Bisakah seseorang menghitung autokorelasi matriks kovarian sampel oleh MCMC?

Bayangkan bahwa kita mengambil sampel matriks kovarians dari distribusi Wishart oleh MCMC.

Pada setiap iterasi, kami mendapatkan matriks sampel dari distribusi Wishart. $S_i$

Pertanyaan : Mengingat jejak yang berisi semua sampel , dapatkah saya memplot korelasi otomatis sampel ini? $S_1,...S_n$

Saya telah melihat seseorang menggunakan autocorrelation of , tetapi saya tidak menemukan pembenaran. $\log(\det(S))$

bayesian autocorrelation mcmc

— Alberto
sumber

Cara saya melihatnya, ketika menggambar matriks dari distribusi Wishart, Anda benar-benar menggambar secara khusus terkait variabel acak univariat pada setiap langkah waktu. Yaitu, hanya bagian dari setiap [= bagian segitiga atas] yang acak, dan simetri memberi Anda sisanya. Dengan kata lain, autokorelasi didefinisikan berpasangan untuk setiap dua entri -dimensi vektor dan untuk setiap . Tentu saja, ini membuat Anda memiliki sejumlah besar kemungkinan $p \times p$ $S_1, S_2, \dots S_n$ $p\cdot (p+1)/2$ $\text{vech}(S_i)$ $S_i$ $p\cdot (p+1)/2$ $\text{vech}(S_i)$ $\text{vech}(S_{i-h})$ $h>0$ $(p\cdot (p+1)/2)^2$ univariate autocorrelations untuk dilacak, dan karena entri dari masing-masing akan sangat berhubungan satu sama lain (lihat misalnya definisi yang diberikan melalui undian dari normal di sini: https://en.wikipedia.org/ wiki / Wishart_distribution ), saya dapat membayangkan bahwa Anda membuang informasi dengan melakukan analisis univariat ini. Karena itu, autokorelasi univariat dapat dihitung secara bijak dengan terlebih dahulu mendefinisikan Jelas, $\text{vech}(S_i)$

\begin{aligned} \bar{S} & = \frac{1}{n} \sum_{saya = 1}^{n} Vech (S_{saya}) \\ \bar{S_{h}} & = \frac{1}{n - h} \sum_{saya = h + 1}^{n} Vech (S_{saya}) Vech (S_{saya - h})^{T} . \end{aligned}

$\begin{align} \bar{S} &= \frac{1}{n}\sum_{i=1}^n \text{vech}(S_i) \\ \bar{S_h} & = \frac{1}{n-h}\sum_{i=h+1}^n \text{vech}(S_i)\text{vech}(S_{i-h})^T. \end{align}$

\bar{S}

$\bar{S}$ adalah penduga alami untuk bagian segitiga atas dari harapan (yang dapat Anda ganti dengan harapan sebenarnya dari distribusi Wishart Anda jika diketahui oleh Anda). Demikian pula, adalah estimator alami untuk saat ini . Terakhir, mencatat bahwa seseorang tiba di perkiraan autokorelasi untuk melalui Seperti yang disebutkan sebelumnya, ini memberi Anda

{\bar{S}}_{h}

$\bar{S}_h$

E (vech (S_{i}) vech (S_{i - h})^{T})

$\mathbb{E}(\text{vech}(S_i)\text{vech}(S_{i-h})^T)$

\begin{aligned} Cov (Vech (S_{saya}) Vech (S_{saya - h})^{T}) = E (Vech (S_{saya}) Vech (S_{saya - h})^{T}) - E (Vech (S_{saya})) E (Vech (S_{saya}))^{T}, \end{aligned}

$\begin{align} \text{Cov}(\text{vech}(S_i)\text{vech}(S_{i-h})^T) = \mathbb{E}(\text{vech}(S_i)\text{vech}(S_{i-h})^T) - \mathbb{E}(\text{vech}(S_i))\mathbb{E}(\text{vech}(S_i))^T, \end{align}$

A (h)

$A(h)$

vech (S_{i})

$\text{vech}(S_i)$

\begin{aligned} SEBUAH (h) & = {\bar{S}}_{h} - \bar{S} {\bar{S}}^{T} . \end{aligned}

$\begin{align} A(h) &= \bar{S}_h - \bar{S}\bar{S}^T. \end{align}$

(p \cdot (p + 1) / 2)^{2}

$(p\cdot (p+1)/2)^2$ autokorelasi dari setiap entri matriks Wishart dengan masing-masing entri matriks Wishart lainnya. Jika terlalu banyak informasi untuk ditampilkan, saya pikir salah satu strategi yang bisa Anda ambil adalah mendefinisikan rangkaian waktu univariat yaitu Anda cukup mengambil rata-rata nilai absolut dari autokorelasi. Jika Anda hanya peduli dengan autokorelasi positif dan tidak berpikir bahwa autokorelasi negatif merugikan, maka simpan sendiri nilai absolut. Demikian pula, jika Anda berpikir bahwa autokorelasi sepanjang diagonal lebih buruk daripada diagonal atau sebaliknya, Anda dapat menambahkan bobot

\begin{aligned} Sebuah (h) & = \frac{1}{(hal \cdot (hal + 1) / 2)^{2}} \sum_{saya = 1}^{(hal \cdot (hal + 1) / 2} \sum_{j = 1}^{(hal \cdot (hal + 1) / 2} | SEBUAH (h)_{saya j} |, \end{aligned}

$\begin{align} a(h) &= \frac{1}{(p\cdot (p+1)/2)^2}\sum_{i=1}^{(p\cdot (p+1)/2}\sum_{j=1}^{(p\cdot (p+1)/2}|A(h)_{ij}|, \end{align}$

w_{i j}

$w_{ij}$ yang memperhitungkan 'fungsi kerugian' ini.

— Jeremias K
sumber