MCMC untuk menangani masalah kemungkinan datar

Saya memiliki kemungkinan yang cukup datar untuk mengarahkan sampler Metropolis-Hastings untuk bergerak melalui ruang parameter dengan sangat tidak teratur, yaitu tidak ada konvergensi yang dapat dicapai, apa pun parameter distribusi proposal (dalam kasus saya ini adalah gaussian). Tidak ada kompleksitas tinggi dalam model saya - hanya 2 parameter, tetapi tampaknya MH tidak dapat menangani tugas ini. Jadi, apakah ada trik untuk mengatasi masalah ini? Apakah ada sampler yang tidak akan menghasilkan rantai Markov bergerak sangat jauh ke ekor posterior?

Pembaruan masalah:
Saya akan mencoba merumuskan kembali pertanyaan saya dengan memberikan lebih banyak detail. Pertama-tama saya akan menjelaskan modelnya.
Saya memiliki model grafis dengan dua node. Setiap node diatur oleh model auto-Poisson (Besag, 1974) sebagai berikut:

p (X_{j} | X_{k} = x_{k}, \forall k \neq j, Θ) \sim P o i s s o n (e^{θ_{j} + \sum_{j \neq k} θ_{k j} x_{k}})

$p\left ( X_{j} |X_{k}=x_{k},\forall k\neq j,\Theta \right )\sim Poisson\left ( e^{\theta _{j}+\sum _{j\neq k}\theta _{kj}x_{k}} \right )$ Atau, karena hanya ada dua node dan mengasumsikan intensitas global yang sama:

p (X_{1} | X_{2} = x_{2}, θ, α) \sim P o i s s o n (e^{θ + α x_{2}})

$p\left ( X_{1} |X_{2}=x_{2},\theta, \alpha \right )\sim Poisson\left ( e^{\theta+\alpha x_{2}} \right )$

p (X_{2} | X_{1} = x_{1}, θ, α) \sim P o i s s o n (e^{θ + α x_{1}})

$p\left ( X_{2} |X_{1}=x_{1},\theta, \alpha \right )\sim Poisson\left ( e^{\theta+\alpha x_{1}} \right )$

Karena itu adalah bidang Markov, distribusi bersama (atau kemungkinan realisasi $X=[x_{1},x_{2}]$ ) adalah sebagai berikut:

p (X) = \frac{e x p (θ (x_{1} + x_{2}) + 2 x_{1} x_{2} α)}{Z (θ, α)} = \frac{e x p (E (θ, α, X))}{Z (θ, α)}

$p\left ( X \right )=\frac{exp\left ( \theta \left ( x_{1}+x_{2} \right )+2 x_{1}x_{2} \alpha\right )}{Z\left ( \theta, \alpha \right )}=\frac{exp\left ( E\left ( \theta, \alpha, X \right ) \right )}{Z\left ( \theta, \alpha \right )}$ Karena saya mengasumsikan prior flat

α

$\alpha$ dan

θ

$\theta$ , posterior kemudian sebanding dengan

π (θ, α | X) \propto \frac{e x p (E (θ, α, X))}{Z (θ, α)}

$\pi(\theta, \alpha |X)\propto \frac{exp\left ( E\left ( \theta, \alpha, X \right ) \right )}{Z\left ( \theta, \alpha \right )}$ Sejak

Z (θ, α)

$Z(\theta, \alpha)$ secara umum sangat sulit untuk mengevaluasi (banyak penjumlahan) Saya menggunakan metode variabel tambahan karena J. Moller (2006). Menurut metode ini, pertama saya menggambar sampel data

X^{'}

${X}'$ oleh Gibbs sampler (karena conditional hanya distribusi poisson) maka saya menggambar proposal dari distribusi Gaussian dan menghitung sesuai dengan kriteria penerimaan

H (X^{'}, α^{'}, θ^{'} | X, α, θ)

$H({X}',{\alpha}',{\theta}'|X, \alpha, \theta)$ . Dan di sini saya mendapatkan rantai Markov liar. Ketika saya memaksakan beberapa batas di mana rantai dapat bergerak, sampler tampaknya menyatu dengan beberapa distribusi, tetapi begitu saya memindahkan setidaknya satu batas, distribusi yang dihasilkan juga bergerak dan selalu menunjukkan trancation.
Saya pikir @ Xi'an wright - posterior mungkin tidak pantas.

mcmc likelihood posterior

— Tomas
sumber

Kemungkinannya adalah menggunakan parameter skala yang lebih besar untuk mendapatkan langkah yang lebih besar. Anda mungkin tertarik pada paket R mcmcdan perintah metropjuga. Anda mungkin perlu sampler adaptif. Sampler ini (the twalk) dapat digunakan dalam kasus-kasus semacam ini mengingat bahwa itu adaptif (mungkin hanya sebagai "pendapat kedua"). Ini diimplementasikan dalam R, C dan Python. Kode dapat diunduh dari salah satu halaman web penulis .

@Procrastinator Bisakah Anda menguraikan lebih lanjut tentang apa yang Anda maksud dengan "parameter skala lebih besar"? Apakah Anda bermaksud menggunakan parameter varians yang lebih besar untuk proposal?

— Tomas

Biarkan saya memperjelas dulu bahwa, jika kemungkinannya datar, Anda tidak benar-benar ingin sampler Anda tidak "bergerak sangat jauh ke ekor posterior". Yang diinginkan adalah mengambil sampel dengan benar dari distribusi (baik, ekor dan tengah). Saat menggunakan algoritma MH dengan proposal Gaussian, Anda perlu memilih parameter skala / matriks kovarian yang menentukan panjang langkah-langkahnya. Ini harus dipilih untuk 1. Pengambilan sampel dengan benar dari distribusi dan 2. Mendapatkan tingkat penerimaan yang masuk akal.

jika Anda hanya memiliki dua parameter maka integrasi numerik mungkin merupakan alternatif yang lebih baik

— probabilityislogic

ada sesuatu yang salah dengan ekspresi kemungkinan bersama. Jika Anda mencoba dan menjumlahkan

x_{1}

$x_1$ Anda mendapatkan

p (x_{2} | α θ) = g (x_{2}) \sum_{x_{1} = 0}^{\infty} \exp (x_{1} [θ + 2 α x_{2}]) = \infty

$p(x_2|\alpha\theta)=g(x_2)\sum_{x_1=0}^{\infty}\exp(x_1[\theta+2\alpha x_2])=\infty$ . jadi kemungkinannya tidak tepat seperti yang ditulis saat ini.

— probabilityislogic

Jawaban:

Saya menemukan mengejutkan bahwa datar kemungkinan menghasilkan isu-isu konvergensi: biasanya kasus sebaliknya yang menyebabkan masalah! Pemeriksaan pertama yang biasa untuk situasi seperti itu adalah untuk memastikan bahwa posterior Anda benar : jika tidak itu akan menjelaskan untuk perjalanan tanpa akhir di "ekor". Jika posterior benar, Anda dapat menggunakan proposal ekor yang lebih gemuk seperti distribusi Cauchy ... Dan algoritma adaptif à la Roberts dan Rosenthal.

Jika ini masih "tidak berhasil", saya sarankan mempertimbangkan reparameterisasi model, menggunakan misalnya (yaitu jika tidak ada parameter alami lainnya) transformasi logistik,

φ (x) = \exp (x) / {1 + \exp (x)}

$\varphi(x) = \exp(x)/\{1+\exp(x)\}$ (dengan parameter skala yang mungkin), yang membawa parameter ke dalam unit square.

Mengenai jawaban sebelumnya, pengambilan sampel Gibbs terdengar seperti solusi yang lebih mungkin daripada accept-reject, yang membutuhkan menemukan batas dan meningkatkan distribusi ke arah posterior, yang tampaknya tidak layak untuk sampel sampler Metropolis-Hastings yang lebih kuat ...

— Xi'an
sumber

@Xian terima kasih atas umpan balik pada downvote. Apakah sebenarnya ada situasi di mana Anda lebih suka menerima-menolak daripada MH?

— gui11aume

@ gui11aume: jika Anda dapat menghasilkan algoritma accept-reject dengan batas yang cukup kecil untuk memastikan tingkat penerimaan yang masuk akal, maka accept-reject tidak diragukan lagi lebih disukai daripada Metropolis-Hastings. Namun, ini tidak mungkin terjadi dengan (a) dimensi besar dan / atau (b) kompleks, mungkin multimodal, target ...

— Xi'an

Bisakah Anda menuliskan distribusi parameter pertama Anda pada kondisi kedua dan sebaliknya? Jika demikian, pengambilan sampel Gibbs akan menjadi opsi yang layak. Ini hanya beberapa baris kode dan dapat dicampur hampir secara instan dalam banyak kasus.

— David J. Harris
sumber

EDIT: Lihat jawaban @ Xi'an dan diskusi setelahnya untuk melihat masalah dengan pendekatan berikut.

Jika Metropolis-Hastings gagal dan model Anda relatif sederhana, Anda bisa memikirkan untuk menggunakan algoritma accept-reject dengan Student $t$ distribusi dengan tingkat kebebasan yang rendah (1-6) untuk proposal.

Jika Anda menggunakan R, Anda dapat dengan mudah mensimulasikan siswa $t$ dengan rt(). Jika Anda tidak memiliki cara mudah untuk menghasilkan $t$ variabel dengan perangkat lunak Anda tetapi Anda dapat mensimulasikan $\Gamma$ , lalu menggambar varian Gaussian dari a $\Gamma$ pada setiap langkah dan mensimulasikan Gaussian dengan varian itu setara.

— gui11aume
sumber