Bisakah saya mengubah distribusi proposal secara acak-berjalan MH MCMC tanpa mempengaruhi Markovianity?

14

Jalan acak Metropolis-Hasitings dengan proposal simetris

$q(x|y)= g(|y-x|)$ memiliki properti yang kemungkinan penerimaannya

P (Sebuah c c e hal t y) = min {1, f (y) / f (x)}

$P(accept\ y) = \min\{1, f(y)/f(x)\}$

tidak tergantung pada proposal $g(\cdot)$ .

Apakah itu berarti saya dapat mengubah $g(\cdot)$ sebagai fungsi dari kinerja rantai sebelumnya, tanpa memengaruhi markovianity rantai?

Yang menarik bagi saya adalah penyesuaian penskalaan proposal Normal sebagai fungsi dari tingkat penerimaan.

Juga akan sangat menghargai jika seseorang dapat menunjukkan algoritma adaptasi yang digunakan dalam praktek untuk masalah jenis ini.

Terimakasih banyak.

[Sunting: Dimulai dengan referensi yang diberikan oleh robertsy dan wajan saya menemukan referensi berikut tentang algoritma adaptif MH:

Andrieu, Christophe, dan Éric Moulines. 2006.
Tentang Sifat Ergodisitas dari Beberapa Algoritma MCMC Adaptif. The Annals of Applied Probability 16, no. 3: 1462-1505. http://www.jstor.org/stable/25442804 .

Andrieu, Christophe, dan Johannes Thoms.
2008. Tutorial tentang MCMC adaptif. Statistik dan Komputasi 18, no. 4 (12): 343-373. doi: 10.1007 / s11222-008-9110-y. http://www.springerlink.com/content/979087678366r78v/ .

Atchadé, Y., G. Fort, E. Moulines, dan P. Priouret. 2009.
Rantai Markov Adaptif Monte Carlo: Teori dan Metode. Pracetak.

Atchadé, Yves. 2010.
Batasi teorema untuk beberapa algoritma MCMC adaptif dengan kernel subgeometrik. Bernoulli 16, tidak. 1 (Februari): 116-154. doi: 10.3150 / 09-BEJ199. http://projecteuclid.org/DPubS?verb=Display&version=1.0&service=UI&handle=euclid.bj/1265984706&page=record .

Cappé, O., S. J Godsill, dan E. Moulines. 2007.
Tinjauan metode yang ada dan kemajuan terbaru dalam Monte Carlo berurutan. Prosiding IEEE 95, tidak. 5: 899-924.

Giordani, Paolo. 2010.
Metropolis – Hastings Adaptif Independen oleh Estimasi Cepat Campuran Normal. Jurnal Statistik Komputasi dan Grafis 19, no. 2 (6): 243-259. doi: 10.1198 / jcgs.2009.07174. http://pubs.amstat.org/doi/abs/10.1198/jcgs.2009.07174 .

Latuszynski, Krzysztof, Gareth O Roberts, dan Jeffrey S Rosenthal. 2011.
Sampler Adaptive Gibbs dan metode MCMC terkait. 1101.5838 (30 Januari). http://arxiv.org/abs/1101.5838 .

Pasarica, C., dan A. Gelman. 2009.
Menekan algoritma Metropolis secara adaptif menggunakan jarak lompatan kuadrat yang diharapkan. Statistica Sinica.

Roberts, Gareth O. 2009.
Contoh-contoh MCMC Adaptif. Jurnal Statistik Komputasi dan Grafik 18, no. 2 (6): 349-367. doi: 10.1198 / jcgs.2009.06134. http://pubs.amstat.org/doi/abs/10.1198/jcgs.2009.06134 .

]

mcmc metropolis-hastings

— VitoshKa
sumber

Kenapa Anda tidak memiliki bonus +100 dari catatan SO Anda?

@ MBB, mungkin karena saya membuat akun ini sejak lama ketika saya masih 0 di OS juga ... Sayang sekali, 100 pada CW terlihat seperti masalah besar, karena Anda harus menjadi orang yang nyata untuk menjawab hal-hal di sini :)

— VitoshKa

Anda bisa mendapatkan bonus dengan menghapus semua asosiasi dan kemudian mengaitkan kembali akun.

— Wajan

7

Saya pikir makalah ini dari Heikki Haario et al. akan memberi Anda jawaban yang Anda butuhkan. Markovianity rantai dipengaruhi oleh adaptasi kepadatan proposal, karena nilai yang diusulkan baru tidak hanya bergantung pada nilai sebelumnya tetapi pada keseluruhan rantai. Tetapi tampaknya urutan itu masih memiliki sifat-sifat yang baik jika diambil dengan hati-hati.

— robertsy
sumber

terima kasih robertsy, untuk referensi yang bagus. memang prosesnya bukan markov. Bahkan jika probabilitas penerimaan tidak tergantung pada masa lalu, kernel transisi dari proses adalah fungsi dari kepadatan proposal dan karenanya tergantung pada keseluruhan rantai.

— VitoshKa

3

Anda dapat meningkatkan tingkat penerimaan menggunakan penolakan yang tertunda seperti yang dijelaskan dalam Tierney, Mira (1999) . Ini didasarkan pada fungsi proposal kedua dan probabilitas penerimaan kedua , yang menjamin rantai Markov masih dapat dibalik dengan distribusi invarian yang sama: Anda harus berhati-hati karena " mudah untuk membangun metode adaptif yang mungkin tampak berfungsi tetapi pada kenyataannya sampel dari distribusi yang salah ".

— Wok
sumber

3

Pendekatan yang disarankan oleh pengguna wajan dan robertsy mencakup contoh-contoh yang paling sering dikutip tentang apa yang Anda cari yang saya ketahui. Hanya untuk memperluas jawaban-jawaban itu, Haario dan Mira menulis sebuah makalah pada tahun 2006 yang menggabungkan dua pendekatan, sebuah pendekatan yang mereka sebut DRAM (keterlambatan penolakan Metropolis adaptif) .

Andrieu memiliki perlakuan baik terhadap berbagai pendekatan MCMC adaptif berbeda (pdf) yang mencakup Haario 2001 tetapi juga membahas berbagai alternatif yang telah diusulkan dalam beberapa tahun terakhir.

— redmoskito
sumber

1

Ini adalah semacam publikasi saya yang tidak tahu malu, tetapi kami melakukan ini dalam pekerjaan ini ( arxiv ). Di antara hal-hal lain, kami mengusulkan mengadaptasi varian dari distribusi eksponensial untuk meningkatkan penerimaan (langkah S3.2 dalam algoritma dalam makalah).

$f \rightarrow 1$

Kami tidak menggunakan informasi tentang tingkat penerimaan, tetapi kami memperoleh penerimaan yang independen dari jumlah yang kami minati (setara dengan energi sistem putaran, kanan bawah Gambar 4).

— Jorge Leitao
sumber