Algoritma Metropolis Hastings adaptif mana yang diimplementasikan dalam paket R MHadaptive?

Ada beberapa versi algoritma Metropolis Hastings yang adaptif. Satu diimplementasikan dalam fungsi Metro_Hastingsdari Rpaket MHadaptive, lihat di sini . Referensi yang tercantum di sana, Spiegelhalter et al. (2002), sayangnya tidak mengandung deskripsi dari algoritma adaptif, sejauh yang saya bisa lihat. Namun, Metro_Hastingsalgoritma berkinerja sangat baik dalam pengambilan sampel dari distribusi posterior model yang saya pertimbangkan, itulah sebabnya saya ingin memahami detailnya.

Saya telah sedikit rekayasa balik algoritma. Adakah yang mengenali algoritma MH adaptif ini? Inilah yang dilakukannya:

Biarkan menjadi kerapatan target. Inisialisasi . $q$ $\theta_{0,i=0},\Sigma$

Untuk iterasi lakukan: $n$ $\{i = 1,...,n\}$

Usulkan . $\theta_1 \sim N(\theta_1|\theta_{0,i-1}, \Sigma)$
Terima dengan probabilitas . Jika menerima, set . Jika tolak: . $\theta_1$ $A=\min\{1,q(\theta_1)/q(\theta_{0,i})\}$ $\theta_{0,i}:=\theta_1$ $\theta_{0,i}:=\theta_{0,i-1}$

Jika $i=j$ , di mana $j$ a vektor didefinisikan sehingga setiap elemen $j>x$ (default $x=100$ ), ada jarak iterasi $y$ antara elemen (default $y=20$ ), dan tidak ada elemen $j>z$ (default $z=0.75n$ ), lakukan:

Pilih $\tilde{\theta}=\{\theta_{0k},...,\theta_{0,i} \}$ (default $k=0.5i$ ).
Pembaruan: $\Sigma:=S(\tilde{\theta})$ mana $S$ penaksir kemungkinan maksimum dari matriks kovarians varians dari $\tilde{\theta}$ dengan asumsi normalitas multivariat.

Langkah 1 dan 2 adalah standar MH. Langkah 3 dan 4 adalah adaptasi yang terjadi pada langkah dan menggunakan iterasi masa lalu untuk memperbarui ke matriks kovarian iterasi masa lalu. $j$ $j-k$ $\Sigma$

r mcmc metropolis-hastings

— Tomka
sumber

maaf untuk pertanyaan konyol, tetapi apakah Anda mencoba menghubungi pemilik paket (pertama) dan David Spiegelhalter (kedua)? Pemilik paket meninggalkan McGill beberapa tahun yang lalu, jadi sangat mungkin alamat email dalam paket tidak dipantau lagi. Namun, hanya dengan sedikit Google-fu Anda dapat dengan mudah mengetahui kontaknya saat ini (tentu saja saya tidak berbagi di sini karena saya tidak tahu apakah dia akan menyukainya). Jika Anda tidak dapat menghubungi dia, David Spiegelhalter adalah orang yang sangat baik, dan saya pikir dia akan menjawab Anda jika Anda mengiriminya surat.

— DeltaIV

@DeltaIV saya memang menghubunginya tetapi tidak menerima balasan. Saya belum mempertimbangkan untuk menulis kepada Spiegelhalter karena ia hanya dikutip (tidak benar) dan saya tidak yakin apakah dia tahu tentang paket itu sama sekali. Saya menghubungi penulis pada alamat email yang ditunjukkan dalam paket. Tampaknya masih aktif dan karena itu saya belum mempertimbangkan untuk menemukannya di tempat lain. Saya akan coba ini.

— Tomka

Saya setuju itu tidak mungkin Spiegelhalter tahu tentang paket: itu sebabnya saya menyarankan untuk menghubungi pemilik paket terlebih dahulu. Namun, dia mungkin tahu tentang algoritma yang Anda gambarkan (atau mungkin tidak, jika dia salah mengutip seperti yang Anda duga). Jika Anda berhasil mendapatkan jawaban atas pertanyaan Anda, beri tahu kami, saya ingin tahu.

— DeltaIV

@DeltaIV Saya tidak bisa mengidentifikasi alamat email di lembaganya saat ini. Saya mungkin harus meninggalkan ini di kecuali Anda dapat mengarahkan saya ke sana.

— Tomka

tentu, mari kita bahas ini dalam obrolan . Saya harap jelas saya ingin membantu, saya hanya peduli dengan privasi pemilik paket.

— DeltaIV

Deskripsi Anda terdengar seperti algoritma adaptif Haario et al (1999) . Idenya memang ada untuk memperbarui matriks kovarians dari distribusi proposal menggunakan sejumlah sampel terbaru.

Perhatikan bahwa algoritma yang dijelaskan dalam Haario et al (1999) berkinerja baik, tetapi BUKAN ergodik. Haario et al (2001) menggambarkan algoritma yang ditingkatkan yang ergodik. Idenya adalah untuk memperbarui matriks kovarians dari distribusi proposal menggunakan semua sampel masa lalu.

— Heisenberg
sumber