Bisakah MCMC adaptif dipercaya?

Saya membaca tentang MCMC adaptif (lihat misalnya, Bab 4 dari Handbook of Markov Chain Monte Carlo , ed. Brooks et al., 2011; dan juga Andrieu & Thoms, 2008 ).

Hasil utama dari Roberts dan Rosenthal (2007) adalah bahwa jika skema adaptasi memenuhi kondisi adaptasi menghilang (ditambah beberapa teknis lainnya), MCMC adaptif adalah ergodik di bawah skema apa pun. Misalnya, menghilangkan adaptasi dapat dengan mudah diperoleh dengan mengadaptasi operator transisi pada iterasi dengan probabilitas , dengan .$n$$p(n)$$\lim_{n \rightarrow \infty} p(n) = 0$

Hasil ini (a posteriori) intuitif, asimptotik. Karena jumlah adaptasi cenderung nol, akhirnya tidak akan mengacaukan ergodisitas. Kekhawatiran saya adalah apa yang terjadi dengan waktu yang terbatas .

• Bagaimana kita tahu bahwa adaptasi tidak mengacaukan ergodisitas pada waktu tertentu, dan bahwa seorang sampel mengambil sampel dari distribusi yang benar? Jika itu masuk akal, berapa banyak pembakaran yang harus dilakukan untuk memastikan adaptasi awal tidak membiaskan rantai?

• Apakah praktisi di lapangan percaya MCMC adaptif? Alasan saya bertanya adalah karena saya telah melihat banyak metode baru yang mencoba membangun adaptasi dengan cara lain yang lebih kompleks yang diketahui menghargai ergodisitas, seperti regenerasi atau metode ensemble (yaitu, sah untuk memilih transisi operator yang tergantung pada keadaan rantai paralel lainnya). Atau, adaptasi dilakukan hanya selama burn-in, seperti di Stan , tetapi tidak saat runtime. Semua upaya ini menunjukkan kepada saya bahwa MCMC adaptif sesuai Roberts dan Rosenthal (yang akan sangat sederhana untuk diterapkan) tidak dianggap dapat diandalkan; tapi mungkin ada alasan lain.

• Bagaimana dengan implementasi spesifik, seperti adaptif Metropolis-Hastings ( Haario et al. 2001 )?

Referensi

• Rosenthal, JS (2011). Distribusi proposal yang optimal dan MCMC adaptif. Buku Pegangan Markov Chain Monte Carlo , 93-112.
• Andrieu, C., & Thoms, J. (2008) . Tutorial tentang MCMC adaptif. Statistik dan Komputasi , 18 (4), 343-373.
• Roberts, GO, & Rosenthal, JS (2007) . Kopling dan ergodisitas algoritma Markov chain Monte Carlo yang adaptif. Jurnal probabilitas terapan , 458-475.
• Haario, H., Saksman, E., & Tamminen, J. (2001) . Algoritma Metropolis adaptif. Bernoulli , 223-242.

Bagaimana kita tahu bahwa adaptasi tidak mengacaukan ergodisitas pada waktu tertentu, dan bahwa seorang sampel mengambil sampel dari distribusi yang benar? Jika itu masuk akal, berapa banyak pembakaran yang harus dilakukan untuk memastikan adaptasi awal tidak membiaskan rantai?

Ergodisitas dan bias adalah tentang sifat asimptotik dari rantai Markov, mereka tidak mengatakan apa-apa tentang perilaku dan distribusi rantai Markov at a given finite time. Adaptivity tidak ada hubungannya dengan masalah ini, setiap algoritma MCMC dapat menghasilkan simulasi yang jauh dari target at a given finite time.