Apakah Gibbs mengambil sampel metode MCMC?


11

Sejauh yang saya mengerti, itulah (setidaknya, itulah yang didefinisikan oleh Wikipedia ). Tetapi saya telah menemukan pernyataan ini oleh Efron * (penekanan ditambahkan):

Rantai Markov Monte Carlo (MCMC) adalah kisah sukses besar statistik Bayesian modern. MCMC, dan metode saudaranya "Gibbs sampling," memungkinkan perhitungan numerik distribusi posterior dalam situasi yang terlalu rumit untuk ekspresi analitik.

dan sekarang saya bingung. Apakah ini hanya perbedaan kecil dalam terminologi, atau apakah Gibbs mengambil sampel selain MCMC?

[*]: Efron 2011, "The Bootstrap dan Markov-Chain Monte Carlo"

Jawaban:


15

Algoritma yang sekarang disebut sampling Gibbs membentuk rantai Markov dan menggunakan simulasi Monte-Carlo untuk inputnya, sehingga memang termasuk dalam ruang lingkup yang tepat dari metode MCMC (Markov-Chain Monte-Carlo). Secara historis, metode ini dapat ditelusuri kembali setidaknya ke pertengahan abad kedua puluh, tetapi itu tidak terkenal dan hanya kemudian dipopulerkan oleh makalah mani Geman dan Geman (1984) yang meneliti fisika statistik dalam kaitannya dengan penggunaan yang distribusi Gibbs (untuk beberapa referensi sejarah, lihat Casella dan George 1992 , p. 167).

Untuk beberapa alasan, meskipun makalahnya, Efron mengacu pada sampler Gibbs seolah-olah itu di luar ruang lingkup MCMC. Dia melakukan ini dalam kutipan yang Anda berikan, dan juga di beberapa bagian lain dari makalah ini. Karena referensi pembukaannya pada teknik mengacu pada "Gibbs sampler" (diberikan dalam tanda kutip), ada kemungkinan bahwa ia menyinggung fakta sejarah bahwa metode asli dikembangkan melalui distribusi Gibbs dalam fisika statistik, dan tidak dimasukkan ke dalam teori statistik umum MCMC sampai jauh kemudian. Ini adalah tebakan terbaik saya mengapa dia merujuk seperti ini.

Pembaruan: Karena Prof Efron masih hidup, saya mengambil kebebasan menulis kepadanya untuk bertanya mengapa ia menggambarkan sampler Gibbs dengan cara ini. Inilah tanggapannya (direproduksi dengan izinnya):

Itu terutama karena alasan historis ... Di sisi lain, algoritma Gibbs terlihat sangat berbeda dari resep MCMC, dan butuh beberapa pekerjaan untuk menunjukkan bahwa dalam beberapa hal sama. (Efron 2018, korespondensi pribadi, elipsis asli)


1
Terima kasih! Saya akan menunggu untuk melihat apakah Anda mendapatkan jawaban dari Dr Efron, jika tidak saya akan tetap memilih ini sebagai jawabannya.
Gabriel

4

Pergilah dengan Wikipedia. Lebih baik lagi, pergi dengan para peneliti MCMC ini:

Sampler Gibbs adalah contoh dari algoritma rantai Monte Carlo Markov. Memang, ini adalah kasus khusus dari algoritma Metropolis-Hastings. Algoritma apa pun yang menghasilkan penarikan acak dari distribusi dengan mensimulasikan rantai Markov yang memiliki sebagai distribusi stasionernya adalah algoritma Markov chain Monte Carlo, dan itulah yang dilakukan oleh sampler Gibbs.π(θ)π(θ)

Dengan menggunakan situs kami, Anda mengakui telah membaca dan memahami Kebijakan Cookie dan Kebijakan Privasi kami.
Licensed under cc by-sa 3.0 with attribution required.