Apakah MCMC tanpa memori?

18

Saya mencoba memahami apa rantai Markov, Monte Carlo (MCMC) dari halaman Wikipedia bahasa Prancis. Mereka mengatakan "bahwa rantai Markov metode Monte Carlo terdiri dari menghasilkan vektor $x_ {i}$ hanya dari data vektor $x_ {i-1}$ karena itu merupakan proses" tanpa memori ""

Les méthodes de Monte-Carlo par chaînes de Markov konsisten à générer un vecteur $x_{i}$ uniquement à partir de la donnée du vecteur $x_{{i-1}}$ ; c'est donc un processus «sans mémoire»,

Saya tidak mengerti mengapa mereka mengatakan MCMC adalah "tanpa memori" sejauh kami menggunakan informasi dari data vektor $x_ {i-1}$ untuk menghasilkan $x_i$ .

mcmc

— IggyPass
sumber

3

Karena Anda tidak perlu "mengingat" apa pun tentang proses kecuali untuk keadaan terakhir rantai. Saya kira Anda masih membutuhkan beberapa memori tetapi hanya sepotong informasi.

— user2974951

tidak "diingat"; itu adalah input eksplisit.

x_{i - 1}

$x_{i-1}$

— chepner

28

Karakteristik yang menentukan dari rantai Markov adalah bahwa distribusi kondisional dari nilai sekarang tergantung pada nilai-nilai masa lalu hanya bergantung pada nilai sebelumnya . Jadi setiap rantai Markov adalah "tanpa memori" sejauh hanya nilai sebelumnya yang mempengaruhi probabilitas bersyarat saat ini, dan semua status sebelumnya "dilupakan". (Anda benar bahwa itu tidak sepenuhnya tanpa memori - setelah semua, distribusi bersyarat dari nilai sekarang tergantung pada nilai sebelumnya.) Itu berlaku untuk MCMC dan juga untuk rantai Markov lainnya.

— Pasang kembali Monica
sumber

9

Jika Anda mengambil langkah maju, Anda dapat mengatakan distribusi bersyarat dari nilai masa depan tergantung pada nilai masa lalu dan sekarang hanya bergantung pada nilai sekarang dan dalam hal itu memori masa lalu tidak diperlukan selama posisi saat ini diketahui

— Henry

Kecuali Anda selalu dapat menyesuaikan ruang keadaan untuk menyimpan sejumlah informasi terbatas tentang masa lalu. Masih Markovian, misalnya, bergantung pada sepuluh negara terakhir Anda, karena Anda hanya dapat memperluas ruang keadaan untuk memasukkan informasi itu dalam "keadaan sebelumnya".

— David Richerby

15

Meskipun kami memiliki jawaban yang benar, saya ingin sedikit memperluas pada semantik intuitif pernyataan itu. Bayangkan kita mendefinisikan ulang indeks kita sehingga Anda menghasilkan vektor $x_{i+1}$ dari vektor $x_{i}$ . Sekarang, saat $i$ secara metaforis dipandang sebagai "masa sekarang", dan semua vektor yang datang "lebih awal dari" $x_{i}$ tidak relevan untuk menghitung yang berikutnya di masa depan.

Melalui penomoran ulang yang sederhana ini, ia menjadi "benar-benar tanpa memori" dalam arti intuitif - yaitu, tidak masalah sama sekali bagaimana sistem Markov menjadi seperti sekarang ini . Status saat ini saja yang menentukan status masa depan , tanpa menggunakan informasi apa pun dari masa lalu ( $x_{i-n}$

$x_{i}$ $x_{i-n}$

— rumtscho
sumber

5

Kamu bangun. Anda tidak tahu bagaimana Anda sampai di tempat Anda sekarang. Anda melihat-lihat sekeliling Anda dan membuat keputusan tentang apa yang harus dilakukan selanjutnya hanya berdasarkan informasi yang Anda miliki pada saat itu. Itu pada dasarnya situasi yang sama dengan apa yang terjadi di MCMC.

$x_{i}$ $x_{i-1}$ $x_{i-1}$ $x_{i+1}$ $x_i$

— Alasan
sumber

2

Sebut saja metode Hangover

— IggyPass

@ThePassenger Sebut apa pun yang Anda inginkan. Tolong sampaikan saja aspirin.

— Dason