Mengapa MCMC diperlukan saat memperkirakan parameter menggunakan MAP

Mengingat rumus untuk estimasi MAP dari suatu parameter Mengapa diperlukan pendekatan MCMC (atau serupa), tidak bisakah saya mengambil turunannya, menetapkannya menjadi nol dan kemudian menyelesaikannya untuk parameter?

bayesian estimation mcmc

— Don
sumber

Pertanyaan bagus!

Jawaban:

Jika Anda tahu dari keluarga mana posterior Anda berasal dan jika menemukan turunan dari distribusi itu layak secara analitik, itu benar.

Namun, ketika Anda menggunakan MCMC, Anda kemungkinan tidak akan berada dalam situasi seperti itu. MCMC dibuat untuk situasi di mana Anda tidak memiliki gagasan analitis yang jelas tentang bagaimana posterior Anda terlihat.

— Christoph Hanck
sumber

Saya pikir ini sedikit menyesatkan: MCMC biasanya tidak digunakan untuk menemukan penaksir MAP (di luar kasus khusus seperti algoritma MCEM).

— Cliff AB

Saya tidak setuju dengan Anda pada prinsipnya. Tetapi, MCMC dapat dan digunakan untuk mensimulasikan distribusi posterior . Dan setelah Anda selesai melakukannya, Anda pasti dapat menemukan mode distribusi itu, alias MAP. Itulah, saya percaya, apa yang ada dalam pikiran OP, jadi saya tidak yakin mengapa jawaban saya akan menyesatkan.

— Christoph Hanck

Ya, apakah MCMC adalah metode pilihan ketika berhadapan dengan MAP jika tidak ada cara analitis untuk mengoptimalkan parameter?

— Dänu

Saya belum pernah mendengar menggunakan MCMC sederhana untuk menemukan mode distribusi posterior (secara teknis, itu bisa dilakukan, tetapi ini sangat tidak efisien). Karena kita biasanya dapat mengevaluasi fungsi yang proporsional dengan distribusi posterior, memaksimalkan ini akan setara dengan memaksimalkan distribusi posterior. Pengoptimal out of the box akan bekerja dengan baik pada ini sebagai masalah kemungkinan sering (yaitu, kadang-kadang Anda perlu mengkhususkan mereka).

— Cliff AB

@ Dänu Anda mungkin tidak ingin menggunakan MCMC (menjadi pedantic, rantai Markov) untuk menemukan maxima. Algoritme optimasi harus bekerja lebih baik.

— jtobin

Sebagian besar posisi terbukti sulit untuk dioptimalkan secara analitik (yaitu dengan mengambil gradien dan menyetelnya sama dengan nol), dan Anda harus menggunakan beberapa algoritma optimasi numerik untuk melakukan MAP.

Sebagai tambahan: MCMC tidak terkait dengan MAP.

MAP - untuk maksimum a posteriori - mengacu pada menemukan maksimum lokal dari sesuatu yang sebanding dengan kepadatan posterior dan menggunakan nilai parameter yang sesuai sebagai perkiraan. Ini didefinisikan sebagai

{\hat{θ}}_{M A P} = {argmax}_{θ} p (θ | D)

$\hat{\theta}_{MAP} = \text{argmax}_{\theta} \, p(\theta \, | \, D)$

MCMC biasanya digunakan untuk memperkirakan ekspektasi atas sesuatu yang sebanding dengan kepadatan probabilitas. Dalam kasus posterior, itu

{\hat{θ}}_{M C M C} = n^{- 1} \sum_{i = 1}^{n} θ_{i}^{0} \approx \int_{Θ} θ p (θ | D) d θ

$\hat{\theta}_{MCMC} = n^{-1} \sum_{i=1}^{n} \theta^{0}_{i} \approx \int_{\Theta}\theta \, p(\theta \, | \, D)d\theta$

di mana adalah kumpulan posisi ruang parameter yang dikunjungi oleh rantai Markov yang sesuai. Secara umum, dalam arti yang berarti. $\{\theta^{0}_{i}\}^{n}_{i=1}$ $\hat{\theta}_{MAP} \neq \hat{\theta}_{MCMC}$

Intinya adalah bahwa MAP melibatkan optimasi , sedangkan MCMC didasarkan pada pengambilan sampel .

— jtobin
sumber

Anda menyatakan bahwa eksterior terbukti sulit untuk dioptimalkan secara analitis, yang merupakan kasus dalam MAP. Jadi apakah MAP hanya mungkin jika posterior dapat dioptimalkan secara analitis dan jika ini bukan masalahnya, maka seseorang harus menggunakan (misalnya) pendekatan MCMC?

— Donna

Tidak, alih-alih datang dengan solusi analitis, seseorang dapat menggunakan algoritma iteratif untuk menghasilkan solusi (yaitu jika posterior log cekung, Anda dapat menggunakan Metode Newton, misalnya).

— Cliff AB

MAP mengacu pada menemukan nilai parameter yang (secara lokal) memaksimalkan posterior. Tidak masalah bagaimana seseorang mendapatkan nilai parameter tersebut: penyelesaian untuk maxima analitik, menggunakan rutin numerik, diferensiasi otomatis, dll.

— jtobin