Hamiltonian Monte Carlo (HMC): apa intuisi dan justifikasi di balik variabel momentum yang didistribusikan Gaussian?

Saya membaca makalah HMC pengantar yang luar biasa dari Prof. Michael Betancourt, tetapi saya terjebak dalam pemahaman bagaimana kita memilih pilihan distribusi momentum.

Ringkasan

Ide dasar dari HMC adalah untuk memperkenalkan variabel momentum dalam hubungannya dengan variabel target . Mereka bersama-sama membentuk ruang fase . $p$ $q$

Energi total dari sistem konservatif adalah konstan dan sistem harus mengikuti persamaan Hamilton. Oleh karena itu, lintasan dalam ruang fase dapat diuraikan menjadi tingkat energi , setiap tingkat sesuai dengan nilai energi dan dapat digambarkan sebagai satu set titik yang memenuhi: $E$

$H^{-1}(E) = \{(q, p) | H(q, p) = E\}$ .

Kami ingin memperkirakan distribusi gabungan , sehingga dengan mengintegrasikan kami mendapatkan distribusi target yang diinginkan . Lebih lanjut, dapat secara ekivalen ditulis sebagai , di mana berkorespondensi dengan nilai energi tertentu dan adalah posisi pada tingkat energi itu. $\pi(q, p)$ $p$ $\pi(q)$ $\pi(q, p)$ $\pi(\theta_E \hspace{1.5pt} | \hspace{1.5pt} E) \hspace{1.5pt} \pi(E)$ $E$ $\theta_E$

π (q, p) = {\begin{cases} π (p | q) π (q) \\ π (θ_{E} | E) π (E), microcanonical decomposition \end{cases}

$\begin{equation} \pi(q, p)= \begin{cases} \pi(p \hspace{1.5pt} | \hspace{1.5pt} q) \hspace{1.5pt} \pi(q) \\ \pi(\theta_E \hspace{1.5pt} | \hspace{1.5pt} E) \hspace{1.5pt} \pi(E), \hspace{5pt} \text{microcanonical decomposition} \end{cases} \end{equation}$

Untuk nilai diberikan , relatif lebih mudah diketahui, karena kita dapat melakukan integrasi persamaan Hamilton untuk mendapatkan titik data pada lintasan. . Namun, adalah bagian yang rumit yang tergantung pada bagaimana kita menentukan momentum, yang akibatnya menentukan jumlah energi . $E$ $\pi(\theta_E \hspace{1.5pt} | \hspace{1.5pt} E)$ $\pi(E)$ $E$

Pertanyaan

Tampak bagi saya bahwa apa yang kita kejar adalah , tetapi yang bisa kita perkirakan adalah , berdasarkan asumsi bahwa dapat kira-kira mirip dengan , seperti yang diilustrasikan dalam Gambar 23 dari makalah ini. Namun, apa yang sebenarnya kita sampel tampaknya adalah . $\pi(E)$ $\pi(E \hspace{1pt} | \hspace{1pt} q)$ $\pi(E \hspace{2pt} | \hspace{1pt} q)$ $\pi(E)$ $\pi(p \hspace{1pt} | \hspace{1pt} q)$

T1 : Apakah itu karena setelah kita tahu , kita dapat dengan mudah menghitung dan karenanya memperkirakan ? $\pi(p \hspace{1pt} | \hspace{1pt} q)$ $E$ $\pi(E \hspace{2pt} | \hspace{1pt} q)$

Untuk membuat asumsi bahwa berlaku, kita menggunakan momentum terdistribusi Gaussian. Dua pilihan disebutkan di koran: $\pi(E) \sim \pi(E | q)$

π (p | q) = {\begin{cases} N (p | 0, M) Euclidean-Gaussian kinetic energy \\ N (p | 0, Σ (q)) Reimannian-Gaussian kinetic energy, \end{cases}

$\begin{equation} \pi(p|q)= \begin{cases} \mathcal{N}(p \hspace{1pt}| \hspace{1pt} 0, M) \hspace{5pt} \text{Euclidean-Gaussian kinetic energy} \\ \mathcal{N}(p \hspace{1pt}| \hspace{1pt} 0, \Sigma(q)) \hspace{5pt} \text{Reimannian-Gaussian kinetic energy}, \end{cases} \end{equation}$

di mana adalah konstanta disebut metrik Euclidean, alias matriks massa . $M$ $D \times D$

Dalam kasus pilihan pertama (Euclidean-Gaussian), matriks massa sebenarnya tidak bergantung pada , jadi kemungkinan kita mengambil sampel sebenarnya adalah . Pilihan momentum terdistribusi Gaussian dengan kovarians menyiratkan bahwa variabel target terdistribusi Gaussian dengan matriks kovarians , karena dan perlu diubah secara terbalik untuk menjaga volume dalam ruang konstan fase . $M$ $q$ $\pi(p)$ $p$ $M$ $q$ $M^{-1}$ $p$ $q$

T2 : Pertanyaan saya adalah bagaimana kita bisa mengharapkan untuk mengikuti distribusi Gaussian? Dalam praktiknya dapat berupa distribusi yang rumit. $q$ $\pi(q)$

mcmc monte-carlo hmc

— cwl
sumber

Bukan hanya karena kita mengejar , hanya saja jika dan berbeda maka eksplorasi kita akan dibatasi oleh ketidakmampuan kita untuk mengeksplorasi semua energi yang relevan. Karenanya, dalam praktiknya, estimasi empiris dari dan berguna untuk mengidentifikasi segala kemungkinan keterbatasan eksplorasi kami yang merupakan motivasi untuk histogram komparatif dan diagnostik E-BFMI. $\pi(E)$ $\pi(E)$ $\pi(E|q)$ $\pi(E)$ $\pi(E|q)$

Jadi, apa yang kita ketahui tentang dua distribusi? Ketika kami meningkatkan dimensi distribusi target kami maka semacam cenderung cenderung semakin Gaussian. Jika waktu integrasi kami cukup lama maka eksplorasi set level kami akan menyeimbangkan dan jika adalah Gaussian maka juga akan cenderung semakin banyak Gaussian. $\pi(E)$ $\pi(p | q)$ $\pi(E|q)$

Karenanya energi kinetik Gaussian-Euclidean adalah titik awal yang baik tetapi tidak berarti selalu optimal ! Saya menghabiskan banyak waktu mencoba menyesuaikan model di mana Stan berteriak kepada saya tentang diagnostik E-BFMI yang buruk. Energi kinetik Gaussian-Riemannian dapat menjadi peningkatan yang signifikan dalam banyak kasus karena penentu log ketergantungan-posisi pada dapat membuat secara signifikan lebih Gaussian, tetapi ini masih banyak penelitian yang harus dilakukan untuk sepenuhnya memahami masalahnya. $\pi(p | q)$ $\pi(E)$

— Michael Betancourt
sumber

Saya mencoba untuk menulis jawaban, tetapi jika THE Michael Betancourt ada di Cross Validated, maka saya akan dengan senang hati mundur :-) hanya sebuah catatan, "log determent" kemungkinan besar salah ketik: saya yakin Anda maksudkan "log determinan" .

— DeltaIV

Tersanjung memiliki jawaban @Michael Betancourt :-) Hanya ingin tahu, ketika Anda mengatakan "Ketika kami meningkatkan dimensi distribusi target kami maka semacam cenderung cenderung terlihat lebih dan lebih Gaussian", apakah ada bukti teoritis atau apakah ini merupakan pengamatan empiris?

π (E)

$\pi(E)$

— cwl

@ cwl - ini adalah argumen asimptotik standar. Jika distribusi target konvergen ke distribusi terdistribusi secara independen dengan peningkatan data atau parameter maka akan konvergen ke yang akan didekati dengan baik oleh seorang Gaussian di atas beberapa dimensi. Di sisi lain kita cenderung meraih Hamiltonian Monte Carlo dalam praktik ketika targetnya kompleks sehingga asimptotik mungkin tidak terlalu relevan. Karena itu lindung nilai.

p i (E)

$pi(E)$

c h i^{2}

$chi^{2}$

— Michael Betancourt

@Michael Betancourt mengerti, terima kasih banyak atas penjelasannya!

— cwl