Bagaimana bukti Sampling Penolakan masuk akal?

Saya mengambil kursus tentang metode Monte Carlo dan kami belajar metode Sampling Penolakan (atau Sampling Terima-Tolak) dalam kuliah terakhir. Ada banyak sumber daya di web yang menunjukkan bukti metode ini, tetapi entah bagaimana saya tidak yakin dengan mereka.

Jadi, dalam Sampel Penolakan, kami memiliki distribusi $f(x)$ yang sulit untuk diambil sampelnya. Kami memilih distribusi sampel yang mudah $g(x)$ dan temukan koefisien $c$ seperti yang $f(x) \leq cg(x)$ . Kemudian kami sampel dari $g(x)$ dan untuk setiap undian, $x_i$ , kami juga mencicipi a $u$ dari distribusi seragam standar $U(u|0,1)$ .

Contoh $x_i$ diterima jika itu $cg(x_i)u \leq f(x_i)$ dan menolak sebaliknya.

Bukti yang saya temui biasanya hanya menunjukkan itu $p(x|Accept) = f(x)$ dan berhenti di situ.

Apa yang saya pikirkan tentang proses ini adalah bahwa kita memiliki urutan variabel $x_1,Accept_1,x_2,Accept_2,...,x_n,Accept_n$ dan a $x_i,Accept_i$ pasangan sesuai dengan sampel i.th kami ( $x_i$ ) dan apakah itu diterima ( $Accept_i$ ). Kita tahu itu masing-masing $x_i,Accept_i$ pasangan tidak tergantung satu sama lain, sehingga:

$P(x_1,Accept_1,x_2,Accept_2,...,x_n,Accept_n) = \prod\limits_{i=1}^n P(x_i,Accept_i)$

Untuk sebuah $(x_i,Accept_i)$ pasangan kita tahu itu $P(x_i) = g(x_i)$ dan $P(Accept_i|x_i) = \frac{f(x_i)}{cg(x_i)}$ . Kami siap menghitung $p(x_i|Accept_i)$ tapi saya tidak mengerti bagaimana itu cukup sebagai bukti. Kita perlu menunjukkan bahwa algoritme berfungsi, jadi saya pikir bukti harus menunjukkan bahwa distribusi empiris dari sampel yang diterima konvergen ke $f(x)$ sebagai $n\rightarrow\infty$ . Maksudku, dengan $n$ menjadi jumlah semua sampel yang diterima dan ditolak:

$\frac{Number \hspace{1mm} of \hspace{1mm} samples \hspace{1mm} with \hspace{1mm} (A \leq x_i \leq B)}{Number \hspace{1mm} of \hspace{1mm} accepted \hspace{1mm} samples} \rightarrow \int_A^B f(x)dx$ sebagai $n\rightarrow\infty$ .

Apakah saya salah dengan pola pikir ini? Atau adakah hubungan antara bukti umum dari algoritma dan ini?

Terima kasih sebelumnya

sampling monte-carlo rejection-sampling

— Ufuk Can Bicici
sumber

Jawaban:

Anda harus menganggap algoritma sebagai penghasil undian dari variabel acak, untuk menunjukkan bahwa algoritme berfungsi, cukup untuk menunjukkan bahwa algoritme menarik dari variabel acak yang Anda inginkan.

Membiarkan $X$ dan $Y$ menjadi variabel acak skalar dengan pdf $f_X$ dan $f_Y$ masing-masing, di mana $Y$ adalah sesuatu yang sudah kita ketahui cara mengambil sampel. Kita juga bisa tahu bahwa kita bisa terikat $f_X$ oleh $Mf_Y$ dimana $M\ge1$ .

Kami sekarang membentuk variabel acak baru $A$ dimana $A | y \sim \text{Bernoulli } \left (\frac{f_X(y)}{Mf_Y(y)}\right )$ , ini mengambil nilai $1$ dengan probabilitas $\frac{f_X(y)}{Mf_Y(y)}$ dan $0$ jika tidak. Ini mewakili algoritme 'menerima' hasil seri $Y$ .

Sekarang kita jalankan algoritme dan kumpulkan semua hasil undian $Y$ yang diterima, sebut saja variabel acak ini $Z = Y|A=1$ .

Untuk menunjukkan itu $Z \equiv X$ , untuk acara apa pun $E$ , kita harus tunjukkan itu $P(Z \in E) =P(X \in E)$ .

Jadi mari kita coba itu, pertama gunakan aturan Bayes:

$P(Z \in E) = P(Y \in E | A =1) = \frac{P(Y \in E \& A=1)}{P(A=1)}$ ,

dan bagian atas kita tuliskan sebagai

\begin{aligned} P (Y \in E & A = 1) & = \int_{E} f_{Y, A} (y, 1) d y \\ = \int_{E} f_{A | Y} (1, y) f_{Y} (y) d y = \int_{E} f_{Y} (y) \frac{f_{X} (y)}{M f_{Y} (y)} d y = \frac{P (X \in E)}{M} . \end{aligned}

$\begin{align*}P(Y \in E \& A=1) &= \int_E f_{Y, A}(y,1) \, dy \\ &= \int_E f_{A|Y}(1,y)f_Y(y) \, dy =\int_E f_Y(y) \frac{f_X(y)}{Mf_Y(y)} \, dy =\frac{P(X \in E)}{M}.\end{align*}$

Dan kemudian bagian bawahnya sederhana

$P(A=1) = \int_{-\infty}^{\infty}f_{Y,A}(y,1) \, dy = \frac{1}{M}$ ,

dengan alasan yang sama seperti di atas, pengaturan $E=(-\infty, +\infty)$ .

Dan ini bergabung untuk memberi $P(X \in E)$ , itulah yang kami inginkan, $Z \equiv X$ .

Begitulah cara algoritma bekerja, tetapi pada akhir pertanyaan Anda, Anda tampaknya khawatir tentang ide yang lebih umum, yaitu kapan distribusi empiris bertemu dengan distribusi sampel? Ini adalah fenomena umum tentang pengambilan sampel apa pun jika saya mengerti Anda dengan benar.

Dalam hal ini, biarkan $X_1, \dots, X_n$ menjadi variabel acak semua dengan distribusi $\equiv X$ . Lalu untuk acara apa pun $E$ , $\frac{\sum_{i=1}^n1_{X_i \in E}}{n}$ memiliki harapan $P(X \in E)$ oleh linearitas harapan.

Lebih jauh lagi, dengan asumsi yang sesuai, Anda dapat menggunakan hukum kuat jumlah besar untuk menunjukkan bahwa probabilitas empiris konvergen hampir pasti dengan probabilitas sebenarnya.

— Harri
sumber

Terima kasih atas jawabannya. Bisakah Anda mengklarifikasi bagaimana saya bisa menunjukkan bahwa distribusi empiris menyatu dengan distribusi target dengan menggunakan Hukum Angka Besar? Persis seperti itulah yang saya coba tunjukkan dalam kasus ini.

— Ufuk Can Bicici

Glivenko-Cantelli: www2.imperial.ac.uk/ ~das01

— Zen

@ Harri Yang mengganggu saya adalah fakta bahwa kita mempelajari variabel acak yang menunjukkan penerimaan undian (

A = 1

$A=1$ ) setelah kita mempelajari nilai dari variabel aktual. Kami mengamati variabel sesuai dengan urutannya

Y_{1}, A_{1}, Y_{2}, A_{2}, . . ., Y_{n}, A_{n}

$Y_1,A_1,Y_2,A_2,...,Y_n,A_n$ , jadi jika kita akan mengamati variabel

Y_{2}

$Y_2$ , apa yang kita ketahui tentang sistem ini

Y_{1}

$Y_1$ dan

A_{1}

$A_1$ dan sejak itu

Y_{2}

$Y_2$ tidak tergantung pada mereka, apa yang kami proses adalah yang pertama

P (Y_{2})

$P(Y_2)$ , kemudian

P (A_{2} | Y_{2})

$P(A_2|Y_2)$ bukan sebaliknya.

— Ufuk Can Bicici

Bisakah Anda mengatakan lebih banyak tentang mengapa urutan pengetahuan

P (Y_{2})

$P(Y_2)$ lalu

P (A_{2} | Y_{2})

$P(A_2|Y_2)$ mengganggu Anda?

— Harri

Pertama, perlu diingat bahwa prosedur lengkap metode penolakan sampel hanya menghasilkan variabel acak tunggal . Ketika beberapa $x_i$ diterima, prosedur berhenti, dan tidak ada $x_{i+1}$ lagi. Jika Anda ingin beberapa variabel acak, ulangi prosedur beberapa kali.

Di beberapa buku teks, mereka menunjukkan acara penerimaan oleh $A$ dan menghitung probabilitas

\begin{aligned} P (A) = & \int_{- \infty}^{\infty} d x \int_{0}^{\frac{f (x)}{c g (x)}} g (x) d u \\ = & \int_{- \infty}^{\infty} \frac{1}{c} f (x) d x \\ = & \frac{1}{c} . \end{aligned}

$\begin{aligned} P(A) =& \int_{-\infty}^{\infty}dx\int_0^{\frac{f(x)}{cg(x)}}g(x)du \\ =& \int_{-\infty}^{\infty}\frac{1}{c}f(x)dx \\ =& \frac{1}{c}. \end{aligned}$

Dan

\begin{aligned} f_{X} (x | A) = & \frac{f_{X} (x) \cdot P (A | x)}{P (A)} \\ = & \frac{g (x) \cdot \frac{f (x)}{c g (x)}}{\frac{1}{c}} \\ = & f (x) . \end{aligned}

$\begin{aligned} f_X(x|A) =& \frac{f_X(x) \cdot P(A|x)}{P(A)}\\ =& \frac{g(x) \cdot \frac{f(x)}{cg(x)}}{\frac{1}{c}} \\ =& f(x). \end{aligned}$

Yang membingungkan adalah penerimaan itu $A$ di sini tampaknya penerimaan sampel tunggal $x_i$ , tetapi seluruh prosedur dapat menolak banyak $x_i$ ini

Ya, bukti yang lebih ketat harus mempertimbangkan kemungkinan penerimaan pada langkah yang berbeda. Membiarkan $X_i$ menunjukkan $i$ sampel th, $f_{X_i}$ menunjukkan fungsi kepadatan probabilitas $X_i$ , $A_i$ menunjukkan $i$ penerimaan th, dan $X_\infty$ menunjukkan nilai akhir yang diterima. Kemudian fungsi kepadatan probabilitas $X_\infty$ adalah

f_{X_{\infty}} (x) = P (A_{1}) f_{X_{1}} (x | A_{1}) + P (A_{2}) f_{X_{2}} (x | A_{2}) + \dots .

$f_{X_\infty}(x) = P(A_1) f_{X_1}(x|A_1) + P(A_2) f_{X_2}(x|A_2) + \dots.$

P (A_{1})

$P(A_1)$ adalah

\frac{1}{c}

$\frac{1}{c}$ dan

f_{X_{1}} (x | A_{1})

$f_{X_1}(x|A_1)$ adalah

f (x)

$f(x)$ seperti yang dihitung sebelumnya. Catatan

P (A_{2})

$P(A_2)$ adalah

(1 - \frac{1}{c}) \frac{1}{c}

$\left(1-\frac{1}{c}\right)\frac{1}{c}$ dimana

1 - \frac{1}{c}

$1-\frac{1}{c}$ adalah probabilitas penolakan

X_{1}

$X_1$ sejak kapan

X_{1}

$X_1$ ditolak jika kami memiliki kesempatan untuk memilih

X_{2}

$X_2$ .

Dan $f_{X_2}(x|A_2)$ adalah $f(x)$ juga karena langkah kedua tidak terpengaruh oleh langkah-langkah sebelumnya, kemungkinannya harus sama dengan langkah pertama. Jika penjelasan ini tidak meyakinkan Anda, kami juga bisa menyelesaikannya dengan keras. Hati-hati $X_2$ tidak ditentukan kapan $X_1$ diterima (atau Anda dapat mendefinisikannya sebagai nomor acak kapan saja) $X_1$ diterima jika nilai yang tidak ditentukan membuat Anda tidak nyaman), jadi untuk probabilitas tentang $X_2$ , hanya probabilitas kondisional yang diberikan $A_1^c$ atau himpunan bagian dari $A_1^c$ masuk akal. Sekarang

\begin{aligned} f_{X_{2}} (x | A_{2}) = & \frac{P (A_{1}^{c}) f_{X_{2}} (x | A_{1}^{c}) P (A_{2} | X_{2} = x)}{P (A_{2})} \\ = & \frac{P (A_{1}^{c}) f_{X_{2}} (x | A_{1}^{c}) P (A_{2} | X_{2} = x)}{P (A_{1}^{c}) P (A_{2} | A_{1}^{c})} \\ = & \frac{f_{X_{2}} (x | A_{1}^{c}) P (A_{2} | X_{2} = x)}{P (A_{2} | A_{1}^{c})} \\ = & \frac{g (x) \cdot \frac{f (x)}{c g (x)}}{\frac{1}{c}} \\ = & f (x) . \end{aligned}

$\begin{aligned} f_{X_2}(x|A_2) =& \frac{P(A_1^c)f_{X_2}(x|A_1^c)P(A_2|X_2=x)}{P(A_2)} \\ =& \frac{P(A_1^c)f_{X_2}(x|A_1^c)P(A_2|X_2=x)}{P(A_1^c)P(A_2|A_1^c)} \\ =& \frac{f_{X_2}(x|A_1^c)P(A_2|X_2=x)}{P(A_2|A_1^c)} \\ =& \frac{g(x) \cdot \frac{f(x)}{cg(x)}}{\frac{1}{c}} \\ =& f(x). \end{aligned}$ Begitu

\begin{aligned} f_{X_{\infty}} (x) = & P (A_{1}) f (x) + P (A_{2}) f (x) + \dots \\ = & (P (A_{1}) + P (A_{2}) + \dots) f (x) \\ = & (\frac{1}{c} + (1 - \frac{1}{c}) \frac{1}{c} + {(1 - \frac{1}{c})}^{2} \frac{1}{c} + \dots) f (x) \\ = & f (x) . \end{aligned}

$\begin{aligned} f_{X_\infty}(x) =& P(A_1) f(x) + P(A_2) f(x) + \dots \\ =& (P(A_1) + P(A_2) + \dots) f(x) \\ =& \left(\frac{1}{c} + \left(1-\frac{1}{c}\right)\frac{1}{c} + \left(1-\frac{1}{c}\right)^2\frac{1}{c} + \dots\right) f(x) \\ =& f(x). \end{aligned}$ Itu adalah hasil yang diinginkan. Catatan

P (A_{1}) + P (A_{2}) + \dots

$P(A_1) + P(A_2) + \dots$ = 1 memiliki makna intuitif, yang pada akhirnya satu sampel akan diterima pada beberapa langkah

i

$i$ .

— Cosyn
sumber