Integrasi Monte Carlo untuk fungsi-fungsi yang dapat diintegrasikan non-persegi

Saya harap ini adalah tempat yang tepat untuk bertanya, jika tidak merasa ragu untuk memindahkannya ke forum yang lebih tepat.

Saya sudah lama bertanya-tanya bagaimana cara memperlakukan fungsi yang tidak dapat diintegrasikan dengan Monte Carlo Integration. Saya tahu bahwa MC masih memberikan estimasi yang tepat tetapi kesalahannya tidak dapat dialiukan (berbeda?) Untuk fungsi-fungsi semacam itu.

Mari kita batasi kita pada satu dimensi. Integrasi Monte Carlo berarti kami memperkirakan integral

I = \int_{0}^{1} d x f (x)

$I = \int_0^1 \mathrm{d}x \, f(x)$

menggunakan taksiran

E = \frac{1}{N} \sum_{i = 1}^{N} f (x_{i})

$E = \frac{1}{N} \sum_{i=1}^N f(x_i)$

dengan titik acak terdistribusi secara seragam. Hukum bilangan besar memastikan bahwa . Varians sampel $x_i \in [0,1]$ $E \approx I$

S^{2} = \frac{1}{N - 1} \sum_{i = 1}^{N} (f (x_{i}) - E)^{2}

$S^2 = \frac{1}{N-1} \sum_{i=1}^N (f (x_i) - E)^2$

mendekati varians dari distribusi yang disebabkan oleh . Namun, jika tidak persegi-integrable, yaitu integral dari fungsi kuadrat menyimpang, ini menyiratkan $\sigma^2$ $f$ $f$

σ^{2} = \int_{0}^{1} d x {(f (x) - I)}^{2} = \int_{0}^{1} d x f^{2} (x) - I^{2} ⟶ \infty

$\sigma^2 = \int_0^1 \mathrm{d} x \, \left( f(x) - I \right)^2 = \int_0^1 \mathrm{d} x \, f^2(x) - I^2 \longrightarrow \infty$

artinya juga varians menyimpang.

Contoh sederhana adalah fungsinya

f (x) = \frac{1}{\sqrt{x}}

$f(x) = \frac{1}{\sqrt{x}}$

yang dan . $I = \int_0^1 \mathrm{d}x \, \frac{1}{\sqrt{x}} = 2$ $\sigma^2 = \int_0^1 \mathrm{d}x \, \left( \frac{1}{x} - 2 \right) = \left[ \ln x - 2x \right]_0^1 \rightarrow \infty$

Jika terbatas, seseorang dapat memperkirakan kesalahan rata-rata oleh , tetapi bagaimana jika tidak dapat diintegrasikan? $\sigma^2$ $E$ $\frac{S}{\sqrt{N}} \approx \frac{\sigma}{\sqrt{N}}$ $f(x)$

monte-carlo numerical-integration

— cschwan
sumber

Saya tidak mengerti: Anda memulai dengan mencatat bahwa tidak ada memiliki varian dan kemudian bertanya apakah varian rata-rata mereka akan menjadi penaksir yang masuk akal - bahwa varian tidak ada! Atau apakah saya salah membaca pertanyaan ini: mungkin dengan "estimasi statistik independen" Anda memiliki beberapa yang berbeda (mungkin kuat) estimator dari integral dalam pikiran?

E_{i}

$E_i$

— whuber

Saya tidak mengatakan tidak memiliki varians, hanya saja saya tidak dapat mendefinisikan varians untuknya dengan . Jadi pertanyaannya adalah apakah saya dapat mendefinisikan kesalahan sama sekali dan jika adalah kandidat yang masuk akal. Secara statistik saya maksudkan bahwa diperoleh dengan menggunakan nomor acak yang berbeda, misalnya dengan menggunakan generator nomor acak berbeda yang diunggulkan (saya harap itu istilah yang tepat).

E

$E$

S^{2}

$S^2$

{\bar{S}}^{2}

$\bar{S}^2$

E_{i}

$E_i$

— cschwan

Tolong jelaskan apa yang Anda maksud dengan tidak dapat "mendefinisikan varian untuk itu dengan " Saya tidak dapat memahaminya dengan menggunakan definisi varian standar dan .

S^{2}

$S^2$

S^{2}

$S^2$

— whuber

Nah, fungsinya tidak persegi-integrable jadi, jika saya tidak salah, harus menyimpang . Jika demikian, definisi untuk tidak masuk akal sejak awal, bukan? Dengan menggunakan teorema limit pusat, bagaimanapun, masih akan menyatu dengan nilai sebenarnya dari integral, tetapi tanpa kesalahan nilai ini saja tidak masuk akal (seberapa 'baik' hasil ini?).

S^{2}

$S^2$

S^{2}

$S^2$

E

$E$

— cschwan

Maaf, saya bermaksud mengatakan "hukum jumlah besar" tentu saja, bukan CLT.

— cschwan

Anda bisa menggunakan skala / ukuran dispersi lain seperti rentang interquantile, yang tidak terpengaruh oleh asimtotik ekor dan dengan demikian integritas persegi. Dengan manfaat tambahan yang seringkali mereka secara umum lebih kuat pula.

Jelas seseorang harus menerapkannya pada resampling / bootstrap diikuti oleh estimator rata-rata, tidak langsung hanya ke output mentah dari pengambilan sampel MC dari fungsi sebelum rata-rata. Anda juga dapat memeriksa secara umum L-estimator dan mengadaptasi salah satu dari mereka untuk menggabungkan dua langkah ini menjadi satu untuk kinerja, tetapi secara mental kedua distribusi tidak akan bingung, meskipun PDF estimator secara alami akan mewarisi beberapa karakteristik (termasuk mungkin kurangnya persegi) keterpaduan).

— Kuarsa
sumber

+1, saya harus menambahkan bahwa hukum jumlah besar tidak memerlukan momen kedua, jadi ini adalah saran yang sangat bagus.

— mpiktas

Terima kasih atas jawaban anda! Saya harus mengakui bahwa saya membaca istilah-istilah itu untuk pertama kalinya, tetapi dari melihat mereka di WP saya pikir jawaban Anda mengarahkan saya ke arah yang benar. Bisakah Anda atau orang lain menyarankan beberapa artikel atau buku yang menjelaskan subjek secara lebih rinci?

— cschwan

Saya perhatikan sekarang bahwa mungkin jawaban saya agak tidak jelas. Karena Anda mensimulasikan Anda tidak benar-benar membutuhkan resampling / bootstrap, secara teori Anda bisa menambahkan sampel baru lebih lanjut dan mendapatkan distribusi empiris untuk estimator rata-rata. Hanya jika sumber daya menjadi perhatian maka Anda dapat menghitung ulang rata-rata parsial dan sampel ulang, tetapi statistik tidak akan sepele jika dilakukan dengan baik. Saya bukan ahli boostrap jadi saya akan memberikan saran itu kepada orang lain, hanya ingin menunjukkannya jika Anda perlu melampaui formulasi langsung. Berkonsentrasilah pada langkah-langkah dispersi pertama, optimalkan nanti.

— Kuarsa

Pengukur rata-rata yang diusulkan tidak memiliki varian terbatas. Tidak masalah jika seseorang menambahkan sampel lebih lanjut, distribusi penduga secara empiris juga akan memiliki varian yang tidak terbatas. Anda dapat mengkonfirmasi ini dengan beberapa simulasi.

— rajb245

Tentu, sebenarnya itulah yang sedang dibahas dan alasan mengapa seseorang harus menggunakan ukuran dispersi yang lain.

— Kuarsa