Apakah distribusi normal bertemu menjadi distribusi yang seragam ketika deviasi standar tumbuh hingga tak terbatas?

18

Apakah distribusi normal bertemu dengan distribusi tertentu jika standar deviasi tumbuh tanpa batas? Tampak bagi saya bahwa pdf mulai tampak seperti distribusi seragam dengan batasan yang diberikan oleh . Apakah ini benar? $[-2 \sigma, 2 \sigma]$

normal-distribution convergence

— Ramon Martinez
sumber

2

Tidak, tetapi untuk menjawab pertanyaan Anda dengan benar, kami perlu tahu apa definisi konvergensi Anda. Ingatlah bahwa diskusi formal hanya mungkin dilakukan ketika sisi kanan tidak berubah. Jadi, Anda tidak dapat menetapkan konvergensi ke Unifrom [ ] karena berubah. Lihat formulasi CLT untuk melihat apa yang saya maksud

- σ, σ

$-\sigma,\sigma$

σ

$\sigma$

— Aksakal

hanya jika Anda membungkus atau memotongnya menjadi sesuatu .

o (σ)

$o(\sigma)$

— enthdegree

4

Jawaban lain sudah ada di sini melakukan pekerjaan yang baik untuk menjelaskan mengapa RV Gaussian tidak bertemu dengan apa pun karena varians meningkat tanpa terikat, tapi saya ingin menunjukkan properti yang tampaknya seragam yang koleksi dari Gaussians seperti itu memuaskan bahwa saya pikir mungkin cukuplah bagi seseorang untuk menebak bahwa mereka menjadi seragam, tetapi itu ternyata tidak cukup kuat untuk menyimpulkan itu. $\newcommand{\len}{\text{len}}$

Pertimbangkan kumpulan variabel acak mana . Misalkan menjadi interval tetap dengan panjang yang terbatas, dan untuk beberapa mendefinisikan , yaitu adalah tetapi hanya digeser oleh . Untuk interval mendefinisikan sebagai panjang , dan perhatikan bahwa . $\{X_1,X_2,\dots\}$ $X_n \sim \mathcal N(0, n^2)$ $A = [a_1,a_2]$ $c \in \mathbb R$ $B = A +c$ $B$ $A$ $c$ $I = [i_1,i_2]$ $\len (I) = i_2-i_1$ $I$ $\len(A) = \len(B)$

Sekarang saya akan membuktikan hasil berikut:

Hasil : sebagai . $\vert P(X_n \in A) - P(x_n\in B)\vert \to 0$ $n \to \infty$

Saya menyebutnya seperti seragam karena dikatakan bahwa distribusi semakin memiliki dua interval tetap dengan panjang yang sama memiliki probabilitas yang sama, tidak peduli seberapa jauh jaraknya. Itu jelas fitur yang sangat seragam, tetapi seperti yang akan kita lihat ini tidak mengatakan apa-apa tentang distribusi aktual dari menyatu dengan yang seragam. $X_n$ $X_n$

Pf: perhatikan bahwa mana jadi Saya dapat menggunakan (sangat kasar) yang mengikat untuk mendapatkan $X_n = n X_1$ $X_1 \sim \mathcal N(0, 1)$

P (X_{n} \in A) = P (a_{1} \leq n X_{1} \leq a_{2}) = P (\frac{a_{1}}{n} \leq X_{1} \leq \frac{a_{2}}{n})

$P(X_n \in A) = P(a_1 \leq n X_1 \leq a_2) = P\left(\frac{a_1}{n} \leq X_1 \leq \frac{a_2}n\right)$

= \frac{1}{\sqrt{2 π}} \int_{a_{1} / n}^{a_{2} / n} e^{- x^{2} / 2} d x .

$= \frac{1}{\sqrt{2\pi}}\int_{a_1/n}^{a_2/n} e^{-x^2/2}\,\text dx.$

e^{- x^{2} / 2} \leq 1

$e^{-x^2/2} \leq 1$

\frac{1}{\sqrt{2 π}} \int_{a_{1} / n}^{a_{2} / n} e^{- x^{2} / 2} d x \leq \frac{1}{\sqrt{2 π}} \int_{a_{1} / n}^{a_{2} / n} 1 d x

$\frac{1}{\sqrt{2\pi}}\int_{a_1/n}^{a_2/n} e^{-x^2/2}\,\text dx \leq \frac{1}{\sqrt{2\pi}}\int_{a_1/n}^{a_2/n} 1\,\text dx$

= \frac{len (A)}{n \sqrt{2 π}} .

$= \frac{\text{len}(A)}{n\sqrt{2\pi}}.$

Saya dapat melakukan hal yang sama untuk untuk mendapatkan $B$

P (X_{n} \in B) \leq \frac{len (B)}{n \sqrt{2 π}} .

$P(X_n \in B) \leq \frac{\text{len}(B)}{n\sqrt{2\pi}}.$

Menyatukan ini saya punya as (Saya menggunakan ketimpangan segitiga di sini).

| P (X_{n} \in A) - P (X_{n} \in B) | \leq \frac{\sqrt{2} len (A)}{n \sqrt{π}} \to 0

$\left\vert P(X_n \in A) - P(X_n \in B)\right\vert \leq \frac{\sqrt 2 \text{len}(A) }{n\sqrt{\pi}} \to 0$

n \to \infty

$n\to\infty$

$\square$

Bagaimana ini berbeda dari menyatu pada distribusi yang seragam? Saya baru saja membuktikan bahwa probabilitas yang diberikan pada dua interval tetap dengan panjang terbatas yang sama semakin dekat dan dekat, dan secara intuitif masuk akal bahwa ketika kepadatan "mendatar" dari perspektif dan $X_n$ $A$ $B$

Tetapi agar dapat menyatu pada distribusi yang seragam, saya membutuhkan untuk menuju proporsional dengan untuk setiap interval , dan itu adalah hal yang sangat berbeda karena ini perlu diterapkan pada apa pun , tidak hanya satu yang diperbaiki di muka (dan seperti yang disebutkan di tempat lain, ini bahkan tidak mungkin untuk distribusi dengan dukungan tidak terbatas). $X_n$ $P(X_n \in I)$ $\text{len}(I)$ $I$ $I$

— jld
sumber

Benar, Anda hampir bisa mengatakan mereka berkumpul dalam distribusi, kecuali bahwa batas dari apa yang mereka konvergensi adalah distribusi yang tidak tepat. Salah satu jenis konvergensi yang akan didefinisikan dengan baik adalah saya kira Anda dapat menunjukkan bahwa metrik Wasserstein akan mendekati nol sebagai ?

σ \to \infty

$\sigma \rightarrow \infty$

— Cliff AB

36

Kesalahan umum dalam probabilitas adalah berpikir bahwa suatu distribusi seragam karena terlihat secara visual datar ketika semua nilainya mendekati nol. Ini karena kita cenderung melihat bahwa namun , yaitu interval kecil sekitar adalah 1000 kali lebih banyak kemungkinan dari interval kecil di sekitar . $f(x)=0.001 \approx 0.000001=f(y)$ $f(x)/f(y)=0.001/0.000001=1000$ $x$ $y$

Ini jelas tidak seragam di seluruh garis nyata di batas, karena tidak ada distribusi seragam di . Ini bahkan tidak kira-kira seragam pada . $(-\infty,\infty)$ $[-2\sigma,2\sigma]$

Anda dapat melihat yang terakhir dari aturan 68-95-99.7 yang sepertinya Anda kenal. Jika kira-kira seragam pada , maka kemungkinan berada dalam dan harus sama, karena dua interval adalah sama panjangnya. Tapi ini tidak terjadi: , namun . $[-2\sigma,2\sigma]$ $[0,\sigma]$ $[\sigma,2\sigma]$ $P([0,\sigma])\approx 0.68/2= 0.34$ $P([\sigma,2\sigma])\approx (0.95-0.68)/2 = 0.135$

Ketika dilihat melalui seluruh baris nyata, urutan distribusi normal ini tidak menyatu dengan distribusi probabilitas. Ada beberapa cara untuk melihatnya. Sebagai contoh, cdf dari normal dengan standar deviasi adalah , dan untuk semua , yang bukan merupakan cdf dari variabel acak apa pun . Faktanya, ini bukan cdf sama sekali. $\sigma$ $F_\sigma(x) = (1/2)(1+\mbox{erf}(x/\sqrt{2}\sigma)$ $\lim_{\sigma\rightarrow\infty} F_\sigma(x) = 1/2$ $x$

Alasan non-konvergensi ini bermuara pada "kehilangan massa" adalah batasnya. Fungsi pembatasan dari distribusi normal sebenarnya "hilang" probabilitas (yaitu telah lolos hingga tak terbatas). Ini terkait dengan konsep ketatnya tindakan , yang memberikan kondisi yang diperlukan untuk urutan variabel acak untuk menyatu dengan variabel acak lainnya.

— Alex R.
sumber

1

Yang salah "itu" adalah "semua nilainya hampir nol". "Ini" dalam "Ini kesalahan umum" benar.

— Akumulasi

15

Pernyataan Anda , pdf mulai terlihat seperti distribusi seragam dengan batasan yang diberikan oleh $[−2σ,2σ]$ tidak benar jika Anda menyesuaikan agar sesuai dengan standar deviasi yang lebih luas. $\sigma$

Pertimbangkan grafik dua kerapatan normal ini yang berpusat pada nol. Kurva merah sesuai dengan deviasi standar dan kurva biru ke deviasi standar , dan memang demikian halnya bahwa kurva biru hampir rata pada $1$ $10$ $[-2,2]$

tetapi untuk kurva biru dengan , kita harus benar-benar melihat bentuknya pada . Menyalin ulang -aksi dan -aksi dengan faktor memberikan plot berikut ini, dan Anda mendapatkan bentuk yang sama persis untuk densitas biru di plot selanjutnya dengan densitas merah di plot sebelumnya $\sigma=10$ $[-20,20]$ $x$ $y$ $10$

— Henry
sumber

2

Pertanyaan Anda secara mendasar cacat. The distribusi normal standar adalah skala sehingga . Jadi untuk beberapa distribusi Gaussian lainnya ( ) maka kurva antar batas memiliki bentuk yang sama dengan distribusi normal standar. Satu-satunya perbedaan adalah faktor penskalaan. Jadi, jika Anda mengubah skala Gaussian dengan membaginya dengan , maka Anda berakhir dengan distribusi normal standar. $\sigma = 1$ $\mu = 0, \sigma = \sigma^*$ $[-2\sigma^*, 2\sigma^*]$ $\sigma^*$

Sekarang jika Anda memiliki distribusi Gaussian ( ) maka ya sebagai , wilayah antara menjadi semakin datar. $\mu = 0, \sigma = \sigma^*$ $\sigma^* \rightarrow \infty$ $[-2, 2]$

— MaxW
sumber