Apakah ada contoh di mana teorema limit pusat tidak berlaku?

Wikipedia mengatakan -

Dalam teori probabilitas, teorema limit pusat (CLT) menetapkan bahwa, dalam sebagian besar situasi , ketika variabel acak independen ditambahkan, jumlah normalnya yang normal cenderung mengarah ke distribusi normal (secara informal merupakan "kurva lonceng") bahkan jika variabel asli sendiri tidak terdistribusi normal ...

Ketika dikatakan "dalam kebanyakan situasi", dalam situasi apa teorema limit pusat tidak berfungsi?

Untuk memahami ini, Anda harus menyatakan versi pertama dari Teorema Limit Pusat. Inilah pernyataan "tipikal" dari teorema limit pusat:

Lindeberg – Lévy CLT. Misalkan ${X_1, X_2, \dots}$ adalah urutan variabel acak iid dengan $E[X_i] = \mu$ dan $Var[X_i] = \sigma^2 < \infty$ . Misalkan $S_{n}:={\frac {X_{1}+\cdots +X_{n}}{n}}$ . Kemudian saat $n$mendekati tak terhingga, variabel acak$\sqrt{n}(S_n − \mu)$konvergen dalam distribusi kenormal(0,σ2$N(0,\sigma^2)$yaitu

$${\displaystyle {\sqrt {n}}\left(\left({\frac {1}{n}}\sum _{i=1}^{n}X_{i}\right)-\mu \right)\ {\xrightarrow {d}}\ N\left(0,\sigma ^{2}\right).}$$

Jadi, bagaimana ini berbeda dari deskripsi informal, dan apa kesenjangannya? Ada beberapa perbedaan antara deskripsi informal Anda dan deskripsi ini, beberapa di antaranya telah dibahas dalam jawaban lain, tetapi tidak sepenuhnya. Jadi, kita dapat mengubahnya menjadi tiga pertanyaan spesifik:

• Apa yang terjadi jika variabel tidak terdistribusi secara identik?
• Bagaimana jika variabel memiliki varian tak terbatas, atau rata-rata tak terbatas?
• Seberapa pentingkah independensi?

Mengambil satu per satu,

Tidak terdistribusi secara identik , Hasil umum terbaik adalah versi Lindeberg dan Lyaponov dari teorema limit pusat. Pada dasarnya, selama standar deviasi tidak tumbuh terlalu liar, Anda bisa mendapatkan teorema batas pusat yang layak darinya.

Lyapunov CLT. [5] Misalkan nilai adalah urutan variabel acak independen, masing-masing dengan terbatas diharapkan μ i dan varians σ 2 Define: s 2 n = Σ n i = 1 σ 2 ${X_1, X_2, \dots}$$\mu_i$$\sigma^2$$s_{n}^{2}=\sum _{i=1}^{n}\sigma _{i}^{2}$

$\delta > 0$Xi-μi/s${\displaystyle \lim _{n\to \infty }{\frac {1}{s_{n}^{2+\delta }}}\sum_{i=1}^{n}\operatorname {E} \left[|X_{i}-\mu _{i}|^{2+\delta }\right]=0}$$X_i − \mu_i / s_n$

${{\frac {1}{s_{n}}}\sum _{i=1}^{n}\left(X_{i}-\mu_{i}\right)\ {\xrightarrow {d}}\ N(0,1).}$

Teorema Infinite Variance mirip dengan teorema limit pusat ada untuk variabel dengan varian infinite, tetapi kondisinya secara signifikan lebih sempit daripada teorema limit pusat biasa. Intinya, ekor dari distribusi probabilitas harus asimtotik ke untuk . Dalam hal ini, KTT berskala yang sesuai menyatu ke distribusi stabil Levy-Alpha .$|x|^{-\alpha-1}$$0 < \alpha < 2$

Pentingnya Kemandirian Ada banyak teorema limit pusat yang berbeda untuk sekuens non-independen . Mereka semua sangat kontekstual. Seperti yang ditunjukkan oleh Batman, ada satu untuk Martingales. Pertanyaan ini adalah bidang penelitian yang sedang berlangsung, dengan banyak variasi yang berbeda tergantung pada konteks minat tertentu. Pertanyaan tentang Pertukaran Matematika ini adalah pos lain yang terkait dengan pertanyaan ini.$X_i$

Meskipun saya cukup yakin bahwa itu telah dijawab sebelumnya, ini satu lagi:

Ada beberapa versi dari teorema limit pusat, yang paling umum adalah yang diberikan fungsi kepadatan probabilitas arbitrer, jumlah variabel akan didistribusikan secara normal dengan nilai rata-rata sama dengan jumlah nilai rata-rata, serta varians menjadi jumlah dari varian individual.

Kendala yang sangat penting dan relevan adalah bahwa mean dan varian pdf yang diberikan harus ada dan harus terbatas.

Jadi, ambil saja pdf apa pun tanpa nilai rata-rata atau varian - dan teorema batas pusat tidak akan berlaku lagi. Jadi, ambil distribusi Lorentzian misalnya.

Tidak, CLT selalu berlaku ketika asumsi itu berlaku. Kualifikasi seperti "dalam sebagian besar situasi" adalah referensi informal ke kondisi di mana CLT harus diterapkan.

Misalnya, kombinasi linear dari variabel independen dari distribusi Cauchy tidak akan bertambah hingga variabel terdistribusi normal . Salah satu alasannya adalah bahwa varians tidak terdefinisi untuk distribusi Cauchy , sementara CLT menempatkan kondisi tertentu pada varians, misalnya bahwa itu harus terbatas. Implikasi yang menarik adalah bahwa karena simulasi Monte Carlo dimotivasi oleh CLT, Anda harus berhati-hati dengan simulasi Monte Carlo ketika berhadapan dengan distribusi ekor gemuk, seperti Cauchy.

Perhatikan, bahwa ada versi umum dari CLT. Ia bekerja untuk varian tak terbatas atau tidak terdefinisi, seperti distribusi Cauchy. Tidak seperti banyak distribusi yang berperilaku baik, jumlah Cauchy yang dinormalisasi dengan benar tetap Cauchy. Itu tidak konvergen ke Gaussian.

By the way, tidak hanya Gaussian tetapi banyak distribusi lainnya memiliki lonceng berbentuk PDF, misalnya Student t. Itu sebabnya deskripsi yang Anda kutip cukup liberal dan tidak tepat, mungkin dengan sengaja.

Berikut adalah ilustrasi jawaban kerub, histogram 1e5 diambil dari sarana sampel berskala (dengan ) distribusi-t dengan dua derajat kebebasan, sehingga variansnya tidak ada .$\sqrt{n}$

Jika CLT berlaku, histogram untuk sebesar harus menyerupai kerapatan distribusi normal standar (yang, misalnya, memiliki kerapatan - pada puncaknya), yang ternyata tidak.$n$$n=1000$$1/\sqrt{2\pi}\approx0.4$

library(MASS)
n <- 1000
samples.from.t <- replicate(1e5, sqrt(n)*mean(rt(n, df = 2)))
truehist(samples.from.t, xlim = c(-10,10), col="salmon")

Kasus sederhana di mana CLT tidak dapat menampung karena alasan yang sangat praktis, adalah ketika urutan variabel acak mendekati batas probabilitasnya secara ketat dari satu sisi . Ini ditemui misalnya dalam estimator yang memperkirakan sesuatu yang terletak pada batas.

Contoh standar di sini mungkin adalah estimasi dalam sampel iid Uniforms . Estimasi kemungkinan maksimum akan menjadi statistik urutan maksimum, dan ia akan mendekati hanya dari bawah: berpikir naif, karena batas probabilitasnya adalah , estimator tidak dapat memiliki distribusi "sekitar" - dan CLT adalah pergiU ( 0 , θ ) θ θ $\theta$$U(0,\theta)$$\theta$$\theta$$\theta$

Estimator yang diskalakan dengan benar memiliki distribusi terbatas - tetapi tidak dari "varietas CLT".

Anda dapat menemukan solusi cepat di sini.

Pengecualian untuk teorema batas pusat muncul

1. Ketika ada beberapa maksima dengan tinggi yang sama, dan
2. Di mana turunan kedua menghilang secara maksimal.

Ada beberapa pengecualian lain yang diuraikan dalam jawaban @chub.

Pertanyaan yang sama telah ditanyakan pada math.stackexchange . Anda dapat memeriksa jawabannya di sana.