CLT dengan variabel acak yang tidak dapat diintegrasikan

Latihan 15.5.1 dari "Teori Probabilitas: Kursus Komprehensif" Klenke berbunyi sebagai berikut. Temukan urutan variabel acak nyata independen dengan untuk semua sedemikian rupa sehingga Saya tidak yakin bagaimana ini mungkin jika rata-rata tidak didefinisikan pada kasus ini. Semua kasus yang dapat saya pikirkan dari variabel dengan mean tidak terdefinisi tidak memenuhi teorema Limit Pusat dengan scaling . Bantuan apa pun dihargai. $X_1, X_2, \ldots$ $\mathbb{E}[|X_n|]=\infty$ $n\in \mathbb{N}$

\frac{X_{1} + \dots + X_{n}}{\sqrt{n}} \overset{n \to \infty}{⟹} N (0, 1) .

$\frac{X_1+ \cdots + X_n}{\sqrt{n}} \stackrel{n \to \infty}{\Longrightarrow} N(0,1).$

\sqrt{n}

$\sqrt{n}$

self-study central-limit-theorem

— guest0877
sumber

Petunjuk: Kurangi konsep menjadi elemen dasar mereka. Karena Normal berada di jantung CLT, mulailah dengan standar normal . Kemudian modifikasi mereka sehingga (a) masing-masing memiliki nilai absolut yang diharapkan tak terbatas sementara (b) jumlah modifikasi menurun dengan cepat dengan , sehingga dalam pembagian batas oleh "membunuh" bagian yang dimodifikasi. Cara sederhana untuk memodifikasi variabel acak adalah menambahkan yang lain ke dalamnya.

X_{i}

$X_i$

n

$n$

\sqrt{n}

$\sqrt{n}$

— whuber

@whuber Apakah poin Anda bahwa variabel acak tidak dikatakan terdistribusi secara identik? Jika mereka iid saya akan setuju dengan OP.

— Michael R. Chernick

@whuber Juga apakah jawabannya mengharuskan hanya Xn yang memiliki rata-rata tak terbatas.

— Michael R. Chernick

Saya kira "untuk semua n" berarti bahwa semua Xi memiliki nilai absolut rata-rata tak terbatas. Saya mencoba untuk berhati-hati di sini. Saya ingin memahami petunjuk Anda tetapi tidak mengatakan sesuatu yang memberikan solusi untuk OP.

— Michael R. Chernick

@Michael Jika mereka iid maka hasilnya tidak akan benar. Idenya adalah untuk membuat bagian dari yang menyebabkan ekspektasi tak terbatas memiliki semakin sedikit kesempatan terjadi ketika bertambah. Cara yang baik untuk melakukannya adalah dengan campuran.

X_{n}

$X_n$

n

$n$

— whuber

Di antara banyak cara untuk menyelesaikan yang satu ini, membangun urutan dengan mengganggu variabel Normal standar sepertinya yang paling sederhana dan paling elegan.

Pada akhirnya saya mengomentari koneksi dengan Central Limit Theorem.

Fungsi Karakteristik

Izinkan saya melakukan penyimpangan sebelum saya memberikan solusi. Inspirasi untuk teknik yang akan digunakan berasal dari ide bahwa ada lebih dari satu cara untuk menggambarkan distribusi variabel acak . Paling umum, dan paling langsung, adalah fungsi distribusinya $X$ $F_X(x)=\Pr(X\le x)$ . Alternatif tidak langsung tetapi sangat berguna adalah fungsi karakteristiknya

ψ_{X} (t) = E [e^{i t X}] = E [\cos (t X)] + i E [\sin (t X)] .

$\psi_X(t) = E\left[e^{itX}\right] = E\left[\cos(t X)\right] + i\, E\left[\sin(t X)\right].$

Karena untuk semua , didefinisikan untuk distribusi setiap (dan nilai-nilainya untuk semua tidak dapat melebihi dalam ukuran). Selain itu, dan memiliki distribusi yang sama jika dan hanya jika mereka memiliki fungsi karakteristik yang sama. Bahkan yang lebih baik adalah Teorema Kesinambungan Lévy: Sekuens menyatu dalam distribusi ke variabel acak jika dan hanya jika untuk setiap sekuens konvergen ke nilai dan fungsi $|e^{itX}|=1$ $t$ $\psi_F$ $F$ $t$ $1$ $X$ $Y$ $X_n$ $X$ $t$ $\phi_{X_n}(t)$ $\psi(t)$ $\psi$ kontinu pada . (Semua fungsi karakteristik yang kontinu di .) Dalam hal ini, adalah fungsi karakteristik dari . $0$ $0$ $\psi$ $X$

Properti indah lain yang dinikmati oleh fungsi karakteristik adalah hubungannya dengan kombinasi linear: ketika dan adalah variabel acak (pada ruang probabilitas yang sama dan dan adalah bilangan real, $X$ $Y$ $\alpha$ $\beta$

\begin{matrix} (1) & ψ_{α X + β Y} (t) = ψ_{X} (α t) ψ_{Y} (β t) . \end{matrix}

$\psi_{\alpha X+\beta Y}(t) = \psi_X(\alpha t)\psi_Y(\beta t).\tag{1}$

Ini membuat fungsi karakteristik (cfs) alat yang cocok untuk mempelajari perturbasi variabel acak dicapai dengan menambahkan sejumlah kecil variabel acak lainnya ke mereka: yaitu, variabel acak dari bentuk untukkecil. $X$ $Y$ $X+\beta Y$ $|\beta|$

Larutan

Konstruksi urutan

Mari membangun solusi dengan memulai dengan standar normal variabel dan membentuk urutan independen dengan distribusi yang sama seperti . Ini jelas memiliki properti pembatas yang kita inginkan: artinya semua standar normal, jadi dalam batas rata-rata adalah standar normal. $Z$ $Z_1, Z_2, \ldots, Z_n, \ldots$ $Z$

Itu adalah

\begin{matrix} (2) & ψ_{Z} (t) = e^{- t^{2} / 2} . \end{matrix}

$\psi_Z(t) = e^{-t^2/2}.\tag{2}$

Untuk gangguan, pilih beberapa variabel acak dengan harapan tak terbatas. Akan lebih mudah bagi untuk memiliki cf yang mudah digunakan. Saya ingin menyarankan Distribusi Lévy ( alias Distribusi Stabil dengan distribusi atau Inverse Gamma ) yang dengannya $Y$ $Y$ $\alpha=1/2,\ \beta=1$ $(1/2,1/2)$

ψ_{Y} (t) = e^{- \sqrt{| t |} (1 - i sgn (t))} .

$\psi_Y(t) = e^{-\sqrt{|t|}\,(1 - i \operatorname{sgn}(t))}.$

(Untuk , ; untuk ) $t\gt 0$ $\operatorname{sgn}(t)=1$ $t \lt 0,$ $\operatorname{sgn}(t)=-1$

Distribusi ini didukung pada dan tidak memiliki momen yang terbatas. $(0,\infty)$

Untuk urutan variabel normal standar mari kita tambahkan kelipatan positif . $(Z_n)$ $Y$ (Kepositifan tidak perlu tetapi itu membuat bekerja dengan fungsi lebih mudah.) Biarkan urutan kelipatan menjadi untuk ditentukan. Dengan demikian, urutan variabel acak didefinisikan sebagai mana adalah urutan iid variabel acak dengan distribusi yang sama seperti . $\operatorname{sgn}$ $p_1,p_2,p_3,\ldots,$

X_{n} = Z_{n} + p_{n} Y_{n}

$X_n=Z_n + p_n Y_n$

(Y_{n})

$(Y_n)$

Y

$Y$

Intuisi

Yang perlu kita khawatirkan adalah apakah gangguannya sangat buruk sehingga merusak konvergensi menjadi distribusi normal standar. Bagi mereka yang berpengalaman dengan distribusi berekor berat seperti ini, ini adalah masalah nyata: akan selalu ada beberapa kemungkinan positif bahwa sedikit ditambahkan ke kadang-kadang akan memperkenalkan outlier besar kekalahan seperti itu yang jumlah parsial . Seluruh alasan untuk menggunakan fungsi karakteristik adalah untuk menunjukkan ini tidak akan terjadi dalam jangka panjang, asalkan kita mengurangi jumlah gangguan ( ) yang cukup cepat. $Y_n$ $Z_n$ $S_n$ $p_n$

Perhitungan formal

Pertama, memiliki harapan yang tak terbatas karena $X_n$

E [X_{n}] = E [Z_{n} + p_{n} Y_{n}] = E [Z] + p_{n} E [Y] = p_{n} E [Y]

$E[X_n] = E[Z_n + p_n Y_n] = E[Z] + p_n E[Y] = p_n E[Y]$

harus tidak terbatas karena tidak terbatas. Dengan demikian urutan ini memenuhi semua persyaratan masalah. $E[Y]$ $(X_n)$

Mari kita beralih ke analisis sarana parsial. Aplikasi berulang dengan mean parsial $(1)$

S_{n} = \frac{X_{1} + X_{2} + \dots + X_{n}}{\sqrt{n}}

$S_n = \frac{X_1 + X_2 + \cdots + X_n}{\sqrt{n}}$

memberi

\begin{matrix} (3) & \begin{aligned} ψ_{S_{n}} (t) & = [e^{- (t / \sqrt{n})^{2} / 2} ψ_{Y} (p_{1} t / \sqrt{n})] \dots [e^{- (t / \sqrt{n})^{2} / 2} ψ_{Y} (p_{n} t / \sqrt{n})] \\ = [e^{- (t / \sqrt{n})^{2} / 2} \dots e^{- (t / \sqrt{n})^{2} / 2}] [ψ_{Y} (p_{1} t / \sqrt{n}) \dots ψ_{Y} (p_{n} t / \sqrt{n})] \\ = e^{- t^{2} / (2 n) - t^{2} / (2 n) - \dots - t^{2} / (2 n)} e^{\sqrt{| p_{1} t / \sqrt{n} |} (- 1 + i sgn (p_{1} t / \sqrt{n})} \dots e^{\sqrt{| p_{n} t / \sqrt{n} |} (- 1 + i sgn (p_{n} t / \sqrt{n})} . \end{aligned} \end{matrix}

$\eqalign{ \psi_{S_n}(t) &= \left[e^{-(t/\sqrt{n})^2/2}\color{Blue}{\psi_Y(p_1 t/\sqrt{n})}\right] \cdots \left[e^{-(t/\sqrt{n})^2/2}\color{Blue}{\psi_Y(p_n t/\sqrt{n})}\right] \\ &= \left[e^{-(t/\sqrt{n})^2/2} \cdots e^{-(t/\sqrt{n})^2/2}\right] \left[\color{Blue}{\psi_Y(p_1t/\sqrt{n}) \cdots \psi_Y(p_nt/\sqrt{n})}\right] \\ &= e^{-t^2/(2n) - t^2/(2n) - \cdots - t^2/(2n)}\quad \color{Blue}{e^{\sqrt{|p_1t/\sqrt{n}|}(-1+i\operatorname{sgn}(p_1t/\sqrt{n})} \cdots e^{\sqrt{|p_nt/\sqrt{n}|}(-1+i\operatorname{sgn}(p_nt/\sqrt{n})} }.\tag{3} }$

Mengumpulkan kekuatan hitam dari memberikan kekuatan sambil mengumpulkan kekuatan biru (datang dari gangguan) memberi $e$ $-t^2/2$

\begin{matrix} (4) & \sum_{i = 1}^{n} \sqrt{| p_{i} t / \sqrt{n} |} (- 1 + i sgn (p_{i} t / \sqrt{n})) = \sqrt{| t |} (- 1 + i sgn (t)) \frac{\sum_{i = 1}^{n} \sqrt{p_{i}}}{n^{1 / 4}} \end{matrix}

$\sum_{i=1}^n \color{blue}{\sqrt{|p_it/\sqrt{n}|}(-1+i\operatorname{sgn}(p_it/\sqrt{n}))} = \sqrt{|t|}(-1+i\operatorname{sgn}(t))\frac{\sum_{i=1}^n \sqrt{p_i}}{n^{1/4}}\tag{4}$

karena dan semua positif. Sejak , untuk setiap tetap nilai menjadi nol ketika bertambah asalkanSalah satu cara untuk mewujudkan ini adalah dengan membuat penjumlahan dari konvergen: take , misalnya. Kemudian $n$ $p_i$ $|-1 + i\operatorname{sgn}(t)| \le \sqrt{2}$ $t$ $(4)$ $n$ $\sum_{i=1}^n\sqrt{p_i} = o(n^{-1/4}).$ $\sqrt{p_i}$ $p_i = 2^{-2i}$

\frac{1}{n^{1 / 4}} \sum_{i = 1}^{n} \sqrt{p_{i}} \leq \frac{1}{n^{1 / 4}} (1 / 2 + 1 / 4 + \dots + 1 / 2^{n} + \dots) = \frac{1}{n^{1 / 4}} \to 0.

$\frac{1}{n^{1/4}} \sum_{i=1}^n \sqrt{p_i} \le \frac{1}{n^{1/4}} (1/2+1/4+\cdots+1/2^n+\cdots) = \frac{1}{n^{1/4}}\to 0.$

Akibatnya, karena eksponensial adalah kontinu pada , istilah biru menyatu dengan : mereka tidak mempengaruhi batas. Kami menyimpulkan konvergen ke . Karena ini adalah cf dari distribusi Normal standar, Teorema Kesinambungan Lévy menyiratkan konvergen ke distribusi Normal standar, QED . $0$ $(3)$ $e^0=1$ $(\psi_{S_n})$ $\psi_X$ $S_n$

Komentar

Gagasan yang ditampilkan di sini dapat digeneralisasi. Kita tidak perlu menjadi standar Normal; itu sudah cukup (oleh Teorema Limit Sentral biasa) bahwa mereka iid dengan nol mean dan varians unit. Kelihatannya kita telah membuat ekstensi dari CLT: distribusi cara dari urutan variabel acak independen, bahkan mereka yang memiliki harapan dan varian yang tak terbatas , dapat (ketika sesuai standar) menyatu dengan distribusi Normal standar, memberikan "bagian tak terbatas" variabel acak tumbuh kecil cukup cepat. $X_n$

— whuber
sumber