Keberadaan moment menghasilkan fungsi dan varian

Dapatkah distribusi dengan mean hingga dan varians tak terbatas memiliki fungsi menghasilkan momen? Bagaimana dengan distribusi dengan mean terbatas dan varian terbatas tetapi momen-momen lebih tinggi yang tak terbatas?

variance moments mgf

— Mg
sumber

Petunjuk : Jika mgf ada dalam interval sekitar nol, katakan untuk beberapa , maka pertimbangkan ekspansi Taylor dan monotonitas integral untuk menemukan solusi. :)

(- t_{0}, t_{0})

$(-t_0,t_0)$

t_{0} > 0

$t_0 > 0$

e^{x}

$e^x$

— kardinal

Mengabaikan masalah konvergensi (hanya memikirkan mgf sebagai rangkaian kekuatan formal), apa yang bisa dilakukan mgf jika ada saat yang gagal?

— whuber

Kardinal dapatkah Anda memberi kami beberapa referensi tentang proposisi yang Anda berikan?

Pertanyaan ini memberikan peluang bagus untuk mengumpulkan beberapa fakta tentang fungsi-fungsi yang menghasilkan momen ( mgf ).

Dalam jawaban di bawah ini, kami melakukan hal berikut:

Tunjukkan bahwa jika mgf terbatas hingga setidaknya satu (benar-benar) nilai positif dan satu nilai negatif, maka semua momen positif adalah terbatas (termasuk momen nonintegral). $X$
Buktikan bahwa kondisi pada item pertama di atas setara dengan distribusi memiliki ekor yang terikat secara eksponensial . Dengan kata lain, ekor jatuh setidaknya secepat yang dari variabel acak eksponensial (hingga konstanta). $X$ $X$ $Z$
Berikan catatan cepat tentang karakterisasi distribusi dengan mgf asalkan memenuhi kondisi dalam item 1.
Jelajahi beberapa contoh dan contoh tandingan untuk membantu intuisi kita dan, khususnya, untuk menunjukkan bahwa kita tidak boleh membaca kepentingan yang tidak semestinya mengenai kurangnya keterbatasan mgf.

Jawaban ini cukup panjang, yang sebelumnya saya minta maaf. Jika ini akan ditempatkan lebih baik, misalnya, sebagai posting blog atau di tempat lain, jangan ragu untuk memberikan umpan balik tersebut di komentar.

Apa yang dikatakan mgf tentang momen?

Mgf dari variabel acak didefinisikan sebagai . Perhatikan bahwa selalu ada karena merupakan bagian integral dari fungsi terukur nonnegatif. Namun, jika mungkin tidak terbatas . Jika ini terbatas (di tempat yang benar), maka untuk semua (tidak harus integer), saat-saat mutlak (dan, jadi, juga adalah terbatas). Ini adalah topik dari proposisi berikutnya. $X \sim F$ $m(t) = \mathbb E e^{tX}$ $m(t)$ $p > 0$ $\mathbb E |X|^p < \infty$ $\mathbb E X^p$

Proposisi : Jika ada dan sedemikian rupa sehingga dan , maka saat-saat semua pesanan ada dan terbatas. $\newcommand{\tn}{t_{n}}\newcommand{\tp}{t_{p}}\tn < 0$ $\tp > 0$ $m(\tn) < \infty$ $m(\tp) < \infty$ $X$

Sebelum menyelam menjadi bukti, berikut adalah dua lemma yang bermanfaat.

Lemma 1 : Misalkan dan ada. Kemudian untuk setiap , . Bukti . Ini mengikuti dari cembung dan monotonisitas integral. Untuk setiap , terdapat sedemikian rupa sehingga . Tetapi, maka Karenanya, dengan monotonitas integral, . $\tn$ $\tp$ $t_0 \in [\tn,\tp]$ $m(t_0) < \infty$
$e^x$ $t_0$ $\theta \in [0,1]$ $t_0 = \theta \tn + (1-\theta) \tp$

e^{t_{0} X} = e^{θ t_{n} X + (1 - θ) t_{p} X} \leq θ e^{t_{n} X} + (1 - θ) e^{t_{p} X} .

$e^{t_0 X} = e^{\theta \tn X + (1-\theta) \tp X} \leq \theta e^{\tn X} + (1-\theta) e^{\tp X} \>.$

E e^{t_{0} X} \leq θ E e^{t_{n} X} + (1 - θ) E e^{t_{p} X} < \infty

$\mathbb E e^{t_0 X} \leq \theta \mathbb E e^{\tn X} + (1-\theta) \mathbb E e^{\tp X} < \infty$

Jadi, jika mgf terbatas pada dua titik yang berbeda, itu adalah terbatas untuk semua nilai dalam interval di antara titik-titik tersebut.

Lemma 2 ( Bersarang ruang $L_p$ ): Untuk , jika , maka . Bukti : Dua pendekatan diberikan dalam jawaban ini dan komentar terkait . $0 \leq q \leq p$ $\mathbb E |X|^p < \infty$ $\mathbb E |X|^q < \infty$

Ini memberi kita cukup untuk melanjutkan dengan bukti proposisi.

Bukti proposisi . Jika dan ada seperti yang dinyatakan dalam proposisi, lalu mengambil , kita tahu dengan lemma pertama bahwa dan . Tetapi, dan sisi kanan terdiri dari istilah non-negatif, jadi, khususnya, untuk setiap Sekarang, dengan asumsi . Monotonisitas hasil integral . Karena itu, semuanya $\tn < 0$ $\tp > 0$ $t_0 = \min(-\tn,\tp) > 0$ $m(-t_0) < \infty$ $m(t_0) < \infty$

e^{- t_{0} X} + e^{t_{0} X} = 2 \sum_{n = 0}^{\infty} \frac{t_{0}^{2 n} X^{2 n}}{(2 n)!},

$e^{-t_0 X} + e^{t_0 X} = 2 \sum_{n=0}^\infty \frac{t_0^{2n} X^{2n}}{(2n)!} \>,$

k

$k$

e^{- t_{0} X} + e^{t_{0} X} \geq 2 t_{0}^{2 k} X^{2 k} / (2 k)! .

$e^{-t_0 X} + e^{t_0 X} \geq 2 t_0^{2k} X^{2k}/(2k)! \>.$

E e^{- t_{0} X} + E e^{t_{0} X} < \infty

$\mathbb E e^{-t_0 X} + \mathbb E e^{t_0 X} < \infty$

E X^{2 k} < \infty

$\mathbb E X^{2k} < \infty$ bahkan saat-saat pun terbatas. Lemma 2 segera memungkinkan kita untuk "mengisi kekosongan" dan menyimpulkan bahwa semua momen harus terbatas.

X

$X$

Hasil

Hasilnya mengenai pertanyaan yang ada adalah bahwa jika salah satu momen tidak terbatas atau tidak ada, kita dapat segera menyimpulkan bahwa mgf tidak terbatas dalam interval terbuka yang berisi asal. (Ini hanya pernyataan kontrapositif dari proposisi.) $X$

Dengan demikian, proposisi di atas memberikan kondisi "benar" untuk mengatakan sesuatu tentang momen berdasarkan mgf-nya. $X$

Ekor yang terikat secara eksponensial dan mgf

Proposisi : The MGF adalah terbatas dalam interval terbuka yang mengandung asal jika dan hanya jika ekor yang eksponensial dibatasi , yaitu, untuk beberapa dan . $m(t)$ $(\tn,\tp)$ $F$ $\mathbb P( |X| > x) \leq C e^{-t_0 x}$ $C > 0$ $t_0 > 0$

Bukti . Kami akan menangani ekor kanan secara terpisah. Ekor kiri ditangani sepenuhnya secara analog.

$(\Rightarrow)$ Misalkan untuk beberapa . Kemudian, ekor kanan adalah eksponensial dibatasi ; dengan kata lain, terdapat dan sedemikian rupa sehingga Untuk melihat ini, perhatikan bahwa untuk setiap , oleh ketidaksetaraan Markov, Ambil dan untuk melengkapi arah pembuktian ini. $m(t_0) < \infty$ $t_0 > 0$ $F$ $C > 0$ $b > 0$

P (X > x) \leq C e^{- b x} .

$\mathbb P(X > x) \leq C e^{-b x} \>.$

t > 0

$t > 0$

P (X > x) = P (e^{t X} > e^{t x}) \leq e^{- t x} E e^{t X} = m (t) e^{- t x} .

$\mathbb P(X > x) = \mathbb P(e^{tX} > e^{tx}) \leq e^{-tx} \mathbb E e^{t X} = m(t) e^{-t x} \>.$

C = m (t_{0})

$C = m(t_0)$

b = t_{0}

$b = t_0$

$(\Leftarrow)$ Misalkan ada dan sedemikian rupa sehingga . Kemudian, untuk , mana persamaan pertama mengikuti dari a fakta standar tentang ekspektasi variabel acak non negatif . Pilih sehingga ; kemudian, integral di sisi kanan terbatas. $C >0$ $t_0 > 0$ $\mathbb P(X > x) \leq C e^{-t_0 x}$ $t > 0$

E e^{t X} = \int_{0}^{\infty} P (e^{t X} > y) d y \leq 1 + \int_{1}^{\infty} P (e^{t X} > y) d y \leq 1 + \int_{1}^{\infty} C y^{- t_{0} / t} d y,

$\mathbb E e^{t X} = \int_0^\infty \mathbb P( e^{t X} > y)\,\mathrm dy \leq 1 + \int_1^\infty \mathbb P( e^{t X} > y)\,\mathrm dy \leq 1 + \int_1^\infty C y^{-t_0/t} \, \mathrm dy \>,$

t

$t$

0 < t < t_{0}

$0 < t < t_0$

Ini melengkapi buktinya.

Catatan tentang keunikan distribusi yang diberikan mgf-nya

Jika mgf terbatas dalam interval terbuka yang mengandung nol, maka distribusi yang terkait ditandai dengan momen-momennya , yaitu, itu adalah satu-satunya distribusi dengan momen . Sebuah pembuktian standar adalah singkat begitu ada beberapa fakta (relatif langsung) tentang fungsi karakteristik . Detail dapat ditemukan di sebagian besar teks probabilitas modern (mis., Billingsley atau Durrett). Beberapa hal terkait dibahas dalam jawaban ini . $\mu_n = \mathbb E X^n$

Contoh dan contoh tandingan

( A ) distribusi Lognormal : adalah lognormal jika untuk beberapa variabel acak normal . Jadi dengan probabilitas satu. Karena untuk semua , ini segera memberitahu kita bahwa untuk semua . Jadi, mgf terbatas pada half-line nonnegatif . ( NB Kami hanya menggunakan nonnegativitas untuk menetapkan fakta ini, jadi ini benar dari semua variabel acak nonnegatif.) $X$ $X = e^Y$ $Y$ $X \geq 0$ $e^{-x} \leq 1$ $x \geq 0$ $m(t) = \mathbb E e^{t X} \leq 1$ $t < 0$ $(-\infty,0]$ $X$

Namun, untuk semua . Kami akan menggunakan lognormal standar sebagai kasus kanonik. Jika , maka . Dengan perubahan variabel, kita memiliki Untuk dan cukup besar , kami memiliki dengan batas yang diberikan di atas. Tetapi, untuk apa pun , sehingga mgf tidak terbatas untuk semua . $m(t) = \infty$ $t > 0$ $x > 0$ $e^{x} \geq 1 + x + \frac{1}{2} x^2 + \frac{1}{6} x^3$

E e^{t X} = (2 π)^{- 1 / 2} \int_{- \infty}^{\infty} e^{t e^{u} - u^{2} / 2} d u .

$\mathbb E e^{t X} = (2\pi)^{-1/2} \int_{-\infty}^\infty e^{t e^u - u^2/2} \,\mathrm d u \>.$

t > 0

$t > 0$

u

$u$

t e^{u} - u^{2} / 2 \geq t + t u

$t e^u - u^2/2 \geq t+tu$

\int_{K}^{\infty} e^{t + t u} d u = \infty

$\int_{K}^\infty e^{t + tu} \,\mathrm du = \infty$

K

$K$

t > 0

$t > 0$

Di sisi lain, semua momen dari distribusi lognormal terbatas. Jadi, keberadaan mgf dalam interval sekitar nol tidak diperlukan untuk kesimpulan proposisi di atas .

( B ) Lognormal simetri : Kita bisa mendapatkan kasus yang lebih ekstrim dengan "simetrizing" distribusi lognormal. Pertimbangkan kerapatan untuk sedemikian rupa sehingga Tidak sulit untuk melihat dari contoh sebelumnya bahwa mgf hanya terbatas untuk . Namun, momen genap persis sama dengan momen lognormal dan momen aneh semuanya nol! Jadi, mgf tidak ada di mana-mana (kecuali di tempat asal selalu ada) namun kami dapat menjamin saat-saat terbatas dari semua pesanan. $f(x)$ $x \in \mathbb R$

f (x) = \frac{1}{2 \sqrt{2 π} | x |} e^{- \frac{1}{2} (\log | x |)^{2}} .

$f(x) = \frac{1}{2\sqrt{2\pi}|x|} e^{-\frac{1}{2} (\log |x|)^2} \>.$

t = 0

$t = 0$

( c ) Distribusi Cauchy : Distribusi ini juga memiliki mgf yang tidak terbatas untuk semua , tetapi tidak ada momen absolut terbatas untuk . Hasil untuk mgf berikut untuk sejak untuk dan seterusnya Bukti untuk adalah analog. (Mungkin agak kurang terkenal adalah bahwa momen untuk memang ada untuk Cauchy. Lihat jawaban ini $t \neq 0$ $\mathbb E|X|^p$ $p \geq 1$ $t > 0$ $e^x \geq x^3 / 6$ $x > 0$

E e^{t X} \geq \int_{1}^{\infty} \frac{t^{3} x^{3}}{6 π (1 + x^{2})} d x \geq \frac{t^{3}}{12 π} \int_{1}^{\infty} x d x = \infty .

$\mathbb E e^{tX} \geq \int_1^\infty \frac{t^3 x^3}{6\pi(1+x^2)} \,\mathrm dx \geq \frac{t^3}{12\pi} \int_1^\infty x \,\mathrm dx = \infty \>.$

t < 0

$t < 0$

0 < p < 1

$0 < p < 1$ .)

( d ) Distribusi Setengah-Cauchy : Jika adalah (standar) Cauchy, hubungivariabel acak setengah-Cauchy. Kemudian, mudah untuk melihat dari contoh sebelumnya bahwa untuk semua ; namun, terbatas untuk . $X$ $Y = |X|$ $\mathbb E Y^p = \infty$ $p \geq 1$ $\mathbb E e^{tY}$ $t \in (-\infty,0]$

— kardinal
sumber

Terima kasih telah memposting ini - ini mengejutkan mudah dimengerti, mengingat betapa teknisnya - dilakukan dengan baik.

— Makro

Apakah Anda tahu ada hasil tentang mgf di ruang Hilbert?

— badatmath