Saya pernah mendengar bahwa rasio atau invers variabel acak seringkali bermasalah, karena tidak memiliki harapan. Mengapa demikian?

25

Judulnya adalah pertanyaan. Saya diberitahu bahwa rasio dan invers variabel acak seringkali bermasalah. Yang dimaksud adalah bahwa harapan seringkali tidak ada. Apakah ada penjelasan sederhana dan umum tentang hal itu?

— kjetil b halvorsen
sumber

25

Saya ingin menawarkan penjelasan yang sangat sederhana, intuitif. Jumlahnya sama dengan melihat gambar: sisa postingan ini menjelaskan gambar dan menarik kesimpulan darinya.

Inilah yang terjadi: ketika ada "massa probabilitas" terkonsentrasi di dekat , akan ada terlalu banyak probabilitas di dekat , menyebabkan ekspektasinya menjadi tidak terdefinisi. $X=0$ $1/X\approx \pm \infty$

Alih-alih menjadi sepenuhnya umum, mari kita fokus pada variabel acak yang memiliki kepadatan kontinu di lingkungan . Misalkan . Secara visual, kondisi ini berarti grafik terletak di atas sumbu sekitar : $X$ $f_X$ $0$ $f_X(0)\ne 0$ $f$ $0$

Kontinuitas sekitar menyiratkan bahwa untuk setiap ketinggian positif kurang dari dan cukup kecil , kita dapat mengukir persegi panjang di bawah grafik ini yang berpusat di sekitar , memiliki lebar , dan tinggi , seperti yang ditunjukkan. Ini sesuai dengan mengekspresikan distribusi asli sebagai campuran dari distribusi seragam (dengan berat ) dan apa pun yang tersisa. $f_X$ $0$ $p$ $f_X(0)$ $\epsilon$ $x=0$ $2\epsilon$ $p$ $p\times 2\epsilon=2p\epsilon$

Dengan kata lain, kita mungkin menganggap muncul sebagai berikut: $X$

Dengan probabilitas , gambarkan nilai dari distribusi Uniform . $2p\epsilon$ $(-\epsilon,\epsilon)$
Jika tidak, gambarkan nilai dari distribusi yang densitasnya sebanding dengan . (Ini adalah fungsi yang digambar kuning di sebelah kanan.) $f_X - p I_{(-\epsilon,\epsilon)}$

( adalah fungsi indikator.) $I$

Langkah menunjukkan bahwa untuk setiap , kemungkinan antara dan melebihi . Secara ekuivalen, ini adalah peluang bahwa melebihi . Dengan kata lain: menulis untuk fungsi survivor $(1)$ $0 \lt u \lt \epsilon$ $X$ $0$ $u$ $p u / 2$ $1/X$ $1/u$ $S$ $1/X$

S (x) = Pr (1 / X > x),

$S(x) = \Pr(1/X \gt x),$

gambar menunjukkan untuk semua . $S(x) \gt p / (2x)$ $x \gt 1/\epsilon$

Kami sudah selesai sekarang, karena fakta tentang menyiratkan harapan tidak ditentukan. $S$ Bandingkan integral yang terlibat dalam penghitungan ekspektasi bagian positif , : $1/X$ $(1/X)_{+} = \max(0, 1/X)$

E [(1 / X)_{+}] = \int_{0}^{\infty} S (x) d x > \int_{1 / ϵ}^{x} S (x) d x > \int_{1 / ϵ}^{x} \frac{p}{2 x} d x = \frac{p}{2} \log (x ϵ) .

$E[(1/X)_{+}] = \int_0^\infty S(x)dx \gt \int_{1/\epsilon}^x S(x)dx \gt \int_{1/\epsilon}^x \frac{p}{2x}dx = \frac{p}{2} \log(x\epsilon).$

(Ini adalah argumen geometris murni: setiap integral mewakili wilayah dua dimensi yang dapat diidentifikasi dan semua ketidaksetaraan muncul dari inklusi ketat dalam wilayah tersebut. Memang, kita bahkan tidak perlu tahu integral akhir adalah logaritma: ada geometris sederhana argumen yang menunjukkan penyimpangan integral ini.)

Karena sisi kanan menyimpang sebagai , menyimpang. Situasi dengan bagian negatif dari adalah sama (karena persegi panjang berpusat di sekitar ), dan argumen yang sama menunjukkan harapan dari bagian negatif dari divergenAkibatnya harapan itu sendiri tidak ditentukan. $x\to\infty$ $E[(1/X)_{+}]$ $1/X$ $0$ $1/X$ $1/X$

Kebetulan, argumen menunjukkan sama bahwa ketika memiliki probabilitas terkonsentrasi di satu sisi dari , seperti distribusi eksponensial atau Gamma (dengan parameter bentuk kurang dari ), maka masih divergen ekspektasi positif, tetapi harapan negatif adalah nol. Dalam hal ini harapan yang ditetapkan, tapi tak terbatas. $X$ $0$ $1$

— whuber
sumber

3

Apakah saya benar dalam menduga bahwa asumsi sangat penting untuk hasilnya? Maksud saya, kami memiliki kasus di mana memiliki momen setidaknya untuk beberapa rentang parameter yang terlibat, dan tampaknya dalam kasus di mana , seperti Gamma / Inverse-Gamma

f_{X} (0) \neq 0

$f_X(0)\neq 0$

1 / X

$1/X$

f_{X} (0) = 0

$f_X(0) = 0$

— Alecos Papadopoulos

3

@Alecos Tidak, anggapan itu tidak penting. Itu dan kesinambungan pada membuat argumen sederhana, tetapi tidak ada yang penting. Pertimbangkan dengan kerapatan sebanding dengan untuk dan . Ini kontinu pada tetapi tidak memiliki harapan.

f

$f$

0

$0$

X

$X$

f_{X}

$f_X$

- 1 / \log (x)

$-1/\log(x)$

0 < x < 1 / e

$0 \lt x \lt 1/e$

f_{X} (0) = 0

$f_X(0)=0$

0

$0$

1 / X

$1/X$

— whuber

15

Rasio dan invers sebagian besar bermakna dengan variabel acak nonnegatif, jadi saya akan menganggap hampir pasti. Kemudian, jika adalah variabel diskrit yang mengambil nilai nol dengan probabilitas positif, kita akan membaginya dengan nol dengan probabilitas positif, yang menjelaskan mengapa harapan tidak akan ada. $X \ge 0$ $X$ $1/X$

Sekarang lihat kasus distribusi kontinu, dengan variabel acak dengan fungsi densitas . Kami akan menganggap bahwa dan bahwa adalah kontinu (setidaknya nol). Lalu ada sehingga untuk . Nilai yang diharapkan dari diberikan oleh Sekarang mari kita ubah variabel integrasi menjadi , kita memiliki , memperoleh $X \ge 0$ $f(x)$ $f(0)>0$ $f$ $\epsilon > 0$ $f(x) > \epsilon$ $0 \le x < \epsilon$ $1/X$

E \frac{1}{X} = \int_{0}^{\infty} \frac{1}{x} f (x) d x

$\DeclareMathOperator{\E}{\mathbb{E}} \E \frac1{X} = \int_0^\infty \frac1{x} f(x)\; dx$

u = 1 / x

$u=1/x$

d u = - \frac{1}{x^{2}} d x

$du = -\frac1{x^2} \; dx$

E \frac{1}{X} = - \int_{\infty}^{0} u f (\frac{1}{u}) (\frac{1}{u})^{2} d u = \int_{0}^{\infty} \frac{1}{u} f (\frac{1}{u}) d u

$\E \frac1{X} = -\int_{\infty}^0 u f(\frac1{u}) (\frac1{u})^2 \; du = \\ \int_0^\infty \frac1{u} f(\frac1{u}) \; du$ Sekarang, dengan asumsi pada jadi pada , dengan menggunakan ini kita memiliki menunjukkan bahwa ekspektasi tidak ada. Contoh yang memenuhi asumsi ini adalah distribusi eksponensial dengan kurs 1.

f (u) > ϵ

$f(u) > \epsilon$

[0, ϵ)

$[0,\epsilon)$

f (\frac{1}{u}) > 1 / ϵ

$f(\frac1{u}) > 1/\epsilon$

(1 / ϵ, \infty)

$(1/\epsilon, \infty)$

E \frac{1}{X} > ϵ \int_{1 / ϵ}^{\infty} \frac{1}{u} d u = \infty

$\E \frac1{X} > \epsilon \int_{1/\epsilon}^\infty \frac1{u}\; du =\infty$

Kami telah memberikan jawaban untuk invers, bagaimana dengan rasio? Misalkan menjadi rasio dari dua variabel acak nonnegatif. Jika mereka independen, kita dapat menulis jadi ini cukup mengurangi kasus pertama dan tidak ada banyak yang baru untuk dikatakan . Bagaimana jika mereka tergantung, dengan anjak kerapatan bersama sebagai Kemudian kita mendapatkan (menggunakan substitusi yang sama seperti di atas) dan kita bisa beralasan seperti di atas pada integral internal. Hasilnya adalah bahwa jika kepadatan bersyarat (diberikan $Z=Y/X$

E Z = E \frac{Y}{X} = E Y \cdot E \frac{1}{x}

$\E Z = \E\frac{Y}{X}=\E Y \cdot \E\frac1{x}$

f (x, y) = f (x ∣ y) g (y)

$f(x,y) = f(x \mid y) g(y)$

E \frac{Y}{X} = \int_{0}^{\infty} y \int_{0}^{\infty} \frac{1}{x} f (x ∣ y) d x g (y) d y = \int_{0}^{\infty} y \int_{0}^{\infty} \frac{1}{u} f (\frac{1}{u} ∣ y) d u g (y) d y

$\E \frac{Y}{X} = \int_0^\infty y \int_0^\infty \frac1{x} f(x\mid y) \; dx \;g(y)\; dy = \\ \int_0^\infty y \int_0^\infty \frac1{u} f(\frac1{u}\mid y) \; du \; g(y) \; dy$

y

$y$ ) positif dan kontinu pada nol, untuk himpunan dengan probabilitas marjinal positif, harapan akan menjadi tak terbatas. Saya kira tidak akan mudah untuk menemukan contoh-contoh di mana harapan marjinal tidak terbatas, tetapi harapan rasio terbatas, kecuali jika ada korelasi sempurna. Akan menyenangkan melihat beberapa contoh seperti itu!

y

$y$

1 / X

$1/X$

Y / X

$Y/X$

— kjetil b halvorsen
sumber