Contoh menunjukkan

Cara membuat contoh distribusi probabilitas yang memegang berlaku, dengan asumsi ? $\mathbb{E}\left(\frac{1}{X}\right)=\frac{1}{\mathbb{E}(X)}$ $\mathbb{P}(X\ne0)=1$

Ketidaksetaraan yang mengikuti dari ketidaksetaraan Jensen untuk RV bernilai positif adalah seperti (ketimpangan terbalik jika ). Ini karena pemetaan adalah cembung untuk dan cekung untuk . Setelah kondisi kesetaraan dalam ketidaksetaraan Jensen, saya kira distribusinya harus merosot agar kesetaraan yang diperlukan tetap berlaku. Kasus sepele di mana kesetaraan berlaku tentu saja jika ae. Berikut adalah contoh yang saya temukan dalam buku masalah: Pertimbangkan variabel acak diskrit sedemikian rupa sehingga $X$ $\mathbb{E}\left(\frac{1}{X}\right)\ge\frac{1}{\mathbb{E}(X)}$ $X<0$ $x\mapsto\frac{1}{x}$ $x>0$ $x<0$ $X=1$ $X$ $\mathbb{P}(X=-1)=\frac{1}{9}, \mathbb{P}(X=\frac{1}{2})=\mathbb{P}(X=2)=\frac{4}{9}$ . Maka dengan mudah diverifikasi bahwa . $\mathbb{E}\left(\frac{1}{X}\right)=\frac{1}{\mathbb{E}(X)}=1$

Contoh ini menunjukkan bahwa tidak harus positif (atau negatif) untuk kesetaraan dalam judul. Distribusi di sini juga tidak merosot. $X$

Bagaimana saya membuat contoh, mungkin seperti contoh yang saya temukan di buku? Apakah ada motivasi?

— StubbornAtom
sumber

Contoh Anda berlaku untuk variabel acak apa pun yang merupakan konstanta bukan nol. Juga contoh kedua Anda tidak merosot.

— Michael R. Chernick

Ketidaksetaraan tidak mengikuti dari Ketimpangan Jensen tanpa lebih jauh menganggap bahwa hampir pasti positif.

X

$X$

— whuber

@MichaelChernick Saya tidak menyiratkan untuk mengatakan bahwa contoh memiliki distribusi yang menurun.

— StubbornAtom

Saya merujuk pada pernyataan Anda, "Mengikuti kondisi kesetaraan dalam ketidaksetaraan Jensen, saya kira distribusinya harus merosot agar kesetaraan yang disyaratkan berlaku." Namun Anda menunjukkan contoh yang tidak menghasilkan.

— Michael R. Chernick

@whuber Saya hanya ingin tahu bagaimana menemukan contoh di mana kesetaraan dalam judul itu benar.

— StubbornAtom

Jawaban:

Mari kita buat semua contoh yang mungkin dari variabel acak yang . Kemudian, di antara mereka, kita dapat mengikuti beberapa heuristik untuk mendapatkan contoh sesederhana mungkin. Heuristik ini terdiri dari memberikan nilai yang paling sederhana untuk semua ekspresi yang keluar dari analisis pendahuluan. Ini ternyata menjadi contoh buku teks. $X$ $E[X]E[1/X]=1$

Analisis awal

Ini hanya memerlukan sedikit analisis berdasarkan definisi. Solusinya adalah hanya kepentingan sekunder: tujuan utamanya adalah untuk mengembangkan wawasan untuk membantu kita memahami hasil secara intuitif.

Pertama-tama amati bahwa Ketimpangan Jensen (atau Ketimpangan Cauchy-Schwarz) menyiratkan bahwa untuk variabel acak positif , , dengan persamaan memegang jika dan hanya jika adalah "merosot": itu adalah, hampir pasti konstan. Ketika adalah variabel acak negatif, positif dan hasil sebelumnya berlaku dengan tanda ketidaksetaraan terbalik. Akibatnya, setiap contoh di mana harus memiliki probabilitas positif menjadi negatif dan probabilitas positif menjadi positif. $X$ $E[X]E[1/X] \ge 1$ $X$ $X$ $X$ $-X$ $E[1/X]=1/E[X]$

Wawasan di sini adalah bahwa setiap dengan entah bagaimana harus "menyeimbangkan" ketidaksetaraan dari bagian positifnya terhadap ketimpangan di arah lain dari bagian negatifnya. Ini akan menjadi lebih jelas seiring berjalannya waktu. $X$ $E[X]E[1/X]=1$

Mempertimbangkan nol variabel acak . Langkah awal dalam merumuskan definisi ekspektasi (setidaknya ketika hal ini dilakukan secara umum dengan menggunakan teori ukuran) adalah menguraikan menjadi bagian positif dan negatifnya, yang keduanya merupakan variabel acak positif: $X$ $X$

\begin{aligned} Y & = Positive part (X) = max (0, X); \\ Z & = Negative part (X) = - min (0, X) . \end{aligned}

$\eqalign{ Y &= \operatorname{Positive part}(X) = \max(0, X);\\ Z &= \operatorname{Negative part}(X) = -\min(0, X). }$

Mari kita pikirkan sebagai campuran dari dengan berat badan dan dengan berat di mana Jelas Ini akan memungkinkan kita untuk menulis harapan dan dalam hal harapan variabel positif dan . $X$ $Y$ $p$ $-Z$ $1-p$

p = Pr (X > 0), 1 - p = Pr (X < 0) .

$p=\Pr(X\gt 0),\ 1-p = \Pr(X \lt 0).$

0 < p < 1.

$0 \lt p \lt 1.$ $X$ $1/X$ $Y$ $Z$

Untuk menyederhanakan aljabar yang akan datang sedikit, perhatikan bahwa men-rescaling secara seragam dengan angka tidak mengubah tetapi itu mengalikan dan masing-masing dengan . Untuk positif , ini hanya sebesar memilih unit pengukuran . Sebuah negatif beralih peran dari dan . Oleh karena itu, memilih tanda tepat dapat kita anggap $X$ $\sigma$ $E[X]E[1/X]$ $E[Y]$ $E[Z]$ $\sigma$ $\sigma$ $X$ $\sigma$ $Y$ $Z$ $\sigma$

\begin{matrix} (1) & E [Z] = 1 and E [Y] \geq E [Z] . \end{matrix}

$E[Z]=1\text{ and }E[Y] \ge E[Z].\tag{1}$

Notasi

Itu saja untuk penyederhanaan awal. Untuk membuat notasi yang bagus, marilah kita menulis

μ = E [Y]; ν = E [1 / Y]; λ = E [1 / Z]

$\mu = E[Y];\ \nu = E[1/Y];\ \lambda=E[1/Z]$

untuk tiga harapan kita tidak bisa mengendalikan. Ketiga kuantitas itu positif. Jensen Inequality menegaskan

\begin{matrix} (2) & μ ν \geq 1 and λ \geq 1. \end{matrix}

$\mu\nu \ge 1\text{ and }\lambda \ge 1.\tag{2}$

Hukum Probabilitas Total menyatakan harapan dan dalam hal jumlah yang telah kami sebutkan: $X$ $1/X$

E [X] = E [X ∣ X > 0] Pr (X > 0) + E [X ∣ X < 0] Pr (X < 0) = μ p - (1 - p) = (μ + 1) p - 1

$E[X] = E[X\mid X\gt 0]\Pr(X \gt 0) + E[X\mid X \lt 0]\Pr(X \lt 0) = \mu p - (1-p) = (\mu + 1)p - 1$

dan, karena memiliki tanda yang sama dengan , $1/X$ $X$

E [\frac{1}{X}] = E [\frac{1}{X} ∣ X > 0] Pr (X > 0) + E [\frac{1}{X} ∣ X < 0] Pr (X < 0) = ν p - λ (1 - p) = (ν + λ) p - λ .

$E\left[\frac{1}{X}\right] = E\left[\frac{1}{X}\mid X\gt 0\right]\Pr(X \gt 0) + E\left[\frac{1}{X}\mid X \lt 0\right]\Pr(X \lt 0) = \nu p - \lambda(1-p) = (\nu + \lambda)p - \lambda.$

Menyamakan produk dari dua ekspresi ini dengan memberikan hubungan penting antara variabel: $1$

\begin{matrix} (*) & 1 = E [X] E [\frac{1}{X}] = ((μ + 1) p - 1) ((ν + λ) p - λ) . \end{matrix}

$1 = E[X]E\left[\frac{1}{X}\right] = ((\mu +1)p - 1)((\nu + \lambda)p - \lambda).\tag{*}$

Reformulasi Masalah

Misalkan bagian dari - dan --are setiap variabel acak positif (degenerate atau tidak). Itu menentukan dan . Kapan kita dapat menemukan , dengan , untuk yang mana berlaku? $X$ $Y$ $Z$ $\mu, \nu,$ $\lambda$ $p$ $0 \lt p \lt 1$ $(*)$

Ini jelas mengartikulasikan "menyeimbangkan" wawasan sebelumnya menyatakan hanya samar-samar: kita akan mengadakan dan tetap dan harapan untuk menemukan nilai yang tepat menyeimbangkan kontribusi relatif mereka untuk . Meskipun tidak segera jelas bahwa seperti kebutuhan yang ada, yang jelas adalah bahwa hal itu tergantung hanya pada saat-saat , , , dan . Masalahnya dikurangi menjadi aljabar yang relatif sederhana - semua analisis variabel acak telah selesai. $Y$ $Z$ $p$ $X$ $p$ $E[Y]$ $E[1/Y]$ $E[Z]$ $E[1/Z]$

Larutan

Masalah aljabar ini tidak terlalu sulit untuk dipecahkan, karena paling buruk persamaan kuadrat untuk dan ketidaksetaraan yang mengatur dan relatif sederhana. Memang, mengatakan produk dari akarnya dan yaitu $(*)$ $p$ $(1)$ $(2)$ $(*)$ $p_1$ $p_2$

p_{1} p_{2} = (λ - 1) \frac{1}{(μ + 1) (ν + λ)} \geq 0

$p_1p_2 = (\lambda - 1)\frac{1}{(\mu+1)(\nu+\lambda)} \ge 0$

dan jumlahnya adalah

p_{1} + p_{2} = (2 λ + λ μ + ν) \frac{1}{(μ + 1) (ν + λ)} > 0.

$p_1 + p_2 = (2\lambda + \lambda \mu + \nu)\frac{1}{(\mu+1)(\nu+\lambda)} \gt 0.$

Karena itu kedua akar tersebut harus positif. Selanjutnya, rata-rata mereka kurang dari , karena $1$

1 - \frac{(p_{1} + p_{2})}{2} = \frac{λ μ + ν + 2 μ ν}{2 (μ + 1) (ν + λ)} > 0.

$1 - \frac{(p_1+p_2)}{2} = \frac{\lambda \mu + \nu + 2 \mu \nu}{2(\mu+1)(\nu+\lambda)} \gt 0.$

(Dengan melakukan sedikit aljabar, tidak sulit untuk menunjukkan bahwa akar yang lebih besar tidak melebihi , juga.) $1$

Teorema

Inilah yang kami temukan:

Mengingat setiap dua variabel acak positif dan (setidaknya salah satunya adalah nondegenerasi) yang , , , dan ada dan terbatas. Lalu ada satu atau dua nilai , dengan , yang menentukan variabel campuran dengan bobot untuk dan berat untuk dan untuk mana . Setiap instance variabel acak dengan adalah dari formulir ini. $Y$ $Z$ $E[Y]$ $E[1/Y]$ $E[Z]$ $E[1/Z]$ $p$ $0 \lt p \lt 1$ $X$ $p$ $Y$ $1-p$ $-Z$ $E[X]E[1/X]=1$ $X$ $E[X]E[1/X]=1$

Itu benar-benar memberi kita banyak contoh!

Membangun Contoh yang Mungkin Paling Sederhana

Setelah mengkarakterisasi semua contoh, mari kita lanjutkan untuk membangun satu yang sesederhana mungkin.

Untuk bagian negatif , mari kita pilih variabel degenerasi $Z$ - jenis variabel acak yang paling sederhana. Ini akan diskalakan untuk membuat nilainya , di mana . Solusi dari termasuk , menguranginya menjadi persamaan linear yang mudah dipecahkan: satu-satunya root positif adalah $1$ $\lambda=1$ $(*)$ $p_1=0$

$\begin{matrix} (3) & p = \frac{1}{1 + μ} + \frac{1}{1 + ν} . \end{matrix}$ $p = \frac{1}{1+\mu} + \frac{1}{1+\nu}.\tag{3}$
Untuk bagian positif , kita tidak memperoleh apa pun yang berguna jika merosot, jadi mari kita berikan beberapa probabilitas hanya pada dua nilai positif yang berbeda , katakan . $Y$ $Y$ $a \lt b$ $\Pr(X=b)=q$ Dalam hal ini definisi harapan memberi

$μ = E [Y] = (1 - q) a + q b; ν = E [1 / Y] = (1 - q) / a + q / b .$ $\mu = E[Y] = (1-q)a + qb;\ \nu = E[1/Y] = (1-q)/a + q/b.$
Untuk membuat ini lebih sederhana, mari kita membuat dan identik: $Y$ $1/Y$ ini memaksa dan . Sekarang $q=1-q=1/2$ $a=1/b$

$μ = ν = \frac{b + 1 / b}{2} .$ $\mu = \nu = \frac{b + 1/b}{2}.$
Solusi disederhanakan menjadi $(3)$

$p = \frac{2}{1 + μ} = \frac{4}{2 + b + 1 / b} .$ $p = \frac{2}{1+\mu} = \frac{4}{2 + b + 1/b}.$
Bagaimana kita bisa membuat ini melibatkan angka sederhana? Karena dan , tentu saja . Mari kita pilih angka paling sederhana lebih besar dari untuk ; yaitu, . Rumus sebelumnya menghasilkan dan kandidat kami untuk contoh paling sederhana yang mungkin karena itu adalah $a\lt b$ $ab=1$ $b\gt 1$ $1$ $b$ $b=2$ $p = 4/(2+2+1/2) = 8/9$

$\begin{aligned} Pr (X = 2) = Pr (X = b) = Pr (Y = b) p = q p = \frac{1}{2} \frac{8}{9} = \frac{4}{9}; \\ Pr (X = 1 / 2) = Pr (X = a) = Pr (Y = a) p = q p = \dots = \frac{4}{9}; \\ Pr (X = - 1) = Pr (Z = 1) (1 - p) = 1 - p = \frac{1}{9} . \end{aligned}$ $\eqalign{ \Pr(X=2) = \Pr(X=b) = \Pr(Y=b)p = qp = \frac{1}{2}\frac{8}{9} = \frac{4}{9};\\ \Pr(X=1/2) = \Pr(X=a) = \Pr(Y=a)p = qp = \cdots = \frac{4}{9};\\ \Pr(X=-1) = \Pr(Z=1)(1-p) = 1-p = \frac{1}{9}. }$

Ini adalah contoh yang ditawarkan di buku teks.

— whuber
sumber

Jawaban bagus. Terlepas dari skeptisisme awal saya, mudah untuk menemukan contoh dengan solusi berbeda .

p \in (0, 1)

$p \in (0,1)$

— P.Windridge

Seperti yang telah Anda sebutkan, jika positif maka hanya terjadi ketika hampir pasti konstan. Kalau tidak, Anda perlu untuk mengambil nilai negatif dan positif. $X$ $E(1/X)=1/E(X)$ $X$ $X$

Untuk membangun contoh seperti itu, pertama sesederhana mungkin. Asumsikan mengambil dua nilai, dan , dengan probabilitas dan masing masing. Kemudian dan Untuk memiliki kami memerlukan yang mengatur ulang persyaratan Ini berarti satu-satunya solusi yang mungkin harus memiliki , atau , atau . Dalam semua kasus, kita kembali ke kasus degenerasi: konstan. $X$ $a$ $b$ $p$ $1-p$

E (X) = a p + b (1 - p)

$E(X)=ap+b(1-p)$

E (1 / X) = \frac{1}{a} p + \frac{1}{b} (1 - p) .

$E(1/X)=\frac1ap+\frac1b(1-p).$

1 / E (X) = E (1 / X)

$1/E(X)=E(1/X)$

a p + b (1 - p) = \frac{1}{\frac{1}{a} p + \frac{1}{b} (1 - p)}

$ap+b(1-p)=\frac1{\frac1ap+\frac1b(1-p)}$

(a - b)^{2} p (1 - p) = 0.

$(a-b)^2p(1-p)=0.$

a = b

$a=b$

p = 0

$p=0$

p = 1

$p=1$

X

$X$

Percobaan berikutnya: distribusi dengan tiga nilai yang mungkin. Di sini ada banyak lagi pilihan. Contoh yang Anda kutip mencoba sehingga memiliki distribusi yang sama. Jika kita tahu mengambil tiga nilai, itu pasti salah satu dari nilainya adalah atau , dan dua lainnya harus dan untuk beberapa pilihan . Untuk kepastian mari kita coba , dan . Kemudian Untuk memenuhi persyaratan kami menuntut atau $X$ $1/X$ $X$ $1$ $-1$ $a$ $1/a$ $a$ $P(X=a)=P(X=1/a)=p$ $P(X=-1)=1-2p$

\begin{matrix} (1) & E (1 / X) = E (X) = (a + \frac{1}{a}) p - (1 - 2 p) = (2 + a + \frac{1}{a}) p - 1. \end{matrix}

$E(1/X)=E(X)=(a+\frac1a)p-(1-2p)=(2+a+\frac1a)p-1.\tag1$

1 / E (X) = E (1 / X)

$1/E(X)=E(1/X)$

E (X) = 1

$E(X)=1$

E (X) = - 1

$E(X)=-1$ . Ekspresi (1) tidak pernah kecuali , yang mengembalikan kita ke kasus degenerasi lagi. Jadi bertujuan untuk , yang memberikan Ekspresi (2) memberikan seluruh keluarga solusi yang memenuhi persyaratan. Satu-satunya kendala adalah bahwa harus positif. Contoh yang Anda kutip mengambil . Hanya case yang mengalami degenerasi.

- 1

$-1$

p = 0

$p=0$

E (X) = 1

$E(X)=1$

\begin{matrix} (2) & (2 + a + \frac{1}{a}) p = 2 \Leftrightarrow p = \frac{2}{2 + a + \frac{1}{a}} = \frac{2 a}{(a + 1)^{2}} . \end{matrix}

$(2+a+\frac1a)p=2\quad\Leftrightarrow\quad p=\frac2{2+a+\frac1a}=\frac{2a}{(a+1)^2}.\tag2$

a

$a$

a = 2

$a=2$

a = 1

$a=1$

— grand_chat
sumber

Saya menganggap baris pertama Anda dimaksudkan sebagai "jika positif maka terjadi hanya ketika hampir pasti konstan", seperti dalam pertanyaan . Ini keluar dari (bukti) ketidaksetaraan Jensen, di mana kami juga menggunakan fakta bahwa tidak linier.

X

$X$

E [1 / X] = 1 / E [X]

$\mathbb{E}[1/X]=1/\mathbb{E}[X]$

X

$X$

h (x) = 1 / x

$h(x) = 1/x$

— P.Windridge

@ P.Wridge, Anda benar! Tetap.

— grand_chat