Berapa probabilitas yang diberikan ?

Misalkan $X$ dan $Y$ adalah bivariat normal dengan rata-rata $\mu=(\mu_1,\mu_2)$ dan kovarian $\Sigma = \begin{bmatrix} \sigma_{11} & \sigma_{12} \\ \sigma_{12} & \sigma_{22} \\ \end{bmatrix}$ . Berapa probabilitas $\Pr\left(X<Y|\min\left(X,Y\right)\right)$ ?

probability normal-distribution conditional-probability

— mikrofon
sumber

@whuber benar terima kasih, menghapus pikiran saya karena mereka tidak menambahkan apa pun di sini.

— AdamO

\frac{P r (m < Y | X = m)}{P r (m < Y | X = m) + P r (m < X | Y = m)}

$\frac{Pr(m<Y|X=m)}{Pr(m<Y|X=m)+Pr(m<X|Y=m)}$

— Sextus Empiricus

tautan yang bermanfaat, stats.stackexchange.com/questions/30588/... Apakah ini pertanyaan belajar mandiri?

— Sextus Empiricus

Anda harus membagikan pemikiran Anda tentang masalahnya, terlepas dari kenyataan bahwa ini terlihat seperti pertanyaan belajar mandiri.

— StubbornAtom

Jawaban:

Menggunakan notasi yang sedikit lebih eksplisit , di mana adalah bilangan real, bukan variabel acak. Himpunan di mana adalah lintasan berbentuk L dengan dua segmen setengah terbuka: satu lurus ke atas dari titik dan lainnya lurus ke kanan dari titik yang sama. Sudah jelas bahwa pada kaki vertikal, dan pada kaki horizontal . $P(X<Y|\min(X, Y)=m)$ $m$ $\min(X,Y) = m$ $(m,m)$ $x<y$ $x>y$

Dengan intuisi geometri ini, mudah untuk menulis ulang masalah dalam bentuk yang setara, di mana dalam pembilang kita hanya memiliki kaki vertikal di mana dan dalam penyebut kita memiliki jumlah dari kedua kaki. $x<y$

$P(X<Y|\min(X, Y)) = \frac{ \displaystyle P(m<Y|X=m) }{ \displaystyle P(m<Y|X=m) + P(m<X|Y=m) } \tag{1}$

Jadi sekarang kita perlu menghitung dua ekspresi dari bentuk . Probabilitas kondisional dari distribusi normal bivariat seperti itu selalu memiliki distribusi normal dengan parameter: $P(m<X|Y=m)$ $\mathcal{N}\left(\mu_{X|Y=m}, s^2_{X|Y=m}\right)$

$\mu_{X|Y=m} = \mu_1+\frac{\displaystyle \sigma_{12}}{\displaystyle \sigma_{22}}({m}-\mu_2) \tag{2}$

$s^2_{X|Y=m} = \sigma_{11}-\frac{\displaystyle \sigma_{12}^2}{\displaystyle \sigma_{22}} \tag{3}$

Perhatikan bahwa dalam definisi masalah asli, merujuk elemen-elemen dari matriks kovarians, bertentangan dengan konvensi yang lebih umum menggunakan untuk deviasi standar. Di bawah ini, kita akan merasa lebih nyaman untuk menggunakan untuk varians dan untuk deviasi standar dari distribusi probabilitas bersyarat. $\sigma_{ij}$ $\sigma$ $s^2$ $s$

Mengetahui dua parameter ini, kita dapat menghitung probabilitas dari dari fungsi distribusi kumulatif. $m<X$

$P(m<X|Y=m) = \Phi \left(\frac{\displaystyle \mu_{X;Y=m} -m}{\displaystyle s_{X;Y=m}} \right) \tag{4}$

mutatis mutandis , kami memiliki ekspresi yang sama untuk . Membiarkan $P(Y>m|X=m)$

$z_{X|Y=m} = \frac{\displaystyle \mu_{X;Y=m} - m}{\displaystyle s_{X;Y=m}} \tag{5}$

dan

$z_{Y|X=m} = \frac{\displaystyle \mu_{Y;X=m} -m}{\displaystyle s_{Y;X=m}} \tag{6}$

Kemudian kita dapat menulis solusi lengkap secara kompak dalam hal dua skor : $z$

$P(X<Y|\min(X, Y)=m) = 1 - \frac{ \displaystyle \Phi(z_{X|Y=m}) }{ \displaystyle \Phi(z_{X|Y=m})+\Phi(z_{Y|X=m}) } \tag{7}$

Berdasarkan kode simulasi yang disediakan oleh penulis pertanyaan, kita dapat membandingkan hasil teoritis ini dengan hasil simulasi:

— olooney
sumber

Dalam (3) saya berpikir bahwa sisi kiri harus memiliki persegi, karena itu adalah varian bersyarat sementara standar deviasi digunakan nanti.

— Yves

Anda benar @Yves, dan saya yakin suntingan saya baru-baru ini telah memperbaiki masalahnya. Terima kasih.

— olooney

@olooney, terima kasih atas balasan ini. Saya bisa mengikuti derivasi dan sepertinya benar. Namun, saya mencoba memverifikasi (1) dan (7) dalam simulasi dan hasilnya sangat berbeda. Anda dapat melihat kode R saya di sini gist.github.com/mikeguggis/d041df05565f63f8be2c6c51f5cf8961

— mike

@ Mike, saya pikir saya memiliki kesalahan tanda. Setelah memperbaikinya, hasil teoritis tampaknya setuju dengan hasil simulasi. gist.github.com/olooney/e88a66d2d2fa7f2f0cd0d0dd6b708739

— olooney

@olooney, tangkapan bagus. Saya masih tidak dapat mengerti mengapa dua estimasi berbasis simulasi tidak cocok (baris 30-32 dalam kode saya).

— Mike

Pertanyaannya dapat ditulis ulang menggunakan versi teorema Bayes yang dimodifikasi (dan penyalahgunaan gagasan untuk ) $Pr$

\begin{aligned} P r (X < Y | m i n (X, Y) = m) & = \frac{P r (m i n (X, Y) = m | X < Y) P r (X < Y)}{P r (m i n (X, Y) = m | X < Y) P r (X < Y) + P r (m i n (X, Y) = m | X \geq Y) P r (X \geq Y)} \\ = \frac{P r (X < Y, m i n (X, Y) = m)}{P r (X < Y, m i n (X, Y) = m) + P r (X \geq Y, m i n (X, Y) = m)} . \end{aligned}

$\begin{align} Pr(X<Y|min(X,Y) = m) &= \frac{Pr(min(X,Y)=m|X<Y)Pr(X<Y)}{Pr(min(X,Y)=m|X<Y)Pr(X<Y)+Pr(min(X,Y)=m|X\geq Y)Pr(X\geq Y)}\\ &= \frac{Pr(X<Y,min(X,Y)=m)}{Pr(X<Y,min(X,Y)=m)+Pr(X\geq Y,min(X,Y)=m)}. \end{align}$

Tentukan sebagai PDF bivariat dari dan , dan . Kemudian $f_{X,Y}$ $X$ $Y$ $\phi(x) = \frac{1}{\sqrt{2\pi}}exp(-\frac{1}{2}x^2)$ $\Phi(x) = \int_{-\infty}^x\phi(t)dt$

\begin{aligned} P r (X < Y, m i n (X, Y) = m) & = P r (X = m, Y > m) \\ = \int_{m}^{\infty} f_{X, Y} (m, t) d t \end{aligned}

$\begin{align} Pr(X<Y,min(X,Y)=m) &=Pr(X=m,Y>m) \\ &= \int_m^\infty f_{X,Y}(m,t)dt \end{align}$

dan

\begin{aligned} P r (X \geq Y, m i n (X, Y) = m) & = P r (X \geq m, Y = m) \\ = \int_{m}^{\infty} f_{X, Y} (t, m) d t \end{aligned}

$\begin{align} Pr(X\geq Y,min(X,Y)=m) &=Pr(X\geq m,Y=m) \\ &= \int_m^\infty f_{X,Y}(t,m)dt \end{align}$

Menggunakan normalitas dan definisi probabilitas kondisional, integand dapat ditulis ulang sebagai

f_{X, Y} (m, t) = f_{Y | X} (t) f_{X} (m) = \frac{1}{\sqrt{σ_{Y | X}}} ϕ (\frac{t - μ_{Y | X}}{\sqrt{σ_{Y | X}}}) \frac{1}{\sqrt{σ_{11}}} ϕ (\frac{m - μ_{1}}{\sqrt{σ_{11}}})

$f_{X,Y}(m,t) = f_{Y|X}(t)f_X(m) = \frac{1}{\sqrt{\sigma_{Y|X}}}\phi\left(\frac{t-\mu_{Y|X}}{\sqrt{\sigma_{Y|X}}}\right)\frac{1}{\sqrt{\sigma_{11}}}\phi\left(\frac{m-\mu_1}{\sqrt{\sigma_{11}}}\right)$

dan

f_{X, Y} (t, m) = f_{X | Y} (t) f_{Y} (m) = \frac{1}{\sqrt{σ_{X | Y}}} ϕ (\frac{t - μ_{X | Y}}{\sqrt{σ_{X | Y}}}) \frac{1}{\sqrt{σ_{22}}} ϕ (\frac{m - μ_{2}}{\sqrt{σ_{22}}}) .

$f_{X,Y}(t,m) = f_{X|Y}(t)f_Y(m) = \frac{1}{\sqrt{\sigma_{X|Y}}}\phi\left(\frac{t-\mu_{X|Y}}{\sqrt{\sigma_{X|Y}}}\right)\frac{1}{\sqrt{\sigma_{22}}}\phi\left(\frac{m-\mu_2}{\sqrt{\sigma_{22}}}\right).$

Di mana

μ_{X | Y} = μ_{1} + \frac{σ_{12}}{σ_{22}} (m - μ_{2}),

$\mu_{X|Y} = \mu_1 + \frac{\sigma_{12}}{\sigma_{22}}(m-\mu_2),$

μ_{Y | X} = μ_{2} + \frac{σ_{12}}{σ_{11}} (m - μ_{1}),

$\mu_{Y|X} = \mu_2 + \frac{\sigma_{12}}{\sigma_{11}}(m-\mu_1),$

σ_{X | Y} = (1 - \frac{σ_{12}^{2}}{σ_{11} σ_{22}}) σ_{11}

$\sigma_{X|Y} = \left(1-\frac{\sigma_{12}^2}{\sigma_{11}\sigma_{22}}\right)\sigma_{11}$

dan

σ_{Y | X} = (1 - \frac{σ_{12}^{2}}{σ_{11} σ_{22}}) σ_{22} .

$\sigma_{Y|X} = \left(1-\frac{\sigma_{12}^2}{\sigma_{11}\sigma_{22}}\right)\sigma_{22}.$

Jadi

P r (X < Y | m i n (X, Y) = m) = \frac{(1 - Φ (\frac{m - μ_{Y | X}}{\sqrt{σ_{Y | X}}})) \frac{1}{\sqrt{σ_{11}}} ϕ (\frac{m - μ_{1}}{\sqrt{σ_{11}}})}{(1 - Φ (\frac{m - μ_{Y | X}}{\sqrt{σ_{Y | X}}})) \frac{1}{\sqrt{σ_{11}}} ϕ (\frac{m - μ_{1}}{\sqrt{σ_{11}}}) + (1 - Φ (\frac{m - μ_{X | Y}}{\sqrt{σ_{X | Y}}})) \frac{1}{\sqrt{σ_{22}}} ϕ (\frac{m - μ_{2}}{\sqrt{σ_{22}}})} .

$\begin{equation} Pr(X<Y|min(X,Y) = m) = \frac{\left(1-\Phi\left(\frac{m-\mu_{Y|X}}{\sqrt{\sigma_{Y|X}}}\right)\right)\frac{1}{\sqrt{\sigma_{11}}}\phi\left(\frac{m-\mu_1}{\sqrt{\sigma_{11}}}\right)}{\left(1-\Phi\left(\frac{m-\mu_{Y|X}}{\sqrt{\sigma_{Y|X}}}\right)\right)\frac{1}{\sqrt{\sigma_{11}}}\phi\left(\frac{m-\mu_1}{\sqrt{\sigma_{11}}}\right)+\left(1-\Phi\left(\frac{m-\mu_{X|Y}}{\sqrt{\sigma_{X|Y}}}\right)\right)\frac{1}{\sqrt{\sigma_{22}}}\phi\left(\frac{m-\mu_2}{\sqrt{\sigma_{22}}}\right)}. \end{equation}$

Bentuk akhir ini sangat mirip dengan hasil yang diperoleh @olooney. Perbedaannya adalah probabilitasnya tidak tertimbang oleh kepadatan normal.

Skrip R untuk verifikasi numerik dapat ditemukan di sini

— mikrofon
sumber