11

Katakanlah $Y$ adalah variabel acak kontinu, dan $X$ adalah variabel diskrit.

Pr (X = x | Y = y) = \frac{Pr (X = x) Pr (Y = y | X = x)}{Pr (Y = y)}

$\Pr(X=x|Y=y) = \frac{\Pr(X=x)\Pr(Y=y|X=x)}{\Pr(Y=y)}$

Seperti yang kita ketahui, $\Pr(Y=y) = 0$ karena $Y$ adalah variabel acak kontinu. Dan berdasarkan ini, saya tergoda untuk menyimpulkan bahwa probabilitas $\Pr(X=x|Y=y)$ tidak terdefinisi.

Namun, Wikipedia mengklaim di sini bahwa sebenarnya didefinisikan sebagai berikut:

Pr (X = x | Y = y) = \frac{Pr (X = x) f_{Y | X = x} (y)}{f_{Y} (y)}

$\Pr(X=x|Y=y) = \frac{\Pr(X=x) f_{Y|X=x}(y)}{f_Y(y)}$

Pertanyaan: Adakah ide bagaimana Wikipedia bisa mengatur probabilitas itu?

Usaha saya

Ini adalah usaha saya untuk mendapatkan hasil Wikipedia dalam batasan:

\begin{aligned} Pr (X = x | Y = y) & = \frac{Pr (X = x) Pr (Y = y | X = x)}{Pr (Y = y)} \\ = lim_{d \to 0} \frac{Pr (X = x) (d \times f_{Y | X = x} (y))}{(d \times f_{Y} (y))} \\ = lim_{d \to 0} \frac{Pr (X = x) (d \times f_{Y | X = x} (y))}{(d \times f_{Y} (y))} \\ = \frac{Pr (X = x) f_{Y | X = x} (y)}{f_{Y} (y)} \end{aligned}

$\begin{split}\require{cancel} \Pr(X=x|Y=y) &= \frac{\Pr(X=x)\Pr(Y=y|X=x)}{\Pr(Y=y)}\\ &= \lim_{d \rightarrow 0}\frac{\Pr(X=x) \big(d \times f_{Y|X=x}(y)\big)}{\big(d \times f_Y(y)\big)}\\ &= \lim_{d \rightarrow 0}\frac{\Pr(X=x) \big(\cancel{d} \times f_{Y|X=x}(y)\big)}{\big(\cancel{d} \times f_Y(y)\big)}\\ &= \frac{\Pr(X=x) f_{Y|X=x}(y)}{f_Y(y)}\\ \end{split}$

Sekarang, $\Pr(X=x|Y=y)$ tampaknya didefinisikan sebagai $\frac{\Pr(X=x) f_{Y|X=x}(y)}{f_Y(y)}$ , yang cocok dengan klaim Wikipedia.

Begitukah Wikipedia melakukannya?

Tapi saya masih merasa bahwa saya menyalahgunakan kalkulus di sini. Jadi saya berpikir bahwa $\Pr(X=x|Y=y)$ tidak terdefinisi, tetapi dalam batas yang kita dapatkan sedekat mungkin untuk mendefinisikan $\Pr(Y=y)$ dan $\Pr(Y=y|X=x)$ , tetapi tidak secara mata, maka $\Pr(X=x|Y=y)$ didefinisikan.

Tetapi saya sebagian besar tidak yakin tentang banyak hal, termasuk trik batas yang saya lakukan di sana, saya merasa bahwa mungkin saya bahkan tidak sepenuhnya memahami arti dari apa yang saya lakukan.

conditional-probability pdf

— manusia gua
sumber

1

Memang, Pr (X = x) = 0 tetapi kerapatan X dalam xf (x) mungkin tidak sama dengan 0. Bukankah Anda harus menggunakan label 'belajar sendiri' ??

— Lil'Lobster

2

@Lil Sejauh yang saya tahu, tag 'belajar sendiri' adalah saat menyelesaikan pekerjaan rumah. Saya tidak melakukan itu.

— manusia gua

1

Halaman Wikipedia sebenarnya mengacu pada turunan: en.wikipedia.org/wiki/Bayes'_theorem#Derivation

— Ytsen de Boer

3

Saya khawatir derivasi Anda tidak memiliki pembenaran matematis karena untuk semua ketika adalah kontinu.

P (Y = y) = 0

$\mathbb{P}(Y=y)=0$

y \in Y

$y\in\mathcal{Y}$

Y

$Y$

— Xi'an

10

Distribusi probabilitas bersyarat , , , secara resmi didefinisikan sebagai solusi dari persamaan di mana menunjukkan -algebra terkait dengan distribusi . Salah satu solusi tersebut disediakan oleh formula Bayes (1763) sebagaimana ditunjukkan dalam Wikipedia : $\mathbb{P}(X=x|Y=y)$ $x\in\mathcal{X}$ $y\in\mathcal{Y}$

P (X = x, Y \in A) = \int_{A} P (X = x | Y = y) f_{Y} (y) d y \forall A \in σ (Y)

$\mathbb{P}(X=x,Y\in A)=\int_{A}\mathbb{P}(X=x|Y=y)f_Y(y)\text{d}y\quad\forall A\in\sigma(\mathcal{Y})$

σ (Y)

$\sigma(\mathcal{Y})$

σ

$\sigma$

Y

$Y$

P (X = x | Y = y) = \frac{P (X = x) f_{Y | X = x} (y)}{f_{Y} (y)} \forall x \in X, y \in Y

$\mathbb{P}(X=x|Y=y) = \dfrac{\mathbb{P}(X=x) f_{Y|X=x}(y)}{f_Y(y)}\qquad\forall x\in\mathcal{X},\ y\in\mathcal{Y}$ meskipun versi yang ditentukan secara sewenang-wenang pada tolok ukur-nol dalam juga valid.

σ (Y)

$\sigma(\mathcal{Y})$

Konsep probabilitas bersyarat sehubungan dengan hipotesis terisolasi yang probabilitasnya sama dengan 0 tidak dapat diterima. Karena kita dapat memperoleh distribusi probabilitas untuk [garis lintang] pada lingkaran meridian hanya jika kita menganggap lingkaran ini sebagai elemen dekomposisi seluruh permukaan bola ke lingkaran meridian dengan kutub yang diberikan - Andrei Kolmogorov

Seperti yang ditunjukkan oleh paradoks Borel-Kolmogorov , diberi nilai spesifik berpotensi diambil , distribusi probabilitas bersyarat tidak memiliki makna yang tepat, tidak hanya karena peristiwa berukuran nol, tetapi juga karena peristiwa ini dapat ditafsirkan sebagai terukur terhadap rentang tak terbatas dari -algebras. $y_0$ $Y$ $\mathbb{P}(X=x|Y=y_0)$ $\{\omega;\,Y(\omega)=y_0\}$ $\sigma$

Catatan: Ini adalah pengantar yang bahkan lebih formal, ambil dari review teori probabilitas di blog Terry Tao :

Definisi 9 (Disintegrasi) Misalkan adalah variabel acak dengan kisaran . Disintegrasi dari ruang sampel yang mendasari sehubungan dengan adalah subset dari ukuran penuh dalam (dengan demikian hampir pasti), bersama dengan penugasan ukuran probabilitas pada subruang dari untuk setiap , yang dapat diukur dalam arti bahwa peta $Y$ $R$ $(R', (\mu_y)_{y \in R'})$ $\Omega$ $Y$ $R'$ $R$ $\mu_Y$ $Y \in R'$ ${\bf P}(|Y=y)$ $\Omega_y := \{ \omega \in \Omega: Y(\omega)=y\}$ $\Omega$ $y \in R$ $y \mapsto {\bf P}(F|Y=y)$ dapat diukur untuk setiap peristiwa , dan sedemikian rupa sehingga untuk semua peristiwa seperti itu, di mana adalah variabel acak (hampir pasti didefinisikan) yang didefinisikan sama dengan setiap kali . $F$
$P (F) = E P (F | Y)$ $\displaystyle {\bf P}(F) = {\bf E} {\bf P}(F|Y)$ ${\bf P}(F|Y)$ ${\bf P}(F|Y=y)$ $Y=y$
Dengan disintegrasi seperti itu, kita dapat mengkondisikan ke peristiwa untuk setiap dengan mengganti dengan subruang (dengan aljabar yang diinduksi ), tetapi mengganti ukuran probabilitas yang mendasari dengan . Kita dengan demikian dapat mengkondisikan peristiwa (tanpa syarat) dan variabel acak ke acara ini untuk membuat peristiwa terkondisikan dan variabel acak pada ruang yang dikondisikan, sehingga meningkatkan probabilitas kondisional $Y=y$ $y \in R'$ $\Omega$ $\Omega_y$ $\sigma$ ${\bf P}$ ${\bf P}(|Y=y)$ $F$ $X$ $(F|Y=y)$ $(X|Y=y)$ ${\bf P}(F|Y=y)$ (yang konsisten dengan notasi yang ada untuk ungkapan ini) dan harapan bersyarat (dengan asumsi keterpaduan mutlak dalam ruang terkondisi ini). Kami kemudian menetapkan menjadi variabel acak (hampir pasti didefinisikan) yang didefinisikan sama dengan setiap kali . ${\bf E}(X|Y=y)$ ${\bf E}(X|Y)$ ${\bf E}(X|Y=y)$ $Y=y$

— Xi'an
sumber

1

Sudah memberi +1, tapi ... mungkin ini nitpicking, tetapi bukankah lebih akurat untuk menyebut teorema Bayes sebagai rumus oleh Bayes / Laplace ..?

— Tim

2

@Tim: terima kasih, tapi saya tidak ingin terdengar terlalu chauvinistic! Dan itu adalah fakta bahwa formula Bayes untuk discrete (Binomial) dan continuous (Beta) muncul dalam kertas Bayes (1763). Tentu saja, Laplace mengatur hasilnya dalam generalisasi yang jauh lebih luas.

X

$X$

Y

$Y$

— Xi'an

4

Saya akan memberikan sketsa tentang bagaimana potongan-potongan itu bisa cocok ketika adalah kontinu dan terpisah. $Y$ $X$

Kepadatan gabungan campuran:

f_{X Y} (x, y)

$f_{XY}(x,y)$

Kerapatan dan probabilitas marginal:

f_{Y} (y) = \sum_{x \in X} f_{X Y} (x, y)

$f_Y(y) = \sum_{x \in X} f_{XY}(x, y)$

P (X = x) = \int f_{X Y} (x, y) d y

$P(X = x) = \int f_{XY}(x, y) \;dy$

Kepadatan bersyarat dan probabilitas:

f_{Y ∣ X} (y ∣ X = x) = \frac{f_{X Y} (x, y)}{P (X = x)}

$f_{Y\mid X}(y \mid X = x) = \frac{f_{XY}(x, y)}{P(X=x)}$

P (X = x ∣ Y = y) = \frac{f_{X Y} (x, y)}{f_{Y} (y)}

$P(X=x \mid Y = y) = \frac{f_{XY}(x, y)}{f_Y(y)}$

Aturan Bayes:

f_{Y ∣ X} (y ∣ X = x) = \frac{P (X = x ∣ Y = y) f_{Y} (y)}{P (X = x)}

$f_{Y\mid X}(y \mid X = x) = \frac{P(X=x \mid Y = y) f_Y(y)}{P(X=x)}$

P (X = x ∣ Y = y) = \frac{f_{Y ∣ X} (y ∣ X = x) P (X = x)}{f_{Y} (y)}

$P(X=x \mid Y = y) = \frac{f_{Y\mid X}(y \mid X = x)P(X=x)}{f_Y(y)}$

Tentu saja, cara modern dan keras untuk menangani probabilitas adalah melalui teori ukuran. Untuk definisi pencegahan, lihat jawaban Xi'an.

— Matthew Gunn
sumber

2

Perhatikan bahwa artikel Wikipedia sebenarnya menggunakan definisi berikut: Yaitu, itu memperlakukan hasilnya sebagai kepadatan, bukan probabilitas seperti yang Anda miliki. Jadi saya katakan Anda benar bahwa tidak terdefinisi ketika kontinu dan diskrit, itulah sebabnya kami hanya mempertimbangkan kepadatan probabilitas di atas dalam kasus tersebut.

f_{X} (x | Y = y) = \frac{P (Y = y | X = x) f_{X} (x)}{p (Y = y)}

$f_X(x|Y=y) = \frac{P(Y=y|X=x)f_X(x)}{p(Y=y)}$

P (X = x | Y = y)

$P(X=x|Y=y)$

X

$X$

Y

$Y$

X

$X$

Sunting: Karena kebingungan tentang notasi (lihat komentar) di atas sebenarnya merujuk pada situasi yang berlawanan dengan apa yang diminta manusia gua.

— Ruben van Bergen
sumber

Bagaimana didefinisikan ketika

Usaha saya