Bisakah probabilitas posterior> 1?

Dalam formula Bayes:

P (x | a) = \frac{P (a | x) P (x)}{P (a)}

$P(x|a) = \frac{P(a|x) P(x)}{P(a)}$

dapat probabilitas posterior melebihi 1? $P(x|a)$

Saya pikir itu mungkin jika misalnya, dengan asumsi bahwa , dan , dan . Tetapi saya tidak yakin tentang ini, karena apa artinya probabilitas lebih dari satu? $0 < P(a) < 1$ $P(a) < P(x) < 1$ $P(a)/P(x) < P(a|x) < 1$

probability bayesian conditional-probability

— Thomas Moore
sumber

Seseorang harus tepat dalam mendefinisikan notasi. Tidak jelas apa yang

wakili. Jika

adalah (a) distribusi probabilitas (dalam hal ini

dan

adalah set) atau (b) fungsi massa pada ruang diskrit, maka jawaban yang sudah Anda miliki pada dasarnya benar. Jika

dipahami sebagai fungsi kerapatan, maka tidak benar bahwa

. Alasan untuk nitpicking adalah bahwa ketiga jenis fungsi memenuhi aturan Bayes. Notasi

P (\cdot)

$P(\cdot)$

P (\cdot)

$P(\cdot)$

a

$a$

x

$x$

P (\cdot)

$P(\cdot)$

P (x ∣ a) \leq 1

$P(x \mid a) \le 1$

P (\cdot)

$P(\cdot)$ biasanya untuk distribusi, tetapi menggunakan karakter huruf kecil untuk argumen menunjukkan kepadatan.

— pria

sehingga probabilitas posterior tidak dapat melebihi

. (Kepadatan posterior adalah masalah yang berbeda - banyak distribusi kontinu memiliki kepadatan melebihi

untuk beberapa nilai)

P (x ∣ a) = \frac{P (x, a)}{P (a)} \leq \frac{P (a)}{P (a)} = 1

$P(x\mid a) = \frac{P(x,a) }{P(a)} \le \frac{P(a) }{P(a)} =1$

1

$1$

1

$1$

— Henry

Jika posterior yang dihitung melebihi satu, Anda membuat kesalahan di suatu tempat.

— Emil M Friedman

@EmilMFriedman, jawaban Anda ambigu (dan, karena alasan itu, berpotensi berbahaya), karena tidak menunjukkan apakah ini merujuk pada probabilitas atau kepadatan

— whuber

Penghalang kesatuan dalam probabilitas dapat dan telah rusak. Lihat posting saya di stats.stackexchange.com/questions/4220/… .

— Mark L. Stone

Jawaban:

Kondisi yang diasumsikan tidak berlaku - tidak pernah benar bahwa dengan definisi probabilitas bersyarat : $P(a)/P(x) < P(a|x)$

$P(a|x) = P(a\cap x) / P(x) \leq P(a) / P(x)$

— khol
sumber

Tidak, tidak mungkin probabilitas posterior melebihi satu. Itu akan menjadi pelanggaran dari aksioma norming dari teori probabilitas. Menggunakan aturan probabilitas bersyarat, Anda harus memiliki:

P (a | x) = \frac{P (a, x)}{P (x)} ⩽ \frac{P (a)}{P (x)} .

$\mathbb{P}(a | x) = \frac{\mathbb{P}(a,x)}{\mathbb{P}(x)} \leqslant \frac{\mathbb{P}(a)}{\mathbb{P}(x)}.$

Ini berarti Anda tidak dapat memiliki kondisi ketimpangan yang Anda tentukan. (Kebetulan, ini adalah pertanyaan yang bagus: bagus jika Anda menyelidiki hukum probabilitas untuk mencari masalah. Ini menunjukkan bahwa Anda menjelajahi masalah ini dengan tingkat kekakuan yang lebih besar daripada kebanyakan siswa.)

Poin tambahan: Perlu membuat satu poin tambahan tentang situasi ini, yaitu tentang prioritas logis dari berbagai karakteristik probabilitas. Ingatlah bahwa teori probabilitas dimulai dengan seperangkat aksioma yang mengkarakterisasi apa sebenarnya ukuran probabilitas itu. Dari aksioma ini kita dapat memperoleh "aturan probabilitas" yang merupakan teorema yang berasal dari aksioma. Aturan probabilitas ini harus konsisten dengan aksioma agar valid. Jika Anda pernah menemukan bahwa aturan probabilitas mengarah ke kontradiksi dengan salah satu aksioma (misalnya, probabilitas ruang sampel lebih besar dari satu), ini tidak akan memalsukan aksioma - ini akan memalsukan aturan probabilitas . Oleh karena itu, bahkan jika itu adalah aturan Bayes bisamenyebabkan probabilitas posterior lebih besar dari satu (tidak), ini tidak berarti bahwa Anda dapat memiliki probabilitas posterior lebih besar dari satu; itu hanya berarti bahwa aturan Bayes bukan aturan probabilitas yang valid.

— Pasang kembali Monica
sumber

Haruskah pembilang akhir menjadi P (x)?

— BallpointBen

Masih menunjukkan P (a) untuk saya

— BallpointBen

Seharusnya P (a) dalam pembilang. Ketidaksetaraan menunjukkan OP bahwa ia tidak dapat memiliki P (a | x)> P (a) / P (x) seperti yang ia tentukan dalam pertanyaannya.

— Pasang kembali Monica

$\displaystyle P(B \mid A) = \frac{P(A\mid B)P(B)}{P(A)}$ $P(B\mid A)$ $1$ $P(A)$

P (A) = P (A ∣ B) P (B) + P (A ∣ B^{c}) P (B^{c})

$P(A) = P(A\mid B)P(B) + P(A\mid B^c)P(B^c)$

P (B ∣ A) = \frac{P (A ∣ B) P (B)}{P (A)} = \frac{P (A ∣ B) P (B)}{P (A ∣ B) P (B) + P (A ∣ B^{c}) P (B^{c})}

$P(B \mid A) = \frac{P(A\mid B)P(B)}{P(A)} = \frac{P(A\mid B)P(B)}{P(A\mid B)P(B) + P(A\mid B^c)P(B^c)}$

1

$1$

— Dilip Sarwate
sumber

+1 ini adalah bukti paling mudah bagi saya.

— Mehrdad

P (B ∣ A)

$P(B\mid A)$

1

$1$

P (A ∣ B) P (B) = P \A \cap B)

$P(A\mid B)P(B) = P\A\cap B)$

P (A)

$P(A)$

A \cap B \subset A

$A\cap B \subset A$

P \A \cap B) \leq P (A)

$P\A\cap B) \leq P(A)$ , dan memiliki sedikit hubungan per se dengan formula Bayes (seperti yang digunakan dalam statistik untuk memperoleh probabilitas posterior dari probabilitas sebelumnya).

— Dilip Sarwate