Mengapa meruntuhkan penyebut dalam Teorema Bayes?

(Saya seorang pemula di statistik. Saya seorang ahli matematika dan seorang programmer dan saya mencoba untuk membangun sesuatu seperti filter spam Bayesian yang naif.)

Saya perhatikan di banyak tempat bahwa orang cenderung menjabarkan penyebut dalam persamaan dari Teorema Bayes. Jadi alih-alih ini:

$\frac{P(A|B)\cdot P(B)}{P(A)}$

Kami disajikan dengan ini:

$\frac{P(A|B)\cdot P(B)}{P(A|B)\cdot P(B)+P(A|\neg B)\cdot P(\neg B)}$

Anda dapat melihat bahwa konvensi ini digunakan dalam artikel Wikipedia ini dan dalam postingan penuh wawasan ini oleh Tim Peters.

Saya bingung dengan ini. Mengapa penyebutnya dihancurkan seperti ini? Bagaimana hal itu membantu semuanya? Apa yang rumit tentang penghitungan , yang mana dalam kasus filter spam ?$P(A)$The probability that the word "cheese" appears in an email, regardless of whether it's spam or not

Jawaban singkat untuk pertanyaan Anda adalah, "sebagian besar waktu kita tidak tahu apa itu P (keju), dan seringkali (relatif) sulit untuk dihitung."

Jawaban yang lebih lama mengapa Aturan / Teorema Bayes biasanya dinyatakan dengan cara yang Anda tulis adalah karena dalam masalah Bayes kita memiliki - duduk di pangkuan kita - distribusi sebelumnya (P (B) di atas) dan kemungkinan (P (A | B), P (A | notB) di atas) dan merupakan perkalian yang relatif sederhana untuk menghitung posterior (P (B | A)). Pergi ke masalah untuk mengekspresikan kembali P (A) dalam bentuk yang diringkas adalah upaya yang bisa digunakan di tempat lain.

Ini mungkin tidak tampak begitu rumit dalam konteks email karena, seperti yang Anda catat dengan benar, itu hanya P (keju), bukan? Masalahnya adalah bahwa dengan lebih banyak terlibat dalam masalah Bayesian di medan perang, penyebutnya merupakan integral yang tidak sedap dipandang, yang mungkin atau mungkin tidak memiliki solusi bentuk tertutup. Bahkan, kadang-kadang kita membutuhkan metode Monte Carlo yang canggih hanya untuk memperkirakan yang tidak terpisahkan dan mengaduk angka-angka itu bisa sangat menyulitkan di belakang.

Tetapi yang lebih penting, kita biasanya bahkan tidak peduli apa P (keju) itu. Ingatlah, kami mencoba mengasah kepercayaan kami mengenai apakah email itu spam atau tidak , dan tidak peduli tentang distribusi marjinal data (P (A), di atas). Ini hanyalah konstanta normalisasi, yang tidak bergantung pada parameter; tindakan penjumlahan menyapu info apa pun yang kami miliki tentang parameter. Konstanta adalah gangguan untuk menghitung dan pada akhirnya tidak relevan ketika datang untuk memusatkan perhatian pada keyakinan kita tentang apakah email spam atau tidak. Terkadang kita berkewajiban untuk menghitungnya, dalam hal ini cara tercepat untuk melakukannya adalah dengan informasi yang sudah kita miliki: yang sebelumnya dan kemungkinannya.

Salah satu alasan untuk menggunakan aturan probabilitas total adalah bahwa kita sering berurusan dengan probabilitas komponen dalam ekspresi itu dan itu mudah untuk menemukan probabilitas marginal dengan hanya memasukkan nilai-nilai. Untuk ilustrasi tentang ini, lihat contoh berikut di Wikipedia:

• Teorema Bayes> Contoh 1: Pengujian Obat

Alasan lain adalah mengakui bentuk yang setara dari Aturan Bayes dengan memanipulasi ungkapan itu. Sebagai contoh:

$P(B|A) = \frac{P(A|B) P(B)}{P(A|B)P(B) + P(A|\lnot B)P(\lnot B)}$

Membagi melalui RHS dengan pembilang:

$P(B|A) = \frac{1} {1 + \frac{P(A|\lnot B)}{P(A|B)} \frac{P(\lnot B)}{P(B)}}$

Yang merupakan bentuk setara yang bagus untuk Aturan Bayes, dibuat lebih handier dengan mengurangi ini dari ekspresi asli untuk mendapatkan:

$\frac{P(\lnot B|A)}{P(B|A)} = \frac{P(A|\lnot B)} {P(A|B)} \frac {P(\lnot B)} {P(B)}$

Ini adalah Peraturan Bayes yang dinyatakan dalam Odds, yaitu peluang posterior terhadap B = faktor Bayes terhadap B kali peluang sebelumnya terhadap B. (Atau Anda bisa membalikkannya untuk mendapatkan ekspresi dalam hal peluang untuk B.) Faktor Bayes adalah rasio kemungkinan model Anda. Mengingat bahwa kami tidak yakin tentang mekanisme pembuatan data yang mendasarinya, kami mengamati data dan memperbarui keyakinan kami.

Saya tidak yakin apakah ini bermanfaat, tapi mudah-mudahan itu tidak membingungkan; Anda jelas harus bekerja dengan ekspresi yang paling sesuai untuk skenario Anda. Mungkin orang lain bisa masuk dengan alasan lebih baik.

$P (A)$

$P(A)$$P(A | B)$$B$$P(A | B)$$P(A | \neg B)$$B$ dan $\neg B$. Jika kita mempartisi A menjadi dua peristiwa yang terpisah, kita dapat mengatakan lebih baik tentang probabilitas kondisional$P(A | B)$ dan $P(A | \neg B)$. Untuk mendapatkan probabilitas total, kita juga perlu mempertimbangkan probabilitas bersyarat untuk kejadian yang kita kondisikan yaitu$P(B)$ dan $P(\neg B)$. Karena itu ungkapan terakhir