Normalisasi konstan dalam teorema Bayes

15

Saya membaca bahwa dalam aturan Bayes, penyebut dari $\Pr(\textrm{data})$

Pr (parameter ∣ data) = \frac{Pr (data ∣ parameter) Pr (parameter)}{Pr (data)}

$\Pr(\text{parameters} \mid \text{data}) = \frac{\Pr(\textrm{data} \mid \textrm{parameters}) \Pr(\text{parameters})}{\Pr(\text{data})}$

disebut konstanta normalisasi . Apa itu sebenarnya? Apa tujuannya? Mengapa terlihat seperti $\Pr(data)$ ? Mengapa tidak tergantung pada parameter?

probability bayesian

— amatir
sumber

4

Ketika Anda mengintegrasikan , Anda mengintegrasikan parameter dan hasilnya tidak memiliki istilah tergantung pada parameter, dengan cara yang sama bahwa

tidak bergantung pada

.

f (data | params) f (params)

$f(\text{data}|\text{params})f(\text{params})$

\int_{x = 0}^{x = 2} x y d x = 2 y

$\int_{x=0}^{x=2}xy\;dx = 2y$

x

$x$

— Henry

16

Penyebut, , diperoleh dengan mengintegrasikan parameter dari probabilitas gabungan, . Ini adalah probabilitas marjinal data dan, tentu saja, itu tidak bergantung pada parameter karena ini telah diintegrasikan. $\Pr(\textrm{data})$ $\Pr(\textrm{data}, \textrm{parameters})$

Sekarang, sejak:

$\Pr(\textrm{data})$ tidak bergantung pada parameter yang ingin disimpulkan;
$\Pr(\textrm{data})$ umumnya sulit dihitung dalam bentuk tertutup;

kita sering menggunakan adaptasi formula Baye berikut:

$\Pr(\textrm{parameters} \mid \textrm{data}) \propto \Pr(\textrm{data} \mid \textrm{parameters}) \Pr(\textrm{parameters})$

Pada dasarnya, tidak lain adalah "konstanta normalisasi", yaitu konstanta yang membuat kerapatan posterior berintegrasi menjadi satu . $\Pr(\textrm{data})$

— okram
sumber

2

Apa yang sebenarnya Anda maksud dengan "dengan mengintegrasikan parameter"? Apa arti tepat dari "mengintegrasikan" dalam konteks ini?

— nbro

2

@nbro: Maksud saya Pr (data) = integral atas parameter Pr (data, parameter)

— ocram

2

$\Pr(\textrm{data})$

— Keras
sumber