Log probabilitas vs produk probabilitas

Menurut ini artikel wikipedia , satu dapat mewakili produk probabilitas x⋅ysebagai -log(x) - log(y)membuat perhitungan lebih komputasi optimal. Tetapi jika saya mencoba sebuah contoh katakanlah:

p1 = 0.5
p2 = 0.5
p1 * p2 = 0.25
-log(p1) - log(p2) = 2

p3 = 0.1
p4 = 0.1
p3 * p4 = 0.01
-log(p3) - log(p4) = 6.64

Produk probabilitas p1dan p2lebih tinggi dari p3dan p4, tetapi probabilitas log lebih rendah.

Bagaimana bisa?

probability logarithm arithmetic

— spacemonkey
sumber

Apa yang salah? Probabilitas yang lebih kecil akan memberikan nilai yang lebih besar karena

meningkat dari

ketika

menuju

sebagai

- \log p

$-\log p$

0

$0$

p = 1

$p=1$

\infty

$\infty$

p \to 0

$p \to 0$

— Dilip Sarwate

(+1) Mengapa downvote? Saya pikir ini adalah pertanyaan tentang topik yang ditulis dengan baik, meskipun sangat mendasar.

— Juho Kokkala

@DilipSarwate masalah saya bukan dengan bagian matematika, tetapi dengan cara khusus ini mewakili probabilitas. Mungkin itu hanya masalah merasa nyaman dengan itu.

— spacemonkey

Saya khawatir Anda salah paham tentang apa maksud artikel itu. Ini bukan kejutan besar, karena agak tidak jelas ditulis. Ada dua hal berbeda yang terjadi.

Yang pertama adalah bekerja pada skala log.

Artinya, alih-alih " " (ketika Anda memiliki independensi), Anda dapat menulis " $p_{AB} = p_A\cdot p_B$ ". Jika Anda membutuhkan probabilitas yang sebenarnya, Anda dapat exponentiate di akhir untuk mendapatkan kembali : $\log(p_{AB}) = \log(p_A)+ \log(p_B)$ $p_{AB}$ tetapi jika diperlukan sama sekali, eksponensial biasanya akan diserahkan ke langkah terakhir yang mungkin. Sejauh ini baik. $\qquad p_{AB}=e^{\log(p_A)+ \log(p_B)}\,,$

Bagian kedua adalah mengganti dengan . Ini agar kami bekerja dengan nilai-nilai positif. $\log p$ $-\log p$

Secara pribadi, saya tidak benar-benar melihat banyak nilai dalam hal ini, terutama karena ia membalikkan arah pemesanan apa pun ( meningkat monoton, jadi jika , maka ; ini order dibalik dengan ). $\log$ $p_1<p_2$ $\log(p_A)< \log(p_2)$ $-\log p$

$\log p$

$s_i = -\log(p_i)$ $s$ $p_{AB}=e^{-[s_A+ s_B]}\,.$

— Glen_b -Reinstate Monica
sumber

+1 "Pikirkan probabilitas log negatif sebagai skala" jarang "- semakin besar angkanya, semakin jarang kejadiannya"

— Zhubarb