ambang perhitungan untuk klasifikasi risiko minimum?

Misalkan Dua Kelas dan memiliki atribut dan memiliki distribusi dan . jika kita memiliki sebelumnya yang sama untuk matriks biaya berikut: $C_1$ $C_2$ $x$ $\cal{N} (0, 0.5)$ $\cal{N} (1, 0.5)$ $P(C_1)=P(C_2)=0.5$

$L= \begin{bmatrix} 0 & 0.5 \\ 1 & 0 \end{bmatrix}$

mengapa, adalah ambang batas untuk pengklasifikasi risiko (biaya) minimum? $x_0 < 0.5$

Ini adalah contoh catatan saya yang saya salah pahami, (yaitu, bagaimana ambang batas ini tercapai?)

Sunting 1: Saya pikir untuk ambang rasio kemungkinan kita dapat menggunakan P (C1) / P (C2).

Sunting 2: Saya menambahkan dari Duda Book on Pattern beberapa teks tentang ambang batas. masukkan deskripsi gambar di sini

— pengguna153695
sumber

Untuk matriks biaya,

L = [\begin{matrix} 0 & 0.5 \\ 1 & 0 \end{matrix}] \begin{matrix} c_{1} \\ c_{2} \end{matrix} prediction \begin{matrix} c_{1} & c_{2} \end{matrix} truth

$L= \begin{bmatrix} 0 & 0.5 \\ 1 & 0 \end{bmatrix} \begin{matrix} c_1 \\ c_2 \end{matrix} \;\text{prediction} \\ \hspace{-1.9cm} \begin{matrix} c_1 & c_2 \end{matrix} \\ \hspace{-1.9cm}\text{truth}$

hilangnya prediksi kelas ketika kebenarannya adalah kelas adalah , dan biaya prediksi kelas ketika kebenarannya adalah kelas adalah . Tidak ada biaya untuk prediksi yang benar, . Risiko bersyarat untuk memprediksi kedua kelas adalah $c_1$ $c_2$ $L_{12} = 0.5$ $c_2$ $c_1$ $L_{21} = 1$ $L_{11} = L_{22} = 0$ $R$ $k$

\begin{aligned} R (c_{1} | x) & = L_{11} Pr (c_{1} | x) + L_{12} Pr (c_{2} | x) = L_{12} Pr (c_{2} | x) \\ R (c_{2} | x) & = L_{22} Pr (c_{2} | x) + L_{21} Pr (c_{1} | x) = L_{21} Pr (c_{1} | x) \end{aligned}

$\begin{align} R(c_1|x) &= L_{11} \Pr (c_1|x) + L_{12} \Pr (c_2|x) = L_{12} \Pr (c_2|x) \\ R(c_2|x) &= L_{22} \Pr (c_2|x) + L_{21} \Pr (c_1|x) = L_{21} \Pr (c_1|x) \end{align}$ Untuk referensi lihat catatan ini di halaman 15.

Untuk meminimalkan risiko / kerugian, Anda memprediksi jika biaya dari kesalahan melakukannya (itulah hilangnya prediksi yang salah kali probabilitas posterior bahwa prediksi itu salah ) adalah lebih kecil dari biaya salah memprediksi alternatif, $c_1$ $L_{12} \Pr (c_2|x)$

\begin{aligned} L_{12} Pr (c_{2} | x) & < L_{21} Pr (c_{1} | x) \\ L_{12} Pr (x | c_{2}) Pr (c_{2}) & < L_{21} Pr (x | c_{1}) Pr (c_{1}) \\ \frac{L_{12} Pr (c_{2})}{L_{21} Pr (c_{1})} & < \frac{Pr (x | c_{1})}{Pr (x | c_{2})} \end{aligned}

$\begin{align} L_{12} \Pr (c_2|x) &< L_{21} \Pr (c_1|x) \\ L_{12} \Pr (x|c_2) \Pr (c_2) &< L_{21} \Pr (x|c_1) \Pr (c_1) \\ \frac{L_{12} \Pr (c_2)}{L_{21} \Pr (c_1)} &< \frac{\Pr (x|c_1)}{ \Pr (x|c_2)} \end{align}$ mana baris kedua menggunakan aturan Bayes ' . Dengan probabilitas sebelumnya yang sama dengan Anda mendapatkan

Pr (c_{2} | x) \propto Pr (x | c_{2}) Pr (c_{2})

$\Pr (c_2|x) \propto \Pr (x|c_2) \Pr (c_2)$

Pr (c_{1}) = Pr (c_{2}) = 0.5

$\Pr (c_1) = \Pr (c_2) = 0.5$

\frac{1}{2} < \frac{Pr (x | c_{1})}{Pr (x | c_{2})}

$\frac{1}{2} < \frac{\Pr (x|c_1)}{ \Pr (x|c_2)}$

jadi Anda memilih untuk mengklasifikasikan pengamatan sebagai adalah rasio kemungkinan melebihi ambang batas ini. Sekarang tidak jelas bagi saya apakah Anda ingin tahu "ambang terbaik" dalam hal rasio kemungkinan atau dalam hal atribut . Jawabannya berubah sesuai dengan fungsi biaya. Menggunakan Gaussian dalam ketidaksetaraan dengan dan , , $c_1$ $x$ $\sigma_1 = \sigma_2 = \sigma$ $\mu_1 = 0$ $\mu_2 = 1$

\begin{aligned} \frac{1}{2} & < \frac{\frac{1}{\sqrt{2 π} σ} \exp [- \frac{1}{2 σ^{2}} (x - μ_{1})^{2}]}{\frac{1}{\sqrt{2 π} σ} \exp [- \frac{1}{2 σ^{2}} (x - μ_{2})^{2}]} \\ \log (\frac{1}{2}) & < \log (\frac{1}{\sqrt{2 π} σ}) - \frac{1}{2 σ^{2}} (x - 0)^{2} - [\log (\frac{1}{\sqrt{2 π} σ}) - \frac{1}{2 σ^{2}} (x - 1)^{2}] \\ \log (\frac{1}{2}) & < - \frac{x^{2}}{2 σ^{2}} + \frac{x^{2}}{2 σ^{2}} - \frac{2 x}{2 σ^{2}} + \frac{1}{2 σ^{2}} \\ \frac{x}{σ^{2}} & < \frac{1}{2 σ^{2}} - \log (\frac{1}{2}) \\ x & < \frac{1}{2} - \log (\frac{1}{2}) σ^{2} \end{aligned}

$\begin{align} \frac{1}{2} &< \frac{\frac{1}{\sqrt{2\pi}\sigma}\exp \left[ -\frac{1}{2\sigma^2}(x-\mu_1)^2 \right]}{\frac{1}{\sqrt{2\pi}\sigma}\exp \left[ -\frac{1}{2\sigma^2}(x-\mu_2)^2 \right]} \\ \log \left(\frac{1}{2}\right) &< \log \left(\frac{1}{\sqrt{2\pi}\sigma}\right) -\frac{1}{2\sigma^2}(x-0)^2 - \left[ \log \left(\frac{1}{\sqrt{2\pi}\sigma}\right) -\frac{1}{2\sigma^2}(x-1)^2 \right] \\ \log \left(\frac{1}{2}\right) &< -\frac{x^2}{2\sigma^2} + \frac{x^2}{2\sigma^2} - \frac{2x}{2\sigma^2} + \frac{1}{2\sigma^2} \\ \frac{x}{\sigma^2} &< \frac{1}{2\sigma^2} - \log \left(\frac{1}{2}\right) \\ x &< \frac{1}{2} - \log \left(\frac{1}{2}\right) \sigma^2 \end{align}$ sehingga ambang prediksi dalam hal

x

$x$ saat Anda mencari hanya dapat dicapai jika kerugian dari prediksi salah adalah sama, yaitu karena hanya dengan itu Anda dapat memiliki dan Anda mendapatkan .

L_{12} = L_{21}

$L_{12} = L_{21}$

\log (\frac{L_{12}}{L_{21}}) = \log (1) = 0

$\log \left( \frac{L_{12}}{L_{21}} \right) = \log (1) = 0$

x_{0} < \frac{1}{2}

$x_0 < \frac{1}{2}$

— Andy
sumber

Jawaban yang bagus, tetapi membingungkan saya! jika Anda ingin memilih atau , mana yang benar?

x_{0} = 0.5

$x_0=0.5$

x_{0} < 0.5

$x_0<0.5$

— user153695

Jadi tepat pada batas keputusan Anda tidak dapat memberi tahu dengan tepat apakah pengamatan harus dilakukan di kelas satu atau dua (karena tepat pada batas). Jadi memilih apakah observasi harus di kelas 1 jika atau terserah Anda. Dengan sampel yang cukup besar ini harus terjadi untuk pengamatan sangat sedikit sehingga pada margin itu akan menjadi masalah bagi hasil Anda.

x_{0} = 0.5

$x_0=0.5$

i

$i$

x_{0} \leq 0.5

$x_0 \leq 0.5$

x_{0} < 0.5

$x_0 < 0.5$

— Andy

semua masalah saya yang menetapkan karunia untuk itu bahwa prof saya. dihitung dan tidak menerima silakan lihat edit saya dalam pertanyaan, saya ambang tipis harus .

x_{0} < 0.5

$x_0<0.5$

x_{0} = 0.5

$x_0=0.5$

x_{0} < 0.5

$x_0<0.5$

— user153695

mungkin 0,5-ln :)

— user153695

@ terima kasih, saya benar-benar merindukan itu jadi saya mulai dari akhir yang benar-benar salah.

— Andy