Jelaskan algoritma Mundur untuk Model Markov Tersembunyi

Saya telah mengimplementasikan algoritma Viterbi dan Forward , sayangnya anehnya saya tidak mengerti bagaimana cara kerja algoritma Backward . Secara intuitif saya merasa perlu melakukan hal yang sama seperti di Forward hanya mundur, menggunakan nilai yang dihitung selama propagasi Forward .

Apakah intuisi saya benar?

Saya telah membaca banyak slide dan muak dengan notasi matematika pada saat ini. Itu tidak membantu. Saya butuh sesuatu yang dalam bahasa Inggris menjelaskan perbedaan antara algoritma Backward dan Forward .

Bisakah Anda memberikan penjelasan singkat bagaimana algoritma Backward dilakukan?

Asumsikan HMM kecil berikut dan hasil algoritma Teruskan untuk urutan "BB" di bawah ini:

START -> 1
H: 0.5 * 0.8 = 0.4
L: 0.5 * 0.6 = 0.3

1 -> 2
H: 0.4 * 0.2 * 0.8 + 0.3 * 0.6 * 0.8 = 0.208
L: 0.4 * 0.8 * 0.6 + 0.3 * 0.4 * 0.6 = 0.264

2 -> END
END: 0.208 * 0.3 + 0.264 * 0.7 = 0.2472

Sepertinya urutan pengamatan Anda adalah B, B. Mari kita tunjukkan pengamatan pada waktu sebagai dan status tersembunyi pada waktu sebagai . Jika kita menyatakan sebagai nilai forward dan sebagai nilai backward, ( adalah salah satu kemungkinan status tersembunyi)$t$$z_t$$t$$x_t$$\alpha_t(i)$$\beta_t(i)$$i$

$\alpha_t(i)=P(x_t=i,z_{1:t})$

Ini berarti adalah probabilitas untuk menyatakan pada waktu memancarkan pengamatan hingga waktu . Kemudian,$\alpha_t(i)$$i$$t$$t$

$\beta_t(i) = P(z_{t+1:T}\mid x_t=i)$ yang merupakan probabilitas memancarkan urutan yang tersisa dari sampai akhir waktu setelah berada dalam keadaan tersembunyi pada waktu .$t+1$$i$$t$

Untuk melakukan rekursi pada kita dapat menulis,$\beta_t(i)$

$P(z_{t+1:T}\mid x_t=i)=\sum\limits_jP(x_{t+1}=j,z_{t+1:T}\mid x_{t}=i)$

Menggunakan aturan rantai, $P(x_{t+1}=j,z_{t+1:T}\mid x_{t}=i) = P(z_{t+2:T},z_{t+1},x_{t+1}=j\mid x_{t}=i)\\ =P(z_{t+2:T}\mid z_{t+1},x_{t+1}=j, x_{t}=i)P(z_{t+1}\mid x_{t+1}=j, x_{t}=i)P(x_{t+1}=j\mid x_{t}=i)$

Dari independensi bersyarat HMM, probabilitas di atas disederhanakan menjadi $P(z_{t+2:T}\mid x_{t+1}=j)P(z_{t+1}\mid x_{t+1}=j)P(x_{t+1}=j\mid x_{t}=i)$

Perhatikan bahwa dari definisi kami.$P(z_{t+2:T}\mid x_{t+1}=j) =\beta_{t+1}(j)$

Mengganti menjadi kita dapatkan,$P(z_{t+1:T}\mid x_t=i)$

$\beta_t(i) = P(z_{t+1:T}\mid x_t=i) = \sum\limits_j \beta_{t+1}(j)P(z_{t+1}\mid x_{t+1}=j)P(x_{t+1}=j\mid x_t=i)$

Sekarang Anda memiliki rekursi untuk beta. Dua istilah terakhir dari persamaan terakhir yang Anda tahu dari model Anda. Di sini mulai dari akhir rantai (T) kita mundur menghitung semua , maka dari itu algoritma mundur. Di depan Anda harus mulai dari awal dan Anda pergi ke akhir rantai.$\beta_t$

Dalam model Anda, Anda harus menginisialisasi untuk semua . Ini adalah probabilitas tidak memancarkan pengamatan setelah .$\beta_T(i) = P(\emptyset \mid x_T=i)=1$$i$$T=2$