Menghitung log-likelihood untuk diberikan MLE (Markov Chains)

Saat ini saya bekerja dengan rantai Markov dan menghitung Perkiraan Kemungkinan Maksimum menggunakan probabilitas transisi seperti yang disarankan oleh beberapa sumber (yaitu, jumlah transisi dari a ke b dibagi dengan jumlah transisi keseluruhan dari a ke node lain).

Sekarang saya ingin menghitung kemungkinan log dari MLE.

Mari menjadi jalan dari rantai markov dan membiarkan P θ ( X 1 , . . . , X T ) adalah probabilitas mengamati jalan ketika θ adalah nilai parameter yang benar (alias fungsi kemungkinan untuk θ ). Menggunakan definisi probabilitas bersyarat, kita tahu$\{ X_i \}_{i=1}^{T}$$P_{\theta}(X_1, ..., X_T)$$\theta$$\theta$

$$P_{\theta}(X_1, ..., X_T) = P_{\theta}(X_T | X_{T-1}, ..., X_1) \cdot P_{\theta}(X_1, ..., X_{T-1})$$

Karena ini adalah rantai markov, kita tahu bahwa , sehingga menyederhanakan ini ini$P_{\theta}(X_T | X_{T-1}, ..., X_1) = P_{\theta}(X_T | X_{T-1} )$

$$P_{\theta}(X_1, ..., X_T) = P_{\theta}(X_T | X_{T-1}) \cdot P_{\theta}(X_1, ..., X_{T-1})$$

Sekarang jika Anda mengulangi logika yang sama ini kali, Anda dapatkan$T$

$$P_{\theta}(X_1, ..., X_T) = \prod_{i=1}^{T} P_{\theta}(X_i | X_{i-1} )$$

di mana harus ditafsirkan sebagai keadaan awal proses. Istilah di sisi kanan hanyalah elemen dari matriks transisi. Karena itu adalah kemungkinan log yang Anda minta, jawaban akhirnya adalah:$X_0$

$${\bf L}(\theta) = \sum_{i=1}^{T} \log \Big( P_{\theta}(X_i | X_{i-1} ) \Big)$$

Ini adalah kemungkinan rantai markov tunggal - jika kumpulan data Anda mencakup beberapa rantai markov (independen) maka kemungkinan penuh akan menjadi jumlah syarat dari formulir ini.