Representasi ruang negara ARMA (p, q) dari Hamilton

Saya telah membaca Hamilton Bab 13 dan dia memiliki representasi ruang keadaan berikut untuk ARMA (p, q). Misalkan Maka proses ARMA (p, q) adalah sebagai berikut: Lalu, ia mendefinisikan Persamaan Negara sebagai berikut:$r = \max(p,q+1)$

$$\begin{aligned} y_t -\mu &= \phi_1(y_{t-1} -\mu) + \phi_2(y_{t-2} -\mu) + ... + \phi_3(y_{t-3} -\mu) \\ &+ \epsilon_t + \theta_1\epsilon_{t-1} + ... + \theta_{r-1}\epsilon_{t-r+1}. \end{aligned}$$

$$\xi_{t+1} = \begin{bmatrix} \phi_1 & \phi_2 & \dots & \phi_{r-1} & \phi_r \\ 1 & 0 & \dots & 0 & 0 \\ \vdots & \vdots & \dots & 0 & 0 \\ 0 & 0 & \dots &1 &0 \end{bmatrix} \xi_t + \begin{bmatrix} \epsilon_{t+1} \\ 0\\\vdots \\ 0 \end{bmatrix}$$

dan persamaan pengamatan sebagai:

$$y_t = \mu + \begin{bmatrix} 1 & \theta_1 & \theta_2 & \dots & \theta_{r-1} \\ \end{bmatrix} \xi_t.$$

Saya tidak mengerti apa $\xi_t$ dalam kasus ini. Karena dalam representasi AR (p) itu adalah $\begin{bmatrix} y_{t} - \mu \\ y_{t-1} - \mu\\\vdots \\ y_{t-p+1} - \mu \end{bmatrix}$ dan dalam perwakilan MA (1) itu adalah $\begin{bmatrix} \epsilon_{t} \\ \epsilon_{t-1} \end{bmatrix}$ .

Bisakah seseorang menjelaskan hal ini kepada saya sedikit lebih baik?

Hamilton menunjukkan bahwa ini adalah representasi yang benar dalam buku ini, tetapi pendekatannya mungkin tampak agak berlawanan dengan intuisi. Oleh karena itu, izinkan saya memberikan jawaban tingkat tinggi yang memotivasi pilihan pemodelannya dan kemudian menguraikan sedikit tentang derivasinya.

Motivasi :

Seperti yang seharusnya menjadi jelas dari membaca Bab 13, ada banyak cara untuk menulis model dinamis dalam bentuk ruang negara. Karena itu kita harus bertanya mengapa Hamilton memilih representasi khusus ini. Alasannya adalah bahwa representasi ini menjaga dimensi vektor keadaan tetap rendah. Secara intuitif, Anda akan berpikir (atau setidaknya saya akan) bahwa vektor keadaan untuk ARMA ( , ) harus setidaknya dari dimensi . Bagaimanapun, hanya dari mengamati katakanlah , kita tidak dapat menyimpulkan nilai . Namun dia menunjukkan bahwa kita dapat mendefinisikan representasi ruang-negara dengan cara yang cerdas yang meninggalkan vektor keadaan dimensi paling banyak$p$$q$$p+q$$y_{t-1}$$\epsilon_{t-1}$$r = \max\{p, q + 1 \}$. Menjaga dimensi negara rendah mungkin penting untuk implementasi komputasi, saya kira. Ternyata representasi state-space-nya juga menawarkan interpretasi yang bagus tentang proses ARMA: state yang tidak teramati adalah AR ( ), sedangkan bagian MA ( ) muncul karena kesalahan pengukuran.$p$$q$

Derivasi :

Sekarang untuk derivasi. Catatan pertama bahwa, menggunakan notasi operator lag, ARMA (p, q) didefinisikan sebagai: mana kita membiarkan untuk , dan untuk dan kita menghilangkan karena setidaknya . Jadi yang perlu kita tunjukkan adalah persamaan persamaan dan pengamatannya menyiratkan persamaan di atas. Biarkan vektor keadaan menjadi Sekarang lihat pada persamaan keadaan. Anda dapat memeriksa bahwa persamaan hingga

$$(1-\phi_1L - \ldots - \phi_rL^r)(y_t - \mu) =(1 + \theta_1L + \ldots + \theta_{r-1}L^{r-1})\epsilon_t$$ $\phi_j = 0$$j>p$$\theta_j = 0$$j>q$$\theta_r$$r$$q+1$ $$\mathbf{\xi}_t = \{\xi_{1,t}, \xi_{2,t},\ldots,\xi_{r,t}\}^\top$$ $2$$r$cukup pindahkan entri ke satu periode di depan dan buang dalam vektor keadaan di . Oleh karena itu persamaan pertama, mendefinisikan adalah persamaan yang relevan. : Karena elemen kedua dari adalah elemen pertama dari dan elemen ketiga dari adalah elemen pertama$\xi_{i,t}$$\xi_{i-1,t+1}$$\xi_{r,t}$$t+1$$\xi_{i,t+1}$ $$\xi_{1,t+1} = \phi_1 \xi_{1,t} + \phi_2 \xi_{2,t} + \ldots + \phi_r \xi_{r,t} + \epsilon_{t+1}$$ $\mathbf{\xi_{t}}$$\mathbf{\xi_{t-1}}$$\mathbf{\xi_{t}}$$\mathbf{\xi_{t-2}}$dan seterusnya, kita dapat menulis ulang ini, menggunakan notasi operator lag dan memindahkan polinomial lag ke sisi kiri (persamaan 13.1.24 dalam H.): Jadi keadaan tersembunyi mengikuti proses autoregresif. Demikian pula, persamaan pengamatan adalah atau Ini tidak terlihat seperti ARMA sejauh ini, tetapi sekarang sampai pada bagian yang bagus: kalikan persamaan terakhir dengan : $$(1-\phi_1L - \ldots - \phi_rL^r)\xi_{1,t+1} = \epsilon_{t+1}$$ $$y_t = \mu + \xi_{1,t} + \theta_1\xi_{2,t} + \ldots + \theta_{r-1}\xi_{r-1,t}$$ $$y_t - \mu = (1 + \theta_1L + \ldots + \theta_{r-1}L^{r-1})\xi_{1,t}$$ $(1-\phi_1L - \ldots - \phi_rL^r)$ $$(1-\phi_1L - \ldots - \phi_rL^r)(y_t - \mu) = (1 + \theta_1L + \ldots + \theta_{r-1}L^{r-1})(1-\phi_1L - \ldots - \phi_rL^r)y_t$$ Tetapi dari persamaan keadaan (tertinggal satu periode), kita memiliki ! Jadi hal di atas setara dengan persis seperti yang kami butuhkan untuk ditampilkan! Jadi sistem pengamatan-negara dengan benar mewakili ARMA (p, q). Saya benar-benar hanya memparafrase Hamilton, tapi saya harap ini bermanfaat juga.$(1-\phi_1L - \ldots - \phi_rL^r)\xi_{1,t} = \epsilon_{t}$ $$(1-\phi_1L - \ldots - \phi_rL^r)(y_t - \mu) = (1 + \theta_1L + \ldots + \theta_{r-1}L^{r-1})\epsilon_{t}$$

Ini sama dengan di atas, tetapi saya pikir saya akan memberikan jawaban yang lebih pendek, lebih ringkas. Sekali lagi, ini adalah representasi Hamilton untuk proses ARMA ( , ) kausal , di mana . Angka ini akan menjadi dimensi dari vektor keadaan , dan diperlukan untuk membuat jumlah baris dari negara cocok dengan jumlah kolom dari matriks observasi. Itu berarti kita juga harus menetapkan koefisien ke nol setiap kali indeks terlalu besar.$p$$q$$r=\max(p,q+1)$$r$$(\xi_t, \xi_{t-1},\ldots, \xi_{t-r+1})'$

1. Persamaan Pengamatan

$$\begin{align*} &\phi(B)(y_t - \mu) = \theta(B)\epsilon_t \\ \iff &(y_t - \mu) = \phi^{-1}(B)\theta(B)\epsilon_t \tag{causality}\\ \iff &y_t = \mu + \phi^{-1}(B)\theta(B)\epsilon_t \\ \iff &y_t = \mu + \theta(B)\phi^{-1}(B)\epsilon_t \\ \iff &y_t = \mu + \theta(B)\xi_t \tag{letting $\xi_t = \phi^{-1}(B)\epsilon_t$}\\ \iff &y_t = \mu + \left[\begin{array}{ccccc}1 & \theta_1 & \theta_2 & \ldots & \theta_{r-1} \end{array}\right] \underbrace{\left[\begin{array}{c} \xi_t \\ \xi_{t-1} \\ \vdots \\ \xi_{t-r+1} \end{array}\right]}_{\text{the state vector}} + 0\tag{this is where we need $r$}. \end{align*}$$

2. Persamaan Negara

$$\begin{align*} &\xi_t = \phi^{-1}(B)\epsilon_t \\ \iff &\phi(B)\xi_t = \epsilon_t \\ \iff &(1 - \phi_1 B - \cdots - \phi_rB^r) \xi_t = \epsilon_t \\ \iff &\xi_t = \phi_1 \xi_{t-1} + \cdots + \phi_r \xi_{t-r} + \epsilon_t \\ \iff & \left[\begin{array}{c} \xi_t \\ \xi_{t-1} \\ \xi_{t-2} \\ \vdots \\ \xi_{t-r+1} \end{array}\right] = \left[ \begin{array}{ccccc} \phi_1 & \phi_2 & \phi_3 & \cdots & \phi_r \\ 1 & 0 & 0 & \cdots & 0 \\ 0 & 1 & 0 & \cdots & 0 \\ \vdots & \vdots & \ddots & \cdots & 0 \\ 0 & 0 &\cdots & 1 & 0 \end{array}\right] \left[ \begin{array}{c} \xi_{t-1} \\ \xi_{t-2} \\ \vdots \\ \xi_{t-r} \end{array}\right] + \left[ \begin{array}{c} \epsilon_t \\ 0 \\ \vdots \\ 0 \end{array}\right]. \end{align*}$$