Konsekuensi pemodelan proses non-stasioner menggunakan ARMA?

Saya mengerti kita harus menggunakan ARIMA untuk pemodelan seri waktu non-stasioner. Juga, semua yang saya baca mengatakan ARMA seharusnya hanya digunakan untuk seri waktu stasioner.

Apa yang saya coba pahami adalah, apa yang terjadi dalam praktik ketika salah mengklasifikasikan model, dan berasumsi d = 0untuk deret waktu yang non-stasioner? Sebagai contoh:

controlData <- arima.sim(list(order = c(1,1,1), ar = .5, ma = .5), n = 44)

data kontrol terlihat seperti ini:

 [1]   0.0000000   0.1240838  -1.4544087  -3.1943094  -5.6205257
 [6]  -8.5636126 -10.1573548  -9.2822666 -10.0174493 -11.0105225
[11] -11.4726127 -13.8827001 -16.6040541 -19.1966633 -22.0543414
[16] -24.8542959 -25.2883155 -23.6519271 -21.8270981 -21.4351267
[21] -22.6155812 -21.9189036 -20.2064343 -18.2516852 -15.5822178
[26] -13.2248230 -13.4220158 -13.8823855 -14.6122867 -16.4143756
[31] -16.8726071 -15.8499558 -14.0805114 -11.4016515  -9.3330560
[36]  -7.5676563  -6.3691600  -6.8471371  -7.5982880  -8.9692152
[41] -10.6733419 -11.6865440 -12.2503202 -13.5314306 -13.4654890

Dengan asumsi saya tidak tahu datanya ARIMA(1,1,1), saya mungkin akan melihatnya pacf(controlData).

pacf (controlData)

Lalu saya menggunakan Dickey-Fuller untuk melihat apakah datanya tidak stasioner:

require('tseries')
adf.test(controlData)

# Augmented Dickey-Fuller Test
#
# data:  controlData
# Dickey-Fuller = -2.4133, Lag order = 3, p-value = 0.4099
# alternative hypothesis: stationary

adf.test(controlData, k = 1)

# Augmented Dickey-Fuller Test
#
#data:  controlData
# Dickey-Fuller = -3.1469, Lag order = 1, p-value = 0.1188
# alternative hypothesis: stationary

Jadi, saya mungkin berasumsi bahwa data tersebut adalah ARIMA (2,0, *) Kemudian gunakan auto.arima(controlData) untuk mencoba mendapatkan yang terbaik?

require('forecast')
naiveFit <- auto.arima(controlData)
naiveFit
# Series: controlData 
# ARIMA(2,0,1) with non-zero mean 
# 
# Coefficients:
#          ar1      ar2     ma1  intercept
#      1.4985  -0.5637  0.6427   -11.8690
# s.e.  0.1508   0.1546  0.1912     3.2647
#
# sigma^2 estimated as 0.8936:  log likelihood=-64.01
# AIC=138.02   AICc=139.56   BIC=147.05

Jadi, meskipun data masa lalu dan masa depan adalah ARIMA (1,1,1), saya mungkin tergoda untuk mengklasifikasikannya sebagai ARIMA (2,0,1). tsdata(auto.arima(controlData))terlihat bagus juga.

Inilah yang akan ditemukan oleh pemodel informasi:

informedFit <- arima(controlData, order = c(1,1,1))
# informedFit
# Series: controlData 
# ARIMA(1,1,1)                    
#
# Coefficients:
#          ar1     ma1
#       0.4936  0.6859
# s.e.  0.1564  0.1764
#
# sigma^2 estimated as 0.9571:  log likelihood=-62.22
# AIC=130.44   AICc=131.04   BIC=135.79

1) Mengapa kriteria informasi ini lebih baik daripada model yang dipilih oleh auto.arima(controlData)?

Sekarang, saya hanya membandingkan data nyata, dan 2 model:

plot(controlData)
lines(fitted(naiveFit), col = "red")
lines(fitted(informedFit), col = "blue")

tsPlots

2) Bermain sebagai penasihat iblis, konsekuensi apa yang akan saya bayarkan dengan menggunakan ARIMA (2, 0, 1) sebagai model? Apa risiko dari kesalahan ini?

3) Saya lebih khawatir tentang implikasi untuk prediksi ke depan multi-periode. Saya menganggap mereka akan kurang akurat? Saya hanya mencari beberapa bukti.

4) Apakah Anda menyarankan metode alternatif untuk pemilihan model? Apakah ada masalah dengan alasan saya sebagai pemodel "tidak tahu"?

Saya benar-benar ingin tahu apa konsekuensi lain dari kesalahan klasifikasi semacam ini. Saya telah mencari beberapa sumber dan tidak dapat menemukan apa pun. Semua literatur yang saya dapat temukan hanya menyentuh pada subjek ini, sebagai gantinya hanya menyatakan data harus stasioner sebelum melakukan ARMA, dan jika tidak stasioner, maka perlu dibedakan d kali.

Terima kasih!

r time-series arima stationarity

— Clark Henry
sumber

Kesan saya adalah bahwa analog dengan asumsi "kesalahan ortogonal" dalam regresi cross-sectional (yaitu bias bias kesalahan standar tetapi bukan koefisien), tapi saya benar-benar tertarik mendengar jawaban yang sebenarnya.

— shadowtalker

Jawaban:

Kesan saya adalah bahwa pertanyaan ini tidak memiliki jawaban yang unik dan sepenuhnya umum, jadi saya hanya akan mengeksplorasi kasus yang paling sederhana, dan sedikit informal.

\begin{matrix} (1) & y_{t} = y_{t - 1} + {kamu}_{t}, t = 1, . . ., T, y_{0} = 0 \end{matrix}

$y_t = y_{t-1} + u_t,\;\; t=1,...,T,\;\; y_0 =0 \tag{1}$

u_{t}

$u_t$

E (u_{t}^{2}) = σ_{u}^{2}

$E(u_t^2)= \sigma^2_u$

\begin{matrix} (2) & y_{t} = \sum_{saya = 1}^{t} {kamu}_{saya} \end{matrix}

$y_t = \sum_{i=1}^tu_i \tag{2}$

$A$

\begin{matrix} (3) & y_{t} = β y_{t - 1} + {kamu}_{t}, t = 1, . . ., T, y_{0} = 0 \end{matrix}

$y_t = \beta y_{t-1} + u_t,\;\; t=1,...,T,\;\; y_0 =0 \tag{3}$

$\hat \beta$ $\beta$ (mari kita membahas metode estimasi hanya jika perlu muncul).

$k$

\begin{matrix} (4) & {\hat{y}}_{T + k} = {\hat{β}}^{k} y_{T} \end{matrix}

$\hat y_{T+k} = \hat \beta^k y_T \tag{4}$

dan MSE -nya akan

M. S E_{SEBUAH} [{\hat{y}}_{T + k}] = E {({\hat{β}}^{k} y_{T} - y_{T + k})}^{2}

$MSE_A[\hat y_{T+k}] = E\left(\hat \beta^k y_T-y_{T+k}\right)^2$

\begin{matrix} (5) & = E {[({\hat{β}}^{k} - 1) y_{T} - \sum_{saya = T + 1}^{T + k} {kamu}_{saya}]}^{2} = E [({\hat{β}}^{k} - 1)^{2} y_{T}^{2}] + k σ_{kamu}^{2} \end{matrix}

$=E\left[(\hat \beta^k-1) y_T -\sum_{i=T+1}^{T+k}u_i \right]^2 = E\big[(\hat\beta^k-1)^2 y_T^2\big]+ k\sigma^2_u \tag{5}$

(jangka menengah persegi lenyap, serta produk silang kesalahan masa depan).

$B$

\begin{matrix} (6) & Δ y_{t} = γ Δ y_{t - 1} + {kamu}_{t} \end{matrix}

$\Delta y_t = \gamma \Delta y_{t-1} + u_t \tag{6}$

$\hat \gamma$

\begin{matrix} (7) & y_{t} = y_{t - 1} + γ (y_{t - 1} - y_{t - 2}) + {kamu}_{t} \end{matrix}

$y_t = y_{t-1} + \gamma (y_{t-1}-y_{t-2}) + u_t \tag{7}$

jadi meramalkan tingkat proses, kita akan miliki

{\hat{y}}_{T + 1} = y_{T} + \hat{γ} (y_{T} - y_{T - 1})

$\hat y_{T+1} = y_{T} + \hat \gamma (y_{T}-y_{T-1})$

yang pada kenyataannya, mengingat DGP yang benar akan

\begin{matrix} (8) & {\hat{y}}_{T + 1} = y_{T} + \hat{γ} {kamu}_{T} \end{matrix}

$\hat y_{T+1} = y_{T} + \hat \gamma u_T \tag {8}$

$B$

{\hat{y}}_{T + k} = y_{T} + (\hat{γ} + {\hat{γ}}^{2} + . . . + {\hat{γ}}^{k}) {kamu}_{T}

$\hat y_{T+k} = y_{T} + \big(\hat \gamma + \hat \gamma^2+...+\hat \gamma^k)u_T$

$|\hat \gamma|<1$ $0$

\begin{matrix} (9) & {\hat{y}}_{T + k} = y_{T} + \frac{\hat{γ} - {\hat{γ}}^{k + 1}}{1 - \hat{γ}} {kamu}_{T} \end{matrix}

$\hat y_{T+k} = y_{T} + \frac {\hat \gamma - \hat \gamma ^{k+1}}{1-\hat \gamma}u_T \tag{9}$

dan sebagainya

\begin{matrix} (10) & M. S E_{B} [{\hat{y}}_{T + k}] = E [{(\frac{\hat{γ} - {\hat{γ}}^{k + 1}}{1 - \hat{γ}})}^{2} {kamu}_{T}^{2}] + k σ_{kamu}^{2} \end{matrix}

$MSE_B[\hat y_{T+k}] = E\left[\left(\frac {\hat \gamma - \hat \gamma ^{k+1}}{1-\hat \gamma}\right)^2u_T^2\right] + k\sigma^2_u \tag{10}$

sementara saya ulangi untuk kenyamanan

\begin{matrix} (5) & M. S E_{SEBUAH} [{\hat{y}}_{T + k}] = E [({\hat{β}}^{k} - 1)^{2} y_{T}^{2}] + k σ_{kamu}^{2} \end{matrix}

$MSE_A[\hat y_{T+k} ] = E\big[(\hat\beta^k-1)^2 y_T^2\big]+ k\sigma^2_u \tag{5}$

Jadi, agar model yang dibedakan tampil lebih baik dalam hal prediksi MSE, kami ingin

M. S E_{B} [{\hat{y}}_{T + k}] \leq M. S E_{SEBUAH} [{\hat{y}}_{T + k}]

$MSE_B[\hat y_{T+k}] \leq MSE_A[\hat y_{T+k}]$

\Rightarrow E [{(\frac{\hat{γ} - {\hat{γ}}^{k + 1}}{1 - \hat{γ}})}^{2} {kamu}_{T}^{2}] \leq E [({\hat{β}}^{k} - 1)^{2} y_{T}^{2}]

$\Rightarrow E\left[\left(\frac {\hat \gamma - \hat \gamma ^{k+1}}{1-\hat \gamma}\right)^2u_T^2\right] \leq E\big[(\hat\beta^k-1)^2 y_T^2\big]$

$B$ $A$ $\hat \beta$ akan "dekat dengan kesatuan".

$\hat \beta >1$ $k$ $k$ $B$ $A$ .

$A$ $\hat \beta <1$ $k \rightarrow \infty$

E [{(\frac{\hat{γ}}{1 - \hat{γ}})}^{2} {kamu}_{T}^{2}] \leq E [y_{T}^{2}] = T σ_{kamu}^{2} ? ?

$E\left[\left(\frac {\hat \gamma}{1-\hat \gamma}\right)^2u_T^2\right] \leq E\big[y_T^2\big]= T\sigma^2_u\;\; ??$

$k \rightarrow \infty$ $k$

$\left(\frac {\hat \gamma }{1-\hat \gamma}\right)^2$ $0$ $B$ memiliki keunggulan dari aspek ini.

$\hat \gamma$ $u_T$

Cov [{(\frac{\hat{γ}}{1 - \hat{γ}})}^{2}, {kamu}_{T}^{2}] + E [{(\frac{\hat{γ}}{1 - \hat{γ}})}^{2}] \cdot σ_{kamu}^{2} \leq T σ_{kamu}^{2} ? ?

$\operatorname{Cov}\left[\left(\frac {\hat \gamma}{1-\hat \gamma}\right)^2,\,u_T^2\right] + E\left[\left(\frac {\hat \gamma}{1-\hat \gamma}\right)^2\right]\cdot \sigma^2_u \leq T\sigma^2_u\;\; ??$

\Rightarrow Cov [{(\frac{\hat{γ}}{1 - \hat{γ}})}^{2}, {kamu}_{T}^{2}] \leq (T - E [{(\frac{\hat{γ}}{1 - \hat{γ}})}^{2}]) \cdot σ_{kamu}^{2} ? ?

$\Rightarrow \operatorname{Cov}\left[\left(\frac {\hat \gamma}{1-\hat \gamma}\right)^2,\,u_T^2\right] \leq \left (T-E\left[\left(\frac {\hat \gamma}{1-\hat \gamma}\right)^2\right]\right)\cdot \sigma^2_u \;\; ??$

$\hat \gamma$ $T$ $\hat \gamma$ $(0,1)$ ).

Jadi, secara keseluruhan, tanpa membahas metode estimasi spesifik, saya percaya bahwa kami dapat menunjukkan secara informal bahwa model yang dibeda-bedakan harus diharapkan berkinerja lebih baik dalam hal prediksi MSE.

— Alecos Papadopoulos
sumber

Itu pertanyaan yang bagus.

Seperti yang saya sadari, Anda baru saja mempertimbangkan pacf tapi itu belum cukup. ACF dan PACF sama-sama diperlukan untuk memilih model terbaik.

Di sisi lain, tes stasioner lemah dan sensitif dan membutuhkan sejumlah besar keterlambatan untuk diuji.

Selain itu, lebih disukai untuk membuat seri waktu stasioner sebelum menerapkan model apa pun. Secara kasar, model ARIMA hanya mempertimbangkan kasus khusus sebagai non-stasioner (lebih disukai dalam tren).

Tentang pertanyaan Anda, saya tidak yakin tentang fungsi auto.arima tetapi saya yakin bahwa jumlah titik data dalam contoh Anda kecil. Simulasi model dengan menggunakan banyak titik data akan menjawab pertanyaan Anda dengan baik. Juga, saya menyarankan Anda untuk mempertimbangkan ACF time series serta PACF. Tentang pemilihan model, aturan praktis adalah memilih model yang paling sederhana (perhatikan bahwa model yang paling sederhana setelah membuat time series stationary).

Saya merujuk Anda ke referensi ini . Buku ini tidak menjawab semua pertanyaan Anda tetapi memberi Anda beberapa petunjuk.

----- bagian pelengkap ------- @nsw mempertimbangkan tren dalam data Anda. Jika Anda mempertimbangkan model stasioner, itu menghasilkan prediksi naik / turun tetapi sebenarnya model ARMA dirancang untuk memprediksi data datar. Saya telah mengubah kode Anda untuk mencerminkan perbedaan ini:

membutuhkan ('perkiraan')

membutuhkan ('tseries')

controlData <- arima.sim (daftar (urutan = c (1,1,1), ar = .5, ma = .5), n = 1000 )

ACF (controlData)

ts.plot (controlData)

naiveFit <- arima (controlData, order = c (2,0,1))

trueFit <- arima (controlData, order = c (1,1,1))

PrnaiveFit <-forecast.Arima (naiveFit, 10)

PrtrueFit <- forecast.Arima (trueFit, 10)

matplot (cbind ( rata-rata PrnaiveFit $ , rata-rata PrtrueFit $ ), jenis = 'b', col = c ('merah', 'hijau'), ylab = c ('prediksi ion'), pch = c ('n', 't'))

— TPArrow
sumber

Pertanyaan bertanya mengapa lebih disukai untuk "membuat seri waktu stasioner." Ini tidak benar-benar menjawab pertanyaan itu.

— shadowtalker

@ssdecontrol Secara umum Anda benar. Saya benar-benar lebih khawatir tentang konsekuensi tersirat pada prediksi setelah kesalahan spesifikasi. Tapi aku tidak ingin memukul Hamed. Dia terlalu banyak. Dia masih menjawab pertanyaan terakhir saya tentang, "apakah ini cara yang tepat untuk memilih model?" Tetapi hanya untuk mengulangi, itu yang paling tidak menjadi perhatian saya di sini.

— Clark Henry