Penduga yang tidak sesuai untuk model AR ( )

Pertimbangkan model AR ( ) (dengan asumsi nol untuk kesederhanaan): $p$

x_{t} = φ_{1} x_{t - 1} + \dots + φ_{p} x_{t - p} + ε_{t}

$x_t = \varphi_1 x_{t-1} + \dotsc + \varphi_p x_{t-p} + \varepsilon_t$

Estimator OLS (setara dengan estimator kemungkinan maksimum bersyarat ) untuk diketahui bias, seperti dicatat dalam utas terbaru . $\mathbf{\varphi} := (\varphi_1,\dotsc,\varphi_p)$

(Anehnya, saya tidak dapat menemukan bias yang disebutkan dalam "Time Series Analysis" Hamilton atau dalam beberapa buku teks seri waktu lainnya. Namun, dapat ditemukan dalam berbagai catatan kuliah dan artikel akademik, misalnya ini .)

Saya tidak dapat menemukan apakah penaksir kemungkinan maksimum tepat AR ( ) bias atau tidak; maka pertanyaan pertama saya. $p$

Pertanyaan 1: Apakah yang sebenarnya maksimum estimator kemungkinan AR ( parameter autoregressive) model bias? (Mari kita asumsikan proses AR ( ) stasioner. Kalau tidak, estimator bahkan tidak konsisten, karena dibatasi di wilayah stasioner; lihat, misalnya, Hamilton "Analisis Rangkaian Waktu" , hal. 123.) $p$ $\varphi_1,\dotsc,\varphi_p$ $p$

Juga,

Pertanyaan 2: Apakah ada penduga tidak bias yang cukup sederhana?

— Richard Hardy
sumber

Saya cukup yakin estimator ML dalam AR (p) bias (keberadaan batas stasioneritas menunjukkan bahwa itu akan menjadi bias) tetapi saya tidak memiliki bukti untuk Anda sekarang (sebagian besar estimator ML bias dalam setiap kasus, tetapi kami memiliki sedikit lebih dari itu untuk melanjutkan di sini). [Secara pribadi saya tidak melihat ketidakberpihakan sebagai properti yang sangat berguna untuk dimiliki, setidaknya secara umum - ini seperti lelucon lama tentang ahli statistik yang akan berburu bebek. Ceteris paribus, tentu saja lebih baik daripada tidak, tetapi dalam praktiknya ceteris tidak pernah paribus . Ini konsep yang penting. ]

— Glen_b -Reinstate Monica

Saya pikir ketidakberpihakan akan diinginkan ketika bekerja dalam sampel kecil, dan saya baru saja menghadapi contoh seperti itu . Dalam pemahaman saya, dalam hal ini ketidakberpihakan lebih diinginkan daripada, katakanlah, efisiensi selama efisiensi dapat diukur.

— Richard Hardy

Di mana bias mungkin tidak kecil (seperti dalam sampel kecil), saya benar-benar cenderung mencari sesuatu yang lebih seperti kesalahan kuadrat rata-rata minimum. Apa gunanya peduli bahwa perkiraan Anda bisa salah rata-rata, padahal sebenarnya perkiraan alternatif Anda bisa jauh lebih salah karena punya varian yang tinggi? mis. jika bias saya pada ukuran sampel ini untuk ini adalah 0,1 yang mungkin sangat besar sehingga Anda akan mengatakan "mari kita gunakan penduga yang tidak bias" ... tetapi jika kesalahan standar cukup besar maka perkiraan saya biasanya lebih jauh dari nilai yang benar ... apakah saya lebih baik? ...

ϕ

$\phi$

— ctd

ctd. ... Saya tidak berpikir begitu (setidaknya bukan untuk keperluan saya yang biasa, dan saya hampir tidak pernah melihat argumen yang bagus untuk ketidakberpihakan dalam situasi praktis yang lebih disukai untuk MMSE). Saya peduli tentang bagaimana salah ini perkiraan adalah - seberapa jauh aku mungkin dari nilai sebenarnya - bukan berapa banyak pergeseran rata-rata adalah jika saya berada dalam situasi ini satu juta kali lebih. Nilai praktis utama dalam mengerjakan bias cenderung melihat apakah Anda dapat menguranginya dengan mudah tanpa banyak memengaruhi varians.

— Glen_b -Reinstate Monica

Argumen yang bagus, terima kasih. Saya akan lebih memikirkannya.

— Richard Hardy

Ini tentu saja bukan jawaban yang ketat untuk pertanyaan Anda 1, tetapi karena Anda mengajukan pertanyaan secara umum, bukti untuk sampel tandingan sudah menunjukkan bahwa jawabannya adalah tidak.

Jadi di sini adalah studi simulasi kecil menggunakan estimasi ML yang tepat dari arima0untuk berpendapat bahwa setidaknya ada satu kasus di mana ada bias:

reps <- 10000
n <- 30
true.ar1.coef <- 0.9

ar1.coefs <- rep(NA, reps)
for (i in 1:reps){
  y <- arima.sim(list(ar=true.ar1.coef), n)
  ar1.coefs[i] <- arima0(y, order=c(1,0,0), include.mean = F)$coef
}
mean(ar1.coefs) - true.ar1.coef

— Christoph Hanck
sumber

-1

Saya kebetulan membaca buku yang sama dengan yang Anda baca dan menemukan jawaban untuk kedua pertanyaan Anda.

Bias dari beta autoregresi disebutkan dalam buku di halaman 215.

Buku ini juga menyebutkan cara untuk memperbaiki bias pada halaman 223. Cara untuk melanjutkan adalah melalui pendekatan dua langkah berulang.

Semoga ini membantu.

— penghuni utara
sumber

Per pedoman situs , jawaban tidak hanya terdiri dari referensi ke materi di tempat lain.

— Alexis