Pertanyaan tentang fungsi sampel autokovarian

Saya membaca buku analisis deret waktu dan rumus untuk sampel autocovariance didefinisikan dalam buku ini sebagai:

\hat{γ} (h) = n^{- 1} \sum_{t = 1}^{n - h} (x_{t + h} - \bar{x}) (x_{t} - \bar{x})

$\widehat{\gamma}(h) = n^{-1}\displaystyle\sum_{t=1}^{n-h}(x_{t+h}-\bar{x})(x_t-\bar{x})$

denganuntuk . adalah mean. $\widehat{\gamma}(-h) = \widehat{\gamma}(h)\;$ $\;h = 0,1, ..., n-1$ $\bar{x}$

Bisakah seseorang menjelaskan secara intuitif mengapa kita membagi jumlah dengan dan bukan dengan ? Buku ini menjelaskan bahwa ini adalah karena rumus di atas adalah fungsi pasti non-negatif dan jadi membaginya dengan lebih disukai, tetapi ini tidak jelas bagi saya. Bisakah seseorang membuktikan ini atau menunjukkan contoh atau sesuatu? $n$ $n-h$ $n$

Bagi saya hal yang intuitif pada awalnya adalah membagi dengan . Apakah ini penaksir autokovarians yang bias atau bias? $n-h$

time-series probability mathematical-statistics

— jjepsuomi
sumber

Jika deret waktu Anda persis dengan semua lainnya , atau tidak diketahui, maka jumlah tersebut harus berhenti pada ketika terjadi di jumlah: istilah berikutnya (untuk ) yang akan dimasukkan dalam jumlah akan memiliki di dalamnya, dan bukan bagian dari sampel.

x_{1}, x_{2}, \dots, x_{n}

$x_1, x_2, \ldots, x_n$

x_{i}

$x_i$

i < 1

$i < 1$

i > n

$i >n$

t = n - h

$t=n-h$

x_{t + h} = x_{n}

$x_{t+h}=x_n$

t = n - h + 1

$t=n-h+1$

x_{n - h + 1 + h} = x_{n + 1}

$x_{n-h+1+h}=x_{n+1}$

x_{n + 1}

$x_{n+1}$

— Dilip Sarwate

@Dilip Saya tidak berpikir itu masalahnya: pertanyaannya adalah apakah akan membagi dengan atau dalam definisi .

n

$n$

n - h

$n-h$

\hat{γ}

$\hat{\gamma}$

— whuber

$\widehat{\gamma}$ digunakan untuk membuat matriks kovarian: diberikan "times" , ia memperkirakan bahwa kovarians dari vektor acak (diperoleh dari bidang acak pada waktu itu) adalah matriks . Untuk banyak masalah, seperti prediksi, sangat penting bahwa semua matriks tersebut harus nonsingular. Sebagai matriks kovarian putatif, jelas mereka tidak dapat memiliki nilai eigen negatif, di mana semuanya harus pasti-positif. $t_1, t_2, \ldots, t_k$ $X_{t_1}, X_{t_2}, \ldots, X_{t_k}$ $\left(\widehat{\gamma}(t_i - t_j), 1 \le i, j \le k\right)$

Situasi paling sederhana di mana perbedaan antara dua formula

\hat{γ} (h) = n^{- 1} \sum_{t = 1}^{n - h} (x_{t + h} - \bar{x}) (x_{t} - \bar{x})

$\widehat{\gamma}(h) = n^{-1}\sum_{t=1}^{n-h}(x_{t+h}-\bar{x})(x_t-\bar{x})$

dan

{\hat{γ}}_{0} (h) = (n - h)^{- 1} \sum_{t = 1}^{n - h} (x_{t + h} - \bar{x}) (x_{t} - \bar{x})

$\widehat{\gamma}_0(h) = (n-h)^{-1}\sum_{t=1}^{n-h}(x_{t+h}-\bar{x})(x_t-\bar{x})$

muncul adalah ketika memiliki panjang ; katakan, . Untuk dan mudah untuk dihitung $x$ $2$ $x = (0,1)$ $t_1=t$ $t_2 = t+1$

{\hat{γ}}_{0} = (\begin{array}{cc} \frac{1}{4} & - \frac{1}{4} \\ - \frac{1}{4} & \frac{1}{4} \end{array}),

$\widehat{\gamma}_0 = \left( \begin{array}{cc} \frac{1}{4} & -\frac{1}{4} \\ -\frac{1}{4} & \frac{1}{4} \end{array} \right),$

yang tunggal, sedangkan

\hat{γ} = (\begin{array}{cc} \frac{1}{4} & - \frac{1}{8} \\ - \frac{1}{8} & \frac{1}{4} \end{array})

$\widehat{\gamma} = \left( \begin{array}{cc} \frac{1}{4} & -\frac{1}{8} \\ -\frac{1}{8} & \frac{1}{4} \end{array} \right)$

yang memiliki nilai eigen dan , di mana itu bernilai positif pasti. $3/8$ $1/8$

Fenomena serupa terjadi untuk , di mana pasti-positif tetapi ketika diterapkan pada waktu , katakanlah - merosot menjadi matriks peringkat (entrinya berganti-ganti antara dan ). $x = (0,1,0,1)$ $\widehat{\gamma}$ $\widehat{\gamma}_0$ $t_i = (1,2,3,4)$ $1$ $1/4$ $-1/4$

(Ada pola di sini: masalah muncul untuk setiap bentuk .) $x$ $(a,b,a,b,\ldots,a,b)$

Dalam sebagian besar aplikasi, seri pengamatan sangat panjang sehingga untuk sebagian besar menarik - yang jauh lebih kecil dari - perbedaan antara dan tidak ada konsekuensinya. Jadi dalam praktiknya perbedaan itu bukan masalah besar dan secara teoritis kebutuhan akan kepastian positif sangat mengesampingkan setiap keinginan yang mungkin untuk perkiraan yang tidak bias. $x_t$ $h$ $n$ $n^{-1}$ $(n-h)^{-1}$

— whuber
sumber

Saya pikir ini penting untuk dicatat bahwa kedua penduga adalah penduga yang bias, bahkan jika Anda membaginya dengan nh.

— Berlari

@Bisa Meskipun Anda benar bahwa penaksir ini bias, saya tidak setuju bahwa ini adalah masalah penting: seperti yang disebutkan dalam paragraf terakhir, sejumlah kecil bias adalah yang paling sedikit dari kekhawatiran siapa pun. Estimator yang tidak bias, menggunakan , hampir tidak berbeda dari atau .

(n - h - 1)^{- 1}

$(n-h-1)^{-1}$

\hat{γ}

$\widehat{\gamma}$

{\hat{γ}}_{0}

$\widehat{\gamma}_0$

— whuber

+1 sangat bagus. Mungkin berguna untuk menambahkan poin bahwa , sementara , jadi ketika dekat dengan , estimator dapat tidak menentu, sementara akan memiliki fluktuasi sampel seragam yang kecil . Lihat misalnya Priestly (1981) "Analisis Spektral dan Rangkaian Waktu" hal324 untuk diskusi terperinci tentang hal ini

V {\hat{γ}}_{0} (h) = O (1 / (n - h))

$\mathbb{V} \hat{\gamma}_0(h) = O(1/(n-h))$

V \hat{γ} (h) = O (1 / n)

$\mathbb{V} \hat{\gamma}(h) = O(1/n)$

h

$h$

n

$n$

{\hat{γ}}_{0} (h)

$\hat{\gamma}_0(h)$

\hat{γ} (h)

$\hat{\gamma}(h)$

\forall h

$\forall h$

— Colin T Bowers