Estimasi berjalan acak dengan AR (1)

Ketika saya memperkirakan jalan acak dengan AR (1), koefisiennya sangat dekat dengan 1 tetapi selalu kurang.

Apa alasan matematika bahwa koefisiennya tidak lebih besar dari satu?

Kami memperkirakan dengan OLS model

$$x_{t} = \rho x_{t-1} + u_t,\;\; E(u_t \mid \{x_{t-1}, x_{t-2},...\}) =0,\;x_0 =0$$

Untuk sampel ukuran T, estimatornya adalah

$$\hat \rho = \frac {\sum_{t=1}^T x_{t}x_{t-1}}{\sum_{t=1}^T x_{t-1}^2} = \rho + \frac {\sum_{t=1}^T u_tx_{t-1}}{\sum_{t=1}^T x_{t-1}^2}$$

$\rho=1$

$$x_{t} = x_{t-1} + u_t \implies x_t= \sum_{i=1}^t u_i$$

$\hat \rho - 1$$\approx 68$$\approx$$\hat \rho < 1$

$$\begin{align} \text{Mean:} -0.0017773\\ \text{Median:} -0.00085984\\ \text{Minimum: } -0.042875\\ \text{Maximum: } 0.0052173\\ \text{Standard deviation: } 0.0031625\\ \text{Skewness: } -2.2568\\ \text{Ex. kurtosis: } 8.3017\\ \end{align}$$

Ini kadang-kadang disebut distribusi "Dickey-Fuller", karena ini adalah dasar untuk nilai-nilai kritis yang digunakan untuk melakukan tes Unit-Root dengan nama yang sama.

Saya tidak ingat melihat upaya untuk memberikan intuisi untuk bentuk distribusi sampling. Kami melihat distribusi sampling dari variabel acak

$$\hat \rho - 1 = \left(\sum_{t=1}^T u_tx_{t-1}\right)\cdot \left(\frac {1}{\sum_{t=1}^T x_{t-1}^2}\right)$$

$u_t$$\hat \rho - 1$$\hat \rho - 1$

$T=5$

Jika kami menjumlahkan Norma Produk independen kami mendapatkan distribusi yang tetap simetris di sekitar nol. Sebagai contoh:

Tetapi jika kita menjumlahkan Normal Produk yang tidak independen seperti kasus kita, kita dapatkan

yang condong ke kanan tetapi dengan massa probabilitas lebih dialokasikan untuk nilai-nilai negatif. Dan massa tampak semakin terdorong ke kiri jika kita menambah ukuran sampel dan menambahkan lebih banyak elemen yang berkorelasi dengan jumlah.

Kebalikan dari jumlah Gammas non-independen adalah variabel acak non-negatif dengan kemiringan positif.

$\hat \rho -1$

Ini sebenarnya bukan jawaban tetapi terlalu lama untuk komentar, jadi saya tetap memposting ini.

Saya bisa mendapatkan koefisien lebih besar dari 1 dua kali dari seratus untuk ukuran sampel 100 (menggunakan "R"):

N=100                   # number of trials
T=100                   # length of time series
coef=c()
for(i in 1:N){
 set.seed(i)
 x=rnorm(T)             # generate T realizations of a standard normal variable
 y=cumsum(x)            # cumulative sum of x produces a random walk y
 lm1=lm(y[-1]~y[-T])    # regress y on its own first lag, with intercept
 coef[i]=as.numeric(lm1$coef[1])
}
length(which(coef<1))/N # the proportion of estimated coefficients below 1

Realisasi 84 dan 95 memiliki koefisien di atas 1, sehingga tidak selalu di bawah satu. Namun, kecenderungannya jelas memiliki estimasi bias ke bawah. Pertanyaannya tetap, mengapa ?

Sunting: regresi di atas termasuk istilah intersepsi yang tampaknya tidak termasuk dalam model. Setelah intersep dihapus, saya mendapatkan lebih banyak perkiraan di atas 1 (3158 dari 10.000) - tetapi masih jelas di bawah 50% dari semua kasus:

N=10000                 # number of trials
T=100                   # length of time series
coef=c()
for(i in 1:N){
 set.seed(i)
 x=rnorm(T)             # generate T realizations of a standard normal variable
 y=cumsum(x)            # cumulative sum of x produces a random walk y
 lm1=lm(y[-1]~-1+y[-T]) # regress y on its own first lag, without intercept
 coef[i]=as.numeric(lm1$coef[1])
}
length(which(coef<1))/N # the proportion of estimated coefficients below 1