Apa perbedaan antara model deterministik dan stokastik?

Model Linier Sederhana:

$x=\alpha t + \epsilon_t$ mana ~ iid $\epsilon_t$ $N(0,\sigma^2)$

dengan dan $E(x) = \alpha t$ $Var(x)=\sigma^2$

AR (1):

$X_t =\alpha X_{t-1} + \epsilon_t$ mana ~ iid $\epsilon_t$ $N(0,\sigma^2)$

dengan dan $E(x) = \alpha t$ $Var(x)=t\sigma^2$

Jadi model linier sederhana dianggap sebagai model deterministik sedangkan model AR (1) dianggap sebagai model stocahstic.

Menurut Video Youtube oleh Ben Lambert - Deterministic vs Stochastic , alasan AR (1) disebut sebagai model stokastik adalah karena variansnya meningkat seiring waktu. Jadi, apakah fitur varian tidak konstan menjadi kriteria untuk menentukan stokastik atau deterministik?

Saya juga tidak berpikir model linier sederhana benar-benar deterministik karena kami memiliki istilah terkait dengan model. Karenanya, kami selalu memiliki keacakan dalam . Jadi sampai sejauh mana kita dapat mengatakan model itu deterministik atau stokastik? $\epsilon_t$ $x$

— Ken T
sumber

Model apa pun yang memiliki istilah kesalahan adalah stokastik. Ini tidak ada hubungannya dengan varians yang harus berubah dengan waktu.

— Michael R. Chernick

@MichaelChernick saya tidak mengerti. Lalu mengapa orang mengatakan regresi linier sederhana adalah model deterministik?

— Ken T

Bisakah Anda memberikan tautan untuk menunjukkan di mana ini dikatakan dan mengapa dikatakan.?

— Michael R. Chernick

Itu dari catatan rangkaian analisis deret waktu saya beberapa tahun yang lalu. Mungkin itu salah.

— Ken T

Jawaban:

Video ini berbicara tentang tren deterministik vs stokastik , bukan model . Puncaknya sangat penting. Kedua model Anda bersifat stokastik, namun, dalam model 1 trennya adalah deterministik.

Model 2 tidak memiliki tren. Teks pertanyaan Anda salah.

Model 2 dalam pertanyaan Anda adalah AR (1) tanpa konstanta, sedangkan dalam video modelnya adalah jalan acak (gerakan Brown): Model ini memang memiliki tren stokastik . Ini stokastik karena itu hanya rata-rata. Setiap realisasi gerakan Brown akan menyimpang dari karena istilah acak , yang mudah dilihat dengan membedakan:

x_{t} = α + x_{t - 1} + e_{t}

$x_t=\alpha+x_{t-1}+e_t$

α t

$\alpha t$

α t

$\alpha t$

e_{t}

$e_t$

Δ x_{t} = x_{t} - x_{t - 1} = α + e_{t}

$\Delta x_t=x_t-x_{t-1}=\alpha+e_t$

x_{t} = x_{0} + \sum_{t = 1}^{t} Δ x_{t} = x_{0} + α t + \sum_{t = 1}^{t} e_{t}

$x_t=x_0+\sum_{t=1}^t\Delta x_t=x_0+\alpha t +\sum_{t=1}^t e_t$

— Aksakal
sumber

α t

$\alpha t$

e_{1} + e_{2} + \dots + e_{t}

$e_1+e_2+\dots +e_t$

e_{t}

$e_t$

Seperti yang disebutkan Aksakal dalam jawabannya, video yang dikaitkan dengan Ken T menggambarkan sifat tren , bukan model secara langsung, mungkin sebagai bagian dari pengajaran tentang topik terkait tren dan perbedaan-stasioneritas dalam ekonometrik. Karena dalam pertanyaan Anda, Anda bertanya tentang model, ini dia dalam konteks model :

Model atau proses bersifat stokastik jika memiliki keacakan. Misalnya, jika diberi input yang sama (variabel independen, bobot / parameter, hiperparameter, dll.), Model mungkin menghasilkan output yang berbeda. Dalam model deterministik, output sepenuhnya ditentukan oleh input ke model (variabel independen, bobot / parameter, hiperparameter, dll.), Sehingga memberikan input yang sama dengan model, outputnya identik. Asal usul istilah "stokastik" berasal dari proses stokastik . Sebagai aturan umum, jika model memiliki variabel acak, itu adalah stokastik. Model stokastik bahkan bisa menjadi variabel acak independen sederhana.

Mari kita buka beberapa terminologi lagi yang akan membantu Anda memahami literatur di sekitar model statistik (deterministik, stokastik, atau sebaliknya ...):

$AR(1)$ $t-1$ $\mu_{\epsilon_t}=0$ ), dll. Kami membuat asumsi-asumsi ini untuk membuat model linier berguna untuk memperkirakan variabel dependen (s) dengan meminimalkan beberapa norma dari istilah kesalahan itu. Asumsi-asumsi ini memungkinkan kami untuk memperoleh sifat-sifat penaksir yang berguna dan membuktikan bahwa penaksir tertentu adalah yang terbaik berdasarkan asumsi-asumsi tersebut; misalnya, bahwa penaksir OLS adalah BIRU .

Contoh sederhana dari model stokastik adalah membalik koin yang adil (kepala atau ekor), yang dapat dimodelkan secara stokastik sebagai variabel acak biner yang terdistribusi secara seragam, atau proses Bernoulli . Anda juga dapat mempertimbangkan flip koin sebagai sistem fisik dan menghasilkan model deterministik (dalam pengaturan ideal) jika Anda mempertimbangkan bentuk koin, sudut dan kekuatan tumbukan, jarak ke permukaan, dll. model terakhir (fisik) dari flip koin tidak memiliki variabel acak di dalamnya (misalnya tidak mempertimbangkan kesalahan pengukuran dari salah satu input ke model), maka itu bersifat deterministik.

$X_t$ $AR(1)$ $\epsilon_t$ $y_t = ax_t+\epsilon_t$ $t$ $Var[X_t]$ $t$ $Var[X_t]$

Selain itu, kadang-kadang ada kebingungan antara proses stokastik stasioner dan proses stokastik non-stasioner. Stationaritas menyiratkan bahwa statistik seperti mean atau varians tidak berubah dari waktu ke waktu dalam model. Keduanya masih dianggap model / proses stokastik selama ada keacakan yang terlibat. Sebagai sesama Maroon, Matthew Gunn, menyebutkan dalam jawabannya, dekomposisi Wold menyatakan bahwa setiap proses stokastik stasioner dapat ditulis sebagai jumlah dari proses deterministik dan stokastik.

— ido
sumber

Jawaban bagus! Sebuah pertanyaan: mengapa Anda menulis "... jika variansnya berubah atas beberapa parameter ..." bukankah itu harus berubah atas beberapa variabel (atau fungsi dari suatu variabel)?

— Alexis

@Alexis saya merujuk waktu sebagai parameter dari model. Anda benar, bahasa itu tidak tepat. Tetap. Terima kasih. :-)

— ido

Bagaimana perbedaan AR (1) berubah?

— Aksakal

V a r [ε_{t}]

$Var[\varepsilon_t]$

σ^{2}

$\sigma^2$

V a r [X_{t}] = t σ^{2}

$Var[X_t] = t\sigma^2$

X_{t} = α + X_{t - 1} + ε_{t}

$X_t = \alpha + X_{t-1} + \varepsilon_t$

ε_{t} \sim N (0, σ^{2})

$\varepsilon_t \sim N(0, \sigma^2)$

A R (1)

$AR(1)$ mengacu pada model yang dijelaskan oleh Ken T.)

— ido

V a r [X_{t}] = V a r [X_{t - 1}] + V a r [ε_{t}] = \sum_{i = 1}^{t} V a r [ε_{i}] = t σ^{2}

$Var[X_t] = Var[X_{t-1}] + Var[\varepsilon_t] = \sum_{i=1}^{t} Var[\varepsilon_i] = t\sigma^2$

V a r [ε_{i}] = σ^{2}

$Var[\varepsilon_i] = \sigma^2$

ε_{t}

$\varepsilon_t$

ε_{t}

$\varepsilon_t$

C o v [X_{t}, X_{t - 1}] = 0

$Cov[X_t, X_{t-1}] = 0$

Beberapa definisi informal

- $y(t) = 2t$
- $y(t) = e^t$
$\{Y_t\}$ $\Omega$ $Y(t,\omega)$ $t$ $\omega$ $\Omega$
- $y_t = \epsilon_t$ $\epsilon_t \sim \mathcal{N}(0, 1)$
- $y_t = .7 y_{t-1} + \epsilon_t$
$\omega$ $\Omega$ $\omega \in \Omega$ $Y_t(\omega)$

Beberapa komentar ...

... alasan AR (1) disebut sebagai model stokastik adalah karena variansnya meningkat seiring waktu.

$t$

$\epsilon_t$

$x_t$ $x_t = \alpha t + \epsilon_t$ $\{\epsilon_t\}$ $\{x_t\}$

$y_t = \alpha t$ $\{x_t\}$ $\alpha t$ $\epsilon_t$

Ini mengarah pada Teorema Wold bahwa setiap proses stasioner kovarian dapat secara unik diuraikan menjadi komponen deterministik dan komponen stokastik.

— Matthew Gunn
sumber