Jalan acak dengan momentum

Pertimbangkan bilangan bulat acak mulai dari 0 dengan kondisi berikut:

Langkah pertama adalah plus atau minus 1, dengan probabilitas yang sama.
Setiap langkah di masa depan adalah: 60% kemungkinan berada di arah yang sama dengan langkah sebelumnya, 40% kemungkinan berada di arah yang berlawanan

Jenis distribusi apa yang dihasilkannya?

Saya tahu bahwa jalan acak non-momentum menghasilkan distribusi normal. Apakah momentum hanya mengubah varians, atau mengubah sifat distribusi sepenuhnya?

Saya mencari jawaban umum, jadi 60% dan 40% di atas, maksud saya benar-benar p dan 1-p

stochastic-processes randomness random-walk

— barrycarter
sumber

Sebenarnya, @Dilip, Anda perlu rantai Markov dengan negara-negara diindeks oleh pasangan memerintahkan

(i, i + 1)

$(i,i+1)$ dan

(i, i - 1)

$(i,i-1)$ ,

i \in Z

$i\in\mathbb{Z}$ . Transisi adalah

(i, i + 1) \to (i + 1, i + 1)

$(i,i+1)\to(i+1,i+1)$ dan

(i, i - 1) \to (i - 1, i)

$(i,i-1)\to(i-1,i)$ Dengan probabilitas

p

$p$ dan

(i, i + 1) \to (i + 1, i)

$(i,i+1)\to(i+1,i)$ dan

(i, i - 1) \to (i - 1, i - 2)

$(i,i-1)\to(i-1,i-2)$ dengan probabilitas

1 - p

$1-p$ .

— whuber

Perhatikan bahwa ukuran langkah membentuk rantai Markov pada

{- 1, + 1}

$\{-1,+1\}$ dan Anda (?!) telah memulainya di distribusi stasioner.

— kardinal

Apakah Anda menginginkan distribusi terbatas (marjinal) untuk

S_{n} = \sum_{i = 1}^{n} X_{n}

$S_n = \sum_{i=1}^n X_n$ mana

X_{n} \in {- 1, + 1}

$X_n \in \{-1,+1\}$ adalah langkah-langkahnya?

— kardinal

Pendekatan lain mungkin untuk melihat jumlah bolak variabel acak geometris, kemudian menerapkan beberapa teori martingale. Masalahnya adalah Anda harus mendefinisikan semacam waktu berhenti, yang mungkin rumit.

— shabbychef

Jawaban:

Untuk langsung mengambil kesimpulan, "momentum" tidak mengubah fakta bahwa distribusi normal adalah perkiraan asimptotik dari distribusi jalan acak, tetapi varians berubah dari $4np(1-p)$ menjadi $np/(1-p)$ . Ini dapat diturunkan dengan pertimbangan yang relatif elementer dalam kasus khusus ini. Tidaklah terlalu sulit untuk menggeneralisasi argumen di bawah ini ke CLT untuk ruang terbatas ruang Markov, katakan, tetapi masalah terbesar sebenarnya adalah perhitungan varians. Untuk masalah khusus itu bisadihitung, dan semoga argumen di bawah ini dapat meyakinkan pembaca bahwa itu adalah varian yang benar.

Menggunakan wawasan bahwa Kardinal menyediakan dalam komentar, acak berjalan diberikan sebagai mana dan 's membentuk rantai Markov dengan matriks probabilitas transisi Untuk pertimbangan asimptotik saat distribusi awal tidak berperan, jadi mari kita perbaiki

S_{n} = \sum_{k = 1}^{n} X_{k}

$S_n = \sum_{k=1}^n X_k$

X_{k} \in {- 1, 1}

$X_k \in \{-1, 1\}$

X_{k}

$X_k$

(\begin{array}{cc} p & 1 - p \\ 1 - p & p \end{array}) .

$\left(\begin{array}{cc} p & 1-p \\ 1-p & p \end{array}\right).$

n \to \infty

$n \to \infty$

X_{1}

$X_1$

demi argumen berikut, dan anggap juga bahwa

. Teknik yang licin adalah menguraikan rantai Markov menjadi siklus independen. Misalkan

menunjukkan pertama kali, setelah waktu 1, bahwa rantai Markov kembali ke 1. Yaitu, jika

maka

, dan jika

dan

maka

X_{1} = 1

$X_1 = 1$

0 < p < 1

$0 < p < 1$

σ_{1}

$\sigma_1$

X_{2} = 1

$X_2 = 1$

σ_{1} = 2

$\sigma_1 = 2$

X_{2} = X_{3} = - 1

$X_2 = X_3 = -1$

X_{4} = 1

$X_4 = 1$

σ_{1} = 4

$\sigma_1 = 4$ . Secara umum, biarkan

menyatakan

'th waktu kembali ke 1 dan membiarkan

menyatakan kali antar-return (dengan

). Dengan definisi ini, kami punya

σ_{i}

$\sigma_i$

i

$i$

τ_{i} = σ_{i} - σ_{i - 1}

$\tau_i = \sigma_i - \sigma_{i-1}$

σ_{0} = 1

$\sigma_0 = 1$

Dengan lalu $U_i = \sum_{k = \sigma_{i-1}+1}^{\sigma_i} X_k$ $S_{σ_{n}} = X_{1} + \sum_{i = 1}^{n} U_{i} .$ $S_{\sigma_n} = X_1 + \sum_{i=1}^n U_i.$
Sejak mengambil nilai untuk dan itu menyatakan bahwa $X_k$ $-1$ $k = \sigma_{i-1}+1, \ldots, \sigma_{i}-1$ $X_{\sigma_i} = 1$ $U_{i} = 2 - τ_{i} .$ $U_i = 2 - \tau_i.$
Waktu antar kembali, , untuk rantai Markov adalah iid (secara resmi karena properti Markov yang kuat) dan dalam kasus ini dengan rata-rata dan varians $\tau_i$ $E(\tau_i) = 2$ . Diindikasikan bagaimana cara menghitung mean dan varians di bawah ini. $V(\tau_i) = 2\frac{p}{1-p}$
CLT biasa untuk variabel menghasilkan bahwa $S_{σ_{n}} \overset{asymp}{\sim} N (0, \frac{2 n p}{1 - p}) .$ $S_{\sigma_n} \overset{\text{asymp}}{\sim} N\left(0, \frac{2np}{1-p}\right).$
Hal terakhir untuk catatan, yang membutuhkan lompatan kecil iman, karena saya meninggalkan rincian, adalah bahwa $\sigma_n = 1 + \sum_{i=1}^n \tau_i \sim 2n$ , yang hasil bahwa $S_{n} \overset{asymp}{\sim} N (0, \frac{n p}{1 - p}) .$ $S_{n} \overset{\text{asymp}}{\sim} N\left(0, \frac{np}{1-p}\right).$

$\tau_1$ $P(\tau_1 = 1) = p$ $m \geq 2$ $P(\tau_1 = m) = (1-p)^2p^{m-2}$ $X$ $1-p$ $Z = 1(\tau_1 = 1)$ $1 + X(1-Z)$ $\tau_1$

— NRH
sumber

1 / \sqrt{n} S_{n}

$1/\sqrt{n}S_n$ , untuk menunjukkan dengan jelas bahwa CLT berlaku dengan cara biasa. Tapi itu hanya masalah selera.

— mpiktas

$\rho$ $\rho = 2p - 1$

True standard error of \bar{x} \approx \sqrt{\frac{p}{1 - p}} \frac{s}{\sqrt{n}},

$\mbox{True standard error of }\bar{x} \approx \sqrt{\frac{p}{1-p}}\frac{s}{\sqrt{n}},$ where

n \bar{x}

$n \bar{x}$ is the position of the random walk after

n

$n$ steps, and

s

$s$ is the sample standard deviation (which will be, asymptotically in

n

$n$ ,

\sqrt{1 - {\bar{x}}^{2}}

$\sqrt{1 - \bar{x}^2}$ . The upshot is that I expect, as a rough approximation, that the standard deviation of

n \bar{x}

$n \bar{x}$ should be around

\sqrt{n p / (1 - p)}

$\sqrt{n p/(1-p)}$ .

edit: I had the wrong autocorrelation (or rather $p$ should have been interpreted differently); is now consistent (I hope!)

— shabbychef
sumber

Interesting. I'm not sure that yields anything very sensible for the

p = 0

$p=0$ subcase; though, that could be due to pathologies associated with that case.

— cardinal

@cardinal good catch, the autocorrelation should be

ρ = 2 p - 1,

$\rho = 2p - 1,$ not

1 - 2 p

$1 - 2p$ . correcting it...

— shabbychef