Apa perbedaan antara ergodik dan stasioner?


42

Saya kesulitan membedakan antara dua konsep ini. Ini pemahaman saya sejauh ini.

Proses stasioner adalah proses stokastik yang sifat statistiknya tidak berubah seiring waktu. Untuk proses stasioner yang masuk akal, ini berarti bahwa distribusi probabilitas gabungannya konstan; untuk proses stasioner yang luas, ini berarti momen 1 dan 2 konstan.

Proses ergodik adalah proses di mana sifat statistiknya, seperti varians, dapat disimpulkan dari sampel yang cukup panjang. Misalnya, rata-rata sampel menyatu dengan rata-rata sebenarnya dari sinyal, jika Anda rata-rata cukup lama.

Sekarang, bagi saya tampaknya sebuah sinyal harus diam, agar menjadi ergodik.

  • Dan jenis sinyal apa yang bisa diam, tetapi tidak ergodik?
  • Jika sinyal memiliki varians yang sama untuk semua waktu, misalnya, bagaimana varians rata-rata waktu tidak konvergen ke nilai sebenarnya?
  • Jadi, apa perbedaan nyata antara kedua konsep ini?
  • Bisakah Anda memberi saya contoh proses yang diam tanpa ergodik, atau ergodik tanpa diam?

Anda mungkin ingin melihat jawaban ini untuk pertanyaan terkait.
Dilip Sarwate

Kuliah ini mengeja secara harfiah bahwa ergodic adalah bagian dari stasioner. Saya tidak mengerti apa yang dilakukan artikel Stationary Ergodic Process di Wikipedia? Apakah ini berarti ada proses ergodik yang tidak stasioner?
Val

@ Val Saya tidak akan membela apa yang Wikipedia katakan tetapi akan menunjukkan bahwa bagian terakhir dari jawaban saya di bawah ini berisi contoh proses WSS yang tidak stasioner namun bersifat ergodik.
Dilip Sarwate

Jawaban:


33

Proses acak adalah kumpulan variabel acak, satu untuk setiap waktu instan yang dipertimbangkan. Biasanya ini mungkin waktu kontinu ( ) atau waktu diskrit (semua bilangan bulat , atau semua contoh waktu mana adalah interval sampel). <t<nnTT

  • Stationaritas mengacu pada distribusi variabel acak. Secara khusus, dalam proses stasioner, semua variabel acak memiliki fungsi distribusi yang sama, dan lebih umum, untuk setiap bilangan bulat positif dan waktu , distribusi gabungan dari variabel acak sama dengan distribusi gabungan . Yaitu, jika kita menggeser semua waktu contoh dengan , deskripsi statistik dari proses tidak berubah sama sekali: prosesnya diamnnt1,t2,,tnnX(t1),X(t2),,X(tn)X(t1+τ),X(t2+τ),,X(tn+τ)τ.
  • Ergodisitas, di sisi lain, tidak melihat sifat statistik dari variabel acak tetapi pada jalur sampel , yaitu apa yang Anda amati secara fisik. Mengacu kembali ke variabel acak, ingat bahwa variabel acak adalah pemetaan dari ruang sampel ke bilangan real; setiap hasil dipetakan ke bilangan real, dan variabel acak yang berbeda biasanya akan memetakan setiap hasil yang diberikan ke angka yang berbeda. Jadi, bayangkan bahwa beberapa makhluk yang lebih tinggi seperti yang dilakukan percobaan yang telah menghasilkan hasil di ruang sampel, dan hasil ini telah dipetakan ke bilangan real (biasanya berbeda) oleh semua variabel acak dalam proses: khususnya, acak variabel telah dipetakanωX(t)ωke bilangan real kita akan menyatakan sebagai . The nomor , dianggap sebagai bentuk gelombang, adalah contoh jalan sesuai dengan , dan hasil yang berbeda akan memberi kita jalan sampel yang berbeda. Ergodisitas kemudian berurusan dengan sifat-sifat jalur sampel dan bagaimana sifat-sifat ini berhubungan dengan sifat-sifat variabel acak yang terdiri dari proses acak.x(t) x(t)ω

Sekarang, untuk jalur sampel dari proses stasioner , kita dapat menghitung rata-rata waktu tetapi, apa yang harus dilakukan dengan , rata - rata dari proses acak? (Perhatikan bahwa tidak masalah nilai kita gunakan; semua variabel acak memiliki distribusi yang sama dan memiliki nilai rata-rata yang sama (jika nilai tengahnya ada)). Seperti kata OP, nilai rata-rata atau komponen DC dari jalur sampel konvergen ke nilai rata-rata proses jika jalur sampel diamati cukup lama, asalkan prosesnya ergodikx(t)

x¯=12TTTx(t)dt
x¯μ=E[X(t)]tdan stasioner, dll. Yaitu, ergodisitas adalah apa yang memungkinkan kita untuk menghubungkan hasil dari dua perhitungan dan untuk menegaskan bahwa sama dengan Suatu proses yang dipegang kesetaraan tersebut dikatakan sebagai ergodik rata-rata , dan suatu proses berarti ergodik jika fungsi autokovariansnya memiliki properti:
limTx¯=limT12TTTx(t)dt

μ=E[X(t)]=ufX(u)du.
CX(τ)
limT12TTTCX(τ)dτ=0.

Dengan demikian, tidak semua proses stasioner harus berarti-ergodik. Tetapi ada bentuk - bentuk lain dari ergodisitas juga. Misalnya, untuk proses ergodik autokovarian, fungsi autokovarian segmen terbatas (katakan untuk dari jalur sampel menyatu dengan fungsi autokovarian dari proses sebagai . Pernyataan selimut bahwa suatu proses ergodik dapat berarti salah satu dari berbagai bentuk atau mungkin berarti bentuk tertentu; orang tidak bisa mengatakan,t(T,T)x(t)CX(τ)T

Sebagai contoh perbedaan antara dua konsep, anggaplah untuk semua sedang dipertimbangkan. Di sini adalah variabel acak. Ini adalah proses stasioner: setiap memiliki distribusi yang sama (yaitu, distribusi ), rata-rata yang sama , varian yang sama dll .; masing-masing dan memiliki distribusi gabungan yang sama (meskipun berdegenerasi) dan seterusnya. Tetapi prosesnya tidak ergodik karena setiap jalur sampel adalah konstan . Secara khusus, jika percobaan percobaan (seperti yang dilakukan oleh Anda, atau oleh makhluk superior) menghasilkanX(t)=YtYX(t)YE[X(t)]=E[Y]X(t1)X(t2)Y memiliki nilai , maka jalur sampel dari proses acak yang sesuai dengan hasil eksperimen ini memiliki nilai untuk semua , dan nilai DC dari jalur sampel adalah , bukan , tidak peduli berapa lama Anda mengamati jalur sampel (agak membosankan). Di alam semesta paralel, percobaan akan menghasilkan dan jalur sampel di alam semesta itu akan memiliki nilai untuk semua . Tidak mudah untuk menulis spesifikasi matematis untuk mengecualikan hal-hal sepele dari kelas proses stasioner, dan jadi ini adalah contoh yang sangat minimal dari proses acak stasioner yang tidak ergodik.ααtαE[X(t)]=E[Y]Y=ββt

Bisa ada proses acak yang tidak stasioner tetapi adalah ergodic? Nah, N0 , tidak jika dengan ergodik yang kami maksud adalah ergodic dalam setiap cara yang dapat dipikirkan orang: misalnya, jika kita mengukur fraksi waktu di mana segmen panjang dari jalur sampel memiliki nilai paling banyak , ini adalah perkiraan yang baik dari , nilai dari (umum) CDF dari di jika prosesnya diasumsikan untuk menjadi ergodik sehubungan dengan fungsi distribusi Tapi , kita bisa memiliki proses acakx(t)αP(X(t)α)=FX(α)FXX(t)αtidak stasioner tetapi tetap berarti -ergodic dan autokovarian -ergodic. Misalnya, perhatikan proses mana mengambil empat nilai yang kemungkinan sama dan . Perhatikan bahwa masing-masing adalah variabel acak diskrit yang, secara umum, memiliki empat nilai yang kemungkinan sama dan , Sangat mudah untuk melihat bahwa secara umum dan{X(t):X(t)=cos(t+Θ),<t<}Θ0,π/2,π3π/2X(t)cos(t),cos(t+π/2)=sin(t),cos(t+π)=cos(t)cos(t+3π/2)=sin(t)X(t)X(s)memiliki distribusi yang berbeda, sehingga prosesnya tidak stasioner bahkan tingkat pertama. Di sisi lain, untuk setiap sementara Singkatnya, proses memiliki mean nol dan autokorelasi (dan autokovarian) fungsi tergantung hanya pada perbedaan waktu , dan proses adalah

E[X(t)]=14cos(t)+14(sin(t))+14(cos(t))+14sin(t)=0
t
E[X(t)X(s)]=14[cos(t)cos(s)+(cos(t))(cos(s))+sin(t)sin(s)+(sin(t))(sin(s))]=12[cos(t)cos(s)+sin(t)sin(s)]=12cos(ts).
tsstasioner pengertian luas. Tetapi ini bukan stasioner orde pertama dan karenanya juga tidak stasioner terhadap orde yang lebih tinggi. Sekarang, ketika percobaan dilakukan dan nilai diketahui, kita mendapatkan fungsi sampel yang jelas harus salah satu dari dan yang memiliki nilai DC yang sama dengan , dan yang fungsi autokorelasi-nya adalah , sama dengan , dan proses ini berarti-ergodik dan autokorelasi-ergodik meskipun tidak stasioner sama sekali. Sebagai penutup, saya berkomentar bahwa prosesnya tidak ergodik sehubungan dengan fungsi distribusiΘ±cos(t)±sin(t)0012cos(τ)RX(τ)Artinya, tidak bisa dikatakan ergodik dalam segala hal.


1
Saya tidak bisa mengerti contohnya. Jika Anda mengatakan Y adalah konstanta, maka setiap jalur x (t) adalah konstanta. Mean dari sebuah konstanta adalah dirinya sendiri, maka E [X (t)] = E [Y] = Y. Kecuali saya melewatkan sesuatu.
Royi

Saya menambahkan beberapa kata untuk memperjelas artinya. adalah variabel acak, bukan konstanta. Nilainya pada percobaan apa pun dari percobaan tidak harus sama dengan . YE[Y]
Dilip Sarwate

1
Jika suatu sinyal ergodik, artinya rata-rata waktu konvergen ke rata-rata ensemble, tetapi berbagai memiliki cara yang berbeda karena prosesnya tidak stasioner, apa definisi rata-rata ensembel yang rata-rata waktunya konvergen? X
Dilip Sarwate

1
@Matt Dalam solusi buku "sistem komunikasi" simon haykin menulis bahwa "untuk proses acak menjadi ergodik, ia harus diam"
Roney Island

1
@ColinHicks Ya, itu salah ketik dalam jawaban saya bahwa saya akan segera memperbaikinya. Terima kasih telah menyampaikannya kepada saya.
Dilip Sarwate

6

Mari kita pertimbangkan proses acak hipotetis di mana fungsi sampel adalah nilai DC dan berbeda satu sama lain:

X 1 (t) = konstan = rata-rata X 1 (t)

X 2 (t) = konstan = rata-rata X 2 (t)

Rata-rata waktu dan konstan tetapi tidak sama. jika proses saya stasioner dan sama dan RVs (rujuk jawaban Dilip)X1(t)X2(t)X(t1)X(t2)

Jadi rata-rata ensemble adalah konstan.X(t)

Mean ensemble ini tentu tidak sama dengan rata-rata temporal dan (mereka sendiri tidak sama). Ini bisa disebut diam tetapi bukan proses ergodik.X1(t)X2(t)

Sebaliknya, mana adalah RV adalah ergodik.X(t)=Acos(ωt+θ)θ


2

Saya harap video ini (dari Institut Teknologi Florida. Berjudul "apa yang dimaksud dengan rasa pengertian yang luas, pengertian yang ketat, sinyal ergodik" oleh Dr. Ivica Kostanic dalam kelas Teori Komunikasi) dari 16:55 dapat menghapus keraguan Anda


Selamat datang di DSP.SE! Saya sarankan Anda menambahkan nama dan beberapa deskripsi pada video jika itu dihapus suatu hari nanti dan tautannya tidak valid. Terima kasih.
lennon310

1

Proses ergodik adalah proses di mana Anda dapat mengganti rata-rata ergodik dengan rata-rata temporal.

Mean sebenarnya, varians, dll ... didefinisikan dengan mengikuti proses dari waktu ke waktu dan rata-rata, dll ... Misalnya, jika Anda ingin mengetahui rata-rata ukuran saya, Anda harus meratakannya dari saat saya dilahirkan ketika aku mati. Jelas contoh selanjutnya bukanlah proses yang diam.

Rata-rata ergodik adalah jika alih-alih mengikuti ukuran saya dari waktu ke waktu, Anda akan membekukan waktu, dan mengambil rata-rata dari sampel manusia individu yang berbeda. Tidak ada alasan untuk kedua cara ini sama, sehingga proses ukuran saya tidak ergodik.

Itu adalah contoh yang buruk, tetapi menjadi lebih penting jika Anda mempertimbangkan kasus sederhana gas pada kesetimbangan. Misalnya kecepatan kuadrat rata-rata dicatat (rata-rata dari waktu ke waktu), tetapi sering dihitung dengan mengambil rata-rata ensemble : rata-rata dari kecepatan kuadrat semua molekul dari gas pada instan .V2¯V2t

Kebanyakan teorema termodinamika mengharuskan untuk menggunakan , tetapi lebih mudah untuk menghitung dan menggunakan . Hipotesis ergodik adalah hipotesis yang menyatakan bahwa adalah tepat untuk menggantikan yang satu dengan yang lain. Proses ergodik adalah proses yang hipotesis ergodinya benar.V2¯V2

Hipotesis ergodik salah dalam kasus umum.


1
Saya tidak mengerti jawaban ini. Proses ukuran Jolow tidak stasioner atau ergodik sedangkan OP bertanya-tanya apakah mungkin ada proses stasioner yang tidak ergodik. Apakah jawabannya pada dasarnya bahwa secara umum hipotesis ergodik salah dan (semacam) secara universal benar bahwa rata-rata sampel berbeda dari rata-rata ansambel, hanya terbiasa dan hidup dengannya?
Dilip Sarwate

@DilipSarwate: setelah membaca kembali, itu adalah jawaban yang buruk yang tidak menjawab pertanyaan, dan saya sedang mempertimbangkan menghapusnya. Saya mengingatkan kuliah termodinamika saya, sedangkan pertanyaannya lebih pada statistik ...
Jean-Yves

@DilipSarwate berapa ukuran Jolow?
Pulau Roney

1
@MichaelCorleone Saya tidak ingat apa arti referensi ke Jolow. Dugaan saya adalah bahwa Jean-Yves memposting jawabannya di bawah nom-de-plume Jolow dan saya menggunakan nama itu dalam jawaban saya, dan bahwa sejak itu ia memutuskan untuk menggunakan Jean-Yves sebagai nama pengguna di stackexchange. Perubahan nama tersebut tercermin pada apa yang ditampilkan di layar tetapi tidak dicatat sebagai pengeditan jawaban.
Dilip Sarwate

@DilipSarwate: Anda memang benar. Jolow hanyalah nama panggilan saya.
Jean-Yves

1

Untuk contoh kasus yang berlawanan (yaitu, proses acak yang ergodik tetapi tidak diam), pertimbangkan proses derau putih yang dimodulasi amplitudo oleh gelombang persegi deterministik. Rata-rata waktu dari setiap fungsi sampel sama dengan nol, seperti rata-rata ensemble sepanjang waktu. Jadi prosesnya ergodik. Namun, varians dari setiap fungsi sampel individu menunjukkan ketergantungan gelombang persegi asli pada waktu, sehingga prosesnya tidak diam.

Contoh khusus ini adalah stasioner pengertian luas, tetapi orang dapat membuat contoh terkait yang masih ergodik tetapi bahkan stasioner tidak masuk akal.


0

seperti yang saya pahami, contoh di bawah ini menunjukkan proses yang ergodis dan stasioner

 X1 X2 X3  | mean var ...
 1  2  3   | 2    1
 2  3  1   | 2
 3  1  2   | 2
 ----------

berarti 2 2 2 var 1

karena mean dan varians setiap kolom konstan sepanjang waktu dan mean dan varians setiap baris konstan sepanjang waktu

Dengan menggunakan situs kami, Anda mengakui telah membaca dan memahami Kebijakan Cookie dan Kebijakan Privasi kami.
Licensed under cc by-sa 3.0 with attribution required.