Pemodelan Bayesian menggunakan multivariat normal dengan kovariat


11

Misalkan Anda memiliki variabel penjelas X=(X(s1),,X(sn)) mana s mewakili koordinat yang diberikan. Anda juga memiliki variabel respons Y=(Y(s1),,Y(sn)) . Sekarang, kita dapat menggabungkan kedua variabel sebagai:

W(s)=(X(s)Y(s))N(μ(s),T)

Dalam hal ini, kita cukup memilih dan adalah matriks kovarians yang menggambarkan hubungan antara dan . Ini hanya menggambarkan nilai dan pada . Karena kami memiliki lebih banyak poin dari lokasi lain untuk dan , kami dapat menggambarkan lebih banyak nilai dengan cara berikut:μ(s)=(μ1μ2)TTXYXYsXYW(s)

(XY)=N((μ11μ21),TH(ϕ))

Anda akan melihat bahwa kami menyusun kembali komponen dan untuk mendapatkan semua dalam kolom dan setelah itu, menggabungkan semua bersama-sama. Setiap komponen adalah fungsi korelasi dan adalah seperti di atas. Alasan kita memiliki kovarians adalah karena kita menganggap itu adalah mungkin untuk memisahkan matriks kovarians sebagai .XYX(si)Y(si)H(ϕ)ijρ(si,sj)TTH(ϕ)C(s,s)=ρ(s,s)T

Pertanyaan 1: Ketika saya menghitung kondisional , apa yang sebenarnya saya lakukan adalah menghasilkan seperangkat nilai berdasarkan , benar? Saya sudah memiliki jadi saya akan lebih tertarik untuk memprediksi titik baru . Dalam hal ini, saya harus memiliki matriks didefinisikan sebagaiYXYXYy(s0)H(ϕ)

H(ϕ)=(H(ϕ)hhρ(0,ϕ))

di mana adalah vektor . Oleh karena itu, kita dapat membuat vektor (tanpa penataan ulang):h(ϕ)ρ(s0sj;ϕ)

W=(W(s1),,W(sn),W(s0))TN(1n+1(μ1μ2),H(ϕ)T)

Dan sekarang saya hanya mengatur ulang untuk mendapatkan distribusi gabungan dan dapatkan bersyarat .(Xx(s0)Yy(s0))p(y(s0)x0,X,Y)

Apakah ini benar?

Pertanyaan 2: Untuk memprediksi, makalah yang saya baca menunjukkan bahwa saya harus menggunakan distribusi bersyarat ini dan mendapatkan posterior distribusi , tetapi saya tidak yakin bagaimana cara mendapatkan distribusi posterior untuk parameter. Mungkin saya bisa menggunakan distribusi yang saya pikir persis sama dengan dan kemudian cukup gunakan teorema Bayes untuk mendapatkanp(y(s0)x0,X,Y)p(μ,T,ϕx(s0),Y,X)(Xx(s0)Y)p(X,x(s0),Yμ,T,ϕ)p(μ,T,ϕX,x(s0),Y)p(X,x(s0),Yμ,T,ϕ)p(μ,T,ϕ)

Pertanyaan 3: Di akhir sub-bab, penulis mengatakan ini:

Untuk prediksi, kami tidak memiliki . Ini tidak menciptakan masalah baru karena dapat diperlakukan sebagai variabel laten dan dimasukkan ke dalam Ini hanya menghasilkan penarikan tambahan dalam setiap iterasi Gibbs dan merupakan tambahan sepele untuk tugas komputasi.X(s0)x

Apa arti paragraf itu?

Ngomong-ngomong, prosedur ini dapat ditemukan di makalah ini (halaman 8), tetapi seperti yang Anda lihat, saya perlu sedikit lebih detail.

Terima kasih!


Dipilih untuk melakukan migrasi per permintaan OP .

Saya akan mengatakan benar untuk kedua jawaban Anda untuk pertanyaan 1 dan 2. Pertanyaan 3 berarti bahwa tidak teramati diperlakukan sebagai parameter tambahan, di atas , menggunakan bersyarat penuh seperti sebelumnya pada . X(s0)μ,T,ϕ
p(x(s0)X,,Y,μ,T,ϕ)
X(s0)
Xi'an

Jawaban:


2

Pertanyaan 1: Diberikan model probabilitas gabungan Anda yang distribusi bersyarat dari diberikan juga Normal, dengan mean dan matriks varians-kovarians

(XY)N((μ11μ21),[Σ11Σ12Σ21Σ22])=N((μ11μ21),TH(ϕ))
YX
μ2+Σ21Σ111(Xμ1)
Σ22Σ21Σ111Σ21.
(Rumus-rumus itu disalin secara verbatim dari halaman Wikipedia pada normals multivariat .) Hal yang sama berlaku untuk karena adalah vektor Normal lainnya.p(y(s0)x(s0),X,Y)(y(s0),x(s0),X,Y)

Pertanyaan 2: Prediktif didefinisikan sebagai yaitu, dengan mengintegrasikan parameter menggunakan distribusi posterior dari posterior tersebut, diberikan data saat ini . Jadi ada sedikit lebih banyak jawaban penuh. Jelas, jika Anda hanya perlu mensimulasikan dari prediksi, gagasan Anda untuk mensimulasikan bersama dari dan kemudian dari valid.p(y(s0)x(s0),X,Y)

p(y(s0)|x(s0),X,Y)=p(y(s0)|x(s0),X,Y,μ,T,ϕ)p(μ,T,ϕ|x(s0),X,Y)dμdTdϕ,
(X,Y,x(s0))p(μ,T,ϕX,x(s0),Y)p(y(s0)x(s0),X,Y,μ,T,ϕ)

Pertanyaan 3: Jika tidak diamati, pasangan dapat diprediksi dari prediksi lain x(s0)(x(s0),y(s0))

p(x(s0),y(s0)X,Y)=p(x(s0),y(s0)X,Y,μ,T,ϕ)p(μ,T,ϕX,Y)dμdTdϕ.

Ketika mensimulasikan dari prediksi ini, karena tidak tersedia dalam bentuk yang dapat dikelola, sampler Gibbs dapat dijalankan yang disimulasikan secara iteratif

  1. μX,Y,x(s0),y(s0),T,ϕ
  2. TX,Y,x(s0),y(s0),μ,ϕ
  3. ϕX,Y,x(s0),y(s0),T,μ
  4. x(s0)X,Y,y(s0),ϕ,T,μ
  5. y(s0)X,Y,x(s0),ϕ,T,μ

atau jika tidak, gabungkan langkah 4 dan 5 menjadi satu langkah

  • x(s0),y(s0)X,Y,ϕ,T,μ
Dengan menggunakan situs kami, Anda mengakui telah membaca dan memahami Kebijakan Cookie dan Kebijakan Privasi kami.
Licensed under cc by-sa 3.0 with attribution required.