Merencanakan "permukaan median posterior"

Sebagai bagian dari mereproduksi model yang saya jelaskan sebagian dalam pertanyaan tentang Stack Overflow ini, saya ingin mendapatkan sebidang distribusi posterior. Model (spasial) menggambarkan harga jual beberapa properti sebagai distribusi Bernoulli tergantung pada apakah properti itu mahal (1) atau murah (0). Dalam persamaan:

y_{saya} \sim Bernoulli ({hal}_{saya})

$y_{i} \sim \text{Bernoulli}(p_{i})$

{hal}_{saya} \sim {logit}^{- 1} (b_{0} + b_{1} LivingArea / 1000 + b_{2} Usia + w (s))

$p_{i} \sim \text{logit}^{-1}(b_{0} + b_{1}\text{LivingArea}/1000 + b_{2}\text{Age} + w({\bf{s}}))$

w (s) \sim MVN (0, Σ)

$w({\bf{s}}) \sim \text{MVN}({\bf{0}}, {\bf{\Sigma}})$

di mana adalah hasil biner 1 atau 0, adalah probabilitas menjadi murah atau mahal, adalah variabel acak spasial di mana mewakili posisinya . Semua ini untuk setiap karena ada 70 properti dalam dataset. adalah matriks kovarians berdasarkan posisi geografis dari titik data. Jika Anda penasaran dengan model ini, dataset dapat ditemukan di sini . $y_{i}$ $p_{i}$ $w({\bf{s}})$ $\bf{s}$ $i = \{1, ..., 70\}$ $\bf{\Sigma}$

Plot yang ingin saya dapatkan adalah plot kontur berikut:

masukkan deskripsi gambar di sini

Gambar tersebut digambarkan sebagai "Gambar plot permukaan median posterior dari proses laten , model spasial biner". Buku itu juga mengatakan ini: $w({\bf{s}})$

Gambar 5.8 menunjukkan plot gambar dengan garis kontur overlay untuk permukaan rata-rata posterior dari proses laten . $w({\bf{s}})$

Namun, hanya ada 70 pasang poin dalam dataset. Saya kira itu, untuk menghasilkan plot kontur, saya perlu memperkirakan $w({\bf{s}})$ dalam 70 * 70 poin. Jadi, pertanyaan saya adalah: Bagaimana cara menghasilkan permukaan median posterior ini? Sejauh ini saya memiliki sampel distribusi posterior untuk semua parameter yang terlibat (menggunakan PyMC) dan saya tahu bahwa saya dapat memprediksi $y^*$ pada titik baru menggunakan distribusi prediksi posterior. Namun, saya tidak tahu cara memprediksi nilai $w({\bf{s}})$ pada titik baru $s^*$ . Mungkin saya salah dan plotnya tidak dibangun oleh prediksi tetapi oleh interpolasi.

PEMBARUAN :

Pertama, ini adalah median dari distribusi posterior $w({\bf{s}})$ di setiap lokasi di mana ada properti. Ini didasarkan pada jejak MCMC untuk $w$ .

masukkan deskripsi gambar di sini

Dan ini adalah interpolasi (dengan plot kontur) menggunakan fungsi basis radial:

masukkan deskripsi gambar di sini

(Jika Anda tertarik dengan kode ini, beri tahu saya)

Seperti yang Anda lihat, ada perbedaan yang signifikan dalam plot. Beberapa pertanyaan:

Bagaimana saya bisa tahu jika perbedaan ini dijelaskan oleh prosedur interpolasi?
Mungkin, ada variasi penting dalam distribusi posterior $w({\bf{s}})$ yang saya hitung dan yang ditunjukkan di buku. Berapa banyak variasi yang dapat diterima antara simulasi MCMC? Bahkan parameter saya sendiri berubah sedikit tergantung pada sampel yang saya gunakan (Metropolis, Metropolis Adaptive.)
Apakah ada beberapa prosedur Bayesian untuk memprediksi poin $w(s)$ untuk menghasilkan plot kontur seperti yang saya lakukan menggunakan fungsi basis radial?

— Robert Smith
sumber

Interpolasi adalah prediksi! (Karena

w

$w$ adalah suatu proses, muncul dengan nilai

w

$w$ di setiap lokasi yang tidak diobservasi sama dengan menebak nilai variabel acak. Prediksi, menurut definisi, adalah menebak nilai dari variabel acak.)

— whuber

Tentu. Saya bermaksud mengatakan interpolasi yang bertentangan dengan prediksi Bayesian. Ngomong-ngomong, saya mencoba menggunakan interpolasi dengan tetangga terdekat dan saya mendapat hasil yang mengerikan.

— Robert Smith

Anda mungkin harus mendapatkan hasil yang mengerikan jika Anda menggunakan data mentah dalam program interpolasi, karena itu memecahkan masalah yang berbeda. Anda ingin plot kontur hanya untuk

w

$w$ istilah tetapi program itu (saya kira) menggunakan

y_{i}

$y_i$ .

— whuber

Tidak, saya menggunakan median distribusi posterior untuk masing-masing

w (s)

$w(s)$ .

— Robert Smith

Di mana lokasi spasial

s

$s$ apakah Anda menghitung median distribusi posterior? Saya percaya motivasi utama di balik menjalankan model semacam ini adalah untuk melacak distribusi

w (s)

$w(s)$ di semua titik di mana Anda tertarik untuk memprediksi nilainya, yang - dalam kasus peta kontur ini - akan menjadi semua 4900 node grid.

— whuber

Sangat mungkin bahwa penulis menggunakan proses Gaussian untuk menghasilkan interpolasi. Saya pikir itu benar karena latihan dalam buku ini menggambarkan masalah yang sangat mirip dengan yang satu ini dan membutuhkan plot berdasarkan proses Gaussian.

Saya mencobanya dan saya pikir plot yang dihasilkan memiliki fitur dengan permukaan median posterior dari pertanyaan awal. Ini adalah median dari distribusi posterior $w(s)$ seperti di atas (ini sedikit berbeda karena saya menjalankan simulasi MCMC lain):

masukkan deskripsi gambar di sini

Dan ini adalah interpolasi berdasarkan proses Gaussian:

masukkan deskripsi gambar di sini

Seperti yang Anda lihat, metode interpolasi membuat perbedaan besar.

— Robert Smith
sumber