Mengapa Zellner's sebelum "tidak dapat diterima"?

Saya tahu prior Zellner menggunakan data untuk mengatur informasi sebelumnya, tetapi sebenarnya seluruh model tergantung pada data. Apakah ada alasan lain?

regression bayesian uninformative-prior

— Kebisingan Merah
sumber

Dapatkah Anda memposting kutipan / referensi untuk klaim bahwa itu tidak dapat diterima? Dan juga beri tahu kami sebanyak mungkin konteks klaim ini?

— Jake Westfall

Saya membacanya di beberapa makalah (tidak ingat nama atau penulisnya), tentang regresi dan pendekatan Bayesian. Itu tidak punya banyak informasi. (Saya ingat mereka menggunakan argumen yang sama yang digunakan orang dengan Jeffreys '). Saya memahami kontroversi yang berbicara tentang prior non informatif pada konteks independen, tetapi menggunakan regresi saya tidak bisa melihat intinya

— Red Noise

Dalam buku kami, Bayesian Essentials with R , kami menyatakan hal yang hampir sama:

Zellner's prior, entah bagaimana, muncul sebagai data-dependent sebelum melalui ketergantungannya $X$ , tapi ini bukan masalah karena seluruh model tergantung pada $X$ .

Zellner sebelumnya menuliskan sebagai

β | σ \sim N_{hal} (\tilde{β}, g σ^{2} (X^{T} X)^{- 1}) σ \sim π (σ) = 1 / σ

$\beta|\sigma \sim \mathscr{N}_p\left(\tilde\beta,g\sigma^2(X^\text{T}X)^{-1}\right)\qquad \sigma\sim\pi(\sigma)=1/\sigma$ dan ketidaknyamanan utamanya adalah ketergantungan pada konstanta

g

$g$ , yang berdampak secara signifikan pada kesimpulan yang dihasilkan. Ini diilustrasikan dalam buku . Jalan keluar dari masalah ini adalah bergaul

g

$g$ dengan distribusi sebelumnya, sebagaimana tercantum dalam Bayesian Essentials dengan R . Jalan keluar yang lebih cepat adalah puas

g = n

$g=n$ .

Masalah kedua dengan Zellner prior adalah bahwa ini adalah prior yang tidak patut (karena $\sigma$ ) karenanya menghadapi kesulitan untuk perbandingan model seperti dalam pemilihan variabel. Trik yang agak kotor melewati kesulitan ini: sekali lagi mengutip dari buku :

kita dipaksa untuk dilambangkan dengan $\sigma^2$ dan $\alpha$ istilah varians dan intersep yang umum untuk semua model, masing-masing. Meskipun ini lebih merupakan trik matematika daripada alasan pemodelan yang benar, independensi sebelumnya $(\alpha; \sigma2)$ dan indeks model memungkinkan untuk secara simultan menggunakan faktor-faktor Bayes dan yang tidak tepat sebelum parameter-parameter gangguan tersebut.

Karena itu, rasanya tidak benar untuk menyebut Zellner tidak dapat diterima . Menurut pendapat saya, satu-satunya inacceptable prior adalah mereka yang bertentangan dengan informasi sebelumnya. Dalam situasi non-informatif, setiap prior harus dapat diterima, setidaknya a priori. (Mungkin data mengungkapkan konflik antara prior dan parameter yang mungkin berada di belakang data.)

— Xi'an
sumber