Akuntansi untuk parameter diskrit atau biner dalam kriteria informasi Bayesian

BIC menghukum berdasarkan jumlah parameter. Bagaimana jika beberapa parameter adalah semacam variabel indikator biner? Apakah ini dianggap sebagai parameter penuh? Tapi saya bisa menggabungkan parameter binary menjadi satu variabel diskrit yang mengambil nilai dalam . Apakah ini dihitung sebagai parameter atau satu parameter? $m$ $\{0,1,...,2^m-1\}$ $m$

— highBandWidth
sumber

Ini sebagian karena ketidaktepatan dalam "jumlah parameter" di BIC bahwa DIC ( kriteria informasi penyimpangan ) memperkenalkan sejumlah parameter yang efektif sebagai mana dan

{hal}_{D} (x) = E [D (θ) | x] - D (E [θ | x])

$p_D(x) = \mathbb{E}[D(\theta)|x] - D(\mathbb{E}[\theta|x])$

D (θ) = - 2 catatan f (x | θ)

$D(\theta)=-2\log f(x|\theta)$

Perhatikan bahwa

kemudian bergantung pada data. (Sebagaimana dibahas disana, DIC juga memiliki masalah sendiri!)

DIC (x) = {hal}_{D} (x) + E [D (θ) | x]

$\text{DIC}(x) = p_D(x) + \mathbb{E}[D(\theta)|x]$

p_{D} (x)

$p_D(x)$

— Xi'an
sumber

E [l o g P (y | M o d e l)] = \log (\int P (y | θ) P_{m o d e l} (θ) d θ)

$E[log P(y|Model)] = \log(\int P(y|\theta)P_{model}(\theta)d\theta)$

Ya, BIC adalah perkiraan kemungkinan marginal. Namun, itu hanya perkiraan yang menyatu dengan "kebenaran" ketika ukuran sampel tumbuh hingga tak terbatas. Oleh karena itu tidak langsung Bayesian (tidak menggunakan sebelumnya, untuk satu hal!) Dan sama sekali tidak terkait dengan MCMC (di mana perkiraannya adalah tipe Monte Carlo: jika saya menambah jumlah simulasi, perkiraan meningkat). DIC dianggap lebih Bayesian oleh banyak orang (termasuk B. Carlin dan D. Spiegelhatler)

— Xi'an

Saya kira pertanyaan saya adalah, apakah DIC merupakan perkiraan dari model marginal juga? Saya kira saya harus membacanya sendiri, tetapi karena kami sedang mendiskusikannya, saya pikir menjelaskan ini akan membuat jawabannya lebih lengkap. Terima kasih!

— highBandWidth