Jeffrey sebelum beberapa parameter

Dalam kasus-kasus tertentu, Jeffrey sebelum untuk model multidimensi penuh pada umumnya dianggap tidak memadai, ini misalnya dalam: (di mana , dengan dan tidak diketahui) di mana prior berikut lebih disukai (ke penuh sebelumnya ): mana adalah Jeffrey yang diperoleh sebelum mempertahankan tetap (dan juga untuk ). Sebelumnya ini bertepatan dengan referensi sebelumnya ketika memperlakukan

y_{i} = μ + ε_{i},

$y_i=\mu + \varepsilon_i \, ,$

ε \sim N (0, σ^{2})

$\varepsilon \sim N(0,\sigma^2)$

μ

$\mu$

σ

$\sigma$

π (μ, σ) \propto σ^{- 2}

$\pi(\mu,\sigma)\propto \sigma^{-2}$

p (μ, σ) = π (μ) \cdot π (σ) \propto σ^{- 1},

$p(\mu,\sigma) = \pi(\mu) \cdot \pi(\sigma) \propto \sigma^{-1}\, ,$

π (μ)

$\pi(\mu)$

σ

$\sigma$

p (σ)

$p(\sigma)$

σ

$\sigma$ dan

μ

$\mu$ dalam grup terpisah.

Pertanyaan 1: Mengapa memperlakukan mereka sebagai kelompok yang terpisah lebih masuk akal daripada memperlakukan mereka dalam kelompok yang sama (yang akan menghasilkan, jika saya benar (?), Dalam dimensi penuh Jeffreys sebelumnya, lihat [1])?

Kemudian pertimbangkan situasi berikut:

y_{i} = g (x_{i}, θ) + ε_{i},

$y_i=g(x_i,\mathbf{\theta}) +\varepsilon_i\, ,$ mana

θ \in R^{n}

$\theta \in \mathbb{R}^n$ tidak diketahui,

ε_{i} \sim N (0, σ^{2})

$\varepsilon_i \sim N(0,\sigma^2)$ ,

σ

$\sigma$ tidak dikenal, dan

g

$g$ adalah fungsi non-linear yang diketahui. Dalam kasus seperti itu, menggoda dan dari pengalaman saya kadang-kadang bermanfaat untuk mempertimbangkan dekomposisi berikut:

p (σ, θ) = π (σ) π (θ),

$p(\sigma,\theta)=\pi(\sigma) \pi(\theta) \, ,$ mana

π (σ)

$\pi(\sigma)$ dan

π (θ)

$\pi(\theta)$ adalah Jeffrey sebelum untuk dua submodel seperti untuk contoh lokasi skala sebelumnya.

Pertanyaan 2: Dalam situasi seperti itu, dapatkah kita mengatakan sesuatu tentang optimalitas (dari perspektif teori informasi) dari diturunkan sebelumnya ? $p(\sigma,\theta)$

[1] Dari https://theses.lib.vt.edu/theses/available/etd-042299-095037/unrestricted/etd.pdf :

Akhirnya, kami mencatat bahwa prior Jeffreys adalah kasus khusus dari referensi sebelumnya. Secara khusus, prior Jeffreys sesuai dengan referensi sebelumnya di mana semua parameter model diperlakukan dalam satu kelompok.

— peuhp
sumber

Saya pikir maksud Anda model multivariabel, regresi multivariat secara tegas dicadangkan untuk beberapa variabel di sisi kiri.

— mdewey

Apa yang optimal? Tidak ada hasil "optimalitas" umum dan generik untuk Jeffrey sebelumnya. Itu semua tergantung pada tujuan analisis statistik dan fungsi kerugian yang diadopsi untuk mengevaluasi dan membandingkan prosedur. Kalau tidak, tidak dapat dibandingkan dengan . Seperti yang saya tulis dalam jawaban paling populer saya tentang X divalidasi , tidak ada yang namanya non-informatif terbaik sebelumnya. $\pi(\theta,\sigma)\propto \dfrac{1}{\sigma}$ $\pi(\theta,\sigma)\propto \dfrac{1}{\sigma}^2$

— Xi'an
sumber

Terima kasih atas masukan Anda. Meskipun demikian, menurut saya, Jeffreys sebelumnya menawarkan semacam optimalitas dalam arti bahwa, setidaknya dalam pengaturan 1d, mereka adalah yang meminimalkan kuantitas informasi teoritik yang dapat masuk akal dan dibahas (tolong beri tahu saya jika saya salah ). Maksud saya adalah: bisakah kita menulis "kriteria" yang serupa, prosedur sebelumnya Jeffrey memuaskan untuk dua pengaturan yang diberikan dalam pertanyaan saya? Dari kutipan yang diberikan dalam pertanyaan saya, tampaknya ya dan saya akan senang membahas implikasi memilih kriteria ini alih-alih yang lain (dari perspektif IT murni :)).

— peuhp