Contoh saat interval kepercayaan dan interval kredibel bertepatan

Dalam artikel wikipedia tentang Credible Interval , tertulis:

Untuk kasus parameter tunggal dan data yang dapat dirangkum dalam satu statistik yang cukup, dapat ditunjukkan bahwa interval kredibel dan interval kepercayaan akan bertepatan jika parameter yang tidak diketahui adalah parameter lokasi (yaitu fungsi probabilitas ke depan memiliki bentuk Pr (x | μ) = f (x - μ)), dengan sebelumnya yang merupakan distribusi flat yang seragam; [5] dan juga jika parameter yang tidak diketahui adalah parameter skala (yaitu fungsi probabilitas ke depan memiliki bentuk Pr (x) | s) = f (x / s)), dengan prior Jeffrey '[5] - yang berikutnya mengikuti karena mengambil logaritma parameter skala tersebut mengubahnya menjadi parameter lokasi dengan distribusi seragam. Tetapi ini adalah kasus yang jelas khusus (meskipun penting); secara umum tidak ada kesetaraan yang dapat dibuat. "

Bisakah orang memberikan contoh spesifik tentang ini? Kapan CI 95% benar-benar sesuai dengan "peluang 95%", sehingga "melanggar" definisi umum CI?

confidence-interval credible-interval

— Wayne
sumber

distribusi normal:

Ambil distribusi normal dengan varian yang diketahui. Kita dapat menganggap varians ini menjadi 1 tanpa kehilangan keumuman (dengan hanya membagi setiap pengamatan dengan akar kuadrat dari varians). Ini memiliki distribusi sampling:

p (X_{1} . . . X_{N} | μ) = {(2 π)}^{- \frac{N}{2}} \exp (- \frac{1}{2} \sum_{i = 1}^{N} (X_{i} - μ)^{2}) = A \exp (- \frac{N}{2} (\bar{X} - μ)^{2})

$p(X_{1}...X_{N}|\mu)=\left(2\pi\right)^{-\frac{N}{2}}\exp\left(-\frac{1}{2}\sum_{i=1}^{N}(X_{i}-\mu)^{2}\right)=A\exp\left(-\frac{N}{2}(\overline{X}-\mu)^{2}\right)$

Di mana adalah konstanta yang hanya bergantung pada data. Ini menunjukkan bahwa rerata sampel adalah statistik yang cukup untuk rerata populasi. Jika kita menggunakan seragam sebelumnya, maka distribusi posterior untuk adalah: $A$ $\mu$

(μ | X_{1} . . . X_{N}) \sim N o r m a l (\bar{X}, \frac{1}{N}) ⟹ (\sqrt{N} (μ - \bar{X}) | X_{1} . . . X_{N}) \sim N o r m a l (0, 1)

$(\mu|X_{1}...X_{N})\sim Normal\left(\overline{X},\frac{1}{N}\right)\implies \left(\sqrt{N}(\mu-\overline{X})|X_{1}...X_{N}\right)\sim Normal(0,1)$

Jadi interval kredibilitas akan berbentuk: $1-\alpha$

(\bar{X} + \frac{1}{\sqrt{N}} L_{α}, \bar{X} + \frac{1}{\sqrt{N}} U_{α})

$\left(\overline{X}+\frac{1}{\sqrt{N}}L_{\alpha},\overline{X}+\frac{1}{\sqrt{N}}U_{\alpha}\right)$

Di mana dan dipilih sedemikian rupa sehingga variabel acak normal standar memenuhi: $L_{\alpha}$ $U_{\alpha}$ $Z$

P r (L_{α} < Z < U_{α}) = 1 - α

$Pr\left(L_{\alpha}<Z<U_{\alpha}\right)=1-\alpha$

Sekarang kita dapat mulai dari "kuantitas penting" ini untuk membangun interval kepercayaan. Distribusi sampling dari untuk fix adalah distribusi normal standar, sehingga kami dapat menggantinya dengan probabilitas di atas: $\sqrt{N}(\mu-\overline{X})$ $\mu$

P r (L_{α} < \sqrt{N} (μ - \bar{X}) < U_{α}) = 1 - α

$Pr\left(L_{\alpha}<\sqrt{N}(\mu-\overline{X})<U_{\alpha}\right)=1-\alpha$

Kemudian atur ulang untuk menyelesaikan untuk , dan interval kepercayaan akan sama dengan interval yang kredibel. $\mu$

Parameter skala:

Untuk parameter skala, pdf memiliki bentuk . Kita dapat mengambil , yang sesuai dengan . Distribusi joint sampling adalah: $p(X_{i}|s)=\frac{1}{s}f\left(\frac{X_{i}}{s}\right)$ $(X_{i}|s)\sim Uniform(0,s)$ $f(t)=1$

p (X_{1} . . . X_{N} | s) = s^{- N} 0 < X_{1} . . . X_{N} < s

$p(X_{1}...X_{N}|s)=s^{-N}\;\;\;\;\;\;\;0<X_{1}...X_{N}<s$

Dari mana kami menemukan statistik yang cukup untuk menjadi sama dengan (maksimum pengamatan). Kami sekarang menemukan distribusi samplingnya: $X_{max}$

P r (X_{m a x} < y | s) = P r (X_{1} < y, X_{2} < y . . . X_{N} < y | s) = {(\frac{y}{s})}^{N}

$Pr(X_{max}<y|s)=Pr(X_{1}<y,X_{2}<y...X_{N}<y|s)=\left(\frac{y}{s}\right)^{N}$

Sekarang kita dapat membuat ini tidak tergantung pada parameter dengan mengambil . Ini berarti "kuantitas penting" kami diberikan oleh dengan yang merupakan distribusi . Jadi, kita dapat memilih menggunakan beta quantiles sedemikian rupa sehingga: $y=qs$ $Q=s^{-1}X_{max}$ $Pr(Q<q)=q^{N}$ $beta(N,1)$ $L_{\alpha},U_{\alpha}$

P r (L_{α} < Q < U_{α}) = 1 - α = U_{α}^{N} - L_{α}^{N}

$Pr(L_{\alpha}<Q<U_{\alpha})=1-\alpha=U_{\alpha}^{N}-L_{\alpha}^{N}$

Dan kami mengganti kuantitas penting:

P r (L_{α} < s^{- 1} X_{m a x} < U_{α}) = 1 - α = P r (X_{m a x} L_{α}^{- 1} > s > X_{m a x} U_{α}^{- 1})

$Pr(L_{\alpha}<s^{-1}X_{max}<U_{\alpha})=1-\alpha=Pr(X_{max}L_{\alpha}^{-1}>s>X_{max}U_{\alpha}^{-1})$

Dan ada interval kepercayaan diri kita. Untuk solusi Bayesian dengan jeffrey sebelumnya, kami memiliki:

p (s | X_{1} . . . X_{N}) = \frac{s^{- N - 1}}{\int_{X_{m a x}}^{\infty} r^{- N - 1} d r} = N (X_{m a x})^{N} s^{- N - 1}

$p(s|X_{1}...X_{N})=\frac{s^{-N-1}}{\int_{X_{max}}^{\infty}r^{-N-1}dr}=N (X_{max})^{N}s^{-N-1}$

⟹ P r (s > t | X_{1} . . . X_{N}) = N (X_{m a x})^{N} \int_{t}^{\infty} s^{- N - 1} d s = {(\frac{X_{m a x}}{t})}^{N}

$\implies Pr(s>t|X_{1}...X_{N})=N (X_{max})^{N}\int_{t}^{\infty}s^{-N-1}ds=\left(\frac{X_{max}}{t}\right)^{N}$

Kami sekarang memasukkan interval kepercayaan, dan menghitung kredibilitasnya

P r (X_{m a x} L_{α}^{- 1} > s > X_{m a x} U_{α}^{- 1} | X_{1} . . . X_{N}) = {(\frac{X_{m a x}}{X_{m a x} U_{α}^{- 1}})}^{N} - {(\frac{X_{m a x}}{X_{m a x} L_{α}^{- 1}})}^{N}

$Pr(X_{max}L_{\alpha}^{-1}>s>X_{max}U_{\alpha}^{-1}|X_{1}...X_{N})=\left(\frac{X_{max}}{X_{max}U_{\alpha}^{-1}}\right)^{N}-\left(\frac{X_{max}}{X_{max}L_{\alpha}^{-1}}\right)^{N}$

= U_{α}^{N} - L_{α}^{N} = P r (L_{α} < Q < U_{α})

$=U_{\alpha}^{N}-L_{\alpha}^{N}=Pr(L_{\alpha}<Q<U_{\alpha})$

Dan presto, kami memiliki kredibilitas dan jangkauan . $1-\alpha$

— probabilityislogic
sumber

Sebuah mahakarya, terima kasih! Saya berharap bahwa mungkin ada jawaban seperti, "ketika menghitung rata-rata sampel dari distribusi Normal, 95% CI sebenarnya juga 95% Kredibel Interval" atau sesuatu yang sederhana seperti itu. (Hanya mengada-ada jawaban yang seharusnya, saya tidak tahu tentang contoh-contoh spesifik.)

— Wayne

Saya percaya bahwa interval prediksi / toleransi 95% yang sering terjadi sesuai dengan interval prediksi Bayesian dengan regresi OLS dan kesalahan normal. Tampaknya begitu ketika saya membandingkan jawaban predict.lm dengan jawaban yang disimulasikan, bagaimanapun. Benarkah itu?

— Wayne

Untuk , Jika Anda menggunakan seragam sebelum dan jeffrey sebelum untuk , maka Anda memiliki kesetaraan.

Y = α + β X

$Y=\alpha+\beta X$

α, β

$\alpha,\beta$

σ

$\sigma$

— probabilityislogic

Terima kasih banyak! Saya telah mencoba menjelaskan CI untuk regresi yang telah saya lakukan dalam hal Confidence Interval, dan itu hanya tidak terhubung dengan audiens awam, yang mengharapkan Credible Interval. Membuat hidup saya lebih mudah ... meskipun mungkin itu buruk bagi dunia statistik secara keseluruhan, karena itu akan memperkuat kesalahpahaman orang awam tentang CI.

— Wayne

@Wayne - situasinya sedikit lebih umum daripada keluarga skala lokasi saja. Biasanya CI akan setara dengan interval yang kredibel, jika didasarkan pada "statistik yang cukup" (seperti keduanya) di mana ini ada. Jika tidak ada statistik yang memadai, maka CI perlu mengkondisikan pada apa yang disebut "statistik tambahan" untuk memiliki interpretasi interval yang kredibel.

— probabilityislogic