Interpretasi interval prediksi Bayesian 95%

Asumsikan model regresi bivariat berikut: mana adalah iid untuk .

y_{i} = β x_{i} + u_{i},

$y_i = \beta x_i + u_i,$

u_{i}

$u_i$

N (0, σ^{2} = 9)

$N(0, \sigma^2 = 9)$

i = 1, \dots, n

$i = 1,\ldots, n$

Asumsikan sebelumnya noninformatif , maka dapat ditunjukkan bahwa pdf posterior untuk adalah mana $p(\beta) \propto \text{constant}$ $\beta$

p (β | y) = (18 π)^{- \frac{1}{2}} {(\sum_{i = 1}^{n} x_{i}^{2})}^{\frac{1}{2}} \exp [- \frac{1}{18} \sum_{i = 1}^{n} x_{i}^{2} (β - \hat{β})^{2}],

$p(\beta|\mathbf{y}) = (18\pi)^{-\frac{1}{2}}\left(\sum_{i=1}^n x_i^2\right)^{\frac{1}{2}} \exp\left[-\frac{1}{18}\sum_{i=1}^n x_i^2 (\beta - \hat{\beta})^2\right],$

\hat{β} = (\sum_{i = 1}^{n} y_{i} x_{i}) / (\sum_{i = 1}^{n} x_{i}^{2}) .

$\hat{\beta} = (\sum_{i=1}^n y_ix_i)/(\sum_{i=1}^n x_i^2).$

Sekarang pertimbangkan nilai dengan nilai , : mana iid , maka kita dapat menunjukkan bahwa adalah kepadatan normal dengan ekspektasi dan varian Dengan demikian fungsi kepadatan probabilitas posterior untuk , tergantung pada , adalah $y$ $x$ $x_{n+1}$

y_{n + 1} = β x_{n + 1} + u_{n + 1},

$y_{n+1} = \beta x_{n+1} + u_{n+1},$

u_{n + 1}

$u_{n+1}$

N (0, σ^{2} = 9)

$N(0, \sigma^2 = 9)$

p (y_{n + 1} | x_{n + 1}, y) = \int_{β} p (y_{n + 1} | x_{n + 1}, β, y) p (β | y) d β

$p(y_{n+1}|x_{n+1},\mathbf{y}) = \int_{\beta} p(y_{n+1}|x_{n+1}, \beta, \mathbf{y}) p(\beta|\mathbf{y})d\beta$

E [y_{n + 1} | x_{n + 1}, y] = \hat{β} x_{n + 1}, v a r [y_{n + 1} | x_{n + 1}, y] = \frac{9 [x_{n + 1}^{2} + \sum_{i = 1}^{n} x_{i}^{2}]}{\sum_{i = 1}^{n} x_{i}^{2}} .

$E[y_{n+1}|x_{n+1},\mathbf{y}] = \hat{\beta}x_{n+1},\quad {\rm var}[y_{n+1}|x_{n+1},\mathbf{y}] = \frac{9[x_{n+1}^2 + \sum_{i=1}^n x_i^2]}{\sum_{i=1}^n x_i^2}.$

y_{n + 1}

$y_{n+1}$

x_{n + 1}

$x_{n+1}$

\begin{aligned} p (y_{n + 1} | x_{n + 1}, y) = & {(\frac{18 π [x_{n + 1}^{2} + \sum_{i = 1}^{n} x_{i}^{2}]}{\sum_{i = 1}^{n} x_{i}^{2}})}^{- \frac{1}{2}} \\ \times \exp {- \frac{\sum_{i = 1}^{n} x_{i}^{2}}{18 (x_{n + 1}^{2} + \sum_{i = 1}^{n} x_{i}^{2})} {(y_{n + 1} - \hat{β} x_{n + 1})}^{2}} \end{aligned}

$\begin{align} p(y_{n+1}|x_{n+1},\mathbf{y}) = &\left(\frac{18\pi\left[x_{n+1}^2 + \displaystyle{\sum_{i=1}^n x_i^2}\right]}{ \displaystyle{\sum_{i=1}^n x_i^2}}\right)^{-\frac{1}{2}} \\ & \times \exp\left\{-\frac{\displaystyle{\sum_{i=1}^n x_i^2}}{18\left(x_{n+1}^2 + \displaystyle{\sum_{i=1}^n x_i^2}\right)}\left(y_{n+1}-\hat{\beta}x_{n+1}\right)^2\right\} \end{align}$

Sekarang pertanyaannya adalah: Tentukan interval prediksi 95% untuk $y_{n+1}$ dan tafsirkan dengan cermat. Aspek apa dari proses pembuatan data yang gagal diakomodasikan oleh interval kita?

Saya tidak terlalu yakin tentang bagaimana menjawab pertanyaan tetapi inilah upaya saya:

Jadi pada dasarnya kita perlu menemukan beberapa dan sehingga $a$ $b$ $P(a < y_{n+1} < b) = \int_{a}^b p(y_{n+1}|x_{n+1}, \mathbf{y}) dy_{n+1} = 95\%$

Sekarang kita tahu bahwa mana dan , Oleh karena itu: $y_{n+1}|x_{n+1}, \mathbf{y} \sim N(m, v^2)$ $m = E[y_{n+1}|x_{n+1},\mathbf{y}]$ $v^2 = var[y_{n+1}|x_{n+1},\mathbf{y}]$

\frac{y_{n + 1} - m}{v} \sim N (0, 1)

$\frac{y_{n+1}-m}{v} \sim N(0,1)$

P (- 1.96 < \frac{y_{n + 1} - m}{v} < 1.96) = 95 %

$P(-1.96 < \frac{y_{n+1}-m}{v} < 1.96) = 95\%$

P (- 1.96 v + m < y_{n + 1} < 1.96 v + m) = 95 %

$P(-1.96v+m < y_{n+1} < 1.96v+m) = 95\%$

Sekarang karena kita mengkondisikan pada dan melihat ekspresi untuk dan , kita melihat bahwa dan adalah nilai yang diketahui. Jadi kita dapat mengambil dan . yaitu, kita dapat memilih banyak kemungkinan lain dari dan yang menghasilkan probabilitas ... tetapi bagaimana hal ini terkait dengan menjawab bagian dari pertanyaan yang menanyakan aspek proses pembuatan data apa yang gagal diakomodasi oleh interval ini? $x_{n+1}$ $v$ $m$ $v$ $m$ $a = -1.96v+m$ $b = 1.96v+m$ $a$ $b$ $95\%$

— TeTs
sumber

Silakan tambahkan tag belajar sendiri jika ini adalah pekerjaan rumah atau upaya untuk masalah buku teks.

— Nick Cox

@Nick Cox Terima kasih telah memberi tahu saya, saya menambahkan tag belajar mandiri.

— TeTs

Mungkinkah interval secara khusus tidak memberi kita pemahaman tentang bentuk proses pembuatan data? Artinya, kita tidak tahu kombinasi mean / varian hanya dari interval?

Pertanyaan aneh. Apakah ada konteks sebelum latihan? Mengapa Anda mengatakan model regresi bivariat ?

— Stéphane Laurent

Interval mengakomodasi semua ketidakpastian dalam masalah. Dalam uraian masalah Anda, satu-satunya hal yang tidak Anda ketahui adalah dan . Interval prediksi yang Anda peroleh mengakomodasi ketidakpastian dalam keduanya. Jadi tidak ada ketidakpastian yang tersisa untuk interval "gagal mengakomodasi". $\beta$ $u$

— Tom Minka
sumber

Masih ada ketidakpastian apakah model tersebut benar atau tidak.

— Xi'an

Model tersebut dinyatakan sebagai asumsi. Karena itu tidak ada ketidakpastian tentang itu.

— Tom Minka

Saya kira apa yang dimaksud adalah bahwa distribusi prediktif mewakili semua ketidakpastian dalam masalah dan interval hanya merangkum beberapa aspek dari distribusi itu. Namun, tidak jelas bahwa sebagai interval itu meninggalkan apa pun.

— conjugateprior