Siswa t sebagai campuran dari gaussian

23

Menggunakan distribusi-t siswa dengan $k > 0$ derajat kebebasan, parameter lokasi $l$ dan parameter skala $s$ memiliki kepadatan

\frac{Γ (\frac{k + 1}{2})}{Γ (\frac{k}{2} \sqrt{k π s^{2}})} {1 + k^{- 1} (\frac{x - l}{s})}^{- (k + 1) / 2},

$\frac{\Gamma \left(\frac{k+1}{2}\right)}{\Gamma\left(\frac{k}{2}\sqrt{k \pi s^2}\right)} \left\{ 1 + k^{-1}\left( \frac{x-l}{s}\right)\right\}^{-(k+1)/2},$

bagaimana menunjukkan bahwa distribusi- Student $t$ dapat ditulis sebagai campuran dari distribusi Gaussian dengan membiarkan $X\sim N(\mu,\sigma^2)$ , $\tau = 1/\sigma^2\sim\Gamma(\alpha,\beta)$ , dan mengintegrasikan kepadatan bersama $f(x,\tau|\mu)$ untuk mendapatkan kepadatan marginal $f(x|\mu)$ ? Apa parameter dari dihasilkan $t$ -distribusi, sebagai fungsi ? $\mu,\alpha,\beta$

Saya tersesat dalam kalkulus dengan mengintegrasikan kepadatan bersyarat bersama dengan distribusi Gamma.

distributions mixture

— Salih Ucan
sumber

31

PDF dari distribusi Normal adalah

f_{μ, σ} (x) = \frac{1}{\sqrt{2 π} σ} e^{- \frac{(x - μ)^{2}}{2 σ^{2}}} d x

$f_{\mu, \sigma}(x) = \frac{1}{\sqrt{2 \pi} \sigma} e^{-\frac{(x-\mu )^2}{2 \sigma ^2}}dx$

tetapi dalam hal itu $\tau = 1/\sigma^2$

g_{μ, τ} (x) = \frac{\sqrt{τ}}{\sqrt{2 π}} e^{- \frac{τ (x - μ)^{2}}{2}} d x .

$g_{\mu, \tau}(x) = \frac{\sqrt{\tau}}{\sqrt{2 \pi}} e^{-\frac{\tau(x-\mu )^2}{2 }}dx.$

PDF distribusi Gamma adalah

h_{α, β} (τ) = \frac{1}{Γ (α)} e^{- \frac{τ}{β}} τ^{- 1 + α} β^{- α} d τ .

$h_{\alpha, \beta}(\tau) = \frac{1}{\Gamma(\alpha)}e^{-\frac{\tau}{\beta }} \tau^{-1+\alpha } \beta ^{-\alpha }d\tau.$

Produk mereka, sedikit disederhanakan dengan aljabar mudah, karenanya

f_{μ, α, β} (x, τ) = \frac{1}{β^{α} Γ (α) \sqrt{2 π}} e^{- τ (\frac{(x - μ)^{2}}{2} + \frac{1}{β})} τ^{- 1 / 2 + α} d τ d x .

$f_{\mu, \alpha, \beta}(x,\tau) =\frac{1}{\beta^\alpha\Gamma(\alpha)\sqrt{2 \pi}} e^{-\tau\left(\frac{(x-\mu )^2}{2 } + \frac{1}{\beta}\right)} \tau^{-1/2+\alpha}d\tau dx.$

Bagian dalamnya ternyata memiliki bentuk , membuatnya menjadi beberapa dari fungsi Gamma ketika terintegrasi atas lengkap untuk . Karena itu integral itu langsung (diperoleh dengan mengetahui integral dari distribusi Gamma adalah kesatuan), memberikan distribusi marjinal $\exp(-\text{constant}_1 \times \tau) \times \tau^{\text{constant}_2}d\tau$ $\tau=0$ $\tau=\infty$

f_{μ, α, β} (x) = \frac{\sqrt{β} Γ (α + \frac{1}{2})}{\sqrt{2 π} Γ (α)} \frac{1}{{(\frac{β}{2} (x - μ)^{2} + 1)}^{α + \frac{1}{2}}} .

$f_{\mu, \alpha, \beta}(x) = \frac{\sqrt{\beta } \Gamma \left(\alpha +\frac{1}{2}\right) }{\sqrt{2\pi } \Gamma (\alpha )}\frac{1}{\left(\frac{\beta}{2} (x-\mu )^2+1\right)^{\alpha +\frac{1}{2}}}.$

Mencoba untuk mencocokkan pola disediakan untuk menunjukkan distribusi ada kesalahan dalam pertanyaan: yang PDF untuk distribusi t Student sebenarnya sebanding dengan $t$

\frac{1}{\sqrt{k} s} {(\frac{1}{1 + k^{- 1} {(\frac{x - l}{s})}^{2}})}^{\frac{k + 1}{2}}

$\frac{1}{\sqrt{k} s }\left(\frac{1}{1+k^{-1}\left(\frac{x-l}{s}\right)^2}\right)^{\frac{k+1}{2}}$

(kekuatan adalah , bukan ). Mencocokkan istilah menunjukkan , , dan $(x-l)/s$ $2$ $1$ $k = 2 \alpha$ $l=\mu$ . $s = 1/\sqrt{\alpha\beta}$

Notice that no Calculus was needed for this derivation: everything was a matter of looking up the formulas of the Normal and Gamma PDFs, carrying out some trivial algebraic manipulations involving products and powers, and matching patterns in algebraic expressions (in that order).

— whuber
sumber

10

Inspired by this answer I made an animation of the t distribution as a mixture of normal distributions. It is available here: sumsar.net/blog/2013/12/t-as-a-mixture-of-normals

— Rasmus Bååth

1

@whuber: Secara teknis, untuk pencocokan semacam itu selalu ada penggunaan kalkulus secara implisit dalam pengakuan Anda bahwa Anda dapat mengintegrasikan kepadatan gamma menggunakan bentuk integral yang dikenal. (Ini setara dengan ahli statistik dalam menyembunyikan brokoli dengan mencampurkannya dengan daging dan kentang.) Cara pintar menyembunyikan kalkulus!

— Pasang kembali Monica

1

Saya tidak tahu langkah-langkah perhitungannya, tetapi saya tahu hasil dari beberapa buku (tidak ingat yang mana ...). Saya biasanya mengingatnya secara langsung ... :-) Mahasiswa $t$ distribusi dengan $k$ derajat kebebasan dapat dianggap sebagai distribusi normal dengan campuran varians $Y$ dimana $Y$ mengikuti distribusi gamma terbalik. Lebih tepatnya, $X$ ~ $t(k)$ , $X$ = $\sqrt Y$ * $\Phi$ ,dimana $Y$ ~ $IG(k/2,k/2)$ , $\Phi$ adalah standar normal rv. Saya harap ini bisa membantu Anda dalam beberapa hal.

— Jingjings
sumber

0

Untuk menyederhanakan kita anggap berarti $0$ . Dengan menggunakan representasi, kami menunjukkan hasilnya untuk derajat kebebasan integer.

\sqrt{1 / τ} X = Y

$\sqrt{1/\tau} X =Y$ setara dengan campuran Gaussian dengan yang sebelumnya: dikondisikan pada

τ

$\tau$ ,

Y

$Y$ adalah Gaussian dengan presisi

τ

$\tau$ , dan sebelumnya

τ

$\tau$ seperti yang diinginkan. Maka tetap menunjukkan itu

\sqrt{1 / τ} X

$\sqrt{1/\tau} X$ adalah distribusi-t. Kita bisa menulis

τ \sim Γ (α, β) \sim \frac{β}{2} Γ (α, 2) \sim \frac{β}{2} χ^{2} (2 α)

$\tau \sim \Gamma(\alpha, \beta) \sim \frac{\beta}{2} \Gamma(\alpha, 2) \sim \frac{\beta}{2} \chi^2(2\alpha)$ using a well-known result about gammas and Chi-squares (decompose a gamma as a sum of exponentials and combine the exponentials to normals to Chi squares) This in turn implies that

Y \sim X \frac{1}{\sqrt{(β / 2) χ^{2} (2 α)}}

$Y \sim X \frac{1}{\sqrt{(\beta/2) \chi^2(2\alpha)} }$

= \frac{X \sqrt{α β}}{\sqrt{χ_{2 α}^{2} / (2 α)}}

$= \frac{ X \sqrt{\alpha \beta} }{\sqrt{ \chi^2_{2\alpha}/(2\alpha)}}$ which is a scaled t with

k = 2 α

$k=2\alpha$ and

s = 1 / \sqrt{α β}

$s=1/\sqrt{\alpha \beta}$ by variance of t. We can recenter our representation at

μ

$\mu$ and

l

$l$ would follow.

— Romil Sirohi
sumber