Menempatkan prioritas pada parameter konsentrasi dalam proses Dirichlet

Sebagian besar ini adalah latar belakang, lewati sampai akhir jika Anda sudah cukup tahu tentang campuran proses Dirichlet . Misalkan saya pemodelan beberapa data berasal dari campuran proses Dirichlet, yaitu membiarkan dan tergantung pada F mengasumsikan Y i i i d ~ ∫ f ( y | θ ) F ( d θ ) $F \sim \mathcal D(\alpha H)$$F$

$$Y_i \stackrel {iid}{\sim} \int f(y | \theta) F(d\theta).$$

Di sini dan α H adalah ukuran dasar sebelumnya. Ternyata jika untuk setiap pengamatan Y i , jika saya tahu laten terkait θ i , kemungkinan α dalam model ini adalah L ( α | t ) ∝ α t Γ ( α $\alpha > 0$$\alpha H$$Y_i$$\theta_i$$\alpha$ manatadalah jumlah nilai yang berbeda dariθi(ukuran acakFhampir pasti terpisah). Escobar dan Baratmengembangkan skema berikut untuk pengambilan sampelαmenggunakan Gamma prior; pertama, mereka menulisπ(α|t)∝π(α)αtΓ(α

$$L(\alpha | t) \propto \frac{\alpha^t\Gamma(\alpha)}{\Gamma(\alpha + n)}$$ $t$$\theta_i$$F$$\alpha$ mana B ( ⋅ , ⋅ ) adalah fungsi beta. Kemudian perhatikan bahwa jika kita memperkenalkan parameter laten X ∼ Beta ( α + 1 , n $$\pi(\alpha | t) \propto \pi(\alpha) \frac{\alpha^t\Gamma(\alpha)}{\Gamma(\alpha + n)} \propto \pi(\alpha)\alpha^{t - 1}(\alpha + n){B(\alpha + 1, n)} \\= \pi(\alpha)\alpha^{t - 1} (\alpha + n) \int_0^1 x^\alpha(1 - x)^{n - 1} \ dx,$$ $B(\cdot, \cdot)$$X \sim \mbox{Beta}(\alpha + 1, n )$ maka kemungkinan memiliki bentuk campuran distribusi Gamma dan menggunakan ini untuk menulis sampler Gibbs.

$$L(\alpha | t) \propto \frac{\alpha^t \Gamma(\alpha)}{\Gamma(\alpha + n)} = \frac{\alpha^t \Gamma(n)\Gamma(\alpha)}{\Gamma(\alpha + n)\Gamma(n)} = \alpha^t B(\alpha, n) \Gamma(n) \\ \propto \alpha^t \int_0 ^ 1 x^{\alpha - 1} (1 - x)^{n - 1} \ dx,$$ $X \sim \mbox{Beta}(\alpha, n)$

$\alpha$$a$$a / b$

$$\pi(\alpha | t) \propto \alpha^{a + t - 2} (\alpha + n) e^{-b\alpha} \int_0 ^ 1 x^{\alpha} (1 - x)^{n - 1} \ dx$$ $X$ $$\pi(\alpha, x | t) \propto \alpha^{a + t - 2} (\alpha + n) e^{-b\alpha}x^{\alpha}(1 - x)^{n - 1}.$$ $\mbox{Beta}(\alpha + 1, n)$$X$$\mathcal G(a + t, b - \log(x))$$\mathcal G(a + t - 1, b - \log(x))$$\alpha$

$\mbox{Beta}(\alpha, n)$$X$$\mathcal G(a + t, b - \log(x))$$\alpha$

Saya tidak melihat bagaimana apa yang Anda tulis pada dasarnya berbeda dari Escobar dan Barat.

$$\begin{eqnarray*} \pi(\alpha|t) &\propto& \pi(\alpha)\pi(t|\alpha) = \pi(\alpha)L(\alpha|t) \\ &\propto& \pi(\alpha)\alpha^t\frac{\Gamma(\alpha)}{\Gamma(\alpha+n)} \\ &\propto& \pi(\alpha)\alpha^t\frac{\Gamma(\alpha)\Gamma(n)}{\Gamma(\alpha+n)} \\ &=& \pi(\alpha)\alpha^tB(\alpha,n) \\ &=& \pi(\alpha)\alpha^{t-1}(\alpha+n)B(\alpha+1,n) \end{eqnarray*}$$ $$\begin{eqnarray*} \alpha B(\alpha,n) &=& \alpha \frac{\Gamma(\alpha)\Gamma(n)}{\Gamma(\alpha + n)} = \frac{(\alpha\Gamma(\alpha))\Gamma(n)(\alpha+n)}{(\Gamma(\alpha + n)(\alpha+n))} = (\alpha+n) \frac{\Gamma(\alpha + 1)\Gamma(n)}{\Gamma(\alpha + n + 1)} \\ &=& (\alpha+n)B(\alpha+1,n) \end{eqnarray*}$$ $\Gamma(z+1) = z\Gamma(z)$

Saya menduga mereka lebih suka formulasi mereka daripada milik Anda karena hanya memiliki istilah fungsi Beta, bukan produk Beta dan Gamma, tetapi saya bisa saja salah. Saya tidak cukup mengikuti bagian terakhir yang Anda tulis, bisakah Anda lebih eksplisit tentang skema pengambilan sampel Anda?