Temukan distribusi gabungan dan

Pertanyaan ini dari Pengantar Robert Hogg untuk Statistik Matematika 6 versi pertanyaan 7.6.7. Masalahnya adalah :

Biarkan sampel acak ukuran diambil dari distribusi dengan pdf $n$
$f (x; θ) = (1 / θ) \exp (- x / θ) I_{(0, \infty)} (x)$ $f(x;\theta)=(1/\theta)\exp(-x/\theta)\mathbb{I}_{(0,\infty)}(x)$

Temukan MLE dan MVUE . $P(X \le 2)$

Saya tahu cara menemukan MLE.

Saya pikir ide untuk menemukan MVUE adalah menggunakan Rao-Blackwell dan Lehmann dan Scheffe. Pertama kita menemukan penaksir yang tidak bias dari yang dapat , dan kita tahu a statistik yang cukup. $P(X \le 2)$ $\mathbb{I}_{(0,2)}(X_1)$ $Y=\sum_{i=1}^n X_i$

Maka akan menjadi MUVE. $\mathbb{E}[I_{(0,2)}(X_1)\mid Y]$

Untuk menemukan harapan, kita perlu distribusi bersama dan $X_1$ $Y=\sum_{i=1}^n X_i$

Saya terjebak di sini.

Buku itu punya solusi, tapi saya tidak mengerti solusinya. Solusinya mengatakan mari kita cari distribusi gabungan dan tetapi pertama-tama membiarkan dan Jacobian adalah salah satu kemudian kita mengintegrasikan variabel-variabel lainnya. $Z=X_1$ $Y$ $V=X_1+X_2$ $U=X_1+X_2+X_3+...$

Bagaimana bisa Jacobian setara dengan satu?

Jawaban untuk distribusi gabungan adalah
$g (z, y; θ) = \frac{(y - z)^{n - 2}}{(n - 2)! θ^{n}} e^{- y / θ}$ $g(z,y;\theta)=\frac{(y-z)^{n-2}}{(n-2)!\theta^n}e^{-y/\theta}$

Bagaimana kita mendapatkan ini?

Pembaruan: Seperti yang disarankan oleh Xi'an (buku menyarankan transformasi membingungkan), mari kita lakukan transformasi dengan cara berikut:

Membiarkan

\begin{aligned} Y_{1} & = X_{1}, \\ Y_{2} & = X_{1} + X_{2}, \\ Y_{3} & = X_{1} + X_{2} + X_{3}, \\ Y_{4} & = X_{1} + X_{2} + X_{3} + X_{4}, \\ ⋮ \\ Y_{n} & = X_{1} + X_{2} + X_{3} + X_{4} + \dots + X_{n} \end{aligned}

$\begin{align} Y_1 & =X_1, \\Y_2 & =X_1+X_2,\\ Y_3 & =X_1+X_2+X_3, \\Y_4 & =X_1+X_2+X_3+X_4, \\ & \quad \vdots \\Y_n & =X_1+X_2+X_3+X_4+\cdots+X_n \end{align}$

kemudian

\begin{aligned} X_{1} & = Y_{1}, \\ X_{2} & = Y_{2} - Y_{1}, \\ X_{3} & = Y_{3} - Y_{2}, \\ X_{4} & = Y_{4} - Y_{3}, \\ ⋮ \\ X_{n} & = Y_{n} - Y_{n - 1} \end{aligned}

$\begin{align} X_1 & =Y_1, \\ X_2 & =Y_2-Y_1,\\ X_3 & =Y_3-Y_2,\\X_4 & =Y_4-Y_3,\\ & \,\,\,\vdots \\ X_n & =Y_n-Y_{n-1} \end{align}$

dan Jacobian yang sesuai adalah:

| J | = | \begin{matrix} \frac{\partial x_{1}}{\partial y_{1}} & \frac{\partial x_{1}}{\partial y_{2}} & \frac{\partial x_{1}}{\partial y_{3}} & \dots & \frac{\partial x_{1}}{\partial y_{n}} \\ \frac{\partial x_{2}}{\partial y_{1}} & \frac{\partial x_{2}}{\partial y_{2}} & \frac{\partial x_{2}}{\partial y_{3}} & \dots & \frac{\partial x_{2}}{\partial y_{n}} \\ \frac{\partial x_{3}}{\partial y_{1}} & \frac{\partial x_{3}}{\partial y_{2}} & \frac{\partial x_{3}}{\partial y_{3}} & \dots & \frac{\partial x_{3}}{\partial y_{n}} \\ ⋮ & ⋮ & ⋮ & ⋮ \\ \frac{\partial x_{n}}{\partial y_{1}} & \frac{\partial x_{n}}{\partial y_{2}} & \frac{\partial x_{n}}{\partial y_{3}} & \dots & \frac{\partial x_{n}}{\partial y_{n}} \end{matrix} | = \begin{array}{r} 1 & 0 & 0 & \dots & 0 & 0 \\ - 1 & 1 & 0 & \dots & 0 & 0 \\ 0 & - 1 & 1 & \dots & 0 & 0 \\ ⋮ & ⋮ & ⋮ & ⋮ & ⋮ \\ 0 & 0 & 0 & \dots & - 1 & 1 \end{array} = 1

$\left | J \right |=\begin{vmatrix} \frac{\partial x_1}{\partial y_1} &\frac{\partial x_1}{\partial y_2} &\frac{\partial x_1}{\partial y_3} &\cdots &\frac{\partial x_1}{\partial y_n} \\ \frac{\partial x_2}{\partial y_1} &\frac{\partial x_2}{\partial y_2} &\frac{\partial x_2}{\partial y_3} &\cdots &\frac{\partial x_2}{\partial y_n} \\ \frac{\partial x_3}{\partial y_1} &\frac{\partial x_3}{\partial y_2} &\frac{\partial x_3}{\partial y_3} &\cdots &\frac{\partial x_3}{\partial y_n} \\ \vdots&\vdots & \vdots & &\vdots \\ \frac{\partial x_n}{\partial y_1} &\frac{\partial x_n}{\partial y_2} &\frac{\partial x_n}{\partial y_3} &\cdots &\frac{\partial x_n}{\partial y_n} \end{vmatrix}=\begin{array}{r} 1& 0 &0 & \cdots &0 &0 \\ -1& 1 & 0 & \cdots & 0&0\\ 0&-1 & 1 & \cdots &0 &0\\ \vdots & \vdots & \vdots & & \vdots & \vdots \\ 0&0 &0 & \cdots & -1&1 \end{array}=1$

Karena adalah iid [atau ], kepadatan bersama adalah: $X_1,X_2,\ldots,X_n$ $\Gamma(1,\theta)$ $\mathcal{E}(1/\theta)$ $x_1,x_2,\ldots,x_n$

f (x_{1}, x_{2}, ..., x_{n}) = \frac{1}{θ} \exp (- x_{1} / θ) \times \frac{1}{θ} \exp (- x_{2} / θ) \times \dots \times \frac{1}{θ} \exp (- x_{n} / θ) {saya}_{x_{1} \geq 0} \dots {saya}_{x_{n} \geq 0}

$f(x_1,x_2,\ldots,x_n)=\frac{1}{\theta}\exp(-x_1/\theta) \times\frac{1}{\theta} \exp(-x_2/\theta)\times \cdots\times\frac{1}{\theta}\exp(-x_n/\theta) \mathbb{I}_{x_1\ge 0} \cdots\mathbb{I}_{x_n\ge 0}$

Oleh karena itu, pdf gabungan dari adalah $(Y_1,Y_2,\ldots, Y_n)$

\begin{aligned} h (y_{1}, y_{2}, ..., y_{n}) & = \frac{1}{θ^{n}} \exp (- y_{1} / θ) \exp [- (y_{2} - y_{1}) / θ] \exp [- (y_{3} - y_{2}) / θ] \dots \exp [- (y_{n} - y_{n - 1}) / θ] | J | {saya}_{y_{1} \geq 0} {saya}_{y_{2} - y_{1} \geq 0} \dots {saya}_{y_{n} - y_{n - 1} \geq 0} \\ = \frac{1}{θ^{n}} \exp (- y_{n} / θ) {saya}_{y_{1} \geq 0} {saya}_{y_{2} \geq y_{1}} \dots {saya}_{y_{n} \geq y_{n - 1}} \end{aligned}

$\begin{align*}h(y_1,y_2,\ldots,y_n)&=\frac{1}{\theta^n}\exp(-y_1/\theta)\exp[-(y_2-y_1)/\theta]\exp[-(y_3-y_2)/\theta]\cdots\exp[-(y_n-y_{n-1})/\theta]\left |J \right |\mathbb{I}_{y_1\ge 0}\mathbb{I}_{y_2-y_1\ge 0}\cdots\mathbb{I}_{y_n-y_{n-1} \ge 0}\\&=\frac{1}{\theta^n}\exp(-y_n/\theta)\mathbb{I}_{y_1\ge 0} \mathbb{I}_{y_2\ge y_1}\cdots\mathbb{I}_{y_n\ge y_{n-1}}\end{align*}$

Selanjutnya, kita dapat mengintegrasikan untuk mendapatkan pdf bersama dan $y_2,y_3,\ldots,y_{n-1}$ $y_1$ $y_n$

Berkat saran dari Xi'an, sekarang saya bisa menyelesaikan masalah, saya akan memberikan perhitungan rinci di bawah ini

\begin{aligned} g (y_{1}, y_{n}) = & \int_{y_{1}}^{y_{n}} \int_{y_{2}}^{y_{n}} \dots \int_{y_{n - 3}}^{y_{n}} \int_{y_{n - 2}}^{y_{n}} \frac{1}{θ^{n}} \exp (- y_{n} / θ) d y_{n - 1} d y_{n - 2} \dots d y_{3} d y_{2} \\ = & \frac{1}{θ^{n}} \exp (- y_{n} / θ) \\ \int_{y_{1}}^{y_{n}} \int_{y_{2}}^{y_{n}} \dots \int_{y_{n - 3}}^{y_{n}} \int_{y_{n - 2}}^{y_{n}} d y_{n - 1} d y_{n - 2} \dots d y_{3} d y_{2} \\ = & \frac{1}{θ^{n}} \exp (- y_{n} / θ) \int_{y_{1}}^{y_{n}} \int_{y_{2}}^{y_{n}} \dots \int_{y_{n - 4}}^{y_{n}} \int_{y_{n - 3}}^{y_{n}} (y_{n} - y_{n - 2}) d y_{n - 2} d y_{n - 3} \dots d y_{3} d y_{2} \\ = & \frac{1}{θ^{n}} \exp (- y_{n} / θ) \int_{y_{1}}^{y_{n}} \int_{y_{2}}^{y_{n}} \dots \int_{y_{n - 5}}^{y_{n}} \int_{y_{n - 4}}^{y_{n}} \frac{(y_{n} - y_{n - 3})^{2}}{2} d y_{n - 3} d y_{n - 4} \dots d y_{3} d y_{2} \\ = & \frac{1}{θ^{n}} \exp (- y_{n} / θ) \int_{y_{1}}^{y_{n}} \int_{y_{2}}^{y_{n}} \dots \int_{y_{n - 6}}^{y_{n}} \int_{y_{n - 5}}^{y_{n}} \frac{(y_{n} - y_{n - 4})^{3}}{2 \times 3} d y_{n - 4} d y_{n - 5} \dots d y_{3} d y_{2} \\ = & \frac{1}{θ^{n}} \exp (- y_{n} / θ) \int_{y_{1}}^{y_{n}} \int_{y_{2}}^{y_{n}} \dots \int_{y_{n - 7}}^{y_{n}} \int_{y_{n - 6}}^{y_{n}} \frac{(y_{n} - y_{n - 5})^{4}}{2 \times 3 \times 4} d y_{n - 5} d y_{n - 4} \dots d y_{3} d y_{2} \\ = & \dots \\ = & \frac{1}{θ^{n}} \exp (- y_{n} / θ) \frac{(y_{n} - y_{1})^{n - 2}}{(n - 2)!} \end{aligned}

$\begin{align} g(y_1,y_n) = {} &\int_{y_1}^{y_n}\int_{y_2}^{y_n} \cdots \int_{y_{n-3}}^{y_n} \int_{y_{n-2}}^{y_n} \frac{1}{\theta^n}\exp(-y_n/\theta)dy_{n-1}dy_{n-2} \cdots dy_3\,dy_2\\ = {} & \frac{1}{\theta^n}\exp(-y_n/\theta)\\ & \int_{y_1}^{y_n}\int_{y_2}^{y_n}\cdots\int_{y_{n-3}}^{y_n}\int_{y_{n-2}}^{y_n} \, dy_{n-1}\,dy_{n-2}\cdots dy_3\,dy_2 \\ = {} & \frac{1}{\theta^n}\exp(-y_n/\theta) \int_{y_1}^{y_n}\int_{y_2}^{y_n}\cdots\int_{y_{n-4}}^{y_n}\int_{y_{n-3}}^{y_n}(y_n-y_{n-2})\,dy_{n-2}\,dy_{n-3}\cdots dy_3\,dy_2 \\ = {} & \frac{1}{\theta^n}\exp(-y_n/\theta) \int_{y_1}^{y_n} \int_{y_2}^{y_n} \cdots \int_{y_{n-5}}^{y_n}\int_{y_{n-4}}^{y_n}\frac{(y_n-y_{n-3})^2}{2}dy_{n-3} \,dy_{n-4}\cdots dy_3 \, dy_2 \\ = {} & \frac{1}{\theta^n} \exp(-y_n/\theta) \int_{y_1}^{y_n }\int_{y_2}^{y_n} \cdots \int_{y_{n-6}}^{y_n} \int_{y_{n-5}}^{y_n} \frac{(y_n-y_{n-4})^3}{2 \times 3} \, dy_{n-4} \, dy_{n-5} \cdots dy_3\,dy_2\\ = {} & \frac{1}{\theta^n} \exp(-y_n/\theta) \int_{y_1}^{y_n} \int_{y_2}^{y_n} \cdots \int_{y_{n-7}}^{y_n} \int_{y_{n-6}}^{y_n} \frac{(y_n-y_{n-5})^4}{2 \times 3 \times 4} \, dy_{n-5} \, dy_{n-4} \cdots dy_3\,dy_2\\ = {} & \cdots \\ = {} & \frac{1}{\theta^n}\exp(-y_n/\theta)\frac{(y_n-y_1)^{n-2}}{(n-2)!} \end{align}$

Ubah notasi buku, , kita dapatkan $y=y_n, z=y_1$

g (z, y; θ) = \frac{(y - z)^{n - 2}}{θ^{n} (n - 2)!} e^{- y / θ} .

$g(z,y;\theta)=\frac{(y-z)^{n-2}}{\theta^n(n-2)!}e^{-y/\theta}.$

Ini menyelesaikan masalah.

— Jauh di Utara
sumber

Saya tidak mengerti gagasan untuk melalui tetapi transformasi dari menjadi memiliki Jacobian satu, cukup terapkan definisi seorang Jacobian.

X_{1} + X_{2}

$X_1+X_2$

(x_{1}, . . ., x_{n})

$(x_1,...,x_n)$

(x_{1}, x_{1} + x_{2}, \dots, x_{1} + \dots + x_{n})

$(x_1,x_1+x_2,\ldots,x_1+\ldots+x_n)$

— Xi'an

@ Xi'an, terima kasih. Saya mencoba transformasi tetapi masih tidak bisa mendapatkan solusi yang disarankan buku ini

Y_{1} = X_{1}, Y_{2} = X_{1} + X_{2}, . . ., Y_{n} = X_{1} + X_{2} + . . . + X_{n}

$Y_1=X_1, Y_2=X_1+X_2,..., Y_n=X_1+X_2+...+X_n$

— Deep North

Anda hampir sampai: Saya mengoreksi derivasi dari densitas gabungan dengan menambahkan fungsi indikator. Ini menyiratkan bahwa batas pada integral harus jika Anda mengintegrasikan pertama, lalu , lalu ... Ini akan memberi Anda yang hilang.

(Y_{1}, \dots, Y_{n})

$(Y_1,\ldots,Y_n)$

y_{2}, \dots, y_{n - 1}

$y_2,\ldots,y_{n-1}$

\int_{y_{1}}^{y_{n}} \int_{y_{2}}^{y_{n}} \dots \int_{y_{n - 2}}^{y_{n}}

$\int_{y_1}^{y_n}\int_{y_2}^{y_n}\cdots\int_{y_{n-2}}^{y_n}$

y_{n - 1}

$y_{n-1}$

y - n - 2

$y-{n-2}$

(n - 2)!

$(n-2)!$

— Xi'an

Argumen transformasi berfungsi dengan baik dan selalu berguna tetapi sekarang saya akan menyarankan cara alternatif untuk memecahkan masalah ini yang memiliki kemiripan tertentu dengan metode yang akan Anda gunakan jika variabel-variabel itu diskrit. Ingatlah bahwa perbedaan utama adalah bahwa sementara untuk variabel acak diskrit didefinisikan dengan baik untuk rv kontinu , , jadi kita perlu sedikit berhati-hati. $X$ $P(X=x)$ $Y$ $P(Y=y)=0$

Biarkan dan kami sekarang mencari distribusi bersama $S=\sum_{i=1}^n X_i$

f_{X_{1}, S} (x_{1}, s)

$f_{X_1, S} \left(x_1, s \right)$

yang bisa kita perkirakan dengan probabilitas

\begin{aligned} f_{X_{1}, S} (x_{1}, s) & \approx P [x_{1} < X_{1} < x_{1} + Δ x_{1}, s < S < s + Δ s] \\ \approx P [x_{1} < X_{1} < x_{1} + Δ x_{1}, s - x_{1} < \sum_{i = 2}^{n} X_{i} < s - x_{1} + Δ s] \\ = P [x_{1} < X_{1} < x_{1} + Δ x_{1}] P [s - x_{1} < \sum_{i = 2}^{n} X_{i} < s - x_{1} + Δ s] \\ \approx \frac{1}{θ} \exp {- \frac{x_{1}}{θ}} \frac{{(s - x_{1})}^{n - 2} \exp {- \frac{s - x_{1}}{θ}}}{Γ (n - 1) θ^{n - 1}} \\ = \frac{{(s - x_{1})}^{n - 2}}{θ^{n} (n - 2)!} \exp {- \frac{s}{θ}} \end{aligned}

$\begin{align} f_{X_1, S} \left(x_1, s \right) &\approx P\left[ x_1 <X_1< x_1 +\Delta x_1 , s<S<s+\Delta s \right] \\ &\approx P\left[ x_1 <X_1< x_1 +\Delta x_1 , s-x_1<\sum_{i=2}^n X_i<s-x_1+\Delta s \right] \\ &= P\left[ x_1 <X_1< x_1 +\Delta x_1 \right] P \left[ s-x_1<\sum_{i=2}^n X_i<s-x_1+\Delta s \right] \\ &\approx \frac{1}{\theta} \exp\left\{-\frac{x_1}{\theta}\right\} \frac{ \left(s-x_1\right)^{n-2} \exp\left\{-\frac{s-x_1}{\theta} \right\}}{\Gamma \left(n-1 \right) \theta^{n-1}} \\ &= \frac{\left(s-x_1\right)^{n-2}}{\theta^n \left(n-2\right)!} \exp\left\{-\frac{s}{\theta} \right\} \end{align}$

untuk . Perhatikan bahwa pada baris keempat kami telah menggunakan properti aditivitas dari distribusi gamma, di mana eksponensial merupakan kasus khusus. $0<x_1<s<\infty$

Jika Anda menyesuaikan notasi, kami mendapatkan hal yang sama di sini seperti di atas. Metode ini memungkinkan Anda untuk pergi dengan beberapa integrasi dan itulah mengapa saya lebih suka itu. Namun, sekali lagi berhati-hatilah dalam menentukan kepadatan.

Semoga ini membantu.

— JohnK
sumber

Koreksi saya jika saya salah, tetapi saya rasa seseorang tidak perlu menemukan distribusi kondisional untuk menemukan harapan bersyarat untuk UMVUE. Kita dapat menemukan rata-rata kondisional menggunakan hubungan terkenal antara variabel Beta dan Gamma independen. Secara khusus, fakta bahwa jika dan adalah varian Gamma independen, maka adalah varian Gamma, dan itu tidak tergantung pada varian Beta . $U$ $V$ $U+V$ $\frac{U}{U+V}$

Di sini, perhatikan bahwa dan didistribusikan secara independen. Dan didistribusikan secara independen dari . $X_1\sim\text{Gamma}(1,\frac{1}{\theta})$ $\sum_{i=2}^nX_i\sim\text{Gamma}(n-1,\frac{1}{\theta})$ $X_1+\sum_{i=2}^nX_i\sim\text{Gamma}(n,\frac{1}{\theta})$ $\dfrac{X_1}{X_1+\sum_{i=2}^nX_i}\sim\text{Beta}(1,n-1)$

Tentukan $h(X_1,\cdots,X_n)=\begin{cases}1&,\text{ if }X_1\le2\\0&,\text{ otherwise }\end{cases}$

$T=\sum_{i=1}^n X_i$ cukup lengkap untuk keluarga distribusi . $\{1-\exp(-\frac{x}{\theta}):\theta>0\}$

Jadi UMVUE dari adalah oleh teorema Lehmann-Scheffe. $P(X\le 2)$ $E(h\mid T)$

Kami sudah,

\begin{aligned} E (h ∣ T = t) & = P (X_{1} \leq 2 ∣ \sum_{i = 1}^{n} X_{i} = t) \\ = P (\frac{X_{1}}{\sum_{i = 1}^{n} X_{i}} \leq \frac{2}{t} ∣ \sum_{i = 1}^{n} X_{i} = t) \\ = P (\frac{X_{1}}{X_{1} + \sum_{i = 2}^{n} X_{i}} \leq \frac{2}{t} ∣ \sum_{i = 1}^{n} X_{i} = t) \\ = P (\frac{X_{1}}{X_{1} + \sum_{i = 2}^{n} X_{i}} \leq \frac{2}{t}) \\ = \int_{0}^{2 / t} \frac{(1 - x)^{n - 2}}{B (1, n - 1)} d x \\ = 1 - {(1 - \frac{2}{t})}^{n - 1} \end{aligned}

$\begin{align}E(h\mid T=t)&=P(X_1\le2\mid \sum_{i=1}^n X_i=t)\\&=P\left(\frac{X_1}{\sum_{i=1}^nX_i}\le\frac{2}{t}\mid\sum_{i=1}^n X_i=t\right)\\&=P\left(\frac{X_1}{X_1+\sum_{i=2}^nX_i}\le\frac{2}{t}\mid\sum_{i=1}^n X_i=t\right)\\&=P\left(\frac{X_1}{X_1+\sum_{i=2}^nX_i}\le\frac{2}{t}\right)\\&=\int_0^{2/t}\frac{(1-x)^{n-2}}{B(1,n-1)}\,\mathrm{d}x\\&=1-\left(1-\frac{2}{t}\right)^{n-1}\end{align}$

Maka UMVUE dari harus . $P(X\le2)$ $1-\left(1-\dfrac{2}{\sum_{i=1}^nX_i}\right)^{n-1}$

— StubbornAtom
sumber

Saya suka jawaban ini lebih baik.

— hyg17