UMVUE dari sementara sampel dari populasi

Biarkan menjadi sampel acak dari kerapatan $(X_1,X_2,\ldots,X_n)$
$f_{θ} (x) = θ x^{θ - 1} 1_{0 < x < 1}, θ > 0$ $f_{\theta}(x)=\theta x^{\theta-1}\mathbf1_{0<x<1}\quad,\,\theta>0$

Saya mencoba menemukan UMVUE dari . $\frac{\theta}{1+\theta}$

Kepadatan bersama adalah $(X_1,\ldots,X_n)$

\begin{aligned} f_{θ} (x_{1}, \dots, x_{n}) & = θ^{n} {(\prod_{i = 1}^{n} x_{i})}^{θ - 1} 1_{0 < x_{1}, \dots, x_{n} < 1} \\ = \exp [(θ - 1) \sum_{i = 1}^{n} \ln x_{i} + n \ln θ + \ln (1_{0 < x_{1}, \dots, x_{n} < 1})], θ > 0 \end{aligned}

$\begin{align} f_{\theta}(x_1,\cdots,x_n)&=\theta^n\left(\prod_{i=1}^n x_i\right)^{\theta-1}\mathbf1_{0<x_1,\ldots,x_n<1} \\&=\exp\left[(\theta-1)\sum_{i=1}^n\ln x_i+n\ln\theta+\ln (\mathbf1_{0<x_1,\ldots,x_n<1})\right],\,\theta>0 \end{align}$

Karena populasi pdf milik keluarga eksponensial satu-parameter, ini menunjukkan bahwa statistik yang cukup lengkap untuk adalah $f_{\theta}$ $\theta$

T (X_{1}, \dots, X_{n}) = \sum_{i = 1}^{n} \ln X_{i}

$T(X_1,\ldots,X_n)=\sum_{i=1}^n\ln X_i$

Karena $E(X_1)=\frac{\theta}{1+\theta}$ , pada awalnya, $E(X_1\mid T)$ akan memberi saya UMVUE dari $\frac{\theta}{1+\theta}$ oleh Teorema Lehmann-Scheffe. Tidak yakin apakah ekspektasi bersyarat ini dapat ditemukan secara langsung atau seseorang harus menemukan distribusi bersyarat $X_1\mid \sum_{i=1}^n\ln X_i$ .

Di sisi lain, saya mempertimbangkan pendekatan berikut:

Kami memiliki $X_i\stackrel{\text{i.i.d}}{\sim}\text{Beta}(\theta,1)\implies -2\theta\ln X_i\stackrel{\text{i.i.d}}{\sim}\chi^2_2$ , sehingga $-2\theta\, T\sim\chi^2_{2n}$ .

Jadi urutan saat mentah sekitar nol, yang dihitung menggunakan chi-square pdf adalah $r$ $-2\theta\,T$

E (- 2 θ T)^{r} = 2^{r} \frac{Γ (n + r)}{Γ (n)}, n + r > 0

$E(-2\theta\,T)^r=2^r\frac{\Gamma\left(n+r\right)}{\Gamma\left(n\right)}\qquad ,\,n+r>0$

Jadi sepertinya untuk pilihan integer , saya akan mendapatkan estimator yang tidak bias (dan UMVUE) dari berbagai kekuatan integer . Misalnya, dan langsung beri saya UMVUE masing-masing dari dan . $r$ $\theta$ $E\left(-\frac{T}{n}\right)=\frac{1}{\theta}$ $E\left(\frac{1-n}{T}\right)=\theta$ $\frac{1}{\theta}$ $\theta$

Sekarang, ketika kita memiliki . $\theta>1$ $\frac{\theta}{1+\theta}=\left(1+\frac{1}{\theta}\right)^{-1}=1-\frac{1}{\theta}+\frac{1}{\theta^2}-\frac{1}{\theta^3}+\cdots$

Saya pasti bisa mendapatkan UMVUE tentang dan seterusnya. Jadi, menggabungkan UMVUE ini, saya bisa mendapatkan UMVUE yang diperlukan dari . Apakah metode ini valid atau haruskah saya melanjutkan dengan metode pertama? Karena UMVUE unik bila ada, keduanya harus memberi saya jawaban yang sama. $\frac{1}{\theta},\frac{1}{\theta^2},\frac{1}{\theta^3}$ $\frac{\theta}{1+\theta}$

Secara eksplisit, saya mendapatkan

E (1 + \frac{T}{n} + \frac{T^{2}}{n (n + 1)} + \frac{T^{3}}{n (n + 1) (n + 2)} + \dots) = 1 - \frac{1}{θ} + \frac{1}{θ^{2}} - \frac{1}{θ^{3}} + \dots

$E\left(1+\frac{T}{n}+\frac{T^2}{n(n+1)}+\frac{T^3}{n(n+1)(n+2)}+\cdots\right)=1-\frac{1}{\theta}+\frac{1}{\theta^2}-\frac{1}{\theta^3}+\cdots$

Yaitu,

E (\sum_{r = 0}^{\infty} \frac{T^{r}}{n (n + 1) . . . (n + r - 1)}) = \frac{θ}{1 + θ}

$E\left(\sum_{r=0}^\infty \frac{T^r}{n(n+1)...(n+r-1)}\right)=\frac{\theta}{1+\theta}$

Apakah mungkin UMVUE yang saya minta adalah ketika ? $\displaystyle\sum_{r=0}^\infty \frac{T^r}{n(n+1)...(n+r-1)}$ $\theta>1$

Untuk , saya akan mendapatkan , sehingga UMVUE akan berbeda. $0<\theta<1$ $g(\theta)=\theta(1+\theta+\theta^2+\cdots)$

Setelah yakin bahwa harapan bersyarat dalam pendekatan pertama tidak dapat ditemukan secara langsung, dan karena , saya telah melanjutkan untuk menemukan distribusi bersyarat . Untuk itu, saya membutuhkan densitas gabungan . $E(X_1\mid \sum\ln X_i=t)=E(X_1\mid \prod X_i=e^t)$ $X_1\mid \prod X_i$ $(X_1,\prod X_i)$

Saya menggunakan perubahan variabel sedemikian rupa sehingga untuk semua . Ini mengarah pada dukungan bersama dari menjadi . $(X_1,\cdots,X_n)\to (Y_1,\cdots,Y_n)$ $Y_i=\prod_{j=1}^i X_j$ $i=1,2,\cdots,n$ $(Y_1,\cdots,Y_n)$ $S=\{(y_1,\cdots,y_n): 0<y_1<1, 0<y_j<y_{j-1} \text{ for } j=2,3,\cdots,n\}$

Penentu jacobian ternyata adalah . $J=\left(\prod_{i=1}^{n-1}y_i\right)^{-1}$

Jadi saya mendapatkan kepadatan gabungan sebagai $(Y_1,\cdots,Y_n)$

f_{Y} (y_{1}, y_{2}, \dots, y_{n}) = \frac{θ^{n} y_{n}^{θ - 1}}{\prod_{i = 1}^{n - 1} y_{i}} 1_{S}

$f_Y(y_1,y_2,\cdots,y_n)=\frac{\theta^n\, y_n^{\theta-1}}{\prod_{i=1}^{n-1}y_i}\mathbf1_S$

densitas gabungan adalah $(Y_1,Y_n)$

f_{Y_{1}, Y_{n}} (y_{1}, y_{n}) = \frac{θ^{n} y_{n}^{θ - 1}}{y_{1}} \int_{0}^{y_{n - 2}} \int_{0}^{y_{n - 3}} \dots \int_{0}^{y_{1}} \frac{1}{y_{3} y_{4} . . . y_{n - 1}} \frac{d y_{2}}{y_{2}} \dots d y_{n - 2} d y_{n - 1}

$f_{Y_1,Y_n}(y_1,y_n)=\frac{\theta^n\,y_n^{\theta-1}}{y_1}\int_0^{y_{n-2}}\int_0^{y_{n-3}}\cdots\int_0^{y_1}\frac{1}{y_3y_4...y_{n-1}}\frac{\mathrm{d}y_2}{y_2}\cdots\mathrm{d}y_{n-2}\,\mathrm{d}y_{n-1}$

Apakah ada transformasi berbeda yang dapat saya gunakan di sini yang akan membuat penurunan kepadatan sambungan kurang rumit? Saya tidak yakin apakah saya telah mengambil transformasi yang benar di sini.

Berdasarkan beberapa saran yang sangat baik di bagian komentar, saya menemukan kerapatan sambungan alih-alih kerapatan sambungan mana dan . $(U,U+V)$ $(X_1,\prod X_i)$ $U=-\ln X_1$ $V=-\sum_{i=2}^n\ln X_i$

Segera terlihat bahwa dan adalah independen. $U\sim\text{Exp}(\theta)$ $V\sim\text{Gamma}(n-1,\theta)$

Dan memang, . $U+V\sim\text{Gamma}(n,\theta)$

Untuk , kerapatan gabungan adalah $n>1$ $(U,V)$

f_{U, V} (u, v) = θ e^{- θ u} 1_{u > 0} \frac{θ^{n - 1}}{Γ (n - 1)} e^{- θ v} v^{n - 2} 1_{v > 0}

$f_{U,V}(u,v)=\theta e^{-\theta u}\mathbf1_{u>0}\frac{\theta^{n-1}}{\Gamma(n-1)}e^{-\theta v}v^{n-2}\mathbf1_{v>0}$

Mengubah variabel, saya mendapat densitas gabungan sebagai $(U,U+V)$

f_{U, U + V} (u, z) = \frac{θ^{n}}{Γ (n - 1)} e^{- θ z} (z - u)^{n - 2} 1_{0 < u < z}

$f_{U,U+V}(u,z)=\frac{\theta^n}{\Gamma(n-1)}e^{-\theta z}(z-u)^{n-2}\mathbf1_{0<u<z}$

Jadi, kepadatan bersyarat dari adalah $U\mid U+V=z$

f_{U ∣ U + V} (u ∣ z) = \frac{(n - 1) (z - u)^{n - 2}}{z^{n - 1}} 1_{0 < u < z}

$f_{U\mid U+V}(u\mid z)=\frac{(n-1)(z-u)^{n-2}}{z^{n-1}}\mathbf1_{0<u<z}$

Sekarang, UMVUE saya persis , seperti yang telah saya sebutkan tadi. di awal posting ini. $E(e^{-U}\mid U+V=z)=E(X_1\mid \sum_{i=1}^n\ln X_i=-z)$

Jadi yang tersisa untuk dilakukan adalah menemukan

E (e^{- U} ∣ U + V = z) = \frac{n - 1}{z^{n - 1}} \int_{0}^{z} e^{- u} (z - u)^{n - 2} d u

$E(e^{-U}\mid U+V=z)=\frac{n-1}{z^{n-1}}\int_0^z e^{-u}(z-u)^{n-2}\,\mathrm{d}u$

Tetapi integral terakhir itu memiliki bentuk tertutup dalam hal fungsi gamma tidak lengkap menurut Mathematica , dan saya ingin tahu apa yang harus dilakukan sekarang.

— StubbornAtom
sumber

Anda harus melanjutkan dengan metode pertama, menemukan distribusi bersyarat , bentuk statistik yang mana yang lebih mudah digunakan dalam aplikasi ini.

X_{[1]} | \prod X_{i}

$X_{[1]} | \prod X_i$

— jbowman

Pada titik (awal) di mana Anda memperkenalkan Anda harus berpikir untuk bekerja dalam hal variabelHampir segera bahwa mereka sebanding dengan distribusi , yang dengan cepat mengurangi masalah Anda untuk mempertimbangkan distribusi bersama dari mana dan Itu akan memintas dua halaman matematika yang tersisa dan memberi Anda rute cepat ke solusi.

T

$T$

Y_{i} = - \log X_{i} .

$Y_i=-\log X_i.$

Γ (1)

$\Gamma(1)$

(U, U + V)

$(U,U+V)$

U \sim Γ (1)

$U\sim\Gamma(1)$

V \sim Γ (n - 1) .

$V\sim\Gamma(n-1).$

— whuber

@whuber Agar jelas, apakah Anda menyarankan agar saya menemukan kerapatan pertama dan dari yang menemukan kerapatan ? Saya telah memperhatikan bahwa adalah variabel eksponensial dengan rate (yang juga merupakan variabel Gamma seperti yang Anda katakan), tetapi tidak berpikir untuk bekerja dengan itu.

(- \ln X_{1}, - \ln X_{1} - \sum_{i = 2}^{n} \ln X_{i})

$(-\ln X_1,-\ln X_1-\sum_{i=2}^n\ln X_i)$

(X_{1}, \prod X_{i})

$(X_1,\prod X_i)$

- \ln X_{i}

$-\ln X_i$

θ

$\theta$

— StubbornAtom

@whuber Tapi bagaimana saya mendapatkan dari secara langsung?

E (X_{1} ∣ . . .)

$E(X_1\mid ...)$

E (\ln X_{1} ∣ . . .)

$E(\ln X_1\mid ...)$

— StubbornAtom

@whuber Silakan lihat edit saya. Saya hampir melakukannya tetapi tidak yakin apa yang harus dilakukan dengan integral itu. Saya cukup yakin perhitungan saya benar.

— StubbornAtom

Jawaban:

Ternyata kedua pendekatan (upaya awal saya dan yang lain berdasarkan saran di bagian komentar) di posting asli saya memberikan jawaban yang sama. Saya akan menguraikan kedua metode di sini untuk jawaban yang lengkap untuk pertanyaan itu.

Di sini, berarti kepadatan gamma mana , dan menunjukkan distribusi eksponensial dengan mean , ( ). Jelas, . $\text{Gamma}(n,\theta)$ $f(y)=\frac{\theta^n}{\Gamma(n)}e^{-\theta y}y^{n-1}\mathbf1_{y>0}$ $\theta,n>0$ $\text{Exp}(\theta)$ $1/\theta$ $\theta>0$ $\text{Exp}(\theta)\equiv\text{Gamma}(1,\theta)$

Karena cukup lengkap untuk dan , oleh teorema Lehmann-Scheffe adalah UMVUE dari . Jadi kita harus menemukan harapan bersyarat ini. $T=\sum_{i=1}^n\ln X_i$ $\theta$ $\mathbb E(X_1)=\frac{\theta}{1+\theta}$ $\mathbb E(X_1\mid T)$ $\frac{\theta}{1+\theta}$

Kami perhatikan bahwa . $X_i\stackrel{\text{i.i.d}}{\sim}\text{Beta}(\theta,1)\implies-\ln X_i\stackrel{\text{i.i.d}}{\sim}\text{Exp}(\theta)\implies-T\sim\text{Gamma}(n,\theta)$

Metode I:

Biarkan dan , sehingga dan independen. Memang, dan , menyiratkan . $U=-\ln X_1$ $V=-\sum_{i=2}^n\ln X_i$ $U$ $V$ $U\sim\text{Exp}(\theta)$ $V\sim\text{Gamma}(n-1,\theta)$ $U+V\sim\text{Gamma}(n,\theta)$

Jadi, . $\mathbb E(X_1\mid \sum_{i=1}^n\ln X_i=t)=\mathbb E(e^{-U}\mid U+V=-t)$

Sekarang kita menemukan distribusi bersyarat dari . $U\mid U+V$

Untuk dan , densitas gabungan adalah $n>1$ $\theta>0$ $(U,V)$

\begin{aligned} f_{U, V} (u, v) & = θ e^{- θ u} 1_{u > 0} \frac{θ^{n - 1}}{Γ (n - 1)} e^{- θ v} v^{n - 2} 1_{v > 0} \\ = \frac{θ^{n}}{Γ (n - 1)} e^{- θ (u + v)} v^{n - 2} 1_{u, v > 0} \end{aligned}

$\begin{align}f_{U,V}(u,v)&=\theta e^{-\theta u}\mathbf1_{u>0}\frac{\theta^{n-1}}{\Gamma(n-1)}e^{-\theta v}v^{n-2}\mathbf1_{v>0}\\&=\frac{\theta^n}{\Gamma(n-1)}e^{-\theta(u+v)}v^{n-2}\mathbf1_{u,v>0}\end{align}$

Mengubah variabel, adalah langsung bahwa kerapatan sambungan adalah $(U,U+V)$

f_{U, U + V} (u, z) = \frac{θ^{n}}{Γ (n - 1)} e^{- θ z} (z - u)^{n - 2} 1_{0 < u < z}

$f_{U,U+V}(u,z)=\frac{\theta^n}{\Gamma(n-1)}e^{-\theta z}(z-u)^{n-2}\mathbf1_{0<u<z}$

Mari menjadi kepadatan . Jadi, kepadatan bersyarat dari adalah $f_{U+V}(\cdot)$ $U+V$ $U\mid U+V=z$

\begin{aligned} f_{U ∣ U + V} (u ∣ z) & = \frac{f_{U, U + V} (u, z)}{f_{U + V} (z)} \\ = \frac{(n - 1) (z - u)^{n - 2}}{z^{n - 1}} 1_{0 < u < z} \end{aligned}

$\begin{align}f_{U\mid U+V}(u\mid z)&=\frac{f_{U,U+V}(u,z)}{f_{U+V}(z)}\\&=\frac{(n-1)(z-u)^{n-2}}{z^{n-1}}\mathbf1_{0<u<z}\end{align}$

Oleh karena itu, . $\displaystyle\mathbb E(e^{-U}\mid U+V=z)=\frac{n-1}{z^{n-1}}\int_0^z e^{-u}(z-u)^{n-2}\,\mathrm{d}u$

Artinya, UMVUE dari adalah $\frac{\theta}{1+\theta}$ $\displaystyle\mathbb E(X_1\mid T)=\frac{n-1}{(-T)^{n-1}}\int_0^{-T} e^{-u}(-T-u)^{n-2}\,\mathrm{d}u\tag{1}$

Metode II:

Karena adalah statistik yang cukup lengkap untuk , setiap penaksir tidak bias dari yang merupakan fungsi dari akan menjadi UMVUE dari oleh teorema Lehmann-Scheffe. Jadi kami melanjutkan untuk menemukan momen , yang distribusinya diketahui oleh kami. Kita punya, $T$ $\theta$ $\frac{\theta}{1+\theta}$ $T$ $\frac{\theta}{1+\theta}$ $-T$

E (- T)^{r} = \int_{0}^{\infty} y^{r} θ^{n} \frac{e^{- θ y} y^{n - 1}}{Γ (n)} d y = \frac{Γ (n + r)}{θ^{r} Γ (n)}, n + r > 0

$\mathbb E(-T)^r=\int_0^\infty y^r\theta^n\frac{e^{-\theta y}y^{n-1}}{\Gamma(n)}\,\mathrm{d}y=\frac{\Gamma(n+r)}{\theta^r\,\Gamma(n)},\qquad n+r>0$

Dengan menggunakan persamaan ini, kami memperoleh estimator yang tidak bias (dan UMVUE) dari untuk setiap integer . $1/\theta^r$ $r\ge1$

Sekarang untuk , kita memiliki $\theta>1$ $\displaystyle\frac{\theta}{1+\theta}=\left(1+\frac{1}{\theta}\right)^{-1}=1-\frac{1}{\theta}+\frac{1}{\theta^2}-\frac{1}{\theta^3}+\cdots$

Menggabungkan estimator yang tidak bias dari kita memperoleh $1/\theta^r$

E (1 + \frac{T}{n} + \frac{T^{2}}{n (n + 1)} + \frac{T^{3}}{n (n + 1) (n + 2)} + \dots) = 1 - \frac{1}{θ} + \frac{1}{θ^{2}} - \frac{1}{θ^{3}} + \dots

$\mathbb E\left(1+\frac{T}{n}+\frac{T^2}{n(n+1)}+\frac{T^3}{n(n+1)(n+2)}+\cdots\right)=1-\frac{1}{\theta}+\frac{1}{\theta^2}-\frac{1}{\theta^3}+\cdots$

Yaitu,

E (\sum_{r = 0}^{\infty} \frac{T^{r}}{n (n + 1) . . . (n + r - 1)}) = \frac{θ}{1 + θ}

$\mathbb E\left(\sum_{r=0}^\infty \frac{T^r}{n(n+1)...(n+r-1)}\right)=\frac{\theta}{1+\theta}$

Jadi dengan asumsi , UMVUE dari adalah $\theta>1$ $\frac{\theta}{1+\theta}$ $g(T)=\displaystyle\sum_{r=0}^\infty \frac{T^r}{n(n+1)...(n+r-1)}\tag{2}$

Saya tidak yakin dengan case pada metode kedua. $0<\theta<1$

Menurut Mathematica , persamaan memiliki bentuk tertutup dalam hal fungsi gamma tidak lengkap. Dan dalam persamaan , kita dapat mengekspresikan produk dalam hal fungsi gamma yang biasa sebagai . Ini mungkin menyediakan koneksi yang jelas antara dan . $(1)$ $(2)$ $n(n+1)(n+2)...(n+r-1)$ $n(n+1)(n+2)...(n+r-1)=\frac{\Gamma(n+r)}{\Gamma(n)}$ $(1)$ $(2)$

Menggunakan Mathematica saya dapat memverifikasi bahwa dan memang hal yang sama. $(1)$ $(2)$

— StubbornAtom
sumber

Faktanya, persamaan antara dan mengikuti dengan menuliskan ekspansi deret pangkat pada dan kemudian menukar integral dan penjumlahan.

(1)

$(1)$

(2)

$(2)$

e^{- u}

$e^{-u}$

(2)

$(2)$

— StubbornAtom

Saya pikir kita bisa mendapatkan jawaban yang lebih ringkas yang Anda singgung sehubungan dengan fungsi gamma atas yang tidak lengkap. Menggunakan Metode pertama, saya menemukan ekspresi

E [X_{1} | X_{1} X_{2} \dots X_{n} = e^{T}] = (n - 1) \int_{0}^{1} z^{r} {(1 - r)}^{n - z} d r,

$E \left[ X_1 | X_1X_2 \cdots X_n=e^T \right]=\left( n - 1 \right) \int_0^1 z^r \left( 1 - r \right)^{n-z}dr,$ mana

z = e^{T} .

$z=e^T.$

Wolfram Alpha mengintegrasikan ini untuk mendapatkan

E [X_{1} | X_{1} X_{2} \dots X_{n} = e^{T}] = \frac{e^{T} (n - 1)}{T^{n - 1}} [(n - 2)! - Γ (n - 1, T)]

$E \left[ X_1 | X_1X_2 \cdots X_n=e^T \right] = \frac{e^T \left( n-1 \right)}{T^{n-1} } \left[ \left( n-2 \right) !-\Gamma \left(n-1,T \right) \right]$

Sekarang istilah fungsi gamma tidak lengkap memang memiliki bentuk tertutup ketika adalah bilangan bulat. ini $n$

Γ (n - 1, T) = \frac{Γ (n - 1)}{e^{T}} \sum_{j = 0}^{n - 2} \frac{T^{j}}{j!}

$\Gamma \left(n-1,T \right)=\frac{\Gamma \left(n-1 \right)}{e^T} \sum_{j=0}^{n-2} \frac{T^j}{j!}$

Menulis ulang harapan dan penyederhanaan, kami temukan

E [X_{1} | X_{1} X_{2} \dots X_{n} = e^{T}] = \frac{Γ (n)}{T^{n - 1}} [e^{T} - \sum_{j = 0}^{n - 2} \frac{T^{j}}{j!}]

$E \left[ X_1 | X_1X_2 \cdots X_n=e^T \right] = \frac{\Gamma \left( n \right)}{T^{n-1}} \left[ e^T-\sum_{j=0}^{n-2} \frac{T^j}{j!} \right]$

Saya tidak memiliki akses ke perangkat lunak yang akan memverifikasi kesetaraan dengan hasil Anda dan , tetapi perhitungan langsung untuk dan cocok dengan . $(1)$ $(2)$ $n=2$ $n=3$ $(1)$

— soakley
sumber

Di mana Anda menulis Anda harus memiliki

E [X_{1} ∣ x_{1} x_{2} \dots x_{n} = e^{T}],

$\operatorname E\left[ X_1\mid x_1x_2\cdots x_n=e^T \right],$

E [X_{1} ∣ X_{1} X_{2} \dots X_{n} = e^{T}] .

$\operatorname E\left[ X_1\mid X_1X_2\cdots X_n=e^T \right]. \qquad$

— Michael Hardy