Temukan UMVUE dari

Biarkan menjadi variabel acak iid yang memiliki pdf $X_1, X_2, . . . , X_n$

$f_{X} (x ∣ θ) = θ (1 + x)^{- (1 + θ)} I_{(0, \infty)} (x)$ $f_X(x\mid\theta) =\theta(1 +x)^{−(1+\theta)}I_{(0,\infty)}(x)$

dimana . Berikan UMVUE dari dan hitung variansnya $\theta >0$ $\frac{1}{\theta}$

Saya telah belajar tentang dua metode seperti itu untuk memperoleh UMVUE:

Batas Bawah Cramer-Rao (CRLB)
Lehmann-Scheffe Thereom

Saya akan mencoba ini menggunakan yang pertama dari keduanya. Saya harus mengakui bahwa saya tidak sepenuhnya mengerti apa yang sedang terjadi di sini, dan saya mendasarkan solusi yang saya coba dari contoh masalah. Saya memiliki dengan keluarga eksponensial satu-parameter penuh $f_X(x\mid\theta)$

$h(x)=I_{(0,\infty)}$ , , , $c(\theta)=\theta$ $w(\theta)=-(1+\theta)$ $t(x)=\text{log}(1+x)$

Karena bukan nol pada , hasil CRLB berlaku. Kita punya $w'(\theta)=1$ $\Theta$

log f_{X} (x ∣ θ) = log (θ) - (1 + θ) \cdot log (1 + x)

$\text{log }f_X(x\mid\theta)=\text{log}(\theta)-(1+\theta)\cdot\text{log}(1+x)$

\frac{\partial}{\partial θ} log f_{X} (x ∣ θ) = \frac{1}{θ} - log (1 + x)

$\frac{\partial}{\partial \theta}\text{log }f_X(x\mid\theta)=\frac{1}{\theta}-\text{log}(1+x)$

\frac{\partial^{2}}{\partial θ^{2}} log f_{X} (x ∣ θ) = - \frac{1}{θ^{2}}

$\frac{\partial^2}{\partial \theta^2}\text{log }f_X(x\mid\theta)=-\frac{1}{\theta^2}$

jadi

I_{1} (θ) = - E (- \frac{1}{θ^{2}}) = \frac{1}{θ^{2}}

$I_1(\theta)=-\mathsf E\left(-\frac{1}{\theta^2}\right)=\frac{1}{\theta^2}$

dan CRLB untuk estimator yang tidak bias dari adalah $\tau(\theta)$

\frac{[τ^{'} (θ)]^{2}}{n \cdot I_{1} (θ)} = \frac{θ^{2}}{n} [τ^{'} (θ)]^{2}

$\frac{[\tau'(\theta)]^2}{n\cdot I _1(\theta)} = \frac{\theta^2}{n}[\tau'(\theta)]^2$

Karena

\sum_{i = 1}^{n} t (X_{i}) = \sum_{i = 1}^{n} log (1 + X_{i})

$\sum_{i=1}^n t(X_i)=\sum_{i=1}^n \text{log}(1+X_i)$

maka setiap fungsi linear dari , atau ekuivalennya, fungsi linear dari , akan mencapai CRLB dari harapannya, dan dengan demikian menjadi UMVUE dari harapannya. Karena kita memiliki UMVUE dari adalah $\sum_{i=1}^n \text{log}(1+X_i)$ $\frac{1}{n}\sum_{i=1}^n \text{log}(1+X_i)$ $\mathsf E(\text{log}(1+X))=\frac{1}{\theta}$ $\frac{1}{\theta}$ $\frac{1}{n}\sum_{i=1}^n \text{log}(1+X_i)$

Untuk parameterisasi alami, kita dapat membiarkan $\eta=-(1+\theta)\Rightarrow \theta=-(\eta+1)$

Kemudian

V a r (log (1 + X)) = \frac{d}{d η} (- \frac{1}{η + 1}) = \frac{1}{(η + 1)^{2}} = \frac{1}{θ^{2}}

$\mathsf{Var}(\text{log}(1+X))=\frac{d}{d\eta}\left(-\frac{1}{\eta+1}\right)=\frac{1}{(\eta+1)^2}=\frac{1}{\theta^2}$

Apakah ini solusi yang valid? Apakah ada pendekatan yang lebih sederhana? Apakah metode ini hanya berfungsi ketika sama dengan yang Anda coba perkirakan? $\mathsf E(t(x))$

— Remy
sumber

Pada titik di mana Anda menunjukkan bahwa pdf adalah anggota keluarga eksponensial satu-parameter, segera jelas bahwa statistik yang cukup lengkap untuk keluarga adalah Karena, seperti yang Anda katakan, , adalah UMVUE dari oleh teorema Lehmann-Scheffe.

T (X_{1}, \dots, X_{n}) = \sum_{i = 1}^{n} \ln (1 + X_{i})

$T(X_1,\ldots,X_n)=\sum_{i=1}^n\ln(1+X_i)$

E (T / n) = \frac{1}{θ}

$E(T/n)=\frac{1}{\theta}$

T / n

$T/n$

1 / θ

$1/\theta$

— StubbornAtom

Jadi bagian di mana saya memiliki "Karena adalah nol nol ..... " tidak relevan?

w^{'} (θ) = 1

$w'(\theta)=1$

\frac{θ^{2}}{n} [τ^{'} (θ)]^{2}

$\frac{\theta^2}{n}[\tau'(\theta)]^2$

— Remy

Tidak juga; varian lebih mudah ditemukan menggunakan CRLB. Jadi untuk menyelesaikan kedua pertanyaan sekaligus, argumen Anda sudah cukup.

T

$T$

— StubbornAtom

Untuk menemukan varians seperti itu, apakah saya akan mengambil ? Karena itu, saya salah melakukannya sebelumnya?

\frac{θ^{2}}{n} [τ^{'} (θ)]^{2} = \frac{θ^{2}}{n} {(- \frac{1}{θ^{2}})}^{2} = \frac{1}{n θ^{2}}

$\frac{\theta^2}{n}[\tau'(\theta)]^2=\frac{\theta^2}{n}\left(-\frac{1}{\theta^2}\right)^2=\frac{1}{n\theta^2}$

— Remy

Ya, itu adalah varian dari . Tepat.

T

$T$

— StubbornAtom

Alasan Anda sebagian besar benar.

Densitas gabungan dari sampel adalah $(X_1,X_2,\ldots,X_n)$

\begin{aligned} f_{θ} (x_{1}, x_{2}, \dots, x_{n}) & = \frac{θ^{n}}{{(\prod_{i = 1}^{n} (1 + x_{i}))}^{1 + θ}} 1_{x_{1}, x_{2}, \dots, x_{n} > 0}, θ > 0 \\ ⟹ \ln f_{θ} (x_{1}, x_{2}, \dots, x_{n}) & = n \ln (θ) - (1 + θ) \sum_{i = 1}^{n} \ln (1 + x_{i}) + \ln (1_{min_{1 \leq i \leq n} x_{i} > 0}) \\ ⟹ \frac{\partial}{\partial θ} \ln f_{θ} (x_{1}, x_{2}, \dots, x_{n}) & = \frac{n}{θ} - \sum_{i = 1}^{n} \ln (1 + x_{i}) \\ = - n (\frac{\sum_{i = 1}^{n} \ln (1 + x_{i})}{n} - \frac{1}{θ}) \end{aligned}

$\begin{align} f_{\theta}(x_1,x_2,\ldots,x_n)&=\frac{\theta^n}{\left(\prod_{i=1}^n (1+x_i)\right)^{1+\theta}}\mathbf1_{x_1,x_2,\ldots,x_n>0}\qquad,\,\theta>0 \\\\\implies \ln f_{\theta}(x_1,x_2,\ldots,x_n)&=n\ln(\theta)-(1+\theta)\sum_{i=1}^n\ln(1+x_i)+\ln(\mathbf1_{\min_{1\le i\le n} x_i>0}) \\\\\implies\frac{\partial}{\partial \theta}\ln f_{\theta}(x_1,x_2,\ldots,x_n)&=\frac{n}{\theta}-\sum_{i=1}^n\ln(1+x_i) \\\\&=-n\left(\frac{\sum_{i=1}^n\ln(1+x_i)}{n}-\frac{1}{\theta}\right) \end{align}$

Dengan demikian kami telah menyatakan fungsi skor dalam formulir

\begin{matrix} (1) & \frac{\partial}{\partial θ} \ln f_{θ} (x_{1}, x_{2}, \dots, x_{n}) = k (θ) (T (x_{1}, x_{2}, \dots, x_{n}) - \frac{1}{θ}) \end{matrix}

$\frac{\partial}{\partial \theta}\ln f_{\theta}(x_1,x_2,\ldots,x_n)=k(\theta)\left(T(x_1,x_2,\ldots,x_n)-\frac{1}{\theta}\right)\tag{1}$

, yang merupakan kondisi kesetaraan dalam ketidaksetaraan Cramér-Rao.

Tidak sulit untuk memverifikasi bahwa

\begin{matrix} (2) & E (T) = \frac{1}{n} \sum_{i = 1}^{n} \underset{= 1 / θ}{\underset{⏟}{E (\ln (1 + X_{i}))}} = \frac{1}{θ} \end{matrix}

$E(T)=\frac{1}{n}\sum_{i=1}^n\underbrace{E(\ln(1+X_i))}_{=1/\theta}=\frac{1}{\theta}\tag{2}$

Dari dan kita dapat menyimpulkan itu $(1)$ $(2)$

Statistik adalah estimator yang tidak bias dari . $T(X_1,X_2,\ldots,X_n)$ $1/\theta$
$T$ memenuhi kondisi kesetaraan ketimpangan Cramér-Rao.

Kedua fakta ini secara bersama-sama menyiratkan bahwa adalah UMVUE dari . $T$ $1/\theta$

Peluru kedua sebenarnya memberitahu kita bahwa varian mencapai Cramér-Rao batas bawah untuk . $T$ $1/\theta$

Memang, seperti yang Anda tunjukkan,

E_{θ} [\frac{\partial^{2}}{\partial θ^{2}} \ln f_{θ} (X_{1})] = - \frac{1}{θ^{2}}

$E_{\theta}\left[\frac{\partial^2}{\partial\theta^2}\ln f_{\theta}(X_1)\right]=-\frac{1}{\theta^2}$

Ini menyiratkan bahwa fungsi informasi untuk seluruh sampel adalah

I (θ) = - n E_{θ} [\frac{\partial^{2}}{\partial θ^{2}} \ln f_{θ} (X_{1})] = \frac{n}{θ^{2}}

$I(\theta)=-nE_{\theta}\left[\frac{\partial^2}{\partial\theta^2}\ln f_{\theta}(X_1)\right]=\frac{n}{\theta^2}$

Jadi batas bawah Cramér-Rao untuk dan karenanya varian dari UMVUE adalah $1/\theta$

Var (T) = \frac{{[\frac{d}{d θ} (\frac{1}{θ})]}^{2}}{I (θ)} = \frac{1}{n θ^{2}}

$\operatorname{Var}(T)=\frac{\left[\frac{d}{d\theta}\left(\frac{1}{\theta}\right)\right]^2}{I(\theta)}=\frac{1}{n\theta^2}$

Di sini kita telah mengeksploitasi konsekuensi dari ketidaksetaraan Cramér-Rao, yang mengatakan bahwa untuk keluarga distribusi parametrised oleh (dengan asumsi kondisi keteraturan CR ketidaksetaraan untuk ditahan), jika statistik adalah berisi untuk untuk beberapa fungsi dan jika memenuhi kondisi kesetaraan dalam ketimpangan CR, yaitu , maka harus UMVUE dari . Jadi argumen ini tidak berfungsi di setiap masalah. $f$ $\theta$ $T$ $g(\theta)$ $g$

\frac{\partial}{\partial θ} \ln f_{θ} (x) = k (θ) (T (x) - g (θ))

$\frac{\partial}{\partial\theta}\ln f_{\theta}(x)=k(\theta)\left(T(x)-g(\theta)\right)$

T

$T$

g (θ)

$g(\theta)$

Atau, dengan menggunakan teorema Lehmann-Scheffe Anda dapat mengatakan bahwa adalah UMVUE dari karena tidak bias untuk dan merupakan statistik yang cukup lengkap untuk keluarga distribusi. Bahwa cukup bersaing jelas dari struktur kepadatan bersama sampel dalam hal keluarga eksponensial satu-parameter. Tetapi varian mungkin agak sulit ditemukan secara langsung. $T=\frac{1}{n}\sum_{i=1}^{n} \ln(1+X_i)$ $1/\theta$ $1/\theta$ $T$ $T$

— StubbornAtom
sumber

Orang juga dapat menggunakan distribusi untuk menemukan rerata, varians.

T

$T$

— StubbornAtom