Tentang keberadaan UMVUE dan pilihan penaksir

Mari menjadi sampel acak yang diambil dari populasi di mana . $(X_1,X_2,\cdots,X_n)$ $\mathcal N(\theta,\theta^2)$ $\theta\in\mathbb R$

Saya mencari UMVUE dari . $\theta$

Densitas sambungan adalah $(X_1,X_2,\cdots,X_n)$

\begin{aligned} f_{θ} (x_{1}, x_{2}, \dots, x_{n}) & = \prod_{saya = 1}^{n} \frac{1}{θ \sqrt{2 π}} \exp [- \frac{1}{2 θ^{2}} (x_{saya} - θ)^{2}] \\ = \frac{1}{(θ \sqrt{2 π})^{n}} \exp [- \frac{1}{2 θ^{2}} \sum_{saya = 1}^{n} (x_{saya} - θ)^{2}] \\ = \frac{1}{(θ \sqrt{2 π})^{n}} \exp [\frac{1}{θ} \sum_{saya = 1}^{n} x_{saya} - \frac{1}{2 θ^{2}} \sum_{saya = 1}^{n} x_{saya}^{2} - \frac{n}{2}] \\ = g (θ, T (x)) h (x) \forall (x_{1}, \dots, x_{n}) \in R^{n}, \forall θ \in R \end{aligned}

$\begin{align} f_{\theta}(x_1,x_2,\cdots,x_n)&=\prod_{i=1}^n\frac{1}{\theta\sqrt{2\pi}}\exp\left[-\frac{1}{2\theta^2}(x_i-\theta)^2\right] \\&=\frac{1}{(\theta\sqrt{2\pi})^n}\exp\left[-\frac{1}{2\theta^2}\sum_{i=1}^n(x_i-\theta)^2\right] \\&=\frac{1}{(\theta\sqrt{2\pi})^n}\exp\left[\frac{1}{\theta}\sum_{i=1}^n x_i-\frac{1}{2\theta^2}\sum_{i=1}^nx_i^2-\frac{n}{2}\right] \\&=g(\theta,T(\mathbf x))h(\mathbf x)\qquad\forall\,(x_1,\cdots,x_n)\in\mathbb R^n\,,\forall\,\theta\in\mathbb R \end{align}$

, dengan dan. $g(\theta, T(\mathbf x))=\frac{1}{(\theta\sqrt{2\pi})^n}\exp\left[\frac{1}{\theta}\sum_{i=1}^n x_i-\frac{1}{2\theta^2}\sum_{i=1}^nx_i^2-\frac{n}{2}\right]$ $h(\mathbf x)=1$

Di sini, tergantung pada dan pada hingga dan tidak tergantung pada . Jadi dengan teorema factorisation Fisher-Neyman, statistik dua dimensi $g$ $\theta$ $x_1,\cdots,x_n$ $T(\mathbf x)=\left(\sum_{i=1}^nx_i,\sum_{i=1}^nx_i^2\right)$ $h$ $\theta$ sudah cukup untuk. $T(\mathbf X)=\left(\sum_{i=1}^nX_i,\sum_{i=1}^nX_i^2\right)$ $\theta$

Namun, bukan statistik lengkap. Hal ini karena $T$

E_{θ} [2 {(\sum_{i = 1}^{n} X_{i})}^{2} - (n + 1) \sum_{i = 1}^{n} X_{i}^{2}] = 2 n (1 + n) θ^{2} - (n + 1) 2 n θ^{2} = 0 \forall θ

$E_{\theta}\left[2\left(\sum_{i=1}^n X_i\right)^2-(n+1)\sum_{i=1}^nX_i^2\right]=2n(1+n)\theta^2-(n+1)2n\theta^2=0\qquad\forall\,\theta$

dan fungsi tidak identik dengan nol. $g^*(T(\mathbf X))=2\left(\sum_{i=1}^n X_i\right)^2-(n+1)\sum_{i=1}^nX_i^2$

Tetapi saya tahu bahwa adalah statistik yang cukup minimal. $T$

Saya tidak yakin tetapi saya pikir statistik lengkap mungkin tidak ada untuk keluarga eksponensial melengkung ini. Jadi bagaimana saya harus mendapatkan UMVUE? Jika statistik lengkap tidak ada, dapatkah penaksir tidak bias (seperti dalam kasus ini) yang merupakan fungsi dari statistik cukup memadai menjadi UMVUE? (Utas terkait: Apa kondisi yang diperlukan untuk estimator tidak bias menjadi UMVUE? ) $\bar X$

Bagaimana jika saya menganggap penaksir linier tidak bias terbaik (BLUE) dari ? Bisakah BLUE menjadi UMVUE? $\theta$

Misalkan saya mempertimbangkan linear berisi estimator dari mana $T^*(\mathbf X)=a\bar X+(1-a)cS$ $\theta$ dan $c(n)=\sqrt{\frac{n-1}{2}}\frac{\Gamma\left(\frac{n-1}{2}\right)}{\Gamma\left(\frac{n}{2}\right)}$ . Karena kita tahu bahwa. Ide saya adalah meminimalkansehinggaakan menjadi BIRU dari. Akankahmenjadi UMVUE? $S^2=\frac{1}{n-1}\sum_{i=1}^n(X_i-\bar X)^2$ $E_{\theta}(cS)=\theta$ $\text{Var}(T^*)$ $T^*$ $\theta$ $T^*$ $\theta$

Saya telah mengambil penaksir linier yang tidak bias berdasarkan dan karena juga cukup untuk . $\bar X$ $S$ $(\bar X,S^2)$ $\theta$

Edit:

Banyak pekerjaan memang telah dilakukan dalam estimasi dalam keluarga yang lebih umum di mana diketahui. Berikut ini adalah beberapa referensi yang paling relevan: $\theta$ $\mathcal N(\theta,a\theta^2)$ $a>0$

Memperkirakan rata-rata distribusi normal dengan koefisien variasi yang diketahui oleh Gleser / Healy.
Catatan tentang memperkirakan rata-rata distribusi normal dengan koefisien variasi diketahui oleh RA Khan.
Keterangan tentang Memperkirakan Rata-rata Distribusi Normal dengan Koefisien Variasi yang Diketahui oleh RA Khan.
Ekstrak bab ini .

Saya menemukan referensi pertama dalam latihan ini dari Inferensi Statistik oleh Casella / Berger:

Pertanyaan saya bukan tentang latihan ini.

$\theta$

Sekarang dengan asumsi bahwa penaksir tidak bias varians seragam seragam minimum tidak ada, apa yang seharusnya menjadi kriteria kami berikutnya untuk memilih penaksir 'terbaik'? Apakah kita mencari MSE minimum, varian minimum atau MLE? Atau apakah pilihan kriteria tergantung pada tujuan estimasi kami?

$T_1$ $T_2$ $\theta$ $T_1$ $T_2$ $T_2$ $T_1$

$\theta$

Kutipan berikut adalah dari Theory of Point Estimation oleh Lehmann / Casella (edisi kedua, halaman 87-88):

Sangat mungkin bahwa saya telah salah memahami segalanya, tetapi apakah kalimat terakhir mengatakan bahwa dalam kondisi tertentu, keberadaan statistik lengkap diperlukan untuk keberadaan UMVUE? Jika demikian, apakah ini hasil yang harus saya perhatikan?

Hasil terakhir itu karena RR Bahadur yang disebutkan di bagian akhir mengacu pada catatan ini .

Setelah pencarian lebih lanjut, saya telah menemukan hasil yang menyatakan bahwa jika statistik yang cukup minimal tidak lengkap, maka statistik lengkap tidak ada. Jadi setidaknya saya cukup yakin bahwa statistik lengkap tidak ada di sini.

$\bar X$

— StubbornAtom
sumber

Memperbarui:

\hat{0} = \bar{X} - c S

$\hat 0 = \bar{X} - cS$

c

$c$

0

$0$

a

$a$

{(w_{1} (θ), \dots w_{k} (θ)}

$\{(w_1(\theta), \cdots w_k(\theta)\}$

R^{k}

$\mathbb R^k$

w_{1} (θ) = θ^{- 2}

$w_1(\theta) = \theta^{-2}$

w_{2} (θ) = θ^{- 1}

$w_2(\theta) = \theta^{-1}$

R^{2}

$R^2$

w_{1} (θ) = w_{2} (θ)^{2}

$w_1(\theta) = w_2(\theta)^2$

(\bar{X}, S^{2})

$(\bar{X}, S^2)$

θ

$\theta$

0

$0$

θ

$\theta$

Pembaruan Lainnya:

$\tilde\theta$ $Var(\tilde\theta) < Var(\hat\theta)$ $\theta \in \Theta$

Bukti: Membiarkan misalkan $E(\hat\theta) = \theta$ $E(\hat 0) = 0$ $Cov(\hat\theta, \hat 0) < 0$ $\theta$

\tilde{θ} = \hat{θ} + b \hat{0}

$\tilde\theta = \hat\theta + b\hat0$

V Sebuah r (\tilde{θ}) = V Sebuah r (\hat{θ}) + b^{2} V Sebuah r (\hat{0}) + 2 b C Hai v (\hat{θ}, \hat{0})

$Var(\tilde\theta) = Var(\hat\theta) + b^2Var(\hat0) + 2bCov(\hat\theta,\hat0)$

M (θ) = \frac{- 2 C o v (\hat{θ}, \hat{0})}{V a r (\hat{0})}

$M(\theta) = \frac{-2Cov(\hat\theta, \hat0)}{Var(\hat0)}$

$\theta_0$ $M(\theta_0) > 0$ $b \in (0, M(\theta_0))$ $Var(\tilde\theta) < Var(\hat\theta)$ $\theta_0$ $\hat\theta$ $\quad \square$

$\hat\theta$ $\hat0$ $a$ $\hat\theta$ $\theta_0$ $\hat\theta$

Mari kita lihat ide Anda tentang kombinasi linear lebih dekat.

\hat{θ} = Sebuah \bar{X} + (1 - Sebuah) c S

$\hat\theta = a \bar X + (1-a)cS$

$\hat\theta$

\begin{aligned} M. S E (\hat{θ}) & = {Sebuah}^{2} V Sebuah r (\bar{X}) + (1 - Sebuah)^{2} c^{2} V Sebuah r (S) \\ = \frac{{Sebuah}^{2} θ^{2}}{n} + (1 - Sebuah)^{2} c^{2} [E (S^{2}) - E (S)^{2}] \\ = \frac{{Sebuah}^{2} θ^{2}}{n} + (1 - Sebuah)^{2} c^{2} [θ^{2} - θ^{2} / c^{2}] \\ = θ^{2} [\frac{{Sebuah}^{2}}{n} + (1 - Sebuah)^{2} (c^{2} - 1)] \end{aligned}

$\begin{align*} MSE(\hat\theta) &= a^2 Var(\bar{X}) + (1-a)^2 c^2 Var(S) \\ &= \frac{a^2\theta^2}{n} + (1-a)^2 c^2 \left[E(S^2) - E(S)^2\right] \\ &= \frac{a^2\theta^2}{n} + (1-a)^2 c^2 \left[\theta^2 - \theta^2/c^2\right] \\ &= \theta^2\left[\frac{a^2}{n} + (1-a)^2(c^2 - 1)\right] \end{align*}$

$a$ $n$

{Sebuah}_{Hai hal t} (n) = \frac{c^{2} - 1}{1 / n + c^{2} - 1}

$a_{opt}(n) = \frac{c^2 - 1}{1/n + c^2 - 1}$

c^{2} = \frac{n - 1}{2} {(\frac{Γ ((n - 1) / 2)}{Γ (n / 2)})}^{2}

$c^2 = \frac{n-1}{2}\left(\frac{\Gamma((n-1)/2)}{\Gamma(n/2)}\right)^2$

$a$

$n\rightarrow \infty$ $a_{opt}\rightarrow \frac{1}{3}$

Meskipun tidak ada jaminan bahwa ini adalah UMVUE, penaksir ini adalah penaksir varians minimum dari semua kombinasi linear yang tidak memihak dari statistik yang memadai.

— Knrumsey
sumber

Terima kasih atas pembaruannya. Saya tidak mengikuti C&B sebagai buku teks, hanya melihat latihan.

— StubbornAtom

\hat{θ}

$\hat\theta$