Mengapa Rao-Blackwell Teorema membutuhkan

Teorema Rao-Blackwell menyatakan

Biarkan menjadi estimator dari dengan untuk semua . Misalkan cukup untuk , dan biarkan Lalu untuk semua , ketidaksetaraan adalah ketat kecuali $\hat{\theta}$ $\theta$ $\Bbb E (\hat{\theta}^2) < \infty$ $\theta$ $T$ $\theta$ $\theta ^ * = \Bbb E (\hat{\theta}|T)$ $\theta$
$E (θ^{*} - θ)^{2} \leq E (\hat{θ} - θ)^{2}$ $\Bbb E (\theta^* - \theta )^2 \leq \Bbb E (\hat{\theta} - \theta )^2$ $\hat{\theta}$ adalah fungsi dari $T$

$T$ $\theta$ $\hat{\theta}$ $T$ $\min_{\hat{\theta}} \Bbb E$ $(\hat{\theta}-\theta)^2$

Pertanyaan Saya

Apakah saya benar bahwa meminimalkan ? $\theta^*$ $\Bbb E$ $(\hat{\theta}-\theta)^2$
Mengapa Teorema Rao-Blackwell membutuhkan ? $\Bbb E(\hat{\theta}^2) < \infty$
Mengapa ketidaksamaan itu ketat kecuali adalah fungsi dari ? $\hat{\theta}$ $T$

rao-blackwell

— Stan Shunpike
sumber

Kemungkinan duplikat Pembenaran Intuitif dan Formula untuk Teorema Rao-Blackwell

— Xi'an

Apa yang diperlukan untuk menemukan ?

min_{\hat{θ}} E

$\min_{\hat{\theta}} \Bbb E$

(\hat{θ} - θ)^{2}

$(\hat{\theta}-\theta)^2$

— Stan Shunpike

Jawaban:

Tidak, adalah penaksir yang lebih baik daripada tetapi tidak selalu yang terbaik (apa pun artinya!) $\theta^*$ $\hat\theta$
Jika estimator tidak memiliki varian, maka risikonya tidak terbatas dan tidak ada jaminan bahwa memiliki risiko yang terbatas (meskipun ini dapat terjadi sebagaimana ditunjukkan oleh Horst Grünbusch dalam komentarnya). $\theta^*$
Dalam varian hingga terbatas untuk , ketidaksetaraan itu ketat karena dekomposisi varian sebagai jumlah dari varian bersyarat yang diharapkan ditambah varian dari ekspektasi bersyarat Kecuali jika varian bersyarat yang diharapkan adalah nol, yang berarti hanya fungsi dari saja. $\hat\theta$ $var (\hat{θ}) = E_{T} [var (\hat{θ} | T)] + {var}_{T} (E [\hat{θ} | T]) = E_{T} [var (θ | T)] + {var}_{T} (θ^{*})$ $\text{var}(\hat\theta)=\mathbb{E}_T[\text{var}(\hat\theta|T)]+ \text{var}_T(\mathbb{E}[\hat\theta|T])=\mathbb{E}_T[\text{var}(\theta|T)]+\text{var}_T(\theta^*)$ $\hat\theta$ $T$

— Xi'an
sumber

iklan 2: Mengapa tidak mungkin ? Pertimbangkan sebagai estimator untuk , di mana , dan merupakan rv yang didistribusikan Cauchy yang tidak terkait.

E ({\hat{θ}}^{2} | T) < E ({\hat{θ}}^{2}) = \infty

$E(\hat{\theta}^2|T)<E(\hat{\theta}^2)=\infty$

\hat{θ} = X + C

$\hat{\theta} = X + C$

μ

$\mu$

X \sim N (μ, σ^{2})

$X \sim \mathcal{N}(\mu,\sigma^2)$

C

$C$

— Horst Grünbusch

@ HorstGrünbusch Mengapa karya Cauchy akan hilang ketika Anda mengkondisikan pada ? Juga bukan merupakan penaksir yang tidak bias.

T

$T$

\hat{θ}

$\hat{\theta}$

— dsaxton

@ HorstGrünbusch Tampaknya bagi saya Anda bahkan tidak memiliki ekspektasi bersyarat (karena tidak memiliki ekspektasi), sehingga tidak akan terdefinisi.

\hat{θ}

$\hat{\theta}$

∣ T

$\mid T$

C

$C$

θ^{*}

$\theta^\ast$

— Juho Kokkala

C

$C$

C \sim t_{2}

$C \sim t_2$

E (C) = 0

$E(C)=0$

C

$C$

X

$X$

X

$X$

E (X + C | X) = E (X | X) + E (C | X) = X + E (C) = X

$E(X+C|X) = E(X|X) + E(C|X) = X + E(C) = X$

\infty = V a r (C) + V a r (X) = V a r (X + C) > V a r (X + C | X) = σ^{2}

$\infty=Var(C) + Var(X) = Var(X+C)>Var(X+C|X)=\sigma^2$

\infty \leq \infty

$\infty \leq \infty$

Perhatikan bahwa menjadi statistik yang memadai tidak unik. Sepele, seluruh data sudah cukup, tetapi mengkondisikan estimator pada mereka tidak mengubah apa pun. Jadi statistik yang cukup saja tidak cukup (pun!) Untuk memiliki kesalahan kuadrat rata-rata minimal. Lihat teorema Lehmann-Scheffé, yang menggunakan teorema Rao-Blackwell dalam buktinya, untuk kecukupan yang cukup (pada kenyataannya, cukup dan lengkap).
$T$ $\leq$

$C_1 \sim t_2 + \mu$ $t_2$ $E(C_1) = \mu$ $Var(C_1) = \infty$ $C_2 \sim t_2$ $\mu$ $\hat{\theta} = C_1 + C_2$ $C_1$ $E(\hat{\theta}|C_1)=C_1$ $\hat{\theta}$ $C_1+C_2$ $C_1$ $<$

$\hat{\theta}$ $T$ $\hat{\theta}$ $\theta$

— Horst Grünbusch
sumber