Penaksir positif dan tidak memenuhi syarat untuk kuadrat dari rata-rata

Asumsikan kita memiliki akses ke sampel iid dari distribusi dengan mean dan varians benar (tidak diketahui) $\mu, \sigma^2$ , dan kami ingin memperkirakan . $\mu^2$

Bagaimana kita bisa membuat penduga yang tidak bias dan selalu positif dari jumlah ini?

Mengambil kuadrat dari mean sampel bias dan akan melebih-lebihkan kuantitas, esp. jika dekat dengan 0 dan besar. $\tilde{\mu}^2$ $\mu$ $\sigma^2$

Ini mungkin pertanyaan sepele tetapi kemampuan google saya mengecewakan saya karena estimator of mean-squaredhanya mengembalikanmean-squarred-error estimators

Jika itu membuat masalah menjadi lebih mudah, distribusi yang mendasarinya dapat dianggap sebagai Gaussian.

Larutan:

Hal ini dimungkinkan untuk membangun perkiraan berisi dari ; lihat jawaban knrumsey $\mu^2$
Hal ini tidak mungkin untuk membangun sebuah berisi, perkiraan selalu positif dari sebagai persyaratan ini dalam konflik ketika mean sebenarnya adalah 0; lihat jawaban Winks $\mu^2$

mean unbiased-estimator

— Mengedipkan mata
sumber

Mungkin mencari penaksir rata - rata kuadrat atau penaksir kuadrat rata-rata sebagai gantinya. Ketika saya membaca judul Anda, saya juga bingung (seperti Google), jadi saya mengeditnya untuk membuatnya lebih intuitif.

— Richard Hardy

Jawaban:

Perhatikan bahwa mean sampel $\bar{X}$ juga terdistribusi normal, dengan mean $\mu$ dan varians $\sigma^2/n$ . Ini berarti bahwa

E ({\bar{X}}^{2}) = E (\bar{X})^{2} + Var (\bar{X}) = μ^{2} + \frac{σ^{2}}{n}

$\operatorname E(\bar{X}^2) = \operatorname E(\bar{X})^2 + \operatorname{Var}(\bar{X}) = \mu^2 + \frac{\sigma^2}n$

Jika semua yang Anda pedulikan adalah estimasi yang tidak bias, Anda dapat menggunakan fakta bahwa varians sampel tidak bias untuk $\sigma^2$ . Ini menyiratkan bahwa estimator

\hat{μ^{2}} = {\bar{X}}^{2} - \frac{S^{2}}{n}

$\widehat{\mu^2} = \bar{X}^2 - \frac{S^2}n$ tidak bias untuk

μ^{2}

$\mu^2$ .

— Knrumsey
sumber

\hat{μ^{2}}

$\hat{\mu^2}$

(\bar{X}, S^{2})

$(\bar{X},S^2)$

@ Winks Itulah alasan mengapa ini adalah contoh dari estimator tidak bias yang absurd .

— StubbornAtom

Sangat menarik. Estimator unbiassed sederhana menggunakan dua pengamatan iid

dan

adalah

, sebagai

. Jelas ini bukan penaksir yang baik, tetapi memperjelas bahwa setiap polinomial dalam

memiliki penaksir yang tidak digabungkan, yang menurut saya menarik.

X_{1}

$X_1$

X_{2}

$X_2$

X_{1} X_{2}

$X_1X_2$

E (X_{1} X_{2}) = E (X_{1}) E (X_{2}) = μ^{2}

$E(X_1 X_2) = E(X_1)E(X_2) = \mu^2$

μ

$\mu$

— Paul Harrison

Seharusnya tidak mungkin menghasilkan estimator yang baik berisi dan selalu positif bagi . $\mu^2$

Jika mean sebenarnya adalah 0, estimator harus dalam ekspektasi pengembalian 0 tetapi tidak diizinkan untuk menghasilkan angka negatif, oleh karena itu juga tidak diperbolehkan untuk menghasilkan angka positif karena bias. Oleh karena itu, penaksir yang tidak bias, selalu positif dari kuantitas ini harus selalu mengembalikan jawaban yang benar ketika rerata 0, terlepas dari sampel, yang tampaknya mustahil.

knrumsey ini jawaban menunjukkan bagaimana untuk memperbaiki bias dari sampel-mean-squarred estimator untuk mendapatkan perkiraan berisi dari . $\mu^2$

— Mengedipkan mata
sumber

Ada kertas yang agak tua oleh Jim Berger yang membuktikan fakta ini, tetapi saya tidak bisa melacaknya. Masalahnya juga muncul di Monte Carlo dengan penduga debiasing seperti Roulette Rusia.

— Xi'an