Memperkirakan parameter distribusi normal: median, bukan rata-rata?

Pendekatan umum untuk memperkirakan parameter distribusi normal adalah dengan menggunakan mean dan sampel standar deviasi / varians.

Namun, jika ada beberapa outlier, median dan deviasi median dari median harus jauh lebih kuat, bukan?

Pada beberapa set data saya mencoba, distribusi normal diperkirakan oleh tampaknya menghasilkan lebih cocok banyak daripada klasik N ( μ , σ ) dengan menggunakan mean dan Penyimpangan RMS.$\mathcal{N}(\text{median}(x), \text{median}|x - \text{median}(x)|)$$\mathcal{N}(\hat\mu, \hat\sigma)$

Apakah ada alasan untuk tidak menggunakan median jika Anda menganggap ada beberapa outlier dalam kumpulan data? Apakah Anda tahu referensi untuk pendekatan ini? Pencarian cepat di Google tidak menemukan saya hasil yang berguna yang membahas manfaat menggunakan median di sini (tapi jelas, "median estimasi parameter distribusi normal" bukan kumpulan istilah pencarian yang sangat spesifik).

Penyimpangan median, apakah bias? Haruskah saya kalikan dengan untuk mengurangi bias?$\frac{n-1}{n}$

Apakah Anda tahu pendekatan estimasi parameter kuat serupa untuk distribusi lain seperti distribusi Gamma atau distribusi Gauss yang dimodifikasi secara eksponensial (yang membutuhkan Skewness dalam estimasi parameter, dan pencilan benar-benar mengacaukan nilai ini)?

Pengamatan bahwa dalam contoh yang melibatkan data yang diambil dari distribusi Gaussian yang terkontaminasi, Anda akan mendapatkan estimasi yang lebih baik dari parameter yang menggambarkan sebagian besar data dengan menggunakan bukan med | x - med ( x ) | dimana mad ( x $\text{mad}$$\text{med}|x-\text{med}(x)|$$\text{mad}(x)$ adalah:

$$\text{mad}=1.4826\times\text{med}|x-\text{med}(x)|$$

--di mana, adalah faktor konsistensi yang dirancang untuk memastikan bahwa E ( mad ( x ) 2 ) = Var ( x ) ketika x tidak terkontaminasi - pada awalnya dibuat oleh Gauss (Walker , H. (1931)).$(\Phi^{-1}(0.75))^{-1}=1.4826$

$$\text{E}(\text{mad}(x)^2)=\text{Var}(x)$$ $x$

Saya tidak bisa memikirkan alasan untuk tidak menggunakan sebagai ganti mean sampel dalam kasus ini. Efisiensi yang lebih rendah (di Gaussian!) Dari orang gila bisa menjadi alasan untuk tidak menggunakan orang gila dalam contoh Anda. Namun, ada alternatif yang sama kuat dan sangat efisien untuk orang gila . Salah satunya adalah Q $\text{med}$$\text{mad}$$\text{mad}$$\text{mad}$$Q_n$. Penaksir ini memiliki banyak keunggulan lain di samping. Ini juga sangat tidak sensitif terhadap outlier (bahkan hampir sama tidak sensitifnya dengan orang gila). Berlawanan dengan orang gila, itu tidak dibangun di sekitar perkiraan lokasi dan tidak berasumsi bahwa distribusi bagian data yang tidak terkontaminasi adalah simetris. Seperti orang gila, ini didasarkan pada statistik pesanan, sehingga selalu didefinisikan dengan baik bahkan ketika distribusi yang mendasari sampel Anda tidak memiliki momen. Seperti orang gila, Ia memiliki bentuk eksplisit yang sederhana. Bahkan lebih daripada untuk orang gila, saya tidak melihat alasan untuk menggunakan standar deviasi sampel daripada pada contoh yang Anda jelaskan (lihat Rousseeuw dan Croux 1993 untuk info lebih lanjut tentang Q $Q_n$$Q_n$ ).

$x\sim\Gamma(\nu,\lambda)$

$$\text{med}(x)\approx\lambda(\nu-1/3)$$

dan

$$\text{mad}(x)\approx\lambda\sqrt{\nu}$$

$\nu>1.5$

$$\hat{\nu}=\left(\frac{\text{med}(x)}{\text{mad}(x)}\right)^2$$

dan

$$\hat{\lambda}=\frac{\text{mad}(x)^2}{\text{med}(x)}$$

Lihat Chen dan Rubin (1986) untuk derivasi lengkap.

• J. Chen dan H. Rubin, 1986. Batas untuk perbedaan antara median dan rata-rata distribusi Gamma dan Poisson, Statist. Mungkin. Lett., 4, 281–283.
• PJ Rousseeuw dan C. Croux, 1993. Alternatif untuk Median Absolute Deviation Journal dari American Statistics Association, Vol. 88, No. 424, hlm. 1273-1283
• Walker, H. (1931). Studi dalam Sejarah Metode Statistik. Baltimore, MD: Williams & Wilkins Co. hlm. 24–25.

Jika seperti yang Anda tegaskan, data normal kecuali sebagian kecil dari outlier, median dan deviasi absolut akan kuat terhadap kesalahan besar tetapi tidak akan membuat penggunaan informasi yang sangat efisien dalam data non-outlying.

Jika Anda tahu beberapa apriori terikat pada proporsi outlier Anda dapat memotong proporsi itu untuk mean dan Winsorize deviasi standar. Alternatif yang tidak memerlukan pengetahuan seperti itu akan menggunakan M-estimator untuk lokasi dan jumlah terkait untuk varians. Keuntungan dalam efisiensi jika asumsi Anda benar (seperti data benar-benar normal terlepas dari persentase kecil pencilan) dalam beberapa keadaan mungkin substansial.

Simpangan median dianggap bias sebagai perkiraan simpangan baku - tetapi tidak seperti$\frac{n}{n-1}$pengaturan; kuadrat sampel yang tidak disesuaikan disesuaikan secara asimptotik dengan varians, tetapi median sampel deviasi absolut tidak secara asimptotik dengan deviasi standar populasi; Anda perlu mengalikannya dengan konstanta hanya untuk mendapatkan konsistensi . Setelah Anda selesai melakukannya , sampel kecil itu masih bias dalam arti yang sama dengan mean square yang tidak disesuaikan.