Varian rata-rata tertimbang lebih besar dari rata-rata tidak tertimbang

Peninjau buku saya menanyakan alasan mengapa saya menggunakan data tidak tertimbang, alih-alih data tertimbang. Saya telah membahas masalah ini dengan seorang ahli statistik dan tanggapannya sejalan

Jika Anda memiliki pengamatan independen dan Anda mengambil rata-rata keseluruhan, variansnya selalu lebih kecil dari varians dari mean tertimbang sebagai estimator. ... Jadi interval kepercayaan akan diperlebar!

Sejak itu saya menemukan pertanyaan berikut di situs web ini, dan dari pemahaman saya, mereka menyarankan bahwa variansnya harus sama. Jadi, bisakah seseorang, tolong, dengan pikiran yang lebih berbakat secara statistik daripada saya, tolong konfirmasikan respons dari ahli statistik dan jelaskan secara teori, atau dengan contoh yang berhasil.

variance weighted-mean weighted-data

— pengguna08041991
sumber

Jika "bobot" sebenarnya frekuensi pengamatan atau populasi, maka mereka harus digunakan, karena jumlah yang tidak tertimbang tidak ada artinya. Kutipan ahli statistik Anda mungkin benar untuk populasi dengan distribusi unimodal, meskipun secara umum tidak harus benar.

— Henry

Akan cukup mudah untuk memberikan contoh yang berfungsi dengan lebih banyak konteks. Apa yang diwakili oleh bobot? Apakah Anda berbicara tentang varian mean sampel? Apakah sampel dari populasi terbatas? Dengan atau tanpa penggantian?

— Henry

Katakanlah kami telah mengumpulkan serangkaian pengukuran detak jantung dari sampel orang di rumah sakit. Faktor pembobotan kemudian dapat diterapkan pada setiap individu untuk mengukur pengukuran agar mencerminkan estimasi nasional atau populasi - dengan membandingkan serangkaian perancu (misalnya usia, tinggi, berat, dll).

— user08041991

Pertanyaan yang Anda tautkan adalah tentang bobot frekuensi. Apakah itu yang kamu miliki?

— mdewey

Rerata nilai-nilai adalah tertimbang rata dengan bobot . Ketika independen, aturan dasar varian menyiratkan Ketika selain itu semuanya memiliki varian yang sama , ini disederhanakan menjadi kali . Karena bobot positif dan jumlah untuk kesatuan, diminimalkan hanya ketika . Dalam hal ini ahli statistik itu benar.

n

$n$

x_{i}

$x_i$

\bar{x} = \sum_{i} w_{i} x_{i}

$\bar x=\sum_iw_ix_i$

w_{i} = 1 / n

$w_i=1/n$

x_{i}

$x_i$

\begin{matrix} (1) & Var (\bar{x}) = \sum_{i} w_{i}^{2} Var (x_{i}) . \end{matrix}

$\operatorname{Var}(\bar x) =\sum_iw_i^2 \operatorname{Var}(x_i).\tag{1}$

x_{i}

$x_i$

σ^{2}

$\sigma^2$

\sum w_{i}^{2}

$\sum w_i^2$

σ^{2}

$\sigma^2$

(1)

$(1)$

w_{i} = 1 / n

$w_i=1/n$ Kesimpulan umum ini tidak tergantung pada properti lain dari distribusi , seperti unimodality.

x_{i}

$x_i$

— whuber

Jawaban:

Pertanyaan Anda yang ditautkan ditangani dengan menggunakan bobot sebagai cara pintas untuk menangani perbedaan per poin data yang sama berbobotnya di mana beberapa titik data muncul lebih dari satu kali.

@whuber telah membahas dalam komentar tentang situasi di mana varian semua titik data sama. Jadi saya akan membahas situasi di mana mereka tidak sama. Dalam situasi inilah rata-rata tertimbang yang optimal menghasilkan varian yang lebih rendah daripada rata-rata yang tidak berbobot, yaitu rata-rata yang sama-sama berbobot.

Mean tertimbang, menggunakan bobot , sama dengan , dan memiliki varian = . Jadi kami ingin meminimalkan , tunduk pada dan untuk semua i. $w_i$ $\Sigma_{i=1}^n{w_i x_i}$ $\Sigma_{i=1}^n{w_i^2 Var(x_i)}$ $\Sigma_{i=1}^n{w_i^2 Var(x_i)}$ $\Sigma_{i=1}^n{w_i} = 1$ $w_i \ge 0$

Kondisi Karush-Kuhn-Tucker, yang diperlukan dan cukup untuk minimum global untuk masalah ini, mengingat bahwa itu adalah masalah Pemrograman Kuadratik cembung, menghasilkan solusi bentuk tertutup, yaitu:

optimal untuk 1 = 1 .. n. $w_i = [1/Var(x_i)]/\Sigma_{j=1}^n{[1/Var(x_j)]}$

rata-rata tertimbang optimal yang sesuai = . $1/\Sigma_{i=1}^n{[1/Var(x_i)]}$

Sebaliknya, bobot yang sama berarti untuk semua i, di mana n adalah jumlah titik data. Seperti yang ditunjukkan oleh whuber, bobot yang sama adalah optimal jika semua varian titik data sama, yang dapat dilihat dari rumus di atas untuk optimal . Namun, sebagaimana dibuktikan oleh formula itu, bobot yang sama tidak optimal jika varians titik data tidak semuanya sama, dan memang menghasilkan varians yang lebih besar (dari rata-rata tertimbang) daripada bobot optimal. Varians dari rata-rata tertimbang sama, yaitu, varian dari rata-rata tertimbang menggunakan bobot yang sama = . $w_i = \frac{1}{n}$ $w_i$ $\frac{1}{n^2}\Sigma_{i=1}^n{Var(x_i)}$

Berikut adalah beberapa contoh hasil numerik:

Ada dua titik data, yang memiliki varian masing-masing 1 dan 4. Rata-rata tidak tertimbang memiliki varians = 1,25. Mean tertimbang menggunakan bobot optimal masing-masing 0,8 dan 0,2, memiliki varians = 0,8, yang tentu saja kurang dari 1,25.
Ada tiga titik data, masing-masing memiliki varian 1, 4, dan 9. Rata-rata tidak tertimbang memiliki varians = 1,5556. Rata-rata tertimbang menggunakan bobot optimal masing-masing 0,7347, 0,1837, 0,0816, memiliki varians = 0,7347, yang tentu saja kurang dari 1,5556.

Tentu saja, mungkin untuk mean tertimbang untuk memiliki varian yang lebih besar dari rata-rata tidak tertimbang, jika bobot dipilih dengan cara yang buruk. Dengan memilih bobot 1 pada titik data dengan varians terbesar, dan 0 untuk semua poin data lainnya, mean tertimbang akan memiliki varians = varians terbesar dari setiap titik data. Contoh ekstrem ini akan menjadi hasil dari memaksimalkan daripada meminimalkan dalam masalah optimasi yang saya paparkan.

— Mark L. Stone
sumber

Saya bingung tentang referensi Anda ke masing-masing titik data yang memiliki varian (mis. Ada dua titik data, masing-masing memiliki varian 1 dan 4), dapatkah Anda jelaskan?

— edstatsuser

Mengatakan titik data memiliki varians tertentu sangat mudah untuk mengatakan bahwa diambil dari populasi (variabel acak) yang memiliki varians itu. Jadi titik data yang berbeda dapat diambil dari populasi yang berbeda, karena ini tidak dianggap sebagai sampling iid.

x_{i}

$x_i$

x_{i}

$x_i$

— Mark L. Stone

Ini adalah contoh sederhana menggunakan dan bentuk varians: $\frac1n\sum_i\left(x_i-\frac1n\sum_j x_j\right)^2$ $\frac1{\sum_k w_k}\sum_i w_i\left(x_i-\frac1{\sum_k w_k}\sum_j w_j x_j\right)^2$

Misalkan populasi Anda memiliki ukuran . $20,30,40,50$

Rata-rata tidak tertimbang adalah dan varians adalah $35$ $125$
Dengan bobot masing-masing -rata tertimbang adalah dan varian tertimbang adalah $1000,4000,3000,2000$ $36$ $84$
Dengan bobot masing-masing -rata tertimbang adalah dan varians tertimbang adalah $3000,2000,1000,4000$ $36$ $164$

Contoh ini konsisten dengan komentar saya bahwa kutipan ahli statistik Anda mungkin benar untuk populasi dengan distribusi unimodal, meskipun secara umum tidak perlu benar.

Saya kira intinya adalah bahwa jika Anda mengutip mean tertimbang, Anda mungkin harus mengaitkannya dengan varian tertimbang. Jika sebenarnya mean Anda adalah hasil sampel, kesalahan standar rata-rata sampel tertimbang adalah perhitungan yang lebih rumit.

— Henry
sumber

Jawaban ini tampaknya membingungkan varians sampel (atau populasi terbatas) dengan varian distribusi sampling rata-rata (atau rata-rata tertimbang). Akibatnya itu termasuk pernyataan yang tampaknya tidak benar dan mungkin menyesatkan.

— whuber