Ekspektasi Jumlah Angka K tanpa penggantian

Mengingat $n$ angka, di mana nilai setiap nomor berbeda, dilambangkan sebagai $v_1, v_2, ..., v_n$ , dan probabilitas memilih setiap nomor adalah $p_1, p_2, ..., p_n$ , masing-masing.

Sekarang jika saya memilih nomor $K$ berdasarkan probabilitas yang diberikan, di mana $K \leq n$ , apa harapan dari jumlah angka-angka $K$ ? Perhatikan bahwa pemilihan tanpa penggantian, sehingga angka $K$ tidak dapat melibatkan angka duplikat. Saya mengerti bahwa jika pemilihannya adalah dengan penggantian, harapan jumlah dari angka $K$ sama dengan $K \times E(V)$ , di mana

E (V) = v_{1} \times p_{1} + v_{2} \times p_{2} + . . . + v_{n} \times p_{n} .

$E(V) = v_1 \times p_1 + v_2 \times p_2 + ... + v_n \times p_n.$

Selanjutnya, bagaimana dengan ekspektasi varians dari angka-angka $K$ ?

Saya seorang mahasiswa PhD CS yang sedang mengerjakan masalah big data, dan saya tidak memiliki latar belakang statistik. Saya berharap seseorang dapat memberi saya formula sebagai jawabannya. Namun, jika jawabannya terlalu rumit untuk dijelaskan dengan rumus atau perhitungan intensif harus dilibatkan, jawaban perkiraan sangat dapat diterima.

Anda dapat mengasumsikan $n$ sini cukup besar, dan probabilitasnya bisa sangat bervariasi. Dalam praktiknya, nilai probabilitas tersebut berasal dari log kueri, yang mencatat serangkaian kueri agregasi. Intinya adalah bahwa frekuensi setiap angka yang terlibat dalam kueri bisa sangat miring, yaitu, beberapa jarang ditanyakan, sementara beberapa sering ditanyakan. Anda dapat mengasumsikan distribusi probabilitas adalah distribusi normal, distribusi zipf atau alternatif masuk akal lainnya.

Distribusi nilai hanya bagian yang berdekatan dari setiap distribusi yang mungkin. Dengan kata lain, jika Anda memiliki histogram yang mewakili distribusi tertentu, semua angka yang terlibat dalam masalah ini adalah semua angka dalam satu ember.

Dalam hal nilai K, Anda dapat menganggap itu selalu kurang dari jumlah elemen yang sering ditanyakan.

probability

— SciPioneer
sumber

Ekspektasi varian jumlah akan berbeda tanpa penggantian; Anda akan memerlukan faktor koreksi populasi terbatas jika tidak ada penggantian. (Untuk melihat ini secara intuitif, perhatikan bahwa jika K = n varians dari penjumlahan adalah nol, karena itu akan selalu menjadi angka yang sama; sehingga ketika K mendekati n varians dari penjumlahan akan lebih rendah.)

— zbicyclist

Pertanyaan ini mungkin lebih sulit daripada kelihatannya. Pertimbangkan case

dan

. Jumlah yang diharapkan dari dua nilai yang diambil dengan penggantian adalah

yang merupakan dua kali jumlah yang diharapkan dari satu nilai saja; tetapi jumlah yang diharapkan dari dua nilai yang ditarik tanpa penggantian jelas adalah

kecuali ketika

n = 2

$n=2$

(v_{1}, v_{2}) = (0, 1)

$(v_1,v_2)=(0,1)$

2 p_{2}

$2p_2$

v_{1} + v_{2} = 1 \neq 2 p_{2}

$v_1+v_2=1\ne 2p_2$

p_{1} = p_{2} = 1 / 2

$p_1=p_2=1/2$

— whuber

@ zbicyclist Mungkin saya tidak menyatakan masalah dengan jelas. Dalam skenario saya, jika K = N, maka varians dari angka-angka K akan menjadi varians dari populasi umum daripada 0.

— SciPioneer

(1) Bagi saya ini bukan masalah belajar mandiri : sepertinya masalah terapan yang sebenarnya. (2) Seberapa besar

mungkin ? Solusi yang tepat terlihat tidak praktis kecuali ketika semua himpunan bagian dapat disebutkan. (3) Jika

bisa lebih besar dari

atau lebih, menghalangi penghitungan cepat, apa yang dapat Anda katakan tentang

? Misalnya, dapatkah mereka berbeda atau apakah mereka semua hampir mendekati

? Ini dapat menginformasikan upaya untuk menemukan jawaban perkiraan.

n

$n$

n

$n$

20

$20$

p_{i}

$p_i$

1 / n

$1/n$

— whuber

N

$N$

K

$K$

v_{i}

$v_i$

p_{i}

$p_i$

K max (p_{i}) ≪ 1

$K\max(p_i)\ll 1$

p_{i}

$p_i$

p_{i} > 1 / K

$p_i\gt 1/K$

i

$i$

K \approx N / 2

$K\approx N/2$

Ini mungkin dalam sifat jawaban yang, meskipun akurat, mungkin tidak berguna. Horvitz dan Thompson (1952) memberikan hasil yang mencakup situasi ini secara umum. Hasil ini diberikan dalam bentuk ekspresi kombinatorial yang mungkin diharapkan.

Agar tetap konsisten dengan notasi mereka, dan agar lebih sesuai dengan notasi yang lebih banyak digunakan, izinkan saya mendefinisikan kembali sejumlah kuantitas. Biarkan menjadi jumlah elemen dalam populasi dan menjadi ukuran sampel. $N$ $n$

Misalkan , , mewakili elemen populasi, dengan nilai yang diberikan , dan probabilitas pemilihan . Untuk sampel ukuran , biarkan nilai yang diamati dalam sampel menjadi . $u_i$ $i=1,...,N$ $N$ $V_i$ $i=1,...,N$ $p_1,...,p_N$ $n$ $v_1,..., v_n$

Apa yang diinginkan adalah mean dan varians dari total sampel

\sum_{i = 1}^{n} v_{i} .

$\sum_{i=1}^n v_i.$

Seperti yang disebutkan dalam komentar, probabilitas memilih sampel tertentu digambar dalam urutan itu adalah mana probabilitas awal dari gambar diberikan oleh , probabilitas kedua dari menggambar adalah syarat untuk menghapus dari populasi, dan sebagainya. Jadi, setiap unit yang ditarik berikutnya menghasilkan distribusi probabilitas baru untuk unit berikutnya (karenanya, pilihan huruf indikatif yang berbeda, karena masing-masing mewakili distribusi yang berbeda.) $s = \{u_i, u_j, ..., u_t\}$

Pr (s) = p_{i_{1}} p_{j_{2}} \dots p_{t_{n}},

$\textrm{Pr}(s) = p_{i_1}p_{j_2}\cdots p_{t_n},$

p_{i_{1}}

$p_{i_1}$

u_{i}

$u_i$

p_{i}

$p_i$

p_{j_{2}}

$p_{j_2}$

u_{j}

$u_j$

u_{i}

$u_i$

Ada sampel ukuran yang mengandung dari seluruh populasi. Perhatikan bahwa ini memperhitungkanpermutasi sampel.

S^{(i)} = n! (\binom{N - 1}{n - 1})

$S^{(i)} = n! \binom{N-1}{n-1}$

n

$n$

u_{i}

$u_i$

n!

$n!$

Misalkan menunjukkan sampel ukuran tertentu yang mencakup . Kemudian, probabilitas pemilihan elemen diberikan oleh mana penjumlahannya berada di atas set ukuran dari semua sampel yang mungkin dengan ukuran yang mengandung . (Saya sedikit mengubah notasi dari kertas karena terasa membingungkan bagi saya.) $s_n^{(i)}$ $n$ $u_i$ $u_i$

P (u_{i}) = \sum Pr (s_{n}^{(i)}),

$P(u_i) = \sum \textrm{Pr}(s_n^{(i)}),$

S^{(i)}

$S^{(i)}$

s_{n}^{(i)}

$s_n^{(i)}$

n

$n$

u_{i}

$u_i$

Demikian pula, definisikan sebagai jumlah sampel yang mengandung dan . Kemudian kita dapat mendefinisikan probabilitas sampel yang mengandung keduanya sebagai mana penjumlahannya berada di atas set ukuran dari semua sampel yang mungkin dengan ukuran yang mengandung dan .

S^{(i j)} = n! (\binom{N - 2}{n - 2})

$S^{(ij)} = n! \binom{N-2}{n-2}$

u_{i}

$u_i$

u_{j}

$u_j$

P (u_{i} u_{j}) = \sum Pr (s_{n}^{(i j)}),

$\textrm{P}(u_i u_j) = \sum \textrm{Pr}(s_n^{(ij)}),$

S^{(i j)}

$S^{(ij)}$

s_{n}^{(i j)}

$s_n^{(ij)}$

n

$n$

u_{i}

$u_i$

u_{j}

$u_j$

Nilai yang diharapkan kemudian diturunkan sebagai

E (\sum_{i = 1}^{n} v_{i}) = \sum_{i = 1}^{N} P (u_{i}) V_{i} .

$E \left( \sum_{i=1}^n v_i \right) = \sum_{i=1}^N \textrm{P}(u_i) V_i.$

Meskipun varians tidak berasal eksplisit di koran, itu bisa diperoleh dari expections dari th saat dan produk-silang $q$

E (\sum_{i = 1}^{n} v_{i}^{q}) = \sum_{i = 1}^{N} P (u_{i}) V_{i}^{q}

$E \left( \sum_{i=1}^n v_i^q \right) = \sum_{i=1}^N \textrm{P}(u_i) V_i^q$

E (\sum_{i \neq j}^{n} v_{i} v_{j}) = \sum_{i \neq j} P (u_{i} u_{j}) V_{i} V_{j} .

$E \left( \sum_{i \ne j}^n v_iv_j \right) = \sum_{i \ne j} \textrm{P}(u_i u_j) V_i V_j.$

Dengan kata lain, sepertinya seseorang perlu melalui semua himpunan bagian yang mungkin untuk melakukan perhitungan ini. Mungkin ini bisa dilakukan untuk nilai lebih kecil . $n$

Horvitz, DG dan Thompson, DJ (1952) Generalisasi pengambilan sampel tanpa penggantian dari alam semesta yang terbatas. Jurnal Asosiasi Statistik Amerika 47 (260): 663-685.

— jvbraun
sumber