Balls dan analisis Bins di

Misalkan kita melemparkan bola ke dalam bin, di mana . Biarkan menjadi jumlah bola yang berakhir di nampan , menjadi nampan terberat, menjadi nampan teringan, dan menjadi nampan terberat kedua. Secara kasar, , jadi kami berharap untuk dua tetap . Menggunakan ikatan gabungan, kami berharap ; agaknya, kita bisa mendapatkan batas bawah yang cocok dengan mempertimbangkan $m$ $n$ $m \gg n$ $X_i$ $i$ $X_\max$ $X_\min$ $X_{\mathrm{sec-max}}$ $X_i - X_j \sim N(0,2m/n)$ $|X_i - X_j| = \Theta(\sqrt{m/n})$ $i,j$ $X_{\max} - X_{\min} = O(\sqrt{m\log n/n})$ $n/2$ pasang tempat sampah terpisah. Argumen (tidak sepenuhnya formal) ini membuat kita berharap bahwa kesenjangan antara $X_{\max}$ dan $X_{\min}$ adalah $\Theta(\sqrt{m\log n/n})$ dengan probabilitas tinggi.

Saya tertarik pada kesenjangan antara $X_\max$ dan $X_{\mathrm{sec-max}}$ . Argumen yang diuraikan di atas menunjukkan bahwa $X_\max - X_{\mathrm{sec-max}} = O(\sqrt{m\log n/n})$ dengan probabilitas tinggi, tetapi faktor $\sqrt{\log n}$ tampaknya tidak cocok . Adakah yang diketahui tentang distribusi $X_\max - X_{\mathrm{sec-max}}$ ?

Lebih umum, anggaplah bahwa setiap bola dikaitkan dengan non-negatif skor untuk setiap bin, dan kami tertarik dalam skor total masing-masing bin setelah melempar $m$ bola. Skenario yang biasa sesuai dengan skor formulir $(0,\ldots,0,1,0,\ldots,0)$ . Misalkan distribusi probabilitas skor tidak berubah di bawah permutasi dari tempat sampah (dalam skenario biasa, ini sesuai dengan kenyataan bahwa semua tempat sampah bisa dilengkapi). Mengingat distribusi skor, kita dapat menggunakan metode paragraf pertama untuk mendapatkan ikatan yang baik pada $X_{\max} - X_{\min}$ . Terikat akan mengandung faktor $\sqrt{\log n}$ yang berasal dari ikatan gabungan (melalui probabilitas ekor dari variabel normal). Bisakah faktor ini dikurangi jika kita tertarik untuk membatasi $X_{\max} - X_{\mathrm{sec-max}}$ ?

reference-request pr.probability

— Yuval Filmus
sumber

Setiap skor ada di [0,1]?

— Neal Young

Tidak masalah, Anda selalu bisa menskalakannya sehingga menjadi .

[0, 1]

$[0,1]$

— Yuval Filmus

Jawaban:

Jawab: . $\Theta\left(\sqrt{\frac{m}{n\log n}}\right)$

Menerapkan versi multidimensi dari Teorema Limit Pusat, kita mendapatkan bahwa vektor memiliki distribusi Gaussian multivariat asimptotik dengan dan Kami akan menganggap di bawah ini bahwa adalah vektor Gaussian (dan tidak hanya sekitar vektor Gaussian). Mari kita tambahkan variabel acak Gaussian dengan varians untuk semua ( independen dari semua ). Ya, biarkan $(X_1,\dots, X_n)$

V a r [X_{i}] = m (\frac{1}{n} - \frac{1}{n^{2}}),

$\mathrm{Var}[X_i] = m\left(\frac{1}{n} - \frac{1}{n^2}\right),$

C o v (X_{i}, X_{j}) = - m / n^{2} .

$\mathrm{Cov}(X_i, X_j) = -m/n^2.$

X

$X$

Z

$Z$

m / n^{2}

$m/n^2$

X_{i}

$X_i$

Z

$Z$

X_{i}

$X_i$

(\begin{matrix} Y_{1} \\ Y_{2} \\ ⋮ \\ Y_{n} \end{matrix}) = (\begin{matrix} X_{1} + Z \\ X_{2} + Z \\ ⋮ \\ X_{n} + Z \end{matrix}) .

$\begin{pmatrix} Y_1\\Y_2\\ \vdots\\Y_n \end{pmatrix} = \begin{pmatrix} X_1+Z\\X_2+Z\\ \vdots\\X_n +Z \end{pmatrix}.$ Kami mendapatkan vektor Gaussian . Sekarang setiap memiliki varian : dan semua independen:

(Y_{1}, \dots, Y_{n})

$(Y_1, \dots, Y_n)$

Y_{i}

$Y_i$

m / n

$m/n$

V a r [Y_{i}] = V a r [X_{i}] + \underset{= 0}{\underset{⏟}{2 C o v (X_{i}, Z)}} + V a r [Z] = m / n,

$\mathrm{Var}[Y_i] = \mathrm{Var}[X_i] + \underbrace{2\mathrm{Cov}(X_i,Z)}_{=\, 0}+\mathrm{Var}[Z] = m/n,$

Y_{i}

$Y_i$

C o v (Y_{i}, Y_{j}) = C o v (X_{i}, X_{j}) + \underset{= 0}{\underset{⏟}{C o v (X_{i}, Z) + C o v (X_{j}, Z)}} + C o v (Z, Z) = 0.

$\mathrm{Cov}(Y_i, Y_j) = \mathrm{Cov}(X_i, X_j) + \underbrace{\mathrm{Cov}(X_i,Z) + \mathrm{Cov}(X_j,Z)}_{=\, 0} +\mathrm{Cov}(Z, Z) = 0.$

Perhatikan bahwa . Dengan demikian masalah awal kita setara dengan masalah menemukan . Mari kita pertama-tama untuk menganalisis kasus ketika semua memiliki varian . $Y_i - Y_j = X_i - X_j$ $Y_{\mathrm{max}} - Y_{\mathrm{sec-max}}$ $Y_i$ $1$

Masalah. Kami diberi Gaussian rv dengan mean dan varians . Perkirakan ekspektasi . $n$ $\gamma_1,\dots, \gamma_n$ $\mu$ $1$ $\gamma_{\mathrm{max}} - \gamma_{\mathrm{sec-max}}$

Jawab: . $\Theta\left(\frac{1}{\sqrt{\log n}}\right)$

Bukti Informal. Ini adalah solusi informal untuk masalah ini (tidak sulit untuk membuatnya formal). Karena jawabannya tidak tergantung pada rata-rata, kami menganggap bahwa . Biarkan , di mana . Kami memiliki (untuk cukup besar ), $\mu = 0$ $\bar\Phi(t) = \Pr[\gamma > t]$ $\gamma\sim{\cal N}(0,1)$ $t$

\bar{Φ} (t) \approx \frac{1}{\sqrt{2 π} t} e^{- \frac{1}{2} t^{2}} .

$\bar\Phi(t)\approx \frac{1}{\sqrt{2\pi}t} e^{-\frac{1}{2}t^2}.$

Catat itu

$\Phi(\gamma_i)$ secara seragam dan independen pada , $[0,1]$
$\Phi(\gamma_{\mathrm{max}})$ adalah yang terkecil di antara , $\Phi(\gamma_i)$
$\Phi(\gamma_{\mathrm{sec-max})}$ adalah yang terkecil kedua di antara . $\Phi(\gamma_i)$

Jadi dekat dengan dan dekat dengan (tidak ada konsentrasi tetapi jika kita tidak ' Tidak peduli dengan konstanta, perkiraan ini cukup baik; bahkan, mereka cukup baik jika kita peduli dengan konstanta - tetapi itu membutuhkan pembenaran). Dengan menggunakan rumus untuk , kita mendapatkan $\Phi(\gamma_{\mathrm{max}})$ $1/n$ $\Phi(\gamma_{\mathrm{max}})$ $2/n$ $\bar\Phi(t)$

2 \approx \bar{Φ} (γ_{s e c - m a x}) / \bar{Φ} (γ_{m a x}) \approx e^{\frac{1}{2} (γ_{m a x}^{2} - γ_{s e c - m a x}^{2})} .

$2\approx \bar\Phi(\gamma_{\mathrm{sec-max}})\left/\bar\Phi(\gamma_{\mathrm{max}})\right. \approx e^{\frac{1}{2}\left(\gamma_{\mathrm{max}}^2 - \gamma_{\mathrm{sec-max}}^2\right)}.$

Jadi adalah whp Perhatikan bahwa . Kami punya, $\gamma_{\mathrm{max}}^2 - \gamma_{\mathrm{sec-max}}^2$ $\Theta(1)$ $\gamma_{\mathrm{max}}\approx \gamma_{\mathrm{sec-max}} = \Theta(\sqrt{\log n})$

γ_{m a x} - γ_{s e c - m a x} \approx \frac{Θ (1)}{γ_{m a x} + γ_{s e c - m a x}} \approx \frac{Θ (1)}{\sqrt{\log n}} .

$\gamma_{\mathrm{max}} - \gamma_{\mathrm{sec-max}}\approx \frac{\Theta(1)}{\gamma_{\mathrm{max}} + \gamma_{\mathrm{sec-max}}} \approx \frac{\Theta(1)}{\sqrt{\log n}}.$

QED

Kami mengerti

\begin{aligned} E [X_{m a x} - X_{s e c - m a x}] & = E [Y_{m a x} - Y_{s e c - m a x}] \\ = \sqrt{V a r [Y_{i}]} \times E [γ_{m a x} - γ_{s e c - m a x}] = Θ (\sqrt{\frac{m}{n \log n}}) . \end{aligned}

$\begin{align} \mathbb{E}[{X_{\mathrm{max}} - X_{\mathrm{sec-max}}}] &= \mathbb{E}[{Y_{\mathrm{max}} - Y_{\mathrm{sec-max}}}] \\ &= \sqrt{\mathrm{Var}[Y_i]} \times\mathbb{E}[{\gamma_{\mathrm{max}} - \gamma_{\mathrm{sec-max}}}] = \Theta\left(\sqrt{\frac{m}{n\log n}}\right). \end{align}$

Argumen yang sama terjadi ketika kita memiliki skor arbitrer. Ini menunjukkan bahwa
$E [X_{m a x} - X_{s e c - m a x}] = c E [X_{m a x} - X_{m i n}] / \log n .$ $\mathbb{E}[X_{\mathrm{max}}- X_{\mathrm{sec-max}}] = c\, \left. \mathbb{E}[X_{\mathrm{max}}- X_{\mathrm{min}}]\right/\log n.$

— Yury
sumber

Terima kasih! Saya akan ingat untuk mencoba pendekatan Gaussian multivarian di lain waktu.

— Yuval Filmus

Yury, Anda menulis "Mari kita tambahkan vektor Gaussian dengan varian ke semua . Kami mendapatkan vektor Gaussian . Sekarang setiap memiliki varian dan semua tidak berkorelasi ... Perhatikan bahwa . " Bisakah Anda memperluas bagian ini? Apakah ? Jika 's dependen, dan 's independent (atau seragam sama), bagaimana 's independent? (Tampak seperti trik yang rapi tetapi saya tidak memahaminya.) Terima kasih.

Z

$Z$

m / n^{2}

$m/n^2$

X_{i}

$X_i$

(Y_{1}, \dots, Y_{n})

$(Y_1, \dots, Y_n)$

Y_{i}

$Y_i$

m / n

$m/n$

Y_{i}

$Y_i$

Y_{i} - Y_{j} = X_{i} - X_{j}

$Y_i - Y_j = X_i - X_j$

Z_{i} = Z_{j}

$Z_i = Z_j$

X_{i}

$X_i$

Z_{i}

$Z_i$

Y_{i}

$Y_i$

— Neal Young

@NealYoung, ya, jika kita memiliki variabel dengan korelasi berpasangan negatif dan semua covariances yang sama , maka kita dapat menambahkan satu baru variabel acak untuk semua sehingga jumlahnya independen. Juga, jika variabel memiliki korelasi positif dan sekali lagi semua kovarian sama maka kita dapat mengurangi satu rv dari semuanya sehingga semua perbedaannya independen; tetapi sekarang tidak independen dari melainkan

X_{1}, \dots, X_{n}

$X_1,\dots,X_n$

C o v (X_{i}, X_{j})

$\mathrm{Cov}(X_i,X_j)$

Z

$Z$

X_{i}

$X_i$

C o v (X_{i}, X_{j})

$\mathrm{Cov}(X_i,X_j)$

Z

$Z$

Z

$Z$

X_{i}

$X_i$

Z = α (X_{1} + \dots + X_{n})

$Z=\alpha (X_1 + \dots+X_n)$ untuk beberapa parameter penskalaan .

α

$\alpha$

— Yury

Ah saya mengerti. setidaknya secara aljabar, yang menjadi adalah kemandirian berpasangan dari Z dan masing-masing . sangat keren.

X_{i}

$X_i$

— Suresh Venkat

Argumen ini sekarang muncul (dengan atribusi) dalam makalah EC'14 : dl.acm.org/citation.cfm?id=2602829 .

— Yuval Filmus

Untuk pertanyaan pertama Anda, saya pikir Anda dapat menunjukkan bahwa whp adalah Perhatikan bahwa ini adalah . $X_{\max}-X_{\textrm{sec-max}}$

o (\sqrt{\frac{m}{n} \frac{\log^{2} \log n}{\log n}}) .

$o\left(\sqrt{\frac{m}{n}\frac{\log^2\log n}{\log n}}\right).$

o (\sqrt{m / n})

$o(\sqrt{m/n})$

Bandingkan eksperimen acak Anda dengan alternatif berikut: Biarkan menjadi beban maksimum dari salah satu dari bucket pertama . Biarkan menjadi beban maksimum dari salah satu dari bucket terakhir . $X_1$ $n/2$ $X_2$ $n/2$

Sebagai pertimbangan,adalah batas atas pada . Juga, dengan probabilitas setidaknya satu setengah, . Jadi, secara kasar, didistribusikan dengan cara yang sama dengan. $|X_1-X_2|$ $X_{\max}-X_{\mathrm{sec-max}}$ $|X_1-X_2| = X_{\max}-X_{\mathrm{sec-max}}$ $X_{\max}-X_{\mathrm{sec-max}}$ $|X_1-X_2|$

Untuk belajar, catat bahwa dengan probabilitas tinggi bola dilemparkan ke nampan pertama, dan juga untuk nampan terakhir. Jadi masing-masing dan didistribusikan pada dasarnya seperti beban maksimum ketika melempar bola ke dalam nampan. $|X_1-X_2|$ $m/2\pm O(\sqrt m)$ $n/2$ $n/2$ $X_1$ $X_2$ $m' = m/2\pm o(m)$ $n' = n/2$

Distribusi ini dipelajari dengan baik dan, untungnya untuk argumen ini, sangat terkonsentrasi di sekitar rata-ratanya. Sebagai contoh, jika , maka dengan probabilitas tinggi berbeda dari yang diharapkan oleh paling banyak kuantitas yang ditampilkan di bagian atas jawaban ini [ Thm. 1 ]. (Catatan: batas atas ini, saya pikir, longgar, diberikan jawaban Yuri.) Jadi, dengan probabilitas tinggi dan juga berbeda paling banyak, dan juga dan paling banyak berbeda sebanyak ini. $m' \gg n\log^3 n$ $X_1$ $X_1$ $X_2$ $X_{\max}$ $X_{\mathrm{max-sec}}$

Sebaliknya, untuk batas bawah (agak lebih lemah), jika, untuk apa pun , katakanlah, , lalu setidaknya yang (berdasarkan batas serikat naif) setidaknya Saya pikir ini harus memberi Anda (misalnya) harapan dalam faktor kontan. $t$ $\Pr[|X_1-X_2| \ge t] \ge 3/4$ $\Pr[X_{\max}-X_{\textrm{sec-max}} \ge t]$

Pr [| X_{1} - X_{2} | \geq t \land X_{max} - X_{sec-max} = | X_{1} - X_{2} |]

$\Pr\big[|X_1-X_2| \ge t ~\wedge~ X_{\max}-X_{\textrm{sec-max}} = |X_1-X_2|\big]$

1 - (1 / 4) - (1 / 2) = 1 / 4.

$1 - (1/4) - (1/2) = 1/4.$

X_{max} - X_{sec-max}

$X_{\max}-X_{\textrm{sec-max}}$

— Neal Young
sumber

Melihat Thm. 1, perbedaan dari harapan adalah , dan bukan apa yang Anda tulis. Itu masih jauh lebih baik daripada .

O (\sqrt{(m / n) \log \log n})

$O(\sqrt{(m/n) \log \log n})$

O (\sqrt{(m / n) \log n})

$O(\sqrt{(m/n) \log n})$

— Yuval Filmus

Oleh Thm. 1 (kasus ke-3), untuk setiap , dengan probabilitas , maksimum dalam setiap bin (bola m dalam n bins) adalah Dengan matematika saya (menggunakan ), istilah diperluas ke istilah absolut tambahan dariApa yang saya lakukan salah?

ϵ > 0

$\epsilon>0$

1 - o (1)

$1-o(1)$

\frac{m}{n} + \sqrt{\frac{2 m \log n}{n}} \sqrt{1 - (1 \pm ϵ) \frac{\log \log n}{2 \log n}} .

$\frac{m}{n} +\sqrt{\frac{2m\log n}{n}}\sqrt{1-(1\pm\epsilon) \frac{\log\log n}{2\log n}}.$

\sqrt{1 - δ} = 1 - O (δ)

$\sqrt{1-\delta} = 1 - O(\delta)$

\pm ϵ

$\pm\epsilon$

O (ϵ) \sqrt{\frac{m \log n}{n}} \frac{\log \log n}{\log n} = O (ϵ) \sqrt{\frac{m}{n} \frac{\log^{2} \log n}{\log n}} .

$O(\epsilon) \sqrt{\frac{m\log n}{n}}~\frac{\log\log n}{\log n} ~=~O(\epsilon) \sqrt{\frac{m}{n}~\frac{\log^2\log n}{\log n}}.$

— Neal Young

Ah - saya kira Anda benar. Saya mengurangi di dalam akar kuadrat dan itulah cara saya mendapatkan sosok saya.

— Yuval Filmus