Varians maksimum variabel acak Gaussian

Diberikan variabel acak $X_1,X_2, \cdots, X_n$ sampel iid dari $\sim \mathcal{N}(0, \sigma^2)$ , tentukan

Z = max_{i \in {1, 2, \dots, n}} X_{i}

$Z = \max_{i \in \{1,2,\cdots, n \}} X_i$

Kami memilikinya $\mathbb{E}[Z] \le \sigma \sqrt{2 \log n}$ . Saya bertanya-tanya apakah ada batas atas / bawah pada $\text{Var}(Z)$ ?

— setan
sumber

Hanya untuk membantu Anda memulai, saya pikir Anda akan menemukan bahwa

V a r (Z) \leq σ^{2}

$Var(Z) \le \sigma^2$ (persamaan dicapai pada n = 1), dan Var (Z) berkurang dengan meningkatnya n. Saya serahkan kepada Anda untuk memberikan ikatan yang lebih ketat sebagai fungsi dari n.

— Mark L. Stone

Sampel maks dikurangi sampel min dikenal sebagai rentang pelajar dan mengikuti distribusi rentang pelajar jika variabel acak yang mendasari adalah IID normal. Setidaknya itu samar-samar terkait dengan apa yang Anda tanyakan ... (bisa memberikan titik awal untuk membaca). Kembali ke pertanyaan spesifik Anda, saya yakin Anda bisa menulis simulasi Monte-Carlo dengan mudah untuk menemukan jawaban praktis.

— Matthew Gunn

Kedua jawaban untuk stats.stackexchange.com/questions/105745 memberikan perkiraan untuk standar deviasi (dan karenanya untuk varians), menggunakan analisis yang dapat menghasilkan batas atas atau bawah.

— whuber

Terkait: stats.stackexchange.com/questions/77110/…

— b halvorsen

Jawaban:

Anda dapat memperoleh batas atas dengan menerapkan ketimpangan Talagrand: lihat buku Chatterjee (misalnya fenomena Superconcentration).

Ini memberi tahu Anda bahwa . ${\rm Var}(f)\leq C\sum_{i=1}^n\frac{\|\partial_if\|_2^2}{1+\log( \|\partial_i f||_2/\|\partial_i f\|_1)}$

Untuk maksimum, Anda mendapatkan , kemudian dengan mengintegrasikan sehubungan dengan ukuran Gaussian di Anda mendapatkan oleh simetri. (Di sini saya memilih semua rv iid saya dengan varian satu). $\partial_if=1_{X_i=max}$ $\mathbb{R}^n$ $\|\partial_if\|_2^2=\|\partial_if\|_1=\frac{1}{n}$

Ini urutan sebenarnya dari varian: karena Anda memiliki batas atas pada harapan maksimum, artikel Eldan-Ding Zhai ini (Pada beberapa puncak dan deviasi moderat Gaussian supremum) memberi tahu Anda bahwa
${\rm Var}(\max X_i)\geq C/(1+\mathbb{E}[\max X_i])^2$

Dimungkinkan juga untuk memperoleh ketimpangan konsentrasi yang tajam yang merefleksikan ikatan ini pada varians: Anda dapat melihat http://www.wisdom.weizmann.ac.il/mathusers/gideon/papers/ranDv.pdf atau, untuk proses gaussian yang lebih umum , di makalah saya https://perso.math.univ-toulouse.fr/ktanguy/files/2012/04/Article-3-brouillon.pdf

Secara umum, agak sulit untuk menemukan urutan yang tepat dari besarnya varian Gaussien supremum karena alat dari teori konsentrasi selalu suboptimal untuk fungsi maksimum.

Mengapa Anda membutuhkan estimasi semacam ini jika saya boleh bertanya?

— Kevin Tanguy
sumber

Perhatikan bahwa ketimpangan Talagrand, merupakan peningkatan dari ketidaksetaraan Poincaré yang puas dengan ukuran Gaussian standar. Ada lebih banyak tentang ini dalam artikel Cordero-Ledoux "langkah-langkah Hypercontractive, ketidaksetaraan dan pengaruh Talagrand".

— Tanguy Kevin

Terima kasih banyak. Ini sangat membantu. Saya berhadapan dengan masalah di mana saya mencoba untuk mengikat probabilitas kesalahan dalam memperkirakan lamanya berjalan 0 dalam aliran bit dari pengamatan melalui saluran penghapusan. Setelah perkiraan Gaussian, max tampaknya menjadi estimator alami, dan saya menemukan membatasi kinerjanya cukup non-sepele. Dalam masalah khusus saya, saya bisa menemukan cara mengatasinya dengan menguranginya menjadi masalah estimasi Gaussian MMSE.

— Devil

@TanguyKevin apa C di batas bawah?

— xsari3x

Secara umum, ekspektasi dan varian dari kisaran tergantung pada seberapa gemuk ekor distribusi Anda. Untuk varians, itu adalah mana tergantung pada distribusi Anda ( untuk seragam, untuk Gaussian, dan untuk eksponensial.) Lihat di sini . Tabel di bawah ini menunjukkan urutan besarnya untuk rentang. $O(n^{-B})$ $B$ $B = 2$ $B = 1$ $B = 0$

— Vincent Granville
sumber