Bagaimana kita bisa mengikat probabilitas bahwa variabel acak adalah maksimal?

$\newcommand{\P}{\mathbb{P}}$ Misalkan kita memiliki variabel acak independen , , dengan sarana hingga dan varian , , . Saya mencari batasan bebas distribusi dengan kemungkinan bahwa setiap lebih besar dari semua lainnya , . $N$ $X_1$ $\ldots$ $X_n$ $\mu_1 \leq \ldots \leq \mu_N$ $\sigma_1^2$ $\ldots$ $\sigma_N^2$ $X_i \neq X_N$ $X_j$ $j \neq i$

Dengan kata lain, jika untuk kesederhanaan kami menganggap distribusi $X_i$ adalah kontinu (sedemikian sehingga $\P(X_i = X_j) = 0$ ), saya mencari batasan pada:

P (X_{i} = max_{j} X_{j}) .

$\P( X_i = \max_j X_j ) \enspace.$ Jika

N = 2

$N=2$ , kita dapat menggunakan ketidaksetaraan Chebyshev untuk mendapatkan:

P (X_{1} = max_{j} X_{j}) = P (X_{1} > X_{2}) \leq \frac{σ_{1}^{2} + σ_{2}^{2}}{σ_{1}^{2} + σ_{2}^{2} + (μ_{1} - μ_{2})^{2}} .

$\P(X_1 = \max_j X_j) = \P(X_1 > X_2) \leq \frac{\sigma_1^2 + \sigma_2^2}{\sigma_1^2 + \sigma_2^2 + (\mu_1 - \mu_2)^2} \enspace.$ Saya ingin menemukan batas sederhana (tidak harus ketat) untuk

umum

N

$N$ , tetapi saya belum dapat menemukan (secara estetika) hasil yang menyenangkan untuk

umum

N

$N$ .

Harap dicatat bahwa variabel tidak dianggap iid. Setiap saran atau referensi untuk pekerjaan terkait dipersilakan.

Pembaruan: ingat bahwa dengan asumsi, $\mu_j \geq \mu_i$ . Kita kemudian dapat menggunakan batas di atas untuk sampai pada:

P (X_{i} = max_{j} X_{j}) \leq min_{j > i} \frac{σ_{i}^{2} + σ_{j}^{2}}{σ_{i}^{2} + σ_{j}^{2} + (μ_{j} - μ_{i})^{2}} \leq \frac{σ_{i}^{2} + σ_{N}^{2}}{σ_{i}^{2} + σ_{N}^{2} + (μ_{N} - μ_{i})^{2}} .

$\P(X_i = \max_j X_j) \leq \min_{j > i} \frac{\sigma_i^2 + \sigma_j^2}{\sigma_i^2 + \sigma_j^2 + (\mu_j - \mu_i)^2} \leq \frac{\sigma_i^2 + \sigma_N^2}{\sigma_i^2 + \sigma_N^2 + (\mu_N - \mu_i)^2} \enspace.$ Ini menyiratkan:

(μ_{N} - μ_{i}) P (X_{i} = max_{j} X_{j}) \leq (μ_{N} - μ_{i}) \frac{σ_{i}^{2} + σ_{N}^{2}}{σ_{i}^{2} + σ_{N}^{2} + (μ_{N} - μ_{i})^{2}} \leq \frac{1}{2} \sqrt{σ_{i}^{2} + σ_{N}^{2}} .

$( \mu_N - \mu_i ) \P( X_i = \max_j X_j ) \leq (\mu_N - \mu_i) \frac{\sigma_i^2 + \sigma_N^2}{\sigma_i^2 + \sigma_N^2 + (\mu_N - \mu_i)^2} \leq \frac{1}{2} \sqrt{ \sigma_i^2 + \sigma_N^2 } \enspace.$ Ini, pada gilirannya, menyiratkan:

\sum_{i = 1}^{N} μ_{i} P (X_{i} = max_{j} X_{j}) \geq μ_{N} - \frac{N}{2} \sqrt{\sum_{i = 1}^{N - 1} (σ_{i}^{2} + σ_{N}^{2})} .

$\sum_{i=1}^N \mu_i \P( X_i = \max_j X_j ) \geq \mu_N - \frac{N}{2} \sqrt{ \sum_{i=1}^{N-1} (\sigma_i^2 + \sigma_N^2) } \enspace.$ Saya sekarang bertanya-tanya apakah ini terikat dapat ditingkatkan untuk sesuatu yang tidak bergantung linear pada

N

$N$ . Misalnya, apakah yang berikut ini berlaku:

\sum_{i = 1}^{N} μ_{i} P (X_{i} = max_{j} X_{j}) \geq μ_{N} - \sqrt{\sum_{i = 1}^{N} σ_{i}^{2}} ?

$\sum_{i=1}^N \mu_i \P( X_i = \max_j X_j ) \geq \mu_N - \sqrt{ \sum_{i=1}^N \sigma_i^2 } \enspace?$ Dan jika tidak, apa yang bisa menjadi contoh tandingan?

probability bounds maximum

— MLS
sumber

Ini terikat dapat lebih ketat jika Anda menggunakan indeks yang memberi Anda lebih kecil atas terikat bukan . Perhatikan bahwa nilai ini tergantung pada mean dan varians.

j

$j$

N

$N$

@MichaelChernick: Saya tidak percaya itu benar. Misalkan kita memiliki tiga distribusi seragam pada . Kemudian, jika saya tidak salah, , sedangkan . Saya tidak tahu apakah Anda bermaksud menulis , tetapi kemudian contoh yang sama menunjukkan bahwa itu masih tidak valid.

[0, 1]

$[0,1]$

P (X_{1} < max_{j} X_{j}) = 2 / 3

$P( X_1 < \max_j X_j ) = 2/3$

P (X_{1} < X_{2}) = P (X_{1} < X_{3}) = 1 / 2

$P(X_1 < X_2) = P(X_1 < X_3) = 1/2$

P (X_{i} > max_{j} X_{j})

$P( X_i > \max_j X_j )$

— MLS

@Michael: Itu masih tidak benar, sayangnya. Peristiwa untuk diperbaiki tidak independen.

A_{j} = {X_{i} > X_{j}}

$A_j = \{X_i > X_j\}$

i

$i$

— kardinal

@ cardinal: Antara lain, ini terkait dengan bandit multi-bersenjata. Jika Anda memilih lengan berdasarkan hadiah sebelumnya, seberapa besar probabilitas Anda memilih lengan terbaik (yaitu dalam notasi di atas), dan dapatkah kita mengikat kerugian yang diharapkan untuk memilih sub lengan-optimal?

P (X_{N} = max_{j} X_{j})

$P(X_N = \max_j X_j)$

— MLS

Tunjukkan silang ke MathOverflow: mathoverflow.net/questions/99313

— kardinal

Jawaban:

Anda dapat menggunakan ketidaksetaraan Chebyshev multivarian.

Kasus dua variabel

Untuk satu situasi, vs , saya tiba di situasi yang sama dengan komentar Jochen pada 4 November 2016 $X_1$ $X_2$

1) Jika maka $\mu_1 < \mu_2$ $P(X_1>X_2) \leq (\sigma_1^2 + \sigma_2^2)/(\mu_1-\mu_2)^2$

(Dan saya ingin tahu juga tentang derivasi Anda)

Penurunan persamaan 1

menggunakan variabel baru $X_1-X_2$
mengubahnya sedemikian rupa sehingga memiliki rata-rata nol
mengambil nilai absolut
menerapkan ketidaksetaraan Chebyshev

\begin{matrix} P (X_{1} > X_{2}) & = P (X_{1} - X_{2} > 0) \\ = P (X_{1} - X_{2} - (μ_{1} - μ_{2}) > - (μ_{1} - μ_{2})) \\ \leq P (| X_{1} - X_{2} - (μ_{1} - μ_{2}) | > μ_{2} - μ_{1}) \\ \leq \frac{σ_{(X_{1} - X_{2} - (μ_{1} - μ_{2}))}^{2}}{(μ_{2} - μ_{1})^{2}} = \frac{σ_{X_{1}}^{2} + σ_{X_{2}}^{2}}{(μ_{2} - μ_{1})^{2}} \end{matrix}

$\begin{array} \\ P \left( X_1 > X_2 \right) &= P \left( X_1 - X_2 > 0 \right)\\ &= P\left( X_1 - X_2 - (\mu_1 - \mu_2) > - (\mu_1 - \mu_2)\right) \\ &\leq P\left( \vert X_1 - X_2 - (\mu_1 - \mu_2) \vert > \mu_2 - \mu_1\right) \\ &\leq \frac{\sigma_{(X_1-X_2- (\mu_1 - \mu_2))}^2}{(\mu_2 - \mu_1)^2} = \frac{\sigma_{X_1}^2+\sigma_{X_2}^2}{(\mu_2 - \mu_1)^2}\\ \end{array}$

Kasus Multivarian

Ketidaksamaan dalam persamaan (1) dapat diubah menjadi kasus multivariat dengan menerapkannya ke beberapa variabel yang diubah untuk setiap (perhatikan bahwa ini berkorelasi). $(X_n-X_i)$ $i<n$

Solusi untuk masalah ini (multivarian dan berkorelasi) telah dijelaskan oleh I. Olkin dan JW Pratt. 'A Multivariate Tchebycheff Inequality' dalam Catatan Sejarah Statistik Matematika, volume 29 halaman 226-234 http://projecteuclid.org/euclid.aoms/1177706720

Perhatikan teorema 2.3

$P(\vert y_i \vert \geq k_i \sigma_i \text{ for some } i) = P(\vert x_i \vert \geq 1 \text{ for some } i) \leq \frac{(\sqrt{u} + \sqrt{(pt-u)(p-1)})^2}{p^2}$

di mana jumlah variabel, , dan . $p$ $t=\sum k_i^{-2}$ $u=\sum \rho_{ij}/(k_ik_j)$

Teorema 3.6 memberikan batasan yang lebih ketat, tetapi kurang mudah untuk dihitung.

Edit

Ikatan yang lebih tajam dapat ditemukan menggunakan ketimpangan Cantelli multivariat . Ketidaksamaan itu adalah tipe yang Anda gunakan sebelumnya dan memberi Anda batasan yang merupakan lebih tajam dari . $(\sigma_1^2 + \sigma_2^2)/(\sigma_1^2 + \sigma_2^2 + (\mu_1-\mu_2)^2)$ $(\sigma_1^2 + \sigma_2^2)/(\mu_1-\mu_2)^2$

Saya belum meluangkan waktu untuk mempelajari seluruh artikel, tetapi bagaimanapun, Anda dapat menemukan solusinya di sini:

AW Marshall dan I. Olkin 'Ketimpangan Satu Sisi dari Tipe Chebyshev' dalam Catatan Statistik Matematika volume 31 hal. 488-491 https://projecteuclid.org/euclid.aoms/1177705913

(catatan selanjutnya: Ketidaksetaraan ini adalah untuk korelasi yang sama dan bukan bantuan yang cukup. Tetapi bagaimanapun juga masalah Anda, untuk menemukan ikatan yang paling tajam, sama dengan ketidaksamaan Cantelli multivariat yang lebih umum. Saya akan terkejut jika solusinya tidak ada)

— Sextus Empiricus
sumber

Bisakah Anda memberikan pernyataan yang jelas tentang Ketimpangan Chebyshev multivariat?

— whuber

Saya telah mengedit solusi yang menyediakan seluruh teorema.

— Sextus Empiricus

-1

Saya telah menemukan teorema yang dapat membantu Anda dan akan mencoba menyesuaikannya dengan kebutuhan Anda. Asumsikan Anda memiliki:

e x p (t \cdot E (\underset{1 \leq i \leq n}{m a x} X_{i}))

$exp(t \cdot \mathbf{E}(\underset{1 \leq i \leq n}{max}X_{i}))$

Kemudian oleh ketidaksetaraan Jensen (karena exp (.) Adalah fungsi cembung), kita mendapatkan:

e x p (t \cdot E (\underset{1 \leq i \leq n}{m a x} X_{i})) \leq E (e x p (t \cdot \underset{1 \leq i \leq n}{m a x} X_{i})) = E (\underset{1 \leq i \leq n}{m a x} e x p (t \cdot X_{i})) \leq \sum_{i = 1}^{n} E (e x p (t \cdot X_{i})

$exp(t \cdot \mathbf{E}(\underset{1 \leq i \leq n}{max}X_{i})) \leq \mathbf{E}(exp( t \cdot \underset{1 \leq i \leq n}{max}X_{i})) = \mathbf{E}( \underset{1 \leq i \leq n}{max} \text{ }exp( t \cdot X_{i})) \leq \sum_{i=1}^{n} \mathbf{E} (exp(t \cdot X_{i})$

Sekarang untuk Anda harus memasukkan apa pun fungsi penghasil momen variabel acak (karena itu hanya definisi mgf). Kemudian, setelah melakukannya (dan berpotensi menyederhanakan istilah Anda), Anda mengambil istilah ini dan mengambil log dan membaginya dengan t sehingga Anda mendapatkan pernyataan tentang istilah . Kemudian Anda dapat memilih t dengan beberapa nilai arbitrer (terbaik sehingga istilahnya kecil sehingga ikatannya ketat). $exp(t \cdot X_{i}$ $X_{i}$ $\mathbf{E}(\underset{1 \leq i \leq n}{max}X_{i})$

Kemudian, Anda memiliki pernyataan tentang nilai yang diharapkan dari nilai maksimum di atas n rvs. Untuk mendapatkan sekarang pernyataan tentang probabilitas bahwa maksimum rv itu menyimpang dari nilai yang diharapkan ini, Anda bisa menggunakan ketidaksetaraan Markov (dengan asumsi bahwa rv Anda tidak negatif) atau rv lain yang lebih spesifik, berlaku untuk rv khusus Anda.

— Fabian Falck
sumber