Pertanyaan yang diberi tag «probability-inequalities»

Saya mencari beberapa ketidaksetaraan probabilitas untuk jumlah variabel acak yang tidak terikat. Saya akan sangat menghargai jika ada yang bisa memberikan saya beberapa pemikiran. Masalah saya adalah untuk menemukan batas atas eksponensial atas probabilitas bahwa jumlah variabel acak iid tidak terikat, yang sebenarnya merupakan perkalian dua iid Gaussian, melebihi beberapa …

37 probability  mathematical-statistics  probability-inequalities  mgf 

Saya tertarik pada versi Cantelli satu sisi tentang ketidaksetaraan Chebyshev : P(X−E(X)≥t)≤Var(X)Var(X)+t2.P(X−E(X)≥t)≤Var(X)Var(X)+t2. \mathbb P(X - \mathbb E (X) \geq t) \leq \frac{\mathrm{Var}(X)}{\mathrm{Var}(X) + t^2} \,. Pada dasarnya, jika Anda mengetahui mean dan varians populasi, Anda dapat menghitung batas atas pada probabilitas mengamati nilai tertentu. (Setidaknya itu adalah pemahaman saya.) Namun, …

32 probability  mathematical-statistics  probability-inequalities  mean 

Misalkan menunjukkan fungsi distribusi binomial (DF) dengan parameter n ∈ N dan p ∈ ( 0 , 1 ) dievaluasi pada r ∈ { 0 , 1 , … , n } : B ( n , p , r ) = r ∑ i = 0 ( nB(n,p,r)B(n,p,r)B(n,p,r)n∈Nn∈Nn \in …

30 binomial  poisson-distribution  convergence  probability-inequalities 

Dalam masalah klasik Kupon Kolektor , diketahui bahwa waktu diperlukan untuk menyelesaikan satu set kupon yang dipilih secara acak memenuhi , , dan .TTTnnnE[ T] ∼ n lnnE[T]∼ndalam⁡nE[T] \sim n \ln n Va r ( T) ∼ n2VSebuahr(T)∼n2Var(T) \sim n^2Pr ( T> n lnn + c n ) < e- …

20 probability  probability-inequalities  coupon-collector-problem 

Mari kita pertimbangkan masalah tentang mengklasifikasikan dataset MNIST. Berdasarkan laman web MNIST Yann LeCun , 'Ciresan et al.' mendapat tingkat kesalahan 0,23% pada set uji MNIST menggunakan Jaringan Nevoltural Convolutional. Mari masing menunjukkan MNIST pelatihan ditetapkan sebagai , MNIST uji ditetapkan sebagai D t e s t , hipotesis akhir …

16 machine-learning  classification  overfitting  probability-inequalities 

Pertanyaan ini muncul dari pertanyaan yang diajukan di sini tentang fungsi menghasilkan momen terikat (MGF). Misalkan adalah variabel acak nol-rata-rata terikat yang mengambil nilai dalam dan biarkan menjadi MGF-nya. Dari batasan yang digunakan dalam bukti Ketimpangan Hoeffding , kita mendapatkan bahwa mana sisi kanan dikenali sebagai MGF dari variabel acak …

14 probability  probability-inequalities  mgf 

Saya akan melalui sebuah makalah yang menggunakan ketimpangan oracle untuk membuktikan sesuatu tetapi saya tidak dapat memahami apa yang bahkan coba dilakukan. Ketika saya mencari secara online tentang 'Oracle Inequality', beberapa sumber mengarahkan saya ke artikel "Candes, Emmanuel J. 'Estimasi statistik modern melalui ketidaksetaraan oracle." "yang dapat ditemukan di sini …

14 mathematical-statistics  estimation  probability-inequalities  inequality  oracle 

catatan: Borel-Cantelli Lemma mengatakan itu ∑n=1∞P(An)<∞⇒P(limsupAn)=0∑n=1∞P(An)<∞⇒P(limsupAn)=0\sum_{n=1}^\infty P(A_n) \lt \infty \Rightarrow P(\lim\sup A_n)=0 ∑n=1∞P(An)=∞ and An's are independent⇒P(limsupAn)=1∑n=1∞P(An)=∞ and An's are independent⇒P(limsupAn)=1\sum_{n=1}^\infty P(A_n) =\infty \textrm{ and } A_n\textrm{'s are independent} \Rightarrow P(\lim\sup A_n)=1 Kemudian, jika∑n=1∞P(AnAcn+1)<∞∑n=1∞P(AnAn+1c)<∞\sum_{n=1}^\infty P(A_nA_{n+1}^c )\lt \infty dengan menggunakan Borel-Cantelli Lemma Saya ingin menunjukkan itu pertama, limn→∞P(An)limn→∞P(An)\lim_{n\to \infty}P(A_n) ada dan …

13 probability  self-study  stochastic-processes  probability-inequalities 

Jika p(x)p(x)p(x) adalah distribusi probabilitas dengan nilai bukan nol pada [0,+∞)[0,+∞)[0,+\infty) , untuk tipe p(x)p(x)p(x) apa ada konstanta c>0c>0c\gt 0 sehingga ∫∞0p(x)logp(x)(1+ϵ)p(x(1+ϵ))dx≤cϵ2∫0∞p(x)log⁡p(x)(1+ϵ)p(x(1+ϵ))dx≤cϵ2\int_0^{\infty}p(x)\log{\frac{ p(x)}{(1+\epsilon)p({x}(1+\epsilon))}}dx \leq c \epsilon^2untuk semua0<ϵ<10<ϵ<10\lt\epsilon\lt 1? Ketidaksamaan di atas sebenarnya adalah Kullback-Leibler Divergence antara distribusi p(x)p(x)p(x) dan versi terkompresi (1+ϵ)p(x(1+ϵ))(1+ϵ)p(x(1+ϵ)){(1+\epsilon)}p({x}{(1+\epsilon)}) . Saya telah menemukan bahwa ketidaksetaraan ini berlaku …

12 probability  stochastic-processes  kullback-leibler  probability-inequalities 

Biarkan {Xn}n≥1{Xn}n≥1\{X_n\}_{n\geq 1} menjadi urutan variabel acak st Xn→aXn→aX_n \to a dalam probabilitas, di mana a>0a>0a>0 adalah konstanta tetap. Saya mencoba menunjukkan yang berikut: Xn−−−√→a−−√Xn→a\sqrt{X_n} \to \sqrt{a} dan aXn→1aXn→1\frac{a}{X_n}\to 1 keduanya dalam probabilitas. Saya di sini untuk melihat apakah logika saya sehat. Ini pekerjaan saya MENCOBA Untuk bagian pertama, kami …

12 random-variable  convergence  asymptotics  probability-inequalities  coverage-probability 

Misalkan kita memiliki variabel acak IID dengan distribusi . Kita akan mengamati sampel dengan cara berikut: biarkan menjadi independen variabel acak, misalkan semua dan 's independen, dan menentukan ukuran sampel . The 's menunjukkan yang mana dari ' s berada dalam sampel, dan kami ingin belajar fraksi keberhasilan dalam sampel …

12 probability-inequalities 

Dalam semangat pertanyaan Memahami bukti lemma yang digunakan dalam ketidaksetaraan Hoeffding , saya mencoba memahami langkah-langkah yang mengarah pada ketidaksetaraan Hoeffding. Apa yang memegang misteri paling bagi saya dalam buktinya adalah bagian di mana momen eksponensial dihitung untuk jumlah variabel iid, setelah mana ketimpangan Markov diterapkan. Tujuan saya adalah untuk …

12 probability  probability-inequalities 

Apakah ada analogi ketidaksetaraan Chebyshev saat yang lebih tinggi dalam kasus satu sisi? Ketidaksamaan Chebyshev-Cantelli hanya berfungsi untuk varians, sedangkan ketidaksetaraan Chebyshev dapat dengan mudah diproduksi untuk semua eksponen. Apakah ada yang tahu tentang ketimpangan satu sisi menggunakan momen yang lebih tinggi?

12 approximation  moments  probability-inequalities 

Saya sedang mempelajari catatan kuliah Larry Wasserman tentang Statistik yang menggunakan Casella dan Berger sebagai teks utamanya. Saya sedang mengerjakan catatan kuliahnya set 2 dan terjebak dalam derivasi lemma yang digunakan dalam ketidaksetaraan Hoeffding (hal.2-3). Saya mereproduksi bukti dalam catatan di bawah ini dan setelah bukti saya akan menunjukkan di …

11 probability  probability-inequalities 

Mengingat dua distribusi kontinu FXFX\mathcal{F}_X dan FYFY\mathcal{F}_Y , Tidak jelas bagi saya apakah hubungan dominasi cembung di antara mereka: ( 0 )FX&lt;cFY(0)FX&lt;cFY(0)\quad \mathcal{F}_X <_c \mathcal{F}_Y menyiratkan itu ( 1 )F- 1Y( q) ≤ F- 1X( q) ,∀ q∈ [ 0,5 , 1 ](1)FY-1(q)≤FX-1(q),∀q∈[0,5,1](1)\quad F_Y^{-1}(q) \leq F_X^{-1}(q),\quad \forall q\in[0.5,1] memegang atau …

10 probability  probability-inequalities  distributions