Apa bukti ketidaksetaraan Azuma versi tidak standar ini?


12

Dalam Lampiran B dari Meningkatkan dan Privasi Diferensial oleh Dwork et al., Penulis menyatakan hasil berikut tanpa bukti dan menyebutnya sebagai ketidaksetaraan Azuma:

Biarkan C1,,Ck variabel acak akan bernilai real sehingga untuk setiap i[k] ,

  1. Pr[|Ci|α]=1
  2. untuk setiap , kami memiliki .(c1,,ci1)Supp(C1,,Ci1)E[CiC1=c1,,Ci1=ci1]β

Kemudian untuk setiap , kita memiliki \ Pr [\ sum_ {i = 1} ^ k C_i> k \ beta + z \ sqrt {k} \ cdot \ alpha] \ leq e ^ {- z ^ 2/2} .z>0Pr[i=1kCi>kβ+zkα]ez2/2

Saya kesulitan membuktikan ini. Versi standar ketidaksetaraan Azuma mengatakan:

Misalkan {X0,X1,,Xk} adalah martingale, dan |XiXi1|γi hampir pasti. Kemudian untuk semua t>0 , kita memiliki Pr[Xkt]exp(t2/(2i=1kγi2)) .

Untuk membuktikan versi ketidaksamaan Azuma yang dinyatakan oleh Dwork et al., Saya pikir kita harus mengambil X0=0 dan Xi=Xi1+CiE[CiC1,C2,,Ci1] . Dengan begitu, saya pikir {X0,,Xk} adalah martingale. Tapi yang bisa kita katakan adalah bahwa |XiXi1|2α hampir pasti, bukan? Faktor dua penyebab masalah itu, karena itu berarti bahwa setelah penggantian, kami hanya menemukan bahwa Pr[i=1kCi>kβ+zk2α]ez2/2 , yang lebih lemah dari kesimpulan yang dinyatakan oleh Dwork et al.

Apakah ada trik sederhana yang saya lewatkan? Apakah pernyataan oleh Dwork et al. melewatkan faktor dua?


Pernyataan di koran itu benar, tetapi tidak mengikuti versi "biasa" dari ketidaksetaraan Azuma. Masalahnya adalah bahwa pernyataan yang biasa mengasumsikan tetapi setiap interval dengan panjang yang sama akan dilakukan; tidak ada alasan untuk mengasumsikan interval simetris. XiXi1[a,a]
Thomas mendukung Monica

Jawaban:


13

Saya tidak dapat menemukan referensi, jadi saya hanya akan membuat sketsa buktinya di sini.

Dalil. Biarkan menjadi variabel acak nyata. Biarkan menjadi konstanta. Misalkan, untuk semua dan semua dalam dukungan , kita punyaa 1 , , a n , b 1 , , b n i { 1 , , n } ( x 1 , , x i - 1 ) ( X 1 , , X i -X1,,Xna1,,an,b1,,bni{1,,n}(x1,,xi1)(X1,,Xi1)

  1. E[Xi|X1=x1,,Xi1=xi1]0 dan
  2. P[Xi[ai,bi]]=1 .

Kemudian, untuk semua ,P [ n i = 1 X it ]exp ( - 2 t 2t0

P[i=1nXit]exp(2t2i=1n(biai)2).

Bukti. Tentukan . Kami mengklaim bahwa Untuk semua dan , kita memiliki Dengan asumsi, dan untuk semua dalam dukungani { 1 , , n } λ 0 E [ e λ Y i ]Yi=j=1iXjiλE[eλYi]=E[eλYi-1eλXi]=E[eλYi-1E[

(*)i{1,,n} λ0     E[eλYi]e18λ2j=1i(bjaj)2.
iλ
E[eλYi]=E[eλYi1eλXi]=E[eλYi1E[eλXi|Yi1]].
μ(yi1):=E[Xi|Yi1=yi1]0P[Xi[ai,bi]]=1yi1Yi1. (Perhatikan bahwa .) Dengan demikian, oleh lemma Hoeffding , untuk semua mendukung dan semua . Karena , kami memiliki, untuk semua , Sekarang induksi menghasilkan klaim (*) di atas.Yi1=X1++Xi1
E[eλXi|Yi1=yi1]eλμ(yi1)+18λ2(biai)2
yi1Yi1λRμ(yi1)0λ0
E[eλYi]E[eλYi1e0+18λ2(biai)2].

Sekarang kami menerapkan ketidaksetaraan Markov pada dan menggunakan klaim kami (*). Untuk semua , Akhirnya, atur untuk meminimalkan ekspresi tangan kanan dan mendapatkan hasilnya. eλYnt,λ>0

P[i=1nXit]=P[Ynt]=P[eλYneλt]E[eλYn]eλte18λ2i=1n(biai)2eλt.
λ=4ti=1n(biai)2

Seperti yang saya sebutkan dalam komentar saya, perbedaan utama antara ini dan pernyataan "biasa" tentang ketimpangan Azuma membutuhkan , daripada . Yang pertama memungkinkan lebih banyak fleksibilitas dan ini menyimpan faktor 2 dalam beberapa kasus.Xi[ai,bi]Xi[a,a]

Perhatikan bahwa variabel acak dalam buktinya adalah supermartingale. Anda dapat memperoleh versi ketimpangan Azuma yang biasa dengan mengambil Martingale , pengaturan dan (di mana ), dan kemudian menerapkan hasil di atas.Y 1 , , Y n X i = Y i - Y i - 1 [ a i , b i ] = [ - c i , c i ] P [ | Y i - Y i - 1 | c i ] = 1YiY1,,YnXi=YiYi1[ai,bi]=[ci,ci]P[|YiYi1|ci]=1


Pada baris pertama buktinya, mungkin seharusnya (batas atas penjumlahan sebagai daripada ) .... i nYi=j=1iXjin
Dougal

1
Buktinya juga diberikan dalam monograf oleh Dubhashi dan Panconesi.
Kristoffer Arnsfelt Hansen

@KristofferArnsfeltHansen: Hebat. Apakah Anda memiliki tautan?
Thomas mendukung Monica
Dengan menggunakan situs kami, Anda mengakui telah membaca dan memahami Kebijakan Cookie dan Kebijakan Privasi kami.
Licensed under cc by-sa 3.0 with attribution required.