Rényi entropi pada infinity atau min-entropy


8

Saya membaca sebuah makalah yang merujuk pada batas ketika n pergi ke tak terhingga dari entri Rényi. Ini mendefinisikannya sebagai . Kemudian dikatakan bahwa batas sebagai adalah . Saya melihat artikel lain yang menggunakan maksimum alih-alih . Saya pikir ini bekerja dengan cukup mudah jika semua sama dengan (distribusi seragam). Saya tidak tahu bagaimana membuktikan ini untuk apa pun selain distribusi seragam. Adakah yang bisa menunjukkan kepada saya bagaimana hal itu dilakukan?Hn(X)=11nlog2(i=1Npin)nlog2(p1)pisp1pis

Jawaban:


7

Misalkan . Kami memiliki p_1 ^ n \ leq \ sum_ {i = 1} ^ N p_i ^ n \ leq N p_1 ^ n. Karenanya \ frac {n \ log p_1 + \ log N} {1-n} \ leq H_n (X) \ leq \ frac {n \ log p_1} {1-n}. Sebagai n \ rightarrow \ infty , \ log N / (1-n) \ rightarrow 0 sementara n / (1-n) \ rightarrow -1 .p1=maxipi

p1ni=1NpinNp1n.
nlogp1+logN1nHn(X)nlogp11n.
nlogN/(1n)0n/(1n)1
Dengan menggunakan situs kami, Anda mengakui telah membaca dan memahami Kebijakan Cookie dan Kebijakan Privasi kami.
Licensed under cc by-sa 3.0 with attribution required.