Pertanyaan yang diberi tag «shannon-entropy»

4
Apakah eta-equivalence untuk fungsi-fungsi yang kompatibel dengan operasi seq Haskell?
Lemma: Dengan asumsi kesetaraan eta kita memilikinya (\x -> ⊥) = ⊥ :: A -> B. Bukti: ⊥ = (\x -> ⊥ x)dengan kesetaraan eta, dan (\x -> ⊥ x) = (\x -> ⊥)dengan pengurangan di bawah lambda. Laporan Haskell 2010, bagian 6.2 menentukan seqfungsi dengan dua persamaan: seq :: …
3
Pada entropi jumlah
Saya mencari terikat pada entropi dari jumlah dari dua variabel acak diskrit independen X dan Y . Tentu, H ( X + Y ) ≤ H ( X ) + H ( Y ) ( * ) Namun, diterapkan dengan jumlah dari n independen Bernoulli variabel acak Z 1 , …
2
Hasil pengkodean saluran menggunakan kompleksitas Kolmogorov
Biasanya entropi Shannon digunakan untuk membuktikan hasil pengkodean saluran. Bahkan untuk hasil pemisahan sumber-saluran digunakan shannon entropy. Mengingat kesetaraan antara pengertian Shannon (global) vs Kolmogorov (lokal) tentang informasi, apakah telah ada penelitian untuk memanfaatkan kompleksitas Kolmogorov untuk hasil ini (atau setidaknya untuk mengganti bagian pengkodean sumber dalam hasil pemisahan saluran …
1
Siapa yang menciptakan istilah "entropi empiris"?
Saya tahu pekerjaan Shannon dengan entropi, tetapi belakangan ini saya telah bekerja pada struktur data yang ringkas di mana entropi empiris sering digunakan sebagai bagian dari analisis penyimpanan. Shannon mendefinisikan entropi dari informasi yang dihasilkan oleh sumber informasi diskrit sebagai , di mana adalah probabilitas acara terjadi, misalnya karakter tertentu …
Dengan menggunakan situs kami, Anda mengakui telah membaca dan memahami Kebijakan Cookie dan Kebijakan Privasi kami.
Licensed under cc by-sa 3.0 with attribution required.