Pertanyaan yang diberi tag «it.information-theory»

Pertanyaan dalam Teori Informasi


2
Hasil pengkodean saluran menggunakan kompleksitas Kolmogorov
Biasanya entropi Shannon digunakan untuk membuktikan hasil pengkodean saluran. Bahkan untuk hasil pemisahan sumber-saluran digunakan shannon entropy. Mengingat kesetaraan antara pengertian Shannon (global) vs Kolmogorov (lokal) tentang informasi, apakah telah ada penelitian untuk memanfaatkan kompleksitas Kolmogorov untuk hasil ini (atau setidaknya untuk mengganti bagian pengkodean sumber dalam hasil pemisahan saluran …


1
Masalah kombinatorial sederhana (?) Yang lucu!
Mari kita perbaiki 0<E<10<E<100 . untuk setiap nnn dan untuk setiap vektor c¯∈[0,1]nc¯∈[0,1]n\bar{c} \in [0,1]^n sehingga ∑i∈[n]ci≥E×n∑i∈[n]ci≥E×n\sum_{i\in [n]} c_i \geq E \times n Ac¯:=|{S⊆[n]:∑i∈S ci≥E×t}|≥(E×nt)Ac¯:=|{S⊆[n]:∑i∈S ci≥E×t}|≥(E×nt)A_{\bar{c}} :=|\{ S \subseteq [n] : \sum_{i \in S}~ c_i \geq E \times t \}| \geq \binom{ E \times n}{ t } Saya tidak tahu …

4
Hubungan antara kompleksitas komputasi dan informasi
Saya bekerja di laboratorium ilmu saraf komputasi yang menghitung informasi timbal balik antara pasangan atau kelompok neuron. Baru-baru ini, bosnya menggeser fokusnya untuk mengukur "kompleksitas dinamika saraf". Dalam mengejar garis penelitian itu, beberapa orang dalam kelompok saya tampaknya menyamakan "kompleks" dengan "memiliki entropi tinggi". Adakah yang bisa membimbing saya tentang …


2
Kebalikan dari ketidaksamaan Fano?
Ketidaksamaan Fano dapat dinyatakan dalam banyak bentuk, dan satu yang sangat berguna adalah karena (dengan sedikit modifikasi) kepada Oded Regev : Misalkan XXX adalah variabel acak, dan misalkan Y=g(X)Y=g(X)Y = g(X) mana g(⋅)g(⋅)g(\cdot) adalah proses acak. Asumsikan adanya prosedur fff yang diberikan y=g(x)y=g(x)y = g(x) dapat merekonstruksi xxx dengan probabilitas …



4
Survei tentang Pengkodean Jaringan
Saya ingin mulai belajar tentang Pengodean Jaringan: http://en.wikipedia.org/wiki/Network_coding Apakah Anda tahu survei yang baik (misalnya dari Survei dan Tutorial IEEE) pada mata pelajaran di atas. Saya menemukan beberapa program universitas di google tetapi saya ingin beberapa rekomendasi dari orang-orang yang sudah membaca dan tahu sumber yang bagus. Terima kasih Vasilis

1
Fungsi Lovasz theta dan grafik reguler (siklus aneh khususnya) - koneksi ke teori spektral
Posting terkait dengan: /mathpro/59631/lovasz-theta-function-and-independence-number-of-product-of-simple-odd-cycles Seberapa jauh Lovasz terikat dari kapasitas nol-kesalahan grafik reguler? Adakah contoh di mana ikatan Lovasz diketahui tidak sama dengan kapasitas nol-kesalahan pada grafik biasa? (Ini dijawab di bawah ini oleh Oleksandr Bondarenko.) Secara khusus, adakah ketimpangan ketat yang diketahui untuk siklus ganjil sisi lebih besar atau …

3
Apakah ada generalisasi teori informasi untuk informasi yang secara polinomi dapat diketahui?
Saya minta maaf, ini sedikit pertanyaan "lunak". Teori informasi tidak memiliki konsep kompleksitas komputasi. Sebagai contoh, sebuah instance dari SAT, atau sebuah instance dari SAT ditambah sedikit yang menunjukkan kepuasan membawa jumlah informasi yang sama. Apakah ada cara untuk memformalkan konsep "yang secara politis dapat diketahui"? Kerangka kerja seperti itu …

2
Menebak nilai entropi rendah dalam beberapa upaya
Misalkan Alice memiliki distribusi lebih terbatas (tapi mungkin sangat besar) domain, sehingga (Shannon) entropi dari μ adalah atas dibatasi oleh konstan sewenang-wenang kecil ε . Alice mengambil nilai x dari μ , dan kemudian meminta Bob (siapa yang tahu μ ) untuk menebak x .μμ\muμμ\muεε\varepsilonxxxμμ\muμμ\muxxx Berapa probabilitas keberhasilan Bob? Jika …

1
Entropi dari distribusi yang bising
Katakanlah kita memiliki fungsi sedemikian rupa sehingga dan adalah distribusi, yaitu, . ∀ x ∈ Z n 2f:Zn2→Rf:Z2n→Rf:\mathbb{Z}_2^n \to \mathbb{R}f∑x∈Z n 2 f(x)=1∀x∈Zn2f(x)∈{12n,22n,…,2n2n},∀x∈Z2nf(x)∈{12n,22n,…,2n2n},\forall x\in \mathbb{Z}_2^n \quad f(x) \in \left\{\frac{1}{2^n}, \frac{2}{2^n}, \ldots, \frac{2^n}{2^n} \right\},fff∑x∈Zn2f(x)=1∑x∈Z2nf(x)=1\sum_{x\in \mathbb{Z}_2^n} f(x) = 1 Entropi Shannon dari didefinisikan sebagai berikut: H ( f ) = - ∑ …


Dengan menggunakan situs kami, Anda mengakui telah membaca dan memahami Kebijakan Cookie dan Kebijakan Privasi kami.
Licensed under cc by-sa 3.0 with attribution required.