Pertanyaan yang diberi tag «information-theory»

Secara umum segala bentuk enropi didefinisikan sebagai ketidakpastian atau keacakan. Dalam lingkungan yang bising, dengan peningkatan kebisingan, saya percaya bahwa entropi meningkat karena kita lebih tidak pasti tentang konten informasi dari sinyal yang diinginkan. Apa hubungan antara entropi dan SNR? Dengan meningkatnya ransum sinyal ke derau, daya derau berkurang tetapi …

13 noise  signal-detection  snr  information-theory 

Saya bingung memahami konsep dasar komunikasi melalui saluran AWGN. Saya tahu kapasitas saluran AWGN waktu diskrit adalah: C=12log2(1+SN)C=12log2⁡(1+SN)C=\frac{1}{2}\log_2\left(1+\frac{S}{N}\right) dan itu dicapai ketika sinyal input memiliki distribusi Gaussian. Tapi, apa artinya sinyal input adalah Gaussian? Apakah ini berarti bahwa amplitudo setiap simbol codeword harus diambil dari ansambel Gaussian? Apa perbedaan antara …

9 digital-communications  gaussian  information-theory 

Di luar persamaan mentah untuk menghitung informasi timbal balik, apa artinya secara fisik? Sebagai contoh: Dari Teori Informasi, kita tahu bahwa entropi adalah skema kompresi loss-less terkecil yang dapat kita gunakan pada alfabet dengan distribusi probabilitas tertentu. Apa artinya itu dalam hal Informasi Bersama? Latar belakang: Saya mencoba untuk menghitung …

8 information-theory