Pertanyaan yang diberi tag «information-theory»

Di tempat kerja saya ditugaskan untuk menyimpulkan beberapa jenis informasi tentang bahasa yang dinamis. Saya menulis ulang urutan pernyataan menjadi letekspresi bersarang , seperti: return x; Z => x var x; Z => let x = undefined in Z x = y; Z => let x = y in Z …

11 programming-languages  logic  type-theory  type-inference  machine-learning  data-mining  clustering  order-theory  reference-request  information-theory  entropy  algorithms  algorithm-analysis  space-complexity  lower-bounds  formal-languages  computability  formal-grammars  context-free  parsing  complexity-theory  time-complexity  terminology  turing-machines  nondeterminism  programming-languages  semantics  operational-semantics  complexity-theory  time-complexity  complexity-theory  reference-request  turing-machines  machine-models  simulation  graphs  probability-theory  data-structures  terminology  distributed-systems  hash-tables  history  terminology  programming-languages  meta-programming  terminology  formal-grammars  compilers  algorithms  search-algorithms  formal-languages  regular-languages  complexity-theory  satisfiability  sat-solvers  factoring  algorithms  randomized-algorithms  streaming-algorithm  in-place  algorithms  numerical-analysis  regular-languages  automata  finite-automata  regular-expressions  algorithms  data-structures  efficiency  coding-theory  algorithms  graph-theory  reference-request  education  books  formal-languages  context-free  proof-techniques  algorithms  graph-theory  greedy-algorithms  matroids  complexity-theory  graph-theory  np-complete  intuition  complexity-theory  np-complete  traveling-salesman  algorithms  graphs  probabilistic-algorithms  weighted-graphs  data-structures  time-complexity  priority-queues  computability  turing-machines  automata  pushdown-automata  algorithms  graphs  binary-trees  algorithms  algorithm-analysis  spanning-trees  terminology  asymptotics  landau-notation  algorithms  graph-theory  network-flow  terminology  computability  undecidability  rice-theorem  algorithms  data-structures  computational-geometry 

Dalam mencoba memahami hubungan antara Huffman Coding, Arithmetic Coding, dan Range Coding, saya mulai berpikir tentang kekurangan pengkodean Huffman terkait dengan masalah fraksional pengemasan bit . Artinya, misalkan Anda memiliki 240 nilai yang mungkin untuk simbol, dan diperlukan untuk menyandikan ini menjadi bit, Anda akan terjebak dengan 8 bit per …

11 information-theory  data-compression  coding-theory  entropy  huffman-coding 

Dalam teori pengkodean, 'seberapa bagus suatu kode' berarti berapa banyak kesalahan saluran dapat diperbaiki, atau lebih baik, tingkat kebisingan maksimal yang dapat ditangani oleh kode tersebut. Untuk mendapatkan kode yang lebih baik, kode dirancang menggunakan alfabet besar (bukan biner). Dan kemudian, kodenya bagus jika dapat menangani tingkat besar "simbol" yang …

10 information-theory  coding-theory 

Masalahnya adalah untuk membuktikan atau menyangkal keberadaan , st, ; ; d (c_i, c_j) \ geq2,1 \ leq i &lt;j \ leq32 . ( d singkatan jarak hamming)CCC|c|=6,∀c∈C|c|=6,∀c∈C|c| = 6,\forall c\in C|C|=32|C|=32|C| = 32d(ci,cj)≥2,1≤i&lt;j≤32d(ci,cj)≥2,1≤i&lt;j≤32d(c_i,c_j)\geq2,1\leq i<j\leq32ddd Saya mencoba membuat kode yang memuaskan. Yang terbaik yang bisa saya dapatkan adalah membiarkan C= …

9 information-theory  coding-theory  encoding-scheme 

Persyaratan pengkodean sebagai awalan gratis menghasilkan pohon besar karena pohon harus lengkap. Apakah ada ambang batas tempat penyimpanan data yang tidak dikodekan dengan panjang tetap akan lebih efisien daripada pengkodean data?

9 information-theory  data-compression 

Saya membaca sebuah makalah yang merujuk pada batas ketika n pergi ke tak terhingga dari entri Rényi. Ini mendefinisikannya sebagai . Kemudian dikatakan bahwa batas sebagai adalah . Saya melihat artikel lain yang menggunakan maksimum alih-alih . Saya pikir ini bekerja dengan cukup mudah jika semua sama dengan (distribusi seragam). …

8 information-theory  entropy