Kesetaraan definisi Kolmogorov-Kompleksitas

Ada banyak cara untuk mendefinisikan Kolmogorov-Complexity , dan biasanya, semua definisi ini setara dengan konstanta aditif. Itu adalah jika dan adalah fungsi kompleksitas kolmogorov (didefinisikan melalui berbagai bahasa atau model), maka terdapat konstanta sedemikian rupa sehingga untuk setiap string , . Saya percaya ini karena untuk setiap fungsi kompleksitas Kolmogorov dan untuk setiap menyatakan bahwa , untuk beberapa konstanta . $K_1$ $K_2$ $c$ $x$ $|K_1(x) - K_2(x)| < c$ $K$ $x$ $K(x) \le |x| +c$ $c$

Saya tertarik pada definisi berikut untuk , berdasarkan pada mesin Turing $K$

jumlah status : Tentukan sebagai jumlah minimal sedemikian sehingga TM dengan menyatakan output pada string kosong. $K_1(x)$ $q$ $q$ $x$
$K_2(x)$ $x$ $M$ $\langle M \rangle$ $K_2(x) = \min |\langle M \rangle|$ $M$ $x$

Apakah dan setara? Apa hubungan di antara mereka, dan yang mana yang lebih baik memahami konsep kompleksitas Kolmogorov, jika mereka tidak setara. $K_1$ $K_2$

Yang terutama mengganggu saya adalah laju meningkat dengan , yang tampaknya tidak super-linear (atau paling tidak linear dengan konstanta sedemikian rupa sehingga , daripada ). Pertimbangkan TM paling sederhana yang menghasilkan - yang hanya menyandikan sebagai bagian dari fungsi status dan transisinya. langsung melihat bahwa . Namun pengkodean mesin yang sama jauh lebih besar, dan batas sepele yang saya dapatkan adalah . $K_2$ $x$ $C>1$ $K_2 < C|x|$ $|x|+c$ $x$ $x$ $K_1(x) \le |x|+1$ $K_2(x) \le |x|\log |x|$

computability kolmogorov-complexity

— Ran G.
sumber

Ada lebih dari

mesin dengan

negara, dan ukuran rata-rata mereka setidaknya

, oleh karena itu tidak mungkin bahwa ini hanya berbeda dengan konstanta aditif.

2^{n^{2}}

$2^{n^2}$

n

$n$

n^{2}

$n^2$

— Kaveh

Ada batasan yang diketahui bahwa

untuk beberapa perbaikan

tidak tergantung pada

. Ini karena kita dapat menyandikan

ke bahasa bebas awalan dengan hanya menggandakan setiap bit

lalu diakhiri dengan

. Ini membutuhkan

bit untuk mewakili

. Jadi, karena

didefinisikan dalam istilah mesin universal bebas-awalan,

K_{2} (x) \leq c + 2 | x |

$K_2(x) \leq c + 2|x|$

c

$c$

x

$x$

x

$x$

x

$x$

01

$01$

2 | x | + 2

$2|x| + 2$

x

$x$

K_{2}

$K_2$

untuk beberapa perbaikan

. Ini dapat ditingkatkan beberapa dengan menggunakan cara yang lebih cerdas untuk menyandikan

ke bahasa bebas awalan.

K_{2} (x) \leq 2 | x | + 2 + c^{'}

$K_2(x) \leq 2|x| + 2 + c'$

c

$c$

x

$x$

— Carl Mummert

Saya tidak bisa melihat caranya. Tampaknya

diberikan sebagai bagian dari penyandian (sebagai data mentah), atau Anda harus membuat

dengan mesin negara Anda. Opsi pertama tampaknya curang dan saya tidak melihat bagaimana hal itu dapat dibandingkan dengan opsi kedua (yang menyiratkan

)

x

$x$

x

$x$

K_{1}

$K_1$

— Ran G.

@Ran G .: Poin kuncinya adalah teorema invarian yang dijelaskan di en.wikipedia.org/wiki/Invariance_theorem . Jika saya dapat menggambarkan sistem yang efektif yang memiliki tingkat pertumbuhan

maka mesin Turing universal (seperti yang Anda jelaskan untuk

) akan memenuhi ini dalam konstanta aditif. The mesin universal adalah salah satu yang mengambil

adalah input dan kembali output dari

jika

perhentian.

2 | x |

$2|x|$

K_{2}

$K_2$

⟨ M ⟩

$\langle M\rangle$

M

$M$

M

$M$

— Carl Mummert

Saya minta maaf sebelumnya karena saya memberikan terlalu banyak detail, tapi saya akan bertentangan dengan orang.

Tentang $K(x)≤K'(x)+c$

Fakta bahwa biasanya berasal dari penerjemah bahasa deskripsi # 2 ke dalam bahasa deskripsi # 1 dan bukan dari terjemahan dari program # 2 ke dalam program # 1. $K_1(x)≤K_2(x)+c$

Misalnya dan Anda mendapatkan ketimpangan ini sesederhana ini: $K_\mathtt{C}(x)≤K_\mathtt{Python}(x)+c_\mathtt{py2c}$

void py_run(char * s) {
    // code of your Python interpreter
}

int main(void) {
    py_run("Put here your Python program of size Kpython(x)");
}

Maka konstanta Anda akan menjadi sesuatu seperti mana adalah jumlah bit untuk kode ini dan bit adalah ukuran penerjemah resmi Python yang ditulis dalam C. Tentu saja Anda hanya perlu menafsirkan apa yang mungkin dalam bahasa deskripsi Anda untuk Python sehingga Anda dapat melakukan lebih baik dari 69 MB :-) $c_\mathtt{py2c}$ $528+490240688$ $528$ $490240688$

Yang penting adalah Anda dapat menulis program Python Anda secara linear dalam kode C. Misalnya, bahasa tempat Anda harus meletakkan "BANANA" di antara setiap karakter bukanlah program deskripsi yang sangat baik dan properti tersebut kemudian salah. (Tetapi jika bahasa deskripsi mengizinkan Anda untuk menulis data dalam file terpisah atau dalam blok, masalah ini hilang)

Mengapa cacat $K_1(x)=q$

Masalah dengan definisi adalah bahwa Anda mungkin memerlukan lebih dari bit untuk menggambarkan mesin Turing dengan status karena Anda perlu menyandikan transisi. $K_1$ $q$ $q$

Jadi tidak ada dan yang mungkin tidak setara, tapi itu terutama kesalahan . Saya pikir kita dapat membuktikan bahwa untuk semua ada sehingga . Tentu saja setiap sudah cukup untuk menyangkal fakta bahwa bukan fungsi valid, karena akan berarti bahwa kita dapat mengkodekan lebih semua kemungkinan string panjang $K_1$ $K_2$ $K_1$ $a>0$ $c_a$ $K_1(x)≤a|x|+c_a$ $a<1$ $K_1$ $2^n$ ke dalam bit. $n$ $an+c_a$

Tapi ukurannya sangat terikat ketika membangun mesin Turing. Idenya adalah bahwa dalam blok menyatakan ada cara untuk menemukan transisi untuk setiap negara dan itu lebih baik daripada cara biasa Anda dapat mengisi bit. Kemudian Anda dapat menyimpan di setiap blok bit informasi. (bukan karena Anda harus masuk dan keluar blok satu atau lain cara) $b$ $b^{2b}$ $2^b$ $b$ $\log_2 b$ $2\log_2 b$

Jadi ya ... Dengan balok ukuran Anda mungkin bisa membuktikan . Tapi saya sudah menulis terlalu banyak tentang mengapa jumlah negara bukan fungsi kompleksitas Kolmogorov yang valid. Jika Anda ingin saya menguraikan, saya akan. $2^{1/a}$ $K_1(x)≤a|x|+c_a$

Sekarang tentang $K_2$

Bahasa deskriptif naif berkorespondensi kira-kira dengan (yaitu untuk setiap negara bagian berikutnya dan rincian tentang menulis dan penghentian). $K_2(x)=q\cdot 2 \cdot (\log_2 q + 2)$ $\log_2q$

Seperti yang tampaknya, saya yakin bahwa cara yang lebih baik / curang adalah mengotorisasi untuk menyandikan "data" ke mesin Turing, mungkin dengan menambahkan tag biner dalam bahasa deskripsi yang mengatakan apakah suatu negara adalah keadaan data ( yang hanya menulis sedikit dan pergi ke negara bagian berikutnya) atau jika melakukan sesuatu yang lain. Dengan begitu Anda bisa menyimpan satu bit Anda dalam sedikit bahasa deskriptif Anda. $x$

Namun jika Anda menyimpan sama, Anda bisa menggunakan teknik yang sama yang saya gunakan di bagian sebelumnya untuk menghemat beberapa bit, tetapi saya sepertinya terjebak di (untuk ) .. mungkin kurang dari , bahkan, tetapi mendapatkan tampaknya sulit. (Dan saya berharap seharusnya , bahkan bukan $K_2$ $K_2(x)≤a|x|\log|x|+c$ $a>0$ $\log|x|$ $O(|x|)$ $|x|$ .) $O(|x|)$

— jmad
sumber

apakah Anda mengklaim bahwa

bukan fungsi kompleksitas-kolmogorov? Ini sangat mengejutkan bagi saya, karena

sebenarnya definisi yang digunakan dalam beberapa pengantar ke kursus komputabilitas yang pernah saya ambil (bukan berarti ia mengatakan apa pun tentang kebenarannya).

K_{1}

$K_1$

K_{1}

$K_1$

— Ran G.

Nah fakta bahwa

cukup mengganggu. Pertimbangkan ini: ada

kata yang mungkin dari

bit dan Anda dapat menyandikannya menggunakan

K_{1} (x) \leq \frac{1}{2} | x | + c

$K_1(x)≤\frac12|x|+c$

2^{n}

$2^n$

n

$n$

bit? Itu berarti

\frac{1}{2} n + c

$\frac12n+c$

(pengodean Anda harus injeksi)

2^{n} = O (2^{\frac{1}{2} n})

$2^n=O(2^{\frac12n})$

— jmad

Bagaimana jika program python memiliki karakter yang dicadangkan oleh C?

— PyRulez

Kesetaraan definisi Kolmogorov-Kompleksitas

Tentang K( x ) ≤ K′(x)+cK(x)≤K′(x)+cK(x)≤K'(x)+c

Mengapa cacatK1(x)=qK1(x)=qK_1(x)=q

Sekarang tentang K2K2K_2

Tentang $K(x)≤K'(x)+c$

Mengapa cacat $K_1(x)=q$

Sekarang tentang $K_2$