Tentang apa pemrograman dinamis?

33

Maaf sebelumnya jika pertanyaan ini terdengar bodoh ...

Sejauh yang saya tahu, membangun algoritma menggunakan pemrograman dinamis bekerja seperti ini:

mengungkapkan masalah sebagai relasi berulang;
menerapkan hubungan perulangan baik melalui memoisasi atau melalui pendekatan bottom up.

Sejauh yang saya tahu, saya telah mengatakan segalanya tentang pemrograman dinamis. Maksud saya: pemrograman dinamis tidak memberikan alat / aturan / metode / teorema untuk mengekspresikan hubungan perulangan, atau untuk mengubahnya menjadi kode.

Jadi, apa yang spesial dari pemrograman dinamis? Apa yang diberikannya kepada Anda, selain metode yang tidak jelas untuk mendekati jenis masalah tertentu?

algorithms dynamic-programming algorithm-design

— hei hei
sumber

11

Factoid historis (komentar ini tidak akan membantu Anda, tetapi Bellman sebenarnya adalah pemimpin yang baik jika Anda ingin mendapatkan teori yang berat tentang pemrograman dinamis): ketika Bellman datang dengan apa yang sekarang dikenal sebagai pemrograman dinamis, ia menyebut ide "pemrograman dinamis "Karena pekerjaan teoretis murni tidak akan terbang dengan atasannya pada waktu itu, jadi dia membutuhkan sesuatu yang lebih banyak kata-kata yang tidak dapat digunakan dengan cara yang merendahkan .

— G. Bach

3

Sejauh yang saya tahu persis inilah dua poin yang Anda sebutkan. Itu menjadi istimewa ketika menghindari ledakan eksponensial karena subproblem yang tumpang tindih. Itu saja. Ah, omong-omong, profesor saya lebih suka "paradigma algoritmik" daripada "metode kabur".

— Hendrik Jan

"Pemrograman dinamis" tampaknya terutama merupakan kata kunci (sejak itu kehilangan kata kunci) Itu tidak berarti itu tidak berguna tentunya.

— user253751

3

Tidak layak mendapat jawaban, tetapi bagi saya pemrograman dinamis jelas merupakan "hal yang Anda gunakan ketika Anda mencoba memecahkan masalah secara rekursif, tetapi Anda akhirnya membuang-buang waktu untuk meninjau kembali subproblem yang sama berulang-ulang."

— hobbs

@ hobbs: Tepat, tetapi keterampilannya adalah menemukan cara awal membuang-buang waktu;)

— j_random_hacker

27

Pemrograman dinamis memberi Anda cara untuk berpikir tentang desain algoritma. Ini seringkali sangat membantu.

Metode memoo dan bottom-up memberi Anda aturan / metode untuk mengubah hubungan perulangan menjadi kode. Memoisasi adalah ide yang relatif sederhana, tetapi sering kali ide terbaik adalah!

Pemrograman dinamis memberi Anda cara terstruktur untuk berpikir tentang waktu berjalan dari algoritma Anda. Waktu yang berjalan pada dasarnya ditentukan oleh dua angka: jumlah sub-masalah yang harus Anda selesaikan, dan waktu yang dibutuhkan untuk menyelesaikan setiap sub-masalah. Ini memberikan cara mudah yang mudah untuk memikirkan masalah desain algoritma. Ketika Anda memiliki relasi pengulangan kandidat, Anda dapat melihatnya dan dengan sangat cepat mengetahui waktu pelaksanaannya (misalnya, Anda seringkali dapat dengan cepat memberi tahu berapa banyak subproblem yang akan ada, yang merupakan batas bawah pada waktu berjalan; jika ada banyak masalah yang harus Anda selesaikan secara eksponensial, maka perulangan mungkin tidak akan menjadi pendekatan yang baik). Ini juga membantu Anda mengesampingkan dekomposisi kandidat subproblem. Misalnya, jika kita memiliki string urutan tidak mungkin menjadi pendekatan yang baik (jumlah subproblem adalah eksponensial dalam ). Ini memungkinkan Anda memangkas "ruang pencarian" dari kemungkinan perulangan. , mendefinisikan subproblem dengan awalan atau suffix atau substring mungkin masuk akal (jumlah subproblem adalah polinomial dalam ), tetapi mendefinisikan subproblem dengan urutan dari $S[1..n]$ $S[1..i]$ $S[j..n]$ $S[i..j]$ $n$ $S$ $n$

Pemrograman dinamis memberi Anda pendekatan terstruktur untuk mencari hubungan pengulangan kandidat. Secara empiris, pendekatan ini seringkali efektif. Secara khusus, ada beberapa heuristik / pola umum yang dapat Anda kenali untuk cara-cara umum untuk mendefinisikan subproblem, tergantung pada jenis input. Contohnya:

Jika input adalah bilangan bulat positif , salah satu cara kandidat untuk mendefinisikan subproblem adalah dengan mengganti dengan integer yang lebih kecil (st $n$ $n$ $n'$ ). $0 \le n' \le n$
Jika inputnya adalah string , beberapa kandidat cara untuk mendefinisikan subproblem meliputi: ganti dengan awalan ; ganti dengan akhiran ; ganti dengan substring . (Di sini subproblem ditentukan oleh pilihan $S[1..n]$ $S[1..n]$ $S[1..i]$ $S[1..n]$ $S[j..n]$ $S[1..n]$ $S[i..j]$ $i,j$ .)
Jika input adalah daftar , lakukan hal yang sama seperti yang Anda lakukan untuk string.
Jika inputnya adalah pohon , salah satu cara kandidat untuk mendefinisikan subproblem adalah mengganti dengan subtree (yaitu, pilih node dan ganti dengan subtree yang di-root pada ; subproblem ditentukan oleh pilihan ). $T$ $T$ $T$ $x$ $T$ $x$ $x$
Jika inputnya adalah sepasang , maka secara rekursif lihatlah tipe dan tipe untuk mengidentifikasi cara untuk memilih subproblem untuk masing-masing. Dengan kata lain, satu kandidat cara untuk mendefinisikan subproblem adalah mengganti dengan mana adalah subproblem untuk dan adalah subproblem untuk . (Anda juga dapat mempertimbangkan submasalah formulir $(x,y)$ $x$ $y$ $(x,y)$ $(x',y')$ $x'$ $x$ $y'$ $y$ Atau .) $(x,y')$ $(x',y)$

Dan seterusnya. Ini memberi Anda heuristik yang sangat berguna: hanya dengan melihat tipe tanda tangan dari metode ini, Anda dapat menemukan daftar cara kandidat untuk mendefinisikan subproblem. Dengan kata lain, hanya dengan melihat pernyataan masalah - hanya melihat jenis input - Anda dapat menemukan beberapa kandidat cara untuk mendefinisikan subproblem.

Ini seringkali sangat membantu. Itu tidak memberi tahu Anda apa hubungan perulangan itu, tetapi ketika Anda memiliki pilihan tertentu untuk bagaimana mendefinisikan subproblem, seringkali tidak terlalu sulit untuk menentukan hubungan perulangan yang sesuai. Jadi, sering kali mengubah desain algoritma pemrograman dinamis menjadi pengalaman terstruktur. Anda menuliskan pada kertas memo daftar kandidat cara untuk mendefinisikan subproblem (menggunakan heuristik di atas). Kemudian, untuk masing-masing kandidat, Anda mencoba untuk menulis hubungan pengulangan, dan mengevaluasi waktu berjalannya dengan menghitung jumlah sub-masalah dan waktu yang dihabiskan per sub-masalah. Setelah mencoba setiap kandidat, Anda menyimpan yang terbaik yang dapat Anda temukan. Menyediakan beberapa struktur untuk proses desain algoritma adalah bantuan besar, karena jika tidak, desain algoritma dapat mengintimidasi (ada '

— DW
sumber

Jadi Anda mengonfirmasi bahwa pemrograman dinamis tidak menyediakan "prosedur" konkret untuk diikuti. Itu hanya "cara berpikir", seperti yang Anda katakan. Perhatikan bahwa saya tidak berpendapat bahwa DP tidak berguna (sebaliknya!), Saya hanya mencoba memahami jika ada sesuatu yang saya lewatkan atau jika saya hanya harus berlatih lebih banyak.

— hei hei

@heyhey, yah, ya ... dan tidak. Lihat jawaban saya yang sudah direvisi untuk penjelasan lebih lanjut. Ini bukan peluru perak, tetapi memberikan beberapa prosedur semi-konkret yang sering membantu (tidak dijamin untuk bekerja, tetapi sering terbukti bermanfaat).

— DW

Terimakasih banyak! Dengan berlatih, saya menjadi semakin terbiasa dengan beberapa "prosedur semi-konkret" yang Anda gambarkan.

— hei hei

"Jika ada banyak masalah yang harus Anda selesaikan secara eksponensial, maka perulangan mungkin tidak akan menjadi pendekatan yang baik". Untuk banyak masalah tidak ada algoritma waktu polinomial yang dikenal. Mengapa ini harus menjadi kriteria untuk menggunakan DP?

— Chiel ten Brinke

@Chiel, ini bukan kriteria untuk menggunakan DP. Jika Anda memiliki masalah di mana Anda akan senang dengan algoritma waktu eksponensial, maka Anda dapat mengabaikan komentar kurung tertentu. Ini hanya sebuah contoh untuk mencoba mengilustrasikan poin umum yang saya buat - bukan sesuatu yang Anda harus anggap terlalu serius atau ditafsirkan sebagai aturan yang keras dan cepat.

— DW

9

Pemahaman Anda tentang pemrograman dinamis benar ( afaik ), dan pertanyaan Anda dibenarkan.

Saya pikir ruang desain tambahan yang kita dapatkan dari jenis perulangan yang kita sebut "pemrograman dinamis" paling baik dilihat dibandingkan dengan skema pendekatan rekursif lainnya.

Mari kita berpura-pura input kita adalah array demi menyoroti konsep. $A[1..n]$

Pendekatan Induktif

Di sini idenya adalah untuk membuat masalah Anda lebih kecil, pecahkan versi yang lebih kecil dan dapatkan solusi untuk yang asli. Secara skematis,

$\qquad f(A) = g\bigl( f(A[1..n-c]), A \bigr)$

dengan fungsi / algoritma yang menerjemahkan solusi. $g$

Contoh: Menemukan bintang dalam waktu linier
Bagilah & Taklukkan

Partisi input menjadi beberapa bagian yang lebih kecil, pecahkan masalah untuk masing-masing dan gabungkan. Secara skematis (untuk dua bagian),

. $\qquad f(A) = g\bigl(f(A[1..c]), f(A[c+1..n]), A\bigr)$

Contoh: Gabung- / Quicksort, Jarak berpasangan terpendek di pesawat
Pemrograman Dinamis

Pertimbangkan semua cara mempartisi masalah menjadi masalah yang lebih kecil dan pilih yang terbaik. Secara skematis (untuk dua bagian),

. $\qquad f(A) = \operatorname{best} \Bigl\{ g\bigl(f(A[1..c]), f(A[c+1..n])\bigr) \Bigm| 1 \leq c \leq n-1 \Bigr\}$

Contoh: Edit jarak, Masalah perubahan-pembuatan

Catatan penting: pemrograman dinamis bukanlah kekerasan ! Penerapan dalam setiap langkah mengurangi ruang pencarian. $\operatorname{best}$

Dalam arti tertentu, Anda tahu semakin sedikit statis berjalan dari atas ke bawah, dan harus membuat semakin banyak keputusan secara dinamis.

Pelajaran dari belajar tentang pemrograman dinamis adalah tidak apa - apa untuk mencoba semua partisi yang mungkin (well, itu diperlukan untuk kebenaran) karena masih bisa efisien menggunakan memoisasi.

— Raphael
sumber

"Pruned Dynamic Programming" (ketika itu berlaku) membuktikan bahwa mencoba semua kemungkinan TIDAK diperlukan untuk kebenaran.

— Ben Voigt

@ BenVoigt Tentu saja. Saya dengan sengaja tetap kabur tentang apa artinya "semua cara untuk memisah-misahkan"; Anda ingin mengesampingkan sebanyak mungkin, tentu saja! (Namun, bahkan jika Anda mencoba semua cara mempartisi Anda tidak mendapatkan kekuatan kasar karena Anda hanya pernah menyelidiki kombinasi solusi optimal untuk subproblem, sedangkan brute-force akan menyelidiki semua kombinasi semua solusi.)

— Raphael

Mari kita lanjutkan diskusi ini dalam obrolan .

— Apass. Jack

5

Pemrograman Dinamis memungkinkan Anda untuk menukar memori dengan waktu komputasi. Perhatikan contoh klasiknya, Fibonacci.

Fibonacci didefinisikan oleh perulangan . Jika Anda menyelesaikan menggunakan rekursi ini, Anda akhirnya melakukan panggilan ke $Fib(n)=Fib(n-1)+Fib(n-2)$ $O(2^n)$ , karena pohon rekursi adalah pohon biner dengan tinggi . $Fib(\cdot)$ $n$

Sebagai gantinya, Anda ingin menghitung , lalu gunakan ini untuk menemukan , gunakan itu untuk menemukan , dll. Ini hanya membutuhkan waktu . $Fib(2)$ $Fib(3)$ $Fib(4)$ $O(n)$

DP juga memberi kita teknik dasar untuk menerjemahkan hubungan perulangan menjadi solusi bottom-up, tetapi ini relatif mudah (dan umumnya melibatkan penggunaan matriks dimensi , atau batas matriks seperti itu, di mana adalah jumlah parameter dalam hubungan perulangan). Ini dijelaskan dengan baik dalam teks tentang DP. $m$ $m$

— Kittsil
sumber

1

Anda hanya berbicara tentang bagian memoisasi, yang meleset dari inti pertanyaan.

— Raphael

1

"Pemrograman Dinamis memungkinkan Anda untuk bertukar memori dengan waktu komputasi" bukanlah sesuatu yang saya dengar saat melakukan sarjana, dan ini cara yang bagus untuk melihat subjek ini. Ini adalah jawaban intuitif dengan contoh singkat.

— trueshot

@trueshot: Kecuali bahwa terkadang pemrograman dinamis (dan khususnya, "Pemrograman Dinamik Pruned") dapat mengurangi kebutuhan waktu dan ruang.

— Ben Voigt

@Ben saya tidak mengatakan itu adalah perdagangan satu-ke-satu. Anda dapat memangkas pohon perulangan juga. Saya berpendapat bahwa saya memang menjawab pertanyaan itu, yaitu, "Apa yang DP dapatkan dari kita?" Ini membuat kami lebih cepat menggunakan algoritma berdasarkan ruang perdagangan untuk waktu. Saya setuju bahwa jawaban yang diterima lebih menyeluruh, tetapi ini juga berlaku.

— Kittsil

2

Berikut ini adalah cara lain yang sedikit berbeda dari ungkapan apa yang diberikan pemrograman dinamis kepada Anda. Pemrograman dinamis runtuh sejumlah eksponensial solusi kandidat menjadi sejumlah polinomial kelas ekivalensi, sehingga solusi kandidat di setiap kelas tidak bisa dibedakan dalam beberapa hal.

$k$ $A$ $n$ $2^n$ $O(n^2)$ $f(i, \ell)$ $i$ $\ell$

f (i, ℓ) = \sum_{j < i such that A [j] < A [i]} f (j, ℓ - 1)

$f(i,\ell) = \sum_{j < i \textrm{ such that} A[j] < A[i]} f(j,\ell-1)$

f (i, 1) = 1 for all i = 1 \dots n

$f(i,1) = 1 \textrm{ for all } i = 1 \ldots n$

$O(n^2k)$

— jnalanko
sumber