Heuristik untuk Optimasi

Karena ini hari Jumat, saatnya untuk pertanyaan CW. Saya mencari heuristik yang banyak digunakan dalam masalah optimisasi. Untuk membatasi ruang lingkup ke heuristik yang lebih 'ramah teori', berikut adalah aturannya (ada yang arbitrer, ada yang tidak)

• Ini harus menjadi metode yang didefinisikan dengan baik tanpa banyak parameter, dan dengan waktu berjalan yang konkret (mungkin per iterasi)
• Seharusnya memiliki beberapa hasil teoritis yang diketahui terkait dengan itu (tingkat konvergensi, perkiraan batas jika ada, properti stasioner, dan sebagainya)
• Itu harus memiliki penerapan yang luas dan setidaknya satu aplikasi unggulan di mana itu baik metode pilihan atau salah satu dari sedikit.
• seharusnya tidak diilhami oleh alam (sementara ini tampak seperti keberatan sembrono, saya mencoba untuk mengecualikan algoritma genetik, optimasi koloni semut dan sejenisnya).

Jawaban idealnya harus dalam format berikut: inilah contohnya.

Nama : Optimisasi bergantian

Sasaran : Meminimalkan fungsi (umumnya bukan konveks) $f(x,y)$

Kondisi : Fungsi terkait dan h ( y ) = min x f ( x , y ) adalah cembung$g(x) = \min_y f(x,y)$$h(y) = \min_x f(x,y)$

Algoritma : iterasi dimulai dengan x i , y i .$i^{\text{th}}$$x_i, y_i$

1. $x_{i+1} \leftarrow \arg \min_x f(x, y_i)$
2. $y_{i+1} \leftarrow \arg\min_y f(x_{i+1}, y)$

$k$

$k$

ps Anda mungkin menemukan bahwa jawaban Anda berakhir sebagai kuliah di seminar algoritma yang saya rencanakan :)

$\sum w(\theta)F(\theta)^2$$\theta\in R^n$$F(\theta) \in R^m$$w(\theta)\in R$


$L_p$