detail implementasi praktis dari Bayesian Optimization

Saya memberikan Bayesian Optimization, mengikuti Snoek, Larochelle, dan Adams [ http://arxiv.org/pdf/1206.2944.pdf] , menggunakan GPML [ http://www.gaussianprocess.org/gpml/code/matlab / doc /] . Saya telah mengimplementasikan fungsi akuisisi Peningkatan yang Diharapkan yang dijelaskan pada halaman 3, dan saya berasumsi bahwa saya benar bahwa untuk memutuskan ke mana harus mencari query selanjutnya, saya harus mengambil yang memaksimalkan:$\bf{x}$

$a_{EI}(\bf{x}; (\bf{x}_n,y_n,\theta))$

Tapi sepertinya saya tidak dapat menemukan panduan tentang apa yang harus dipertimbangkan oleh set kandidat . Secara teoritis, saya ingin mencari yang terbaik di seluruh domain, dan makalah ini ditulis sedemikian rupa sehingga tampaknya menyarankan ini mungkin ("[EI] juga memiliki formulir tertutup di bawah proses Gaussian" ). Tetapi sebagai hal yang praktis, saya perlu menghitung rata-rata dan varian prediktif posterior pada apa pun yang dapat saya pertimbangkan sebelum saya dapat menghitung dan sementara posisi ini memiliki formulir tertutup, saya masih perlu menghitungnya menggunakan aljabar matriks, jadi saya tidak bisa melihat cara untuk berkeliling memilih sekelompok .$\bf{x}$$\bf{x}$$\bf{x}^*$$a_{EI}(\bf{x}^*)$$\bf{x}$

Pertanyaannya: (?? Menengah kecil) apa adalah metode praktis untuk memilih besar set kandidat 's lebih yang saya memaksimalkan EI (atau fungsi akuisisi lainnya)? (Apakah ini ada di koran di suatu tempat dan saya baru saja melewatkannya?)$\bf{x}$

Saat ini, saya hanya mengambil set saya saat ini , mengambil sampelnya dengan penggantian 2000 kali, dan kemudian menambahkan beberapa noise Gaussian ke setiap titik. Sepertinya tidak apa-apa, kurasa.${x_i}$

Normalnya adalah menggunakan pengoptimal global yang Anda suka. Masalahnya adalah bahwa permukaan EI sangat multi-modal dan terputus; Mengoptimalkan fungsi akuisisi ini adalah masalah yang bukan masalah sendiri.

Pilihan umum yang saya lihat di berbagai makalah adalah algoritma DIRECT ; kadang-kadang saya pernah melihat CMA-ES yang merupakan metode canggih dalam optimasi nonlinier. Dalam pengalaman saya untuk bentuk pengoptimalan lainnya, MCS ( Pencarian Koordinat Multi Tingkat ) cenderung bekerja relatif baik. Anda dapat menemukan ulasan pengoptimal global bebas derivatif di sini :

• Rios dan Sahinidis, "Optimalisasi bebas-derivatif: tinjauan algoritma dan perbandingan implementasi perangkat lunak", Journal of Global Optimization (2013).

Omong-omong, EI bersifat analitis jadi jika mau, Anda juga dapat menghitung gradiennya untuk memandu pengoptimalan, tetapi ini tidak perlu. Teknik yang efektif adalah menjalankan pengoptimal global terlebih dahulu untuk menemukan solusi yang menjanjikan dan kemudian menjalankan pengoptimal lokal untuk memperbaikinya (misalnya, metode kuasi-Newton seperti BFGS, yaitu fminunc di MATLAB; atau fmincon jika Anda memiliki kendala).

Akhirnya, jika kecepatan optimalisasi fungsi akuisisi merupakan faktor (yang bukan merupakan skenario BO "tradisional"), saya telah menemukan hasil yang layak dengan memulai dengan desain Hypercube Latin atau desain urutan Sobol acak-acak, kemudian disempurnakan dengan beberapa langkah dari pengoptimal lokal dari titik terbaik; lihat juga @ user777 komentar. Karena ini bukan skenario BO standar, saya tidak punya referensi khusus yang benar-benar menggunakan metode ini.

Contoh makalah yang merujuk pada DIRECT atau CMA-ES:

• Calandra, R., Seyfarth, A., Peters, J., & Deisenroth, MP (2015). Optimalisasi Bayesian untuk mempelajari ukuran di bawah ketidakpastian. Sejarah Matematika dan Kecerdasan Buatan, 1-19 ( tautan ).
• Mahendran, N., Wang, Z., Hamze, F., & Freitas, ND (2012). MCMC adaptif dengan optimasi Bayesian. Dalam Konferensi Internasional tentang Kecerdasan Buatan dan Statistik (hal. 751-760) ( tautan ).
• Gunter, T., Osborne, MA, Garnett, R., Hennig, P., & Roberts, SJ (2014). Pengambilan sampel untuk inferensi dalam model probabilistik dengan quadrature Bayesian cepat. Dalam Kemajuan dalam sistem pemrosesan informasi saraf (hal. 2789-2797) ( tautan ).

Anda hanya dapat google "Bayesian optimasi" + algoritma optimasi global yang diinginkan, dan Anda akan menemukan banyak makalah. Plus, di hampir setiap makalah lain tentang BO Anda akan menemukan kalimat seperti :

[...] BO biasanya memerlukan pengoptimal global tambahan di setiap iterasi untuk mengoptimalkan fungsi akuisisi. Merupakan kebiasaan dalam literatur BO untuk menggunakan DIECTED RECTangles (DIRECT) untuk menyelesaikan tugas seperti itu. Algoritma optimisasi global lainnya seperti CMA-ES juga dapat diterapkan.