5 tahun kemudian, apakah jaringan maxout mati, dan mengapa?

Jaringan Maxout adalah ide sederhana namun cemerlang dari Goodfellow et al. dari 2013 hingga maksimal peta fitur untuk mendapatkan penaksir universal untuk aktivasi cembung. Desainnya dirancang untuk digunakan bersama dengan dropout (kemudian diperkenalkan baru-baru ini) dan menghasilkan hasil yang sangat canggih pada tolok ukur seperti CIFAR-10 dan SVHN.

Lima tahun kemudian, putus sekolah pasti masih dalam permainan, tapi bagaimana dengan maxout? Makalah ini masih banyak dikutip dalam makalah baru-baru ini menurut Google Cendekia, tetapi tampaknya hampir tidak ada yang benar-benar menggunakan teknik ini.

Jadi, apakah maxout adalah hal di masa lalu, dan jika demikian, mengapa - apa yang membuatnya menjadi pemain top di tahun 2013 tetapi tidak di tahun 2018?

Pada dasarnya, jika Anda membaca makalah lengkap (terutama, abstrak dan bagian 7), Anda menemukan bahwa pencapaian utama tetap merupakan kontribusi marjinal di atas dropout.

Jika Anda melihat hasil empiris pada Tabel 5 (halaman 5) dari makalah asli maxout , Anda menemukan bahwa tingkat kesalahan klasifikasi hanya sangat, sangat sedikit lebih rendah daripada dropout. (2,47% bukannya 2,78%)

Itu bisa menjelaskan minat yang relatif lebih rendah pada pekerjaan.