5 tahun kemudian, apakah jaringan maxout mati, dan mengapa?


8

Jaringan Maxout adalah ide sederhana namun cemerlang dari Goodfellow et al. dari 2013 hingga maksimal peta fitur untuk mendapatkan penaksir universal untuk aktivasi cembung. Desainnya dirancang untuk digunakan bersama dengan dropout (kemudian diperkenalkan baru-baru ini) dan menghasilkan hasil yang sangat canggih pada tolok ukur seperti CIFAR-10 dan SVHN.

Lima tahun kemudian, putus sekolah pasti masih dalam permainan, tapi bagaimana dengan maxout? Makalah ini masih banyak dikutip dalam makalah baru-baru ini menurut Google Cendekia, tetapi tampaknya hampir tidak ada yang benar-benar menggunakan teknik ini.

Jadi, apakah maxout adalah hal di masa lalu, dan jika demikian, mengapa - apa yang membuatnya menjadi pemain top di tahun 2013 tetapi tidak di tahun 2018?


2
Kemudian teliti lebih lanjut, dan Anda mungkin Goodfellow berikutnya.
FauChristian

Jawaban:


2

Pada dasarnya, jika Anda membaca makalah lengkap (terutama, abstrak dan bagian 7), Anda menemukan bahwa pencapaian utama tetap merupakan kontribusi marjinal di atas dropout.

Jika Anda melihat hasil empiris pada Tabel 5 (halaman 5) dari makalah asli maxout , Anda menemukan bahwa tingkat kesalahan klasifikasi hanya sangat, sangat sedikit lebih rendah daripada dropout. (2,47% bukannya 2,78%)

Itu bisa menjelaskan minat yang relatif lebih rendah pada pekerjaan.


Terima kasih atas jawaban anda. Memotong kesalahan dari 2,78% menjadi 2,47% sebenarnya adalah penurunan 11% dalam tingkat kesalahan. Bukan game changer tapi tetap menarik dan pasti tidak kecil.
user209974

Titik adil. Jika itu menarik untuk aplikasi spesifik Anda, itu pasti layak diselidiki.
Amrinder Arora
Dengan menggunakan situs kami, Anda mengakui telah membaca dan memahami Kebijakan Cookie dan Kebijakan Privasi kami.
Licensed under cc by-sa 3.0 with attribution required.