Saya membaca kertas landasan Sequence to Sequence Learning dengan Neural Networks oleh Ilya Sutskever dan Quoc Le. Pada halaman pertama, secara singkat disebutkan bahwa:
A surprising example of the power of DNNs is their ability to sort
N N-bit numbers using only 2 hidden layers of quadratic size
Adakah yang bisa menjelaskan secara singkat bagaimana cara mengurutkan angka menggunakan hanya 2 lapisan tersembunyi?
Jawaban:
Melakukan riset, saya menemukan sebuah makalah yang membuktikan bahwa penyortiran dapat dilakukan dengan paling banyak 3 lapisan, dan solusi mereka optimal jika Anda membatasi ukuran jaringan menjadi polinomial wrt dengan jumlah nomor input:
Kedalaman Jaringan Saraf Efisien untuk Divisi dan Masalah Terkait , lihat Teorema 7 di halaman 955 (halaman 10 dalam PDF).
Saya membayangkan seseorang dapat menghasilkan beban secara manual untuk melakukan pekerjaan itu dengan tepat, tetapi mungkin intinya adalah untuk dapat melatihnya? Beberapa contoh:
Bagaimana cara mengurutkan angka menggunakan Convolutional Neural Network?