Pertanyaan yang diberi tag «conv-neural-network»

Saya belajar tentang pembelajaran yang mendalam (khususnya CNN), dan bagaimana hal itu biasanya membutuhkan banyak data untuk mencegah overfitting. Namun, saya juga telah diberitahu bahwa semakin tinggi kapasitas / lebih banyak parameter model, semakin banyak data yang diperlukan untuk mencegah overfitting. Oleh karena itu, pertanyaan saya adalah: Mengapa Anda tidak …

9 machine-learning  neural-networks  deep-learning  conv-neural-network 

Saya mengerti bagaimana konvolusi bekerja tetapi saya tidak mengerti bagaimana konvolusi 1D diterapkan pada data 2D. Dalam contoh ini Anda dapat melihat konvolusi 2D dalam data 2D. Tetapi bagaimana jadinya jika konvolusi 1D? Hanya 1D kernel yang meluncur dengan cara yang sama? Dan jika langkahnya adalah 2? Terima kasih!

9 conv-neural-network 

Saya mencoba memahami bidang reseptif CNN dengan lebih baik. Untuk melakukan itu saya ingin menghitung bidang reseptif dari setiap neuron di LeNet. Untuk MLP normal itu agak mudah (lihat http://deeplearning.net/tutorial/lenet.html#sparse-connectivity ), tetapi lebih sulit untuk menghitung bidang reseptif dari neuron dalam lapisan berikut satu atau lebih lapisan konvolusional dan lapisan …

9 deep-learning  conv-neural-network 

Di CNN, kita akan mempelajari filter untuk menghasilkan peta fitur dalam lapisan convolutional. Dalam Autoencoder, unit tersembunyi tunggal setiap lapisan dapat dianggap sebagai filter. Apa perbedaan antara filter yang dipelajari dalam dua jaringan ini?

9 machine-learning  neural-networks  conv-neural-network  autoencoders 

Saya menggunakan model TensorFlow yang telah dilatih sebelumnya dari Jaringan Neural Konvolusional. https://github.com/tensorflow/models/blob/master/slim/nets/resnet_v2.py#L130 Saya menemukan kalimat berikut: Namun, untuk tugas prediksi yang padat kami menyarankan agar seseorang menggunakan input dengan dimensi spasial yang merupakan kelipatan dari 32 ditambah 1, misalnya, [321, 321]. Adakah yang tahu apa prediksi padat dalam literatur …

9 neural-networks  conv-neural-network 

Cukup intuitif bahwa sebagian besar topologi / arsitektur jaringan saraf tidak dapat diidentifikasi. Tapi apa saja hasil yang terkenal di lapangan? Apakah ada kondisi sederhana yang memungkinkan / mencegah pengidentifikasian? Sebagai contoh, semua jaringan dengan fungsi aktivasi nonlinear dan lebih dari satu lapisan tersembunyi tidak dapat diidentifikasi semua jaringan dengan …

8 neural-networks  conv-neural-network  rnn  identifiability 

Secara umum saya harus melatih ulang jaringan saraf saya dengan lebih sedikit neuron sehingga memiliki lebih sedikit neuron ReLU yang mati? Saya telah membaca pendapat yang bertentangan tentang ReLU yang mati. Beberapa sumber mengatakan ReLU yang mati baik karena mereka mendorong sparsity. Yang lain mengatakan mereka buruk karena ReLU yang …

8 machine-learning  neural-networks  conv-neural-network 

Saya ingin melatih jaringan dengan non-linearitas yang menderita menghilangnya (atau meledak masalah gradien meskipun sebagian besar menghilang). Saya tahu bahwa cara standar (saat ini) adalah dengan menggunakan normalisasi batch 1 [BN] 1 atau hanya meninggalkan non-linearitas dan menggunakan unit ReLu Rectifier / ReLu . Saya menginginkan dua hal: Tetap dengan …

8 machine-learning  neural-networks  conv-neural-network  batch-normalization 

Saya membuat jaringan saraf convolutional dan saya ingin memeriksa bahwa gradien saya dihitung dengan benar menggunakan pengecekan gradien numerik. Pertanyaannya, seberapa dekat cukup dekat? Fungsi pengecekan saya hanya memuntahkan turunan yang dihitung, turunan yang diperkirakan secara numerik, perbedaan antara keduanya, dan apakah kedua nilai tersebut memiliki tanda yang sama (satu …

8 neural-networks  conv-neural-network  gradient