Pertanyaan yang diberi tag «neural-networks»

Saya sedang membaca makalah FaceNet dan dalam paragraf 3 dari pengantar tertulis: Pendekatan pengenalan wajah sebelumnya yang didasarkan pada jaringan dalam menggunakan lapisan klasifikasi yang dilatih lebih dari satu set identitas wajah yang dikenal dan kemudian mengambil lapisan bottleneck antara sebagai representasi yang digunakan untuk menggeneralisasi pengakuan di luar rangkaian …

14 neural-networks  image-processing 

Saya mencoba memahami makalah terkenal "Bermain Atari dengan Pembelajaran Penguatan Jauh" ( pdf ). Saya tidak jelas tentang perbedaan antara zaman dan episode . Dalam algoritma , loop luar lebih dari episode , sedangkan pada gambar sumbu x diberi label zaman . Dalam konteks pembelajaran penguatan, saya tidak jelas apa …

14 neural-networks  terminology  reinforcement-learning  q-learning 

Dalam beberapa tutorial saya menemukan dinyatakan bahwa "Xavier" inisialisasi berat (kertas: Memahami kesulitan pelatihan deep feedforward neural networks ) adalah cara yang efisien untuk menginisialisasi bobot jaringan saraf. Untuk lapisan yang sepenuhnya terhubung ada aturan praktis dalam tutorial tersebut: Var(W)=2nin+nout,simpler alternative:Var(W)=1ninVar(W)=2nin+nout,simpler alternative:Var(W)=1ninVar(W) = \frac{2}{n_{in} + n_{out}}, \quad \text{simpler alternative:} \quad …

14 normal-distribution  variance  neural-networks  conv-neural-network 

Teorema aproksimasi universal adalah hasil yang cukup terkenal untuk jaringan saraf, pada dasarnya menyatakan bahwa berdasarkan beberapa asumsi, suatu fungsi dapat didekati secara seragam oleh jaringan saraf dengan akurasi apa pun. Apakah ada beberapa hasil analog yang berlaku untuk jaringan saraf convolutional?

14 neural-networks  conv-neural-network  approximation 

Saya bingung dengan definisi model non-parametrik setelah membaca tautan ini Model parametrik vs Nonparametrik dan Menjawab komentar dari pertanyaan saya yang lain . Awalnya saya pikir "parametrik vs non-parametrik" berarti jika kita memiliki asumsi distribusi pada model (mirip dengan pengujian hipotesis parametrik atau non-parametrik). Tetapi kedua sumber daya mengklaim "parametrik …

14 machine-learning  neural-networks  nonparametric  terminology  parametric 

Saya memiliki data mentah yang memiliki sekitar 20 kolom (20 fitur). Sepuluh di antaranya merupakan data kontinu dan 10 di antaranya bersifat kategorikal. Beberapa data kategorikal dapat memiliki seperti 50 nilai yang berbeda (Amerika Serikat). Setelah saya pra-proses data, 10 kolom kontinu menjadi 10 kolom yang disiapkan dan 10 nilai …

13 machine-learning  neural-networks  tensorflow  data-preprocessing  theano 

Dalam makalah DeepMind tahun 2015 tentang pembelajaran penguatan dalam, ia menyatakan bahwa "Upaya sebelumnya untuk menggabungkan RL dengan jaringan saraf sebagian besar gagal karena pembelajaran yang tidak stabil". Makalah ini kemudian mencantumkan beberapa penyebabnya, berdasarkan korelasi antar pengamatan. Tolong bisakah seseorang menjelaskan apa artinya ini? Apakah itu bentuk overfitting, di …

13 machine-learning  neural-networks  deep-learning  reinforcement-learning 

Saya telah membaca beberapa makalah tentang membuat gambar secara manual untuk "mengelabui" jaringan saraf (lihat di bawah). Apakah ini karena jaringan hanya memodelkan probabilitas bersyarat ? Jika jaringan dapat memodelkan probabilitas gabungan , akankah kasus seperti itu masih terjadi?p ( y| x)hal(y|x)p(y|x)p ( y, x )hal(y,x)p(y,x) Dugaan saya adalah gambar …

13 machine-learning  neural-networks  deep-learning 

Saya mencari di Google, Wikipedia, sarjana Google, dan banyak lagi, tetapi saya tidak dapat menemukan asal Autoencoder. Mungkin itu salah satu konsep yang berevolusi sangat lambat, dan tidak mungkin untuk melacak kembali titik awal yang jelas, tetapi saya masih ingin menemukan semacam ringkasan dari langkah-langkah utama perkembangan mereka. The bab …

13 neural-networks  autoencoders  history 

Menurut pendapat saya, data input yang berkorelasi harus mengarah ke overfitting di jaringan saraf karena jaringan mempelajari korelasi misalnya kebisingan dalam data. Apakah ini benar?

13 correlation  neural-networks  overfitting 

Ketika menginisialisasi bobot koneksi dalam jaringan saraf feedforward, penting untuk menginisialisasi mereka secara acak untuk menghindari simetri yang tidak dapat dipecahkan oleh algoritma pembelajaran. Rekomendasi yang saya lihat di berbagai tempat (misalnya dalam tutorial MNIST TensorFlow ) adalah menggunakan distribusi normal terpotong menggunakan standar deviasi , di manaNadalah jumlah input …

13 neural-networks  backpropagation  weights  truncated-normal 

Saya menggunakan jaringan lstm dan umpan-maju untuk mengklasifikasikan teks. Saya mengonversi teks menjadi vektor satu-panas dan mengumpankan masing-masing ke dalam lstm sehingga saya dapat meringkasnya sebagai satu representasi. Lalu saya memberinya makan ke jaringan lain. Tapi bagaimana cara melatih lstm? Saya hanya ingin urutan mengklasifikasikan teks - haruskah saya memberinya …

13 classification  neural-networks  deep-learning  lstm 

Saya sedang membaca Buku Yoshua Bengio tentang pembelajaran mendalam dan dikatakan di halaman 224: Jaringan konvolusional hanyalah jaringan saraf yang menggunakan konvolusi sebagai pengganti perkalian matriks umum dalam setidaknya satu lapisannya. Namun, saya tidak 100% yakin bagaimana "mengganti perkalian matriks dengan konvolusi" dalam arti yang tepat secara matematis. Yang benar-benar …

13 machine-learning  neural-networks  deep-learning  convolution 

Saya sedang mengerjakan proyek kecil di mana kami mencoba memprediksi harga komoditas (Minyak, Aluminium, Timah, dll.) Selama 6 bulan ke depan. Saya punya 12 variabel untuk diprediksi dan saya punya data dari Apr, 2008 - Mei 2013. Bagaimana saya harus pergi tentang prediksi? Saya telah melakukan yang berikut: Data yang …

13 r  time-series  forecasting  neural-networks  arima 

Dalam sebagian besar contoh yang saya lihat sejauh ini dari jaringan saraf, jaringan digunakan untuk klasifikasi dan node ditransformasikan dengan fungsi sigmoid. Namun, saya ingin menggunakan jaringan saraf untuk menampilkan nilai riil kontinu (secara realistis outputnya biasanya berada pada kisaran -5 hingga +5). Pertanyaan saya adalah: 1. Should I still …

13 regression  neural-networks