Pertanyaan yang diberi tag «autoencoders»

Baru-baru ini saya telah membaca tentang pembelajaran yang mendalam dan saya bingung tentang istilah (atau mengatakan teknologi). Apa perbedaan antara Jaringan saraf convolutional (CNN), Mesin Boltzmann terbatas (RBM) dan Penyandi otomatis?

123 neural-networks  deep-learning  conv-neural-network  autoencoders  rbm 

Bagaimana cara trik reparameterisasi untuk variabel autoencoder (VAE) bekerja? Apakah ada penjelasan yang intuitif dan mudah tanpa menyederhanakan matematika yang mendasarinya? Dan mengapa kita membutuhkan 'tipuan'?

57 mathematical-statistics  autoencoders  variational-bayes  generative-models 

Baik PCA dan autoencoder dapat melakukan pengurangan demensi, jadi apa perbedaan di antara mereka? Dalam situasi apa saya harus menggunakan satu sama lain?

56 machine-learning  pca  neural-networks  autoencoders 

Pengkodean jarang didefinisikan sebagai pembelajaran kumpulan vektor basis yang terlalu lengkap untuk mewakili vektor input (<- mengapa kita menginginkan ini). Apa perbedaan antara pengkodean jarang dan autoencoder? Kapan kita akan menggunakan pengkodean dan autoencoder yang jarang?

35 machine-learning  neural-networks  unsupervised-learning  deep-learning  autoencoders 

Adakah yang melihat literatur tentang pra-pelatihan dalam jaringan saraf convolutional yang mendalam? Saya hanya melihat pra-pelatihan tanpa pengawasan di autoencoder atau mesin boltzman terbatas.

33 machine-learning  neural-networks  deep-learning  conv-neural-network  autoencoders 

Hinton dan Salakhutdinov dalam Mengurangi Dimensi Data dengan Neural Networks, Science 2006 mengusulkan PCA non-linear melalui penggunaan autoencoder yang mendalam. Saya telah mencoba membangun dan melatih autoencoder PCA dengan Tensorflow beberapa kali tetapi saya tidak pernah dapat memperoleh hasil yang lebih baik daripada PCA linier. Bagaimana saya bisa melatih autoencoder …

31 pca  python  deep-learning  tensorflow  autoencoders 

di hampir semua contoh kode yang pernah saya lihat dari VAE, fungsi kerugian didefinisikan sebagai berikut (ini adalah kode tensorflow, tapi saya pernah melihat yang serupa untuk theano, obor dll. Ini juga untuk convnet, tetapi itu juga tidak terlalu relevan , hanya mempengaruhi sumbu jumlah yang diambil alih): # latent …

26 machine-learning  deep-learning  tensorflow  autoencoders  variational-bayes 

Sebagai per ini dan jawaban ini , autoencoder tampaknya menjadi teknik yang menggunakan jaringan saraf untuk pengurangan dimensi. Saya ingin juga tahu apa adalah variational autoencoder (perbedaan utama / manfaat lebih dari satu "tradisional" autoencoders) dan juga apa yang tugas belajar utama algoritma ini digunakan untuk.

24 machine-learning  bayesian  deep-learning  autoencoders  variational-bayes 

Saya memiliki 50.000 gambar seperti ini: Mereka menggambarkan grafik data. Saya ingin mengekstrak fitur dari gambar-gambar ini sehingga saya menggunakan kode autoencoder yang disediakan oleh Theano (deeplearning.net). Masalahnya adalah, autoencoder ini sepertinya tidak mempelajari fitur apa pun. Saya sudah mencoba RBM dan itu sama. Dataset MNIST menyediakan fitur yang bagus …

24 machine-learning  neural-networks  feature-construction  rbm  autoencoders 

Jadi saya mencoba melakukan pretraining pada gambar manusia menggunakan jaring konvolusional. Saya membaca makalah ( Paper1 dan Paper2 ) dan tautan stackoverflow ini , tapi saya tidak yakin saya mengerti struktur jaring (tidak didefinisikan dengan baik di koran). Pertanyaan: Saya dapat meminta input saya diikuti oleh layer noise diikuti oleh …

23 neural-networks  deep-learning  autoencoders  deep-belief-networks 

Saya mengerti struktur dasar autoencoder variasional dan autoencoder normal (deterministik) dan matematika di belakangnya, tetapi kapan dan mengapa saya lebih suka satu jenis autoencoder dari yang lain? Yang bisa saya pikirkan adalah distribusi sebelumnya variabel laten dari autoencoder variasional memungkinkan kita untuk mengambil sampel variabel laten dan kemudian membangun gambar …

19 deep-learning  autoencoders  variational-bayes 

Saya bereksperimen sedikit autoencoder, dan dengan tensorflow saya membuat model yang mencoba merekonstruksi dataset MNIST. Jaringan saya sangat sederhana: X, e1, e2, d1, Y, di mana e1 dan e2 adalah lapisan pengkodean, d2 dan Y adalah lapisan decoding (dan Y adalah output yang direkonstruksi). X memiliki 784 unit, e1 memiliki …

19 mse  autoencoders  tensorflow  cross-entropy 

Baru-baru ini, saya telah mempelajari autoencoder. Jika saya mengerti dengan benar, autoencoder adalah jaringan saraf di mana lapisan input identik dengan lapisan keluaran. Jadi, jaringan saraf mencoba untuk memprediksi output menggunakan input sebagai standar emas. Apa kegunaan model ini? Apa manfaat dari mencoba merekonstruksi beberapa elemen output, menjadikannya sama dengan …

17 neural-networks  autoencoders 

Saya mempelajari Tutorial ini pada Variational Autoencoders oleh Carl Doersch . Di halaman kedua disebutkan: Salah satu kerangka kerja yang paling populer adalah Varienc Autoencoder [1, 3], subjek tutorial ini. Asumsi model ini lemah, dan pelatihan cepat melalui backpropagation. VAE memang membuat perkiraan, tetapi kesalahan yang diperkenalkan oleh perkiraan ini …

15 machine-learning  deep-learning  autoencoders  variational-bayes 

Katakanlah saya sedang menulis sebuah algoritma untuk membangun 2-layer autoencoder dan 2-layer neural network. Apakah keduanya sama atau berbeda? Apa yang saya pahami adalah bahwa ketika saya membuat autoencoder bertumpuk, saya akan membangun lapis demi lapis. Untuk jaringan saraf, saya akan menginisialisasi semua parameter di netowork, dan kemudian untuk setiap …

14 neural-networks  deep-learning  autoencoders