Pertanyaan yang diberi tag «deep-learning»

Asumsikan urutan 1 dimensi berikut: A, B, C, Z, B, B, #, C, C, C, V, $, W, A, % ... Surat-surat di A, B, C, ..sini mewakili peristiwa 'biasa'. Simbol di #, $, %, ...sini mewakili acara 'khusus' Jarak temporal antara semua peristiwa adalah tidak seragam (mulai dari detik, …

9 time-series  deep-learning  rare-events  lstm  sequential-pattern-mining 

Setelah membaca banyak makalah pembelajaran yang mendalam, semacam perasaan kasar adalah bahwa ada banyak trik dalam melatih jaringan untuk mendapatkan kinerja yang lebih baik dari biasanya. Dari perspektif aplikasi industri, sangat sulit untuk mengembangkan trik semacam ini kecuali kelompok-kelompok penelitian elit di perusahaan teknologi besar, misalnya, google atau facebook. Lalu …

9 machine-learning  deep-learning  deep-belief-networks 

Saya mencoba memahami bidang reseptif CNN dengan lebih baik. Untuk melakukan itu saya ingin menghitung bidang reseptif dari setiap neuron di LeNet. Untuk MLP normal itu agak mudah (lihat http://deeplearning.net/tutorial/lenet.html#sparse-connectivity ), tetapi lebih sulit untuk menghitung bidang reseptif dari neuron dalam lapisan berikut satu atau lebih lapisan konvolusional dan lapisan …

9 deep-learning  conv-neural-network 

Saya memiliki input yang sangat jarang, misalnya lokasi fitur tertentu dalam gambar input. Selanjutnya setiap fitur dapat memiliki beberapa deteksi (tidak yakin apakah ini akan mempengaruhi desain sistem). Ini saya akan menyajikan sebagai 'gambar biner' saluran k dengan piksel ON yang mewakili keberadaan fitur itu, dan sebaliknya. Kita dapat melihat …

9 neural-networks  deep-learning  sparse 

Sebuah autoencoder variational (Vae) menyediakan cara belajar distribusi probabilitas yang berkaitan masukan representasi latennya . Secara khusus, encoder memetakan input ke distribusi pada . Encoder tipikal akan menampilkan parameter , mewakili distribusi Gaussian ; distribusi ini digunakan sebagai perkiraan kami untuk .p ( x , z)hal(x,z)p(x,z)xxxzzzeeexxxzzz( μ , σ) = …

9 neural-networks  deep-learning  autoencoders  variational-bayes 

Hai, saya sedang mempelajari teknik regresi. Data saya memiliki 15 fitur dan 60 juta contoh (tugas regresi). Ketika saya mencoba banyak teknik regresi yang dikenal (gradient boosted tree, Decision tree regression, AdaBoostRegressor dll) regresi linier dilakukan dengan sangat baik. Skor hampir terbaik di antara algoritma tersebut. Apa yang bisa menjadi …

9 regression  modeling  deep-learning  model  cart 

Saat membaca makalah segmentasi semantik serta implementasi yang sesuai, saya menemukan bahwa beberapa pendekatan menggunakan softmax sementara yang lain menggunakan sigmoid untuk pelabelan tingkat piksel. Misalnya, sehubungan dengan kertas u-net , output adalah peta fitur dengan dua saluran. Saya telah melihat beberapa implementasi menggunakan softmax pada dua keluaran saluran ini. …

9 machine-learning  deep-learning  computer-vision  tensorflow 

Ketika menerapkan dropout di jaringan saraf tiruan, kita perlu mengimbangi kenyataan bahwa pada waktu pelatihan sebagian neuron dinonaktifkan. Untuk melakukannya, ada dua strategi umum: scaling aktivasi pada waktu ujian membalikkan dropout selama fase pelatihan Dua strategi dirangkum dalam slide di bawah ini, diambil dari Standford CS231n: Convolutional Neural Networks for …

9 neural-networks  deep-learning  dropout 

Saya membaca makalah ini: penerjemah skype di mana mereka menggunakan CD-DNN-HMMs (Konteks bergantung pada Jaringan saraf dengan Model Hidden Markov). Saya dapat memahami ide proyek dan arsitektur yang telah mereka rancang tetapi saya tidak mengerti apa itu senones . Saya telah mencari definisi tetapi saya belum menemukan apa pun —Kami …

9 neural-networks  deep-learning  terminology  natural-language  hidden-markov-model 

Saya tidak yakin tentang apa yang saya mengerti dari dokumentasi resmi, yang mengatakan: Pengembalian: Sepasang (keluaran, status) tempat: outputs: Tensor keluaran RNN. Jika time_major == False(default), ini akan menjadi Tensor berbentuk: [batch_size, max_time, cell.output_size]. Jika time_major == True, ini akan menjadi Tensor berbentuk: [max_time, batch_size, cell.output_size]. Catatan, jika cell.output_sizetupel integer …

8 deep-learning  lstm  tensorflow  rnn  gru 

Pembelajaran mendalam adalah topik yang semakin panas saat ini. Apa asumsi utama yang membuat pembelajaran mendalam kurang dalam beberapa set data. Mis: Apakah kinerjanya baik pada set data yang bising?

8 machine-learning  mathematical-statistics  deep-learning 

Jika jaring saraf yang dalam dianggap sebagai penduga fungsi universal, apakah perluasan basis benar-benar diperlukan? Atau apakah ini spesifik kasus? Misalnya, jika seseorang memiliki tiga variabel X kuantitatif, apakah akan ada keuntungan dalam memperluas jumlah variabel dengan memperkenalkan interaksi, polinomial, dll.? Ini tampaknya memiliki utilitas yang baik dalam RF misalnya …

8 neural-networks  deep-learning  feature-construction 

TL; DR (terlalu panjang, tidak dibaca): Saya sedang mengerjakan masalah prediksi deret waktu, yang saya rumuskan sebagai masalah Regresi menggunakan Deep Learning (keras). Saya ingin mengoptimalkan korelasi Pearson antara prediksi saya dan label yang sebenarnya. Saya bingung dengan fakta bahwa menggunakan MSE sebagai proxy sebenarnya mengarah ke hasil yang lebih …

8 machine-learning  deep-learning  loss-functions  pearson-r  mse 

Dalam pembelajaran yang mendalam, dan ini adalah aplikasi untuk visi komputer, apakah mungkin untuk mengetahui fitur apa dari kedua jenis ekstrak pooling ini? misalnya apakah mungkin untuk mengatakan bahwa max pool mengekstraksi tepi? Bisakah kita mengatakan sesuatu yang serupa tentang pooling jahat? PS merasa bebas untuk merekomendasikan jika stackoverflow lebih …

8 machine-learning  deep-learning  feature-construction  computer-vision 

Saya memiliki pengaturan berikut untuk proyek penelitian Keuangan / Pembelajaran Mesin di universitas saya: Saya menerapkan Jaringan Saraf (Jauh) (MLP) dengan struktur berikut di Keras / Theano untuk membedakan saham berkinerja lebih baik (label 1) dari saham berkinerja buruk ( label 0). Pertama-tama saya hanya menggunakan kelipatan valuasi aktual dan …

8 machine-learning  neural-networks  deep-learning  regularization  dropout