Pertanyaan yang diberi tag «neural-network»

Saya telah menggunakan jaringan saraf untuk sementara waktu sekarang. Namun, satu hal yang selalu saya perjuangkan adalah pemilihan pengoptimal untuk melatih jaringan (menggunakan backprop). Apa yang biasanya saya lakukan hanyalah mulai dengan satu (misalnya SGD standar) dan kemudian coba yang lain cukup banyak secara acak. Saya bertanya-tanya apakah ada pendekatan …

18 neural-network  optimization  backpropagation 

Dari Keras RNN Tutorial: "RNN itu rumit. Pilihan ukuran batch penting, pilihan kehilangan dan pengoptimal sangat penting, dll. Beberapa konfigurasi tidak akan bertemu." Jadi ini lebih merupakan pertanyaan umum tentang menyetel hyperparameter dari LSTM-RNN pada Keras. Saya ingin tahu tentang pendekatan untuk menemukan parameter terbaik untuk RNN ​​Anda. Saya mulai …

18 python  neural-network  deep-learning  keras  hyperparameter 

Saya mencoba memahami peran turunan dari fungsi sigmoid dalam jaringan saraf. Pertama saya plot fungsi sigmoid, dan turunan dari semua titik dari definisi menggunakan python. Apa sebenarnya peran derivatif ini? import numpy as np import matplotlib.pyplot as plt def sigmoid(x): return 1 / (1 + np.exp(-x)) def derivative(x, step): return …

18 machine-learning  neural-network 

Di sini jawabannya mengacu pada gradien menghilang dan meledak yang telah di- sigmoidfungsi aktivasi tetapi, saya kira, Relumemiliki kelemahan dan itu adalah nilai yang diharapkan. tidak ada batasan untuk output Reludan nilai yang diharapkan tidak nol. Saya ingat waktu sebelum popularitas Reluyang tanhadalah yang paling populer di antara mesin ahli …

17 machine-learning  neural-network  deep-learning  gradient-descent  activation-function 

Bagging adalah generasi dari beberapa prediktor yang berfungsi sebagai peramal sebagai satu prediktor tunggal. Dropout adalah teknik yang mengajarkan ke jaringan saraf untuk rata-rata semua subnetwork yang mungkin. Melihat kompetisi Kaggle yang paling penting, tampaknya kedua teknik ini sering digunakan bersama. Saya tidak bisa melihat perbedaan teoretis selain implementasi yang …

17 machine-learning  neural-network  deep-learning 

Saya sedang mengerjakan pertanyaan dari buku online: http://neuralnetworksanddeeplearning.com/chap1.html Saya bisa mengerti bahwa jika lapisan output tambahan adalah 5 neuron output, saya mungkin bisa menetapkan bias pada 0,5 dan berat masing-masing 0,5 untuk lapisan sebelumnya. Tetapi pertanyaannya sekarang meminta lapisan baru dari empat neuron keluaran - yang lebih dari cukup untuk …

17 neural-network 

Pertimbangkan jaringan saraf: Untuk set data tertentu, kami membaginya ke dalam pelatihan, validasi, dan set tes. Misalkan kita melakukannya dalam rasio klasik 60:20:20, maka kita mencegah overfitting dengan memvalidasi jaringan dengan memeriksa pada set validasi. Lalu apa perlunya mengujinya pada set tes untuk memeriksa kinerjanya? Tidakkah kesalahan pada set tes …

17 machine-learning  neural-network  cross-validation 

Saya mengalami beberapa kesulitan dalam menurunkan propagasi kembali dengan ReLU, dan saya melakukan beberapa pekerjaan, tetapi saya tidak yakin apakah saya berada di jalur yang benar. Fungsi Biaya: 12(y−y^)212(y−y^)2\frac{1}{2}(y-\hat y)^2di manayyyadalah nilai riil, dan y adalah nilai prediksi. Juga asumsikanx> 0 selalu.y^y^\hat yxxx 1 Layer ReLU, di mana bobot pada …

17 neural-network  backpropagation 

Saya sedang mengerjakan proyek tentang masalah identifikasi penulis. Saya telah menerapkan normalisasi tf-idf untuk melatih data dan kemudian melatih svm pada data itu. Sekarang ketika menggunakan classifier saya harus menormalkan data uji juga. Saya merasa bahwa tujuan dasar dari normalisasi adalah untuk membuat pembelajaran juga memberikan bobot lebih untuk fitur-fitur …

17 machine-learning  neural-network  deep-learning 

Saya memiliki dataset dengan 3 kelas dengan item berikut: Kelas 1: 900 elemen Kelas 2: 15000 elemen Kelas 3: 800 elemen Saya perlu memprediksi kelas 1 dan kelas 3, yang menandakan penyimpangan penting dari norma. Kelas 2 adalah kasus "normal" default yang tidak saya pedulikan. Fungsi kerugian apa yang akan …

17 neural-network  pytorch 

Saya bermain sedikit dengan convnets. Secara khusus, saya menggunakan dataset kaggle cats-vs-dogs yang terdiri atas 25000 gambar yang dilabeli sebagai kucing atau anjing (masing-masing 1.200). Saya telah berhasil mencapai akurasi klasifikasi sekitar 85% pada set pengujian saya, namun saya menetapkan tujuan untuk mencapai akurasi 90%. Masalah utama saya adalah overfitting. …

16 neural-network  deep-learning  convnet  image-recognition  dropout 

Saya tahu bahwa tidak ada jawaban yang jelas untuk pertanyaan ini, tetapi anggaplah saya memiliki jaringan saraf besar, dengan banyak data dan saya ingin menambahkan fitur baru dalam input. Cara "terbaik" adalah menguji jaringan dengan fitur baru dan melihat hasilnya, tetapi apakah ada metode untuk menguji apakah fitur tersebut SANGAT …

16 machine-learning  neural-network  feature-selection  feature-extraction 

Saya membuat corr()df dari df asli. The corr()df keluar 70 X 70 dan tidak mungkin untuk memvisualisasikan heatmap tersebut ... sns.heatmap(df). Jika saya mencoba untuk menampilkan corr = df.corr(), tabel tidak cocok dengan layar dan saya bisa melihat semua korelasinya. Apakah ini cara untuk mencetak keseluruhan dfterlepas dari ukurannya atau …

16 visualization  pandas  plotting  machine-learning  neural-network  svm  decision-trees  svm  efficiency  python  linear-regression  machine-learning  nlp  topic-model  lda  named-entity-recognition  naive-bayes-classifier  association-rules  fuzzy-logic  kaggle  deep-learning  tensorflow  inception  classification  feature-selection  feature-engineering  machine-learning  scikit-learn  tensorflow  keras  encoding  nlp  text-mining  nlp  rnn  python  neural-network  feature-extraction  machine-learning  predictive-modeling  python  r  linear-regression  clustering  r  ggplot2  neural-network  neural-network  training  python  neural-network  deep-learning  rnn  predictive-modeling  databases  sql  programming  distribution  dataset  cross-validation  neural-network  deep-learning  rnn  machine-learning  machine-learning  python  deep-learning  data-mining  tensorflow  visualization  tools  sql  embeddings  orange  feature-extraction  unsupervised-learning  gan  machine-learning  python  data-mining  pandas  machine-learning  data-mining  bigdata  apache-spark  apache-hadoop  deep-learning  python  convnet  keras  aggregation  clustering  k-means  r  random-forest  decision-trees  reference-request  visualization  data  pandas  plotting  neural-network  keras  rnn  theano  deep-learning  tensorflow  inception  predictive-modeling  deep-learning  regression  sentiment-analysis  nlp  encoding  deep-learning  python  scikit-learn  lda  convnet  keras  predictive-modeling  regression  overfitting  regression  svm  prediction  machine-learning  similarity  word2vec  information-retrieval  word-embeddings  neural-network  deep-learning  rnn 

Misalkan kita memiliki dua jenis fitur input, kategorikal dan kontinu. Data kategorikal dapat direpresentasikan sebagai kode satu-panas A, sedangkan data kontinu hanyalah vektor B dalam ruang dimensi-N. Tampaknya hanya menggunakan concat (A, B) bukan pilihan yang baik karena A, B adalah jenis data yang sama sekali berbeda. Misalnya, tidak seperti …

16 neural-network  feature-selection  categorical-data  feature-construction 

Saya seorang mahasiswa baru sarjana (menyebutkan ini sehingga Anda dapat memaafkan ketidaktahuan saya) yang saat ini sedang melakukan penelitian menggunakan jaringan saraf. Saya telah mengkodekan jaringan saraf tiga simpul (yang berfungsi) berdasarkan bimbingan profesor saya. Namun, saya ingin mengejar karir di bidang AI dan Ilmu Data, dan saya ingin belajar …

15 machine-learning  neural-network