Pertanyaan yang diberi tag «machine-learning»

Apakah ada cara untuk menguji keterpisahan linear dari dataset dua kelas dalam dimensi tinggi? Vektor fitur saya panjangnya 40. Saya tahu saya selalu dapat menjalankan percobaan regresi logistik dan menentukan hitrate vs false alarm rate untuk menyimpulkan apakah kedua kelas terpisah secara linear atau tidak, tetapi akan lebih baik untuk …

20 machine-learning  classification 

Saya menggunakan libsvm dalam mode C-SVC dengan kernel polinomial derajat 2 dan saya diminta untuk melatih beberapa SVM. Setiap set pelatihan memiliki 10 fitur dan 5000 vektor. Selama pelatihan, saya mendapatkan peringatan ini untuk sebagian besar SVM yang saya latih: WARNING: reaching max number of iterations optimization finished, #iter = …

20 machine-learning  cross-validation  svm  regularization  libsvm 

Breiman mengatakan bahwa pohon-pohon ditanam tanpa pemangkasan. Mengapa? Maksud saya mengatakan bahwa harus ada alasan kuat mengapa pohon-pohon di hutan acak tidak dipangkas. Di sisi lain itu dianggap sangat penting untuk memangkas pohon keputusan tunggal untuk menghindari pas. Apakah ada bacaan yang tersedia untuk dibaca karena alasan ini? Tentu saja …

20 machine-learning 

Saya telah membaca berbagai (tampaknya) pernyataan yang bertentangan apakah AdaBoost (atau teknik meningkatkan lainnya) kurang atau lebih cenderung overfitting dibandingkan dengan metode pembelajaran lainnya. Apakah ada alasan bagus untuk memercayai yang satu atau yang lain? Jika itu tergantung, apa itu tergantung? Apa alasan bahwa AdaBoost kurang / lebih rentan terhadap …

20 machine-learning  boosting 

The Trik kernel yang digunakan dalam beberapa model pembelajaran mesin (misalnya SVM ). Ini pertama kali diperkenalkan dalam makalah "Fondasi teoretis dari metode fungsi potensial dalam pembelajaran pengenalan pola" pada tahun 1964. Definisi wikipedia mengatakan itu metode untuk menggunakan algoritma classifier linier untuk memecahkan masalah non-linear dengan memetakan pengamatan non-linear …

20 machine-learning  kernel-trick 

Saya bukan ahli hutan acak tapi saya jelas mengerti bahwa masalah utama dengan hutan acak adalah generasi pohon (acak). Bisakah Anda jelaskan bagaimana pohon itu dihasilkan? (mis. Apa distribusi yang digunakan untuk pembuatan pohon?) Terima kasih sebelumnya !

20 machine-learning  r  algorithms  cart  random-forest 

Baru-baru ini saya telah belajar bahwa salah satu cara untuk menemukan solusi yang lebih baik untuk masalah ML adalah dengan membuat fitur. Seseorang dapat melakukannya dengan, misalnya, menjumlahkan dua fitur. Sebagai contoh, kami memiliki dua fitur "serangan" dan "pertahanan" semacam pahlawan. Kami kemudian membuat fitur tambahan yang disebut "total" yang …

20 machine-learning  feature-construction 

Apa perbedaan utama antara data jarang dan data yang hilang? Dan bagaimana pengaruhnya terhadap pembelajaran mesin? Lebih khusus lagi, apa efek data jarang dan data yang hilang miliki pada algoritma klasifikasi dan tipe algoritma regresi (prediksi angka). Saya berbicara tentang situasi, di mana persentase data yang hilang signifikan dan kami …

20 machine-learning  dataset  missing-data  sparse 

Saya membaca bab bias-varians dari unsur-unsur pembelajaran statistik dan saya ragu dalam rumus di halaman 29. Biarkan data muncul dari model sehingga Y=f(x)+ϵY=f(x)+ϵ Y = f(x)+\epsilon mana adalah bilangan acak dengan nilai yang diharapkan dan Variance . Biarkan nilai kesalahan model yang diharapkan adalah mana adalah prediksi dari pelajar kita. …

20 machine-learning  unbiased-estimator  mse  bias-variance-tradeoff 

Saya telah menggunakan theano untuk bereksperimen dengan LSTM, dan bertanya-tanya apa metode optimasi (SGD, Adagrad, Adadelta, RMSprop, Adam, dll) bekerja paling baik untuk LSTM? Apakah ada makalah penelitian tentang topik ini? Juga, apakah jawabannya tergantung pada jenis aplikasi yang saya gunakan untuk LSTM? Jika demikian, saya menggunakan LSTM untuk klasifikasi …

20 machine-learning  neural-networks  optimization  lstm 

Apakah caretpaket R memvalidasi silang baik untuk model alphamaupun lambdauntuk glmnetmodel? Menjalankan kode ini, eGrid <- expand.grid(.alpha = (1:10) * 0.1, .lambda = (1:10) * 0.1) Control <- trainControl(method = "repeatedcv",repeats = 3,verboseIter =TRUE) netFit <- train(x =train_features, y = y_train, method = "glmnet", tuneGrid = eGrid, trControl = Control) …

20 r  machine-learning  cross-validation  caret  glmnet 

Mengapa backpropagation tidak berfungsi saat Anda menginisialisasi semua bobot dengan nilai yang sama (katakanlah 0,5), tetapi berfungsi dengan baik ketika diberi angka acak? Bukankah seharusnya algoritma menghitung kesalahan dan bekerja dari sana, meskipun faktanya bobot awalnya sama?

20 machine-learning  neural-networks  backpropagation 

Dalam istilah istilah jaringan saraf (y = Berat * x + bias) bagaimana saya tahu variabel mana yang lebih penting daripada yang lain? Saya memiliki jaringan saraf dengan 10 input, 1 layer tersembunyi dengan 20 node, dan 1 layer output yang memiliki 1 node. Saya tidak yakin bagaimana mengetahui variabel …

20 machine-learning  neural-networks  bias  tensorflow  theano 

Algoritma genetika adalah salah satu bentuk metode optimasi. Seringkali penurunan gradien stokastik dan turunannya adalah pilihan terbaik untuk optimasi fungsi, tetapi kadang-kadang algoritma genetika masih digunakan. Misalnya, antena pesawat ruang angkasa ST5 NASA dibuat dengan algoritma genetika: Kapan metode optimisasi genetik merupakan pilihan yang lebih baik daripada metode gradient descent …

20 machine-learning  optimization  gradient-descent  genetic-algorithms 

Saya baru-baru ini menjadi tertarik pada LSTM dan saya terkejut mengetahui bahwa bobot dibagi bersama waktu. Saya tahu bahwa jika Anda berbagi bobot lintas waktu, maka urutan waktu input Anda dapat menjadi panjang variabel. Dengan bobot bersama, Anda memiliki lebih sedikit parameter untuk dilatih. Dari pemahaman saya, alasan seseorang akan …

20 machine-learning  lstm  rnn