Pertanyaan yang diberi tag «machine-learning»

Saya mencoba untuk menerapkan model Campuran Gaussian dengan inferensi variasional stokastik, berikut ini kertas . Ini adalah pgm dari Campuran Gaussian. Menurut makalah itu, algoritma penuh inferensi variatif stokastik adalah: Dan saya masih sangat bingung dengan metode untuk menskalakannya menjadi GMM. Pertama, saya pikir parameter variasional lokal hanya dan yang …

9 machine-learning  bayesian  clustering  gaussian-mixture  variational-bayes 

Dalam Elemen Pembelajaran Statistik , saya menemukan pernyataan berikut: Ada satu kualifikasi: langkah penyaringan awal tanpa pengawasan dapat dilakukan sebelum sampel ditinggalkan. Sebagai contoh, kita dapat memilih 1000 prediktor dengan varians tertinggi di seluruh 50 sampel, sebelum memulai validasi silang. Karena penyaringan ini tidak melibatkan label kelas, itu tidak memberikan …

9 machine-learning  cross-validation  feature-selection 

Pertanyaan saya: apakah saya harus melakukan CV bahkan untuk kumpulan data yang relatif besar? Saya memiliki satu set data yang relatif besar dan saya akan menerapkan algoritma pembelajaran mesin pada set data. Karena PC saya tidak cepat, CV (dan pencarian grid) terkadang memakan waktu terlalu lama. Secara khusus SVM tidak …

9 machine-learning  cross-validation 

Saya sedang mengerjakan buku ESL Hastie, dan saya mengalami kesulitan dengan Pertanyaan 2.3. Pertanyaannya adalah sebagai berikut: Kami sedang mempertimbangkan perkiraan tetangga terdekat di titik asal, dan jarak median dari titik asal ke titik data terdekat diberikan oleh persamaan ini. Saya tidak tahu harus mulai dari mana dalam hal mencoba …

9 machine-learning  computational-statistics 

Ditutup . Pertanyaan ini perlu lebih fokus . Saat ini tidak menerima jawaban. Ingin meningkatkan pertanyaan ini? Perbarui pertanyaan sehingga berfokus pada satu masalah hanya dengan mengedit posting ini . Ditutup 3 tahun yang lalu . Saya ingin belajar tentang teori probabilitas, mengukur teori dan akhirnya mempelajari mesin. Tujuan utama …

9 machine-learning  probability  references  measure-theory 

Saya tahu bagaimana menerapkan fungsi objektif linear dan peningkatan linear di XGBoost. Pertanyaan konkret saya adalah: ketika algoritme itu cocok dengan residual (atau gradien negatif) apakah ia menggunakan satu fitur pada setiap langkah (yaitu model univariat) atau semua fitur (model multivariat)? Referensi apa pun untuk dokumentasi tentang peningkatan linear di …

9 regression  machine-learning  boosting  xgboost 

Latar belakang: Saya menggunakan pendekatan Q-value Neural Network dalam tugas pembelajaran penguatan saya. Pendekatannya persis sama dengan yang dijelaskan dalam pertanyaan ini , namun pertanyaannya sendiri berbeda. Dalam pendekatan ini jumlah output adalah jumlah tindakan yang bisa kita ambil. Dan dengan kata-kata sederhana, algoritmanya adalah sebagai berikut: lakukan tindakan A, …

9 machine-learning  neural-networks  reinforcement-learning  q-learning 

Saya belajar tentang pembelajaran yang mendalam (khususnya CNN), dan bagaimana hal itu biasanya membutuhkan banyak data untuk mencegah overfitting. Namun, saya juga telah diberitahu bahwa semakin tinggi kapasitas / lebih banyak parameter model, semakin banyak data yang diperlukan untuk mencegah overfitting. Oleh karena itu, pertanyaan saya adalah: Mengapa Anda tidak …

9 machine-learning  neural-networks  deep-learning  conv-neural-network 

Misalkan saya ingin melatih jaringan saraf yang dalam untuk melakukan klasifikasi atau regresi, tetapi saya ingin tahu seberapa yakin prediksi tersebut. Bagaimana saya bisa mencapai ini? Gagasan saya adalah menghitung entropi silang untuk setiap datum pelatihan, berdasarkan kinerja prediksinya dalam meter saraf di atas. Kemudian, saya akan melatih jaringan saraf …

9 machine-learning  neural-networks 

Menurut "Efficient Backprop" oleh LeCun et al (1998) adalah praktik yang baik untuk menormalkan semua input sehingga mereka berpusat di sekitar 0 dan berada dalam kisaran turunan maksimum kedua. Jadi misalnya kita akan menggunakan [-0,5,0,5] untuk fungsi "Tanh". Ini untuk membantu perkembangan back-propagation ketika Hessian menjadi lebih stabil. Namun, saya …

9 machine-learning  neural-networks  normalization  deep-learning  multidimensional-scaling 

Setelah membaca banyak makalah pembelajaran yang mendalam, semacam perasaan kasar adalah bahwa ada banyak trik dalam melatih jaringan untuk mendapatkan kinerja yang lebih baik dari biasanya. Dari perspektif aplikasi industri, sangat sulit untuk mengembangkan trik semacam ini kecuali kelompok-kelompok penelitian elit di perusahaan teknologi besar, misalnya, google atau facebook. Lalu …

9 machine-learning  deep-learning  deep-belief-networks 

Saya berasumsi pengaturan umum regresi, yaitu, fungsi kontinu hθ:X→Rnhθ:X→Rnh_\theta:X\to \mathbb R^n dipilih dari keluarga {hθ}θ{hθ}θ\{h_\theta\}_\theta agar sesuai dengan data yang diberikan (xi,yi)∈X×Rn,i=1,…,k(xi,yi)∈X×Rn,i=1,…,k(x_i,y_i)\in X\times \mathbb R^n, i=1,\ldots, k ( XXX dapat berupa ruang seperti kubus [0,1]m[0,1]m[0,1]^m atau bahkan ruang topologi yang masuk akal) menurut beberapa kriteria alami. Apakah ada aplikasi regresi …

9 regression  machine-learning  multiple-regression 

Saya berpikir untuk menyelesaikan Lasso melalui metode subgradien vanilla. Tapi saya sudah membaca orang menyarankan untuk menggunakan gradien keturunan Proksimal. Adakah yang bisa menyoroti mengapa proksimal GD daripada metode subgradien vanilla digunakan untuk Lasso?

9 machine-learning  optimization  lasso  gradient-descent 

Jaringan Autoencoder tampaknya jauh lebih rumit daripada jaringan MLP classifier normal. Setelah beberapa upaya menggunakan Lasagne semua yang saya dapatkan dalam output yang direkonstruksi adalah sesuatu yang menyerupai yang terbaik, rata-rata buram dari semua gambar dari database MNIST tanpa perbedaan pada apa digit input sebenarnya. Struktur jaringan yang saya pilih …

9 machine-learning  neural-networks  dimensionality-reduction  unsupervised-learning  autoencoders 

Menurut dokumentasi objek StandardScaler di scikit-learn: Misalnya banyak elemen yang digunakan dalam fungsi objektif dari algoritma pembelajaran (seperti kernel RBF dari Support Vector Machines atau L1 dan L2 regularizer model linier) mengasumsikan bahwa semua fitur berpusat di sekitar 0 dan memiliki varian dalam urutan yang sama. Jika suatu fitur memiliki …

9 machine-learning  svm  standard-deviation  mean  references