Pertanyaan yang diberi tag «randomized-algorithms»

Saya mencoba untuk melatih model peningkatan gradien lebih dari 50k contoh dengan 100 fitur numerik. XGBClassifiermenangani 500 pohon dalam waktu 43 detik pada mesin saya, sementara GradientBoostingClassifierhanya menangani 10 pohon (!) dalam 1 menit dan 2 detik :( Saya tidak repot-repot mencoba menumbuhkan 500 pohon karena akan memakan waktu berjam-jam. …

29 scikit-learn  xgboost  gbm  data-mining  classification  data-cleaning  machine-learning  reinforcement-learning  data-mining  bigdata  dataset  nlp  language-model  stanford-nlp  machine-learning  neural-network  deep-learning  randomized-algorithms  machine-learning  beginner  career  xgboost  loss-function  neural-network  software-recommendation  naive-bayes-classifier  classification  scikit-learn  feature-selection  r  random-forest  cross-validation  data-mining  python  scikit-learn  random-forest  churn  python  clustering  k-means  machine-learning  nlp  sentiment-analysis  machine-learning  programming  python  scikit-learn  nltk  gensim  visualization  data  csv  neural-network  deep-learning  descriptive-statistics  machine-learning  supervised-learning  text-mining  orange  data  parameter-estimation  python  pandas  scraping  r  clustering  k-means  unsupervised-learning 

Saya membaca ini: Untuk melatih jaringan saraf kita, kita akan menginisialisasi setiap parameter W (l) ijWij (l) dan setiap b (l) ibi (l) ke nilai acak kecil mendekati nol (katakan menurut Normal (0, ϵ2) Normal (0 , ϵ2) distribusi untuk beberapa ϵϵ kecil, katakan 0,01) dari Stanford Deep, tutorial pembelajaran …

13 deep-learning  stanford-nlp  randomized-algorithms 

Mengingat tugas belajar yang sulit (misalnya dimensi tinggi, kompleksitas data yang melekat) Deep Neural Networks menjadi sulit untuk dilatih. Untuk meringankan banyak masalah, orang mungkin: Normalisasi && data kualitas pilihan sendiri pilih algoritma pelatihan yang berbeda (misalnya RMSprop alih-alih Gradient Descent) pilih fungsi Biaya gradien yang lebih curam (mis. Cross …

10 machine-learning  neural-network  deep-learning  randomized-algorithms 

Gambaran umum proses optimisasi hyperparameter di scikit-learn ada di sini . Pencarian kisi-kisi yang mendalam akan menemukan set hiperparameter yang optimal untuk suatu model. Downside adalah bahwa pencarian grid lengkap lambat. Pencarian acak lebih cepat dari pencarian kotak tetapi memiliki variasi yang tidak perlu tinggi. Ada juga strategi tambahan dalam …

10 scikit-learn  hyperparameter  hyperparameter-tuning  grid-search  randomized-algorithms