Pertanyaan yang diberi tag «gbm»

Saya mencoba memahami perbedaan antara GBM & Adaboost. Inilah yang saya mengerti sejauh ini: Ada keduanya meningkatkan algoritma, yang belajar dari kesalahan model sebelumnya dan akhirnya membuat jumlah model tertimbang. GBM dan Adaboost sangat mirip kecuali untuk fungsi kehilangannya. Tapi tetap saja sulit bagi saya untuk mengambil ide perbedaan di …

48 boosting  gbm  adaboost 

Apa alasan teoretis untuk tidak menangani nilai yang hilang? Mesin peningkat gradien, pohon regresi menangani nilai yang hilang. Mengapa Random Forest tidak melakukan itu?

42 random-forest  missing-data  gbm 

Saya punya pertanyaan tentang parameter kedalaman interaksi dalam gbm di R. Ini mungkin pertanyaan noob, yang saya minta maaf, tetapi bagaimana parameternya, yang saya yakini menunjukkan jumlah terminal terminal dalam sebuah pohon, pada dasarnya menunjukkan X-way interaksi di antara para prediktor? Hanya mencoba memahami cara kerjanya. Selain itu, saya mendapatkan …

30 r  machine-learning  boosting  gbm 

Pertanyaan ini tidak mungkin membantu pengunjung di masa mendatang; ini hanya relevan untuk area geografis kecil, momen waktu tertentu, atau situasi yang luar biasa sempit yang umumnya tidak berlaku untuk pemirsa internet di seluruh dunia. Untuk bantuan yang membuat pertanyaan ini dapat diterapkan secara lebih luas, kunjungi pusat bantuan . …

21 r  gbm 

Saya mencoba memahami cara kerja XGBoost. Saya sudah mengerti bagaimana gradien meningkatkan kerja pohon di Python sklearn. Yang tidak jelas bagi saya adalah apakah XGBoost bekerja dengan cara yang sama, tetapi lebih cepat, atau jika ada perbedaan mendasar antara itu dan implementasi python. Ketika saya membaca makalah ini http://learningsys.org/papers/LearningSys_2015_paper_32.pdf Bagi …

20 scikit-learn  boosting  gbm  xgboost 

Saya sedang berurusan dengan masalah klasifikasi biner yang diawasi. Saya ingin menggunakan paket GBM untuk mengklasifikasikan individu sebagai tidak terinfeksi / terinfeksi. Saya memiliki 15 kali lebih tidak terinfeksi daripada orang yang terinfeksi. Saya bertanya-tanya apakah model GBM menderita jika ukuran kelas tidak seimbang? Saya tidak menemukan referensi yang menjawab …

16 r  machine-learning  boosting  unbalanced-classes  gbm 

Saya bereksperimen dengan algoritma mesin peningkat gradien melalui caretpaket di R. Menggunakan dataset penerimaan perguruan tinggi kecil, saya menjalankan kode berikut: library(caret) ### Load admissions dataset. ### mydata <- read.csv("http://www.ats.ucla.edu/stat/data/binary.csv") ### Create yes/no levels for admission. ### mydata$admit_factor[mydata$admit==0] <- "no" mydata$admit_factor[mydata$admit==1] <- "yes" ### Gradient boosting machine algorithm. ### set.seed(123) …

15 machine-learning  caret  boosting  gbm  hypothesis-testing  t-test  panel-data  psychometrics  intraclass-correlation  generalized-linear-model  categorical-data  binomial  model  intercept  causality  cross-correlation  distributions  ranks  p-value  z-test  sign-test  time-series  references  terminology  cross-correlation  definition  probability  distributions  beta-distribution  inverse-gamma  missing-data  paired-comparisons  paired-data  clustered-standard-errors  cluster-sample  time-series  arima  logistic  binary-data  odds-ratio  medicine  hypothesis-testing  wilcoxon-mann-whitney  unsupervised-learning  hierarchical-clustering  neural-networks  train  clustering  k-means  regression  ordinal-data  change-scores  machine-learning  experiment-design  roc  precision-recall  auc  stata  multilevel-analysis  regression  fitting  nonlinear  jmp  r  data-visualization  gam  gamm4  r  lme4-nlme  many-categories  regression  causality  instrumental-variables  endogeneity  controlling-for-a-variable 

Saya ingin tahu apakah proses yang dijelaskan di bawah ini valid / dapat diterima dan ada pembenaran yang tersedia. Idenya: Algoritma pembelajaran terawasi tidak mengasumsikan struktur / distribusi yang mendasari tentang data. Pada akhirnya mereka membuat estimasi titik keluaran. Saya berharap bisa mengukur ketidakpastian estimasi tersebut. Sekarang, proses pembuatan model …

14 machine-learning  confidence-interval  bootstrap  supervised-learning  gbm 

Saya telah menggunakan model tuning caret, tetapi kemudian menjalankan kembali model menggunakan gbmpaket. Ini adalah pemahaman saya bahwa caretpaket menggunakan gbmdan hasilnya harus sama. Namun, hanya menjalankan tes cepat menggunakan data(iris)menunjukkan perbedaan dalam model sekitar 5% menggunakan RMSE dan R ^ 2 sebagai metrik evaluasi. Saya ingin menemukan kinerja model …

13 r  caret  gbm  matrix  linear-algebra  logistic  modeling  logit  ordered-logit  r  confidence-interval  survival  population  weibull  classification  separation  hypothesis-testing  correlation  statistical-significance  p-value  python  r  data-visualization  r  regression  multiple-regression  chi-squared  multivariate-analysis  distributions  random-variable  experiment-design  distributions  poisson-regression  residuals  excel  time-series  garch  var  survival  modeling  cox-model  interaction  r  pca  normality-assumption 

Saya bekerja dengan model GBM menggunakan paket caret dan mencari untuk menemukan metode untuk menyelesaikan interval prediksi untuk data prediksi saya. Saya telah mencari secara luas tetapi hanya menghasilkan beberapa ide untuk menemukan interval prediksi untuk Random Forest. Bantuan / kode R akan sangat dihargai!

12 caret  prediction-interval  gbm 

Apakah ada strategi untuk memilih jumlah pohon dalam GBM? Secara khusus, ntreesargumen dalam R's gbmfungsi. Saya tidak mengerti mengapa Anda tidak harus menetapkan ntreesnilai wajar tertinggi. Saya perhatikan bahwa jumlah pohon yang lebih besar jelas mengurangi variabilitas hasil dari beberapa GBM. Saya tidak berpikir bahwa jumlah pohon yang tinggi akan …

11 r  machine-learning  gbm 

Pertanyaan: Apa perbedaan antara pohon regresi yang dikuatkan (BRT) dan model yang dikembangkan secara umum (GBM)? Bisakah mereka digunakan secara bergantian? Apakah satu bentuk khusus dari yang lain? Mengapa Ridgeway menggunakan frasa "Generalized Boosted Regression Models" (GBM), untuk menggambarkan apa yang sebelumnya diusulkan Friedman sebagai "Gradient Boosting Machine" (GBM)? Kedua …

9 machine-learning  boosting  gbm 

Saya menyadari bahwa ada 3 parameter penyetelan dalam model meningkatkan pohon, yaitu jumlah pohon (jumlah iterasi) parameter penyusutan jumlah pemisahan (ukuran masing-masing pohon penyusun) Pertanyaan saya adalah: untuk setiap parameter penyetelan, bagaimana saya harus menemukan nilai optimalnya? Dan metode apa? Perhatikan bahwa: parameter susut dan jumlah parameter pohon beroperasi bersama, …

9 machine-learning  cross-validation  computational-statistics  boosting  gbm 

Dokumentasi menyatakan bahwa R gbm dengan distribusi = "adaboost" dapat digunakan untuk masalah klasifikasi 0-1. Pertimbangkan fragmen kode berikut: gbm_algorithm <- gbm(y ~ ., data = train_dataset, distribution = "adaboost", n.trees = 5000) gbm_predicted <- predict(gbm_algorithm, test_dataset, n.trees = 5000) Itu dapat ditemukan di dokumentasi yang memprediksi.gbm Mengembalikan vektor prediksi. …

9 r  gbm 

Apakah mungkin untuk memplot plot dependensi parsial untuk menampilkan probabilitas kelas dan memperkirakan efek prediktor untuk model GBM ? Sesuatu yang mirip dengan partialPlotdari randomForestpaket. Menurut artikel ini , sebagian plot dapat dilakukan dengan gbm. Terima kasih sebelumnya atas bantuan Anda.

9 r  gbm