Pertanyaan yang diberi tag «random-forest»

Pertanyaan dalam satu kalimat: Apakah ada yang tahu cara menentukan bobot kelas yang baik untuk hutan acak? Penjelasan: Saya bermain-main dengan dataset yang tidak seimbang. Saya ingin menggunakan Rpaket randomForestuntuk melatih model pada dataset yang sangat miring dengan hanya sedikit contoh positif dan banyak contoh negatif. Saya tahu, ada metode …

11 r  random-forest 

Bermain-main dengan Boston Housing Dataset dan RandomForestRegressor(parameter w / default) di scikit-belajar, saya melihat sesuatu yang aneh: skor validasi silang menurun ketika saya meningkatkan jumlah lipatan di atas 10. Strategi validasi silang saya adalah sebagai berikut: cv_met = ShuffleSplit(n_splits=k, test_size=1/k) scores = cross_val_score(est, X, y, cv=cv_met) ... di mana num_cvsbervariasi. …

11 machine-learning  cross-validation  random-forest  sample-size  scikit-learn 

Dalam hal pohon keputusan, dapatkah nilai yang diprediksi berada di luar kisaran data pelatihan? Sebagai contoh, jika rentang set data pelatihan dari variabel target adalah 0-100, ketika saya membuat model dan menerapkannya pada hal lain, dapatkah nilai saya menjadi -5? atau 150? Mengingat bahwa pemahaman saya tentang regresi pohon keputusan …

11 regression  predictive-models  random-forest  cart 

Implementasi randomForest tidak memungkinkan pengambilan sampel melebihi jumlah pengamatan, bahkan ketika pengambilan sampel dengan penggantian. Kenapa ini? Bekerja dengan baik: rf <- randomForest(Species ~ ., iris, sampsize=c(1, 1, 1), replace=TRUE) rf <- randomForest(Species ~ ., iris, sampsize=3, replace=TRUE) Apa yang ingin saya lakukan: rf <- randomForest(Species ~ ., iris, sampsize=c(51, …

11 r  sampling  random-forest  stratification  oversampling 

Sebuah hutan random adalah kumpulan pohon keputusan dibentuk oleh acak memilih hanya fitur tertentu untuk membangun setiap pohon dengan (dan kadang-kadang mengantongi data training). Tampaknya mereka belajar dan menggeneralisasi dengan baik. Adakah yang melakukan pengambilan sampel MCMC pada ruang pohon keputusan atau membandingkannya dengan hutan acak? Saya tahu mungkin lebih …

11 mcmc  monte-carlo  random-forest  cart 

Saya ingin melatih classifier, katakanlah SVM, atau forest acak, atau classifier lainnya. Salah satu fitur dalam dataset adalah variabel kategori dengan 1000 level. Apa cara terbaik untuk mengurangi jumlah level dalam variabel ini. Dalam R ada fungsi yang disebut combine.levels()dalam paket Hmisc , yang menggabungkan tingkat jarang, tetapi saya mencari …

11 classification  svm  random-forest  many-categories 

Katakanlah saya punya model klasifikasi prediksi berdasarkan hutan acak (menggunakan paket randomForest di R). Saya ingin mengaturnya agar pengguna akhir dapat menentukan item untuk menghasilkan prediksi, dan itu akan menampilkan kemungkinan klasifikasi. Sejauh ini, tidak masalah. Tetapi akan berguna / keren untuk dapat menampilkan sesuatu seperti grafik kepentingan variabel, tetapi …

11 machine-learning  random-forest 

Jika kita mempertimbangkan pohon keputusan yang tumbuh penuh (yaitu pohon keputusan yang tidak ditandai), ia memiliki varian yang tinggi dan bias yang rendah. Hutan Bagging dan Random menggunakan model varians tinggi ini dan menggabungkannya untuk mengurangi varians dan dengan demikian meningkatkan akurasi prediksi. Baik Hutan Bagging dan Acak menggunakan sampling …

11 variance  random-forest  cart  bias  bagging 

Saya menemukan istilah kedekatan di hutan acak. Tetapi saya tidak mengerti apa yang dilakukannya di hutan acak. Apa manfaatnya untuk tujuan klasifikasi?

11 machine-learning  random-forest 

Metode yang saya kenal untuk membangun hutan acak adalah sebagai berikut: (dari http://www.stat.berkeley.edu/~breiman/RandomForests/cc_home.htm ) Untuk membangun pohon di hutan kami: Bootstrap sampel ukuran N di mana N adalah ukuran set pelatihan kami. Gunakan contoh bootstrap ini sebagai set pelatihan untuk pohon ini. Di setiap simpul pohon pilih secara acak m …

11 machine-learning  classification  random-forest 

Apakah ada cara untuk mendapatkan skor kepercayaan (kita dapat menyebutnya juga nilai kepercayaan atau kemungkinan) untuk setiap nilai yang diprediksi saat menggunakan algoritma seperti Random Forests atau Extreme Gradient Boosting (XGBoost)? Katakanlah skor kepercayaan ini akan berkisar dari 0 hingga 1 dan menunjukkan seberapa yakin saya tentang prediksi tertentu . …

11 r  regression  random-forest  prediction  boosting 

Saya cocok dengan dataset dengan kelas target biner oleh hutan acak. Dengan python, saya bisa melakukannya dengan randomforestclassifier atau randomforestregressor. Saya bisa mendapatkan klasifikasi langsung dari randomforestclassifier atau saya bisa menjalankan randomforestregressor terlebih dahulu dan mendapatkan kembali satu set nilai yang diestimasi (nilai kontinu). Kemudian saya dapat menemukan nilai cutoff …

11 python  random-forest 

Semuanya ada dalam judul, apakah masuk akal untuk menggunakan pemilihan fitur sebelum menggunakan hutan acak?

11 machine-learning  feature-selection  random-forest 

Saya menggunakan hutan acak pada data kelompok berdimensi tinggi (50 variabel input numerik) yang memiliki struktur hierarki. Data dikumpulkan dengan 6 replikasi pada 30 posisi dari 70 objek berbeda yang menghasilkan 12600 titik data, yang tidak independen. Tampaknya hutan acak terlalu pas data, karena kesalahan oob jauh lebih kecil dari …

11 regression  random-forest 

Saya sedang mengerjakan masalah multiclass dengan 9 kemungkinan label, yang mana saya memiliki dataset yang terdiri dari ~ 50.000 contoh dan ~ 200 fitur masing-masing. Setiap contoh hanya dapat dimiliki oleh satu kelas. Data cukup seimbang di antara label yang berbeda. Mengingat kekokohan dan skalabilitasnya, saya memutuskan untuk menggunakan Random …

11 random-forest  scikit-learn  multi-class