Pertanyaan yang diberi tag «random-forest»

Saya mencoba mengidentifikasi model terbaik untuk memprediksi harga mobil, menggunakan harga dan fitur yang tersedia di situs iklan baris mobil. Untuk ini saya menggunakan beberapa model dari perpustakaan scikit-belajar dan model jaringan saraf dari pybrain dan neurolab. Pendekatan yang saya gunakan sejauh ini adalah menjalankan jumlah data tetap melalui beberapa …

17 machine-learning  neural-networks  random-forest  r-squared  elastic-net 

Saya bekerja dengan banyak algoritma: RandomForest, DecisionTrees, NaiveBayes, SVM (kernel = linear dan rbf), KNN, LDA dan XGBoost. Semuanya cukup cepat kecuali untuk SVM. Saat itulah saya mengetahui bahwa perlu penskalaan fitur untuk bekerja lebih cepat. Kemudian saya mulai bertanya-tanya apakah saya harus melakukan hal yang sama untuk algoritma lainnya.

17 machine-learning  svm  random-forest  naive-bayes  xgboost 

Setelah saya membangun model hutan acak (regresi) dalam R, panggilan rf$importancememberi saya dua ukuran untuk setiap variabel prediktor, %IncMSEdan IncNodePurity. Apakah interpretasi bahwa variabel prediktor dengan %IncMSEnilai yang lebih kecil lebih penting daripada variabel prediktor dengan %IncMSEnilai yang lebih besar ? Bagaimana dengan untuk IncNodePurity?

17 r  feature-selection  random-forest 

Saya mengeksplorasi berbagai metode klasifikasi untuk proyek yang sedang saya kerjakan, dan saya tertarik untuk mencoba Hutan Acak. Saya mencoba mendidik diri sendiri seiring berjalannya waktu, dan akan menghargai setiap bantuan yang diberikan oleh komunitas CV. Saya telah membagi data saya ke dalam set pelatihan / tes. Dari percobaan dengan …

17 r  machine-learning  random-forest 

Saya mencoba memahami bagaimana saya bisa mendapatkan fitur penting dari variabel kategori yang telah dipecah menjadi variabel dummy. Saya menggunakan scikit-learn yang tidak menangani variabel kategorikal untuk Anda seperti R atau h2o. Jika saya memecah variabel kategori menjadi variabel dummy, saya mendapatkan fitur penting terpisah per kelas dalam variabel itu. …

17 categorical-data  random-forest  interpretation  importance 

Random Forests (RFs) adalah metode pemodelan / penambangan data kompetitif. Model RF memiliki satu output - variabel output / prediksi. Pendekatan naif untuk memodelkan banyak keluaran dengan RF adalah membangun RF untuk setiap variabel keluaran. Jadi kita memiliki N model independen, dan di mana ada korelasi antara variabel output kita …

17 machine-learning  cart  random-forest  multilabel 

Saya memiliki dataset dengan sebagian besar variabel keuangan (120 fitur, 4k contoh) yang sebagian besar sangat berkorelasi dan sangat bising (indikator teknis, misalnya) jadi saya ingin memilih sekitar maks 20-30 untuk digunakan nanti dengan pelatihan model (klasifikasi biner - bertambah berkurang). Saya sedang berpikir tentang menggunakan hutan acak untuk peringkat …

16 feature-selection  random-forest  python 

Dapatkah mesin peningkat gradien Friedman mencapai kinerja yang lebih baik daripada Hutan Acak Breiman ? Jika demikian, dalam kondisi apa atau jenis data apa yang dapat membuat gbm lebih baik?

16 machine-learning  data-mining  random-forest  boosting 

Jadi, saya seorang pemula di bidang ML dan saya mencoba untuk melakukan klasifikasi. Tujuan saya adalah untuk memprediksi hasil acara olahraga. Saya telah mengumpulkan beberapa data historis dan sekarang mencoba untuk melatih classifier. Saya mendapatkan sekitar 1.200 sampel, 0,2 di antaranya saya pisahkan untuk keperluan pengujian, yang lain saya masukkan …

16 classification  svm  feature-selection  random-forest 

Saya mencoba menggunakan Random Forest untuk memprediksi hasil dari set data yang sangat tidak seimbang (tingkat kelas minoritas hanya sekitar 1% atau bahkan kurang). Karena algoritma Acak Hutan tradisional meminimalkan tingkat kesalahan keseluruhan, daripada memberikan perhatian khusus pada kelas-kelas minoritas, itu tidak langsung berlaku pada data yang tidak seimbang. Jadi …

16 r  random-forest 

Variabel input saya memiliki dimensi yang berbeda. Beberapa variabel adalah desimal sementara beberapa lainnya ratusan. Apakah penting untuk memusatkan (mengurangi rata-rata) atau skala (dibagi dengan standar deviasi) variabel-variabel input ini untuk membuat data tidak berdimensi saat menggunakan hutan acak?

16 random-forest  standardization  data-preprocessing  centering 

Saya cukup baru di hutan acak. Di masa lalu, saya selalu membandingkan akurasi fit vs tes terhadap fit vs kereta untuk mendeteksi overfitting apapun. Tapi saya baru baca di sini bahwa: "Di hutan acak, tidak perlu untuk validasi silang atau set tes terpisah untuk mendapatkan estimasi yang tidak bias dari …

15 cross-validation  random-forest  overfitting 

Saya ingin tahu apakah hutan acak Breiman (hutan acak dalam paket R randomForest) digunakan sebagai kriteria pemisahan (kriteria untuk pemilihan atribut) informasi atau indeks Gini? Saya mencoba untuk mengetahuinya di http://www.stat.berkeley.edu/~breiman/RandomForests/cc_home.htm dan dalam dokumentasi untuk paket randomForest di R. Tetapi satu-satunya hal yang saya temukan adalah bahwa indeks Gini dapat …

15 r  random-forest  entropy  gini 

Saya sedang mengerjakan ukuran kepentingan fitur Gini untuk hutan acak. Oleh karena itu, saya perlu menghitung penurunan Gini dalam ketidakmurnian simpul. Inilah cara saya melakukannya, yang mengarah pada konflik dengan definisi tersebut, menunjukkan bahwa saya pasti salah di suatu tempat ... :) Untuk pohon biner, dan mengingat probabilitas anak-anak kiri …

15 feature-selection  random-forest  cart 

Saya mencoba menggunakan Regresi Hutan Acak di scikits-learn. Masalahnya adalah saya mendapatkan kesalahan tes yang sangat tinggi: train MSE, 4.64, test MSE: 252.25. Beginilah tampilan data saya: (biru: data nyata, hijau: diperkirakan): Saya menggunakan 90% untuk pelatihan dan 10% untuk ujian. Ini adalah kode yang saya gunakan setelah mencoba beberapa …

15 regression  random-forest  scikit-learn