Pertanyaan yang diberi tag «random-forest»

Saat ini saya menggunakan kotak peralatan RF di MATLAB untuk Masalah klasifikasi biner Kumpulan Data: 50.000 sampel dan lebih dari 250 fitur Jadi berapa jumlah pohon dan fitur yang dipilih secara acak pada setiap split untuk menumbuhkan pohon? dapatkah parameter lain sangat memengaruhi hasil?

14 machine-learning  classification  random-forest 

Katakanlah kita memiliki masalah klasifikasi biner dengan sebagian besar fitur kategorikal. Kami menggunakan beberapa model non-linear (mis. XGBoost atau Random Forests) untuk mempelajarinya. Haruskah orang masih khawatir tentang multi-collinearity? Mengapa? Jika jawaban di atas benar, bagaimana seharusnya seseorang melawannya mengingat dia menggunakan jenis model non-linear ini?

13 classification  random-forest  multicollinearity  xgboost 

Ketika kami menilai kualitas Hutan Acak, misalnya menggunakan AUC, apakah lebih tepat untuk menghitung jumlah ini di atas Sampel Luar Tas atau lebih dari seperangkat validasi silang tahan? Saya mendengar bahwa menghitungnya melalui Sampel OOB memberikan penilaian yang lebih pesimistis, tetapi saya tidak mengerti mengapa.

13 cross-validation  random-forest  auc 

Dengan membaca pemodelan statistik yang sangat baik : Dua budaya (Breiman 2001) , kita dapat mengambil semua perbedaan antara model statistik tradisional (misalnya, regresi linier) dan algoritma pembelajaran mesin (misalnya, Bagging, Random Forest, Boosted trees ...). Breiman mengkritik model data (parametrik) karena didasarkan pada asumsi bahwa pengamatan dihasilkan oleh model …

13 machine-learning  data-mining  random-forest  boosting  bagging 

Saya cukup baru dalam pembelajaran mesin, teknik-teknik CART dan sejenisnya, dan saya harap kenaifan saya tidak terlalu jelas. Bagaimana Random Forest menangani struktur data multi-level / hierarkis (misalnya ketika interaksi lintas-level menarik)? Yaitu, kumpulan data dengan unit analisis pada beberapa tingkatan hierarkis ( mis . Siswa bersarang di sekolah, dengan …

13 machine-learning  random-forest  multilevel-analysis  cart 

Saya mencoba memahami cara kerja Random Forest. Saya memiliki pemahaman tentang bagaimana pohon dibangun tetapi tidak dapat memahami bagaimana Random Forest membuat prediksi dari sampel kantong. Adakah yang bisa memberi saya penjelasan sederhana, tolong? :)

13 random-forest  prediction 

Saya sedang melakukan regresi menggunakan Hutan Acak untuk memprediksi harga berdasarkan beberapa atribut. Kode ditulis dalam Python menggunakan Scikit-learn. Bagaimana Anda memutuskan apakah Anda harus mengubah variabel Anda menggunakan exp/ logsebelum menggunakannya agar sesuai dengan model regresi? Apakah perlu ketika menggunakan pendekatan Ensemble seperti Hutan Acak?

13 regression  machine-learning  predictive-models  python  random-forest 

Apakah masuk akal untuk melakukan PCA sebelum melakukan Klasifikasi Hutan Acak? Saya berurusan dengan data teks dimensi tinggi, dan saya ingin melakukan pengurangan fitur untuk membantu menghindari kutukan dimensi, tetapi bukankah Random Forests sudah melakukan semacam pengurangan dimensi?

13 classification  pca  random-forest  dimensionality-reduction  high-dimensional 

Saya mencoba membuat prediksi menggunakan model hutan acak di R. Namun saya mendapatkan kesalahan karena beberapa faktor memiliki nilai yang berbeda di set tes daripada di set pelatihan. Misalnya, suatu faktor Cat_2memiliki nilai 34, 68, 76, dll., Di set tes yang tidak muncul di set pelatihan. Sayangnya, saya tidak memiliki …

13 r  categorical-data  random-forest 

Saya bermain dengan randomForest dan menemukan bahwa secara umum meningkatkan sampSize mengarah ke kinerja yang lebih baik. Apakah ada aturan / formula / etc yang menyarankan apa yang seharusnya sampSize optimal atau apakah itu hal coba-coba? Saya kira cara lain untuk mengungkapkannya; apa risiko saya dari sampSize yang terlalu kecil …

13 r  random-forest 

Pertanyaan Saya: Mengapa hutan acak mempertimbangkan himpunan bagian acak dari fitur untuk pemisahan pada tingkat simpul dalam setiap pohon daripada di tingkat pohon ? Latar Belakang: Ini adalah pertanyaan sejarah. Tin Kam Ho menerbitkan makalah ini tentang membangun "hutan keputusan" dengan secara acak memilih subset fitur yang akan digunakan untuk …

13 machine-learning  feature-selection  random-forest  importance  history 

Saya membaca di situs ini bahwa ternyata Kinect menggunakan algoritma hutan acak untuk pembelajaran mesin dalam beberapa cara. Adakah yang bisa menjelaskan untuk apa hutan itu digunakan secara acak, dan bagaimana pendekatan mereka bekerja?

13 machine-learning  random-forest  application 

Saya memiliki kumpulan data yang terdiri dari 24 baris data bulanan. Fitur-fiturnya adalah PDB, kedatangan bandara, bulan, dan beberapa lainnya. Variabel dependen adalah jumlah pengunjung ke tujuan wisata populer. Apakah Random Forest cocok untuk masalah seperti itu? Data bersifat non-publik sehingga saya tidak dapat memposting sampel.

13 random-forest  small-sample 

Ketika mengkode fitur kategorikal untuk regresi linier, ada aturan: jumlah boneka harus kurang dari jumlah total level (untuk menghindari kolinearitas). Apakah ada aturan yang sama untuk Pohon Keputusan (dikantongi, dikuatkan)? Saya menanyakan hal ini karena praktik standar dalam Python tampaknya adalah memperluas nlevel menjadi nboneka (sklearns ' OneHotEncoderatau Pandas' pd.get_dummies) …

13 categorical-data  random-forest  cart  boosting 

Saya menggunakan RandomForestpaket R dan bingung bagaimana menafsirkan nilai-nilai sumbu Y di plot ketergantungan parsial mereka. Help docs menyatakan bahwa plot adalah "penggambaran grafis dari efek marginal suatu variabel terhadap probabilitas kelas." Namun, saya masih bingung apa tepatnya yang mewakili sumbu y. Khususnya, apa artinya nilai negatif? Apa artinya memiliki …

13 r  interpretation  random-forest  partial-plot