Pertanyaan yang diberi tag «regression»

Kertas jaring elastis asli Zou & Hastie (2005) Regularisasi dan pemilihan variabel melalui jaring elastis memperkenalkan fungsi kerugian bersih elastis untuk regresi linier (di sini saya berasumsi semua variabel berpusat dan diskalakan ke varian unit): tetapi menyebutnya "jaring elastis naif". Mereka berpendapat bahwa itu melakukan penyusutan ganda (laso dan punggungan), …

27 regression  regularization  glmnet  elastic-net  shrinkage 

Ketika saya menggunakan GAM, itu memberi saya sisa DF adalah (baris terakhir dalam kode). Apa artinya? Melampaui contoh GAM, Secara umum, bisakah jumlah derajat kebebasan menjadi angka yang bukan bilangan bulat?26.626.626.6 > library(gam) > summary(gam(mpg~lo(wt),data=mtcars)) Call: gam(formula = mpg ~ lo(wt), data = mtcars) Deviance Residuals: Min 1Q Median 3Q …

27 r  degrees-of-freedom  gam  machine-learning  pca  lasso  probability  self-study  bootstrap  expected-value  regression  machine-learning  linear-model  probability  simulation  random-generation  machine-learning  distributions  svm  libsvm  classification  pca  multivariate-analysis  feature-selection  archaeology  r  regression  dataset  simulation  r  regression  time-series  forecasting  predictive-models  r  mean  sem  lavaan  machine-learning  regularization  regression  conv-neural-network  convolution  classification  deep-learning  conv-neural-network  regression  categorical-data  econometrics  r  confirmatory-factor  scale-invariance  self-study  unbiased-estimator  mse  regression  residuals  sampling  random-variable  sample  probability  random-variable  convergence  r  survival  weibull  references  autocorrelation  hypothesis-testing  distributions  correlation  regression  statistical-significance  regression-coefficients  univariate  categorical-data  chi-squared  regression  machine-learning  multiple-regression  categorical-data  linear-model  pca  factor-analysis  factor-rotation  classification  scikit-learn  logistic  p-value  regression  panel-data  multilevel-analysis  variance  bootstrap  bias  probability  r  distributions  interquartile  time-series  hypothesis-testing  normal-distribution  normality-assumption  kurtosis  arima  panel-data  stata  clustered-standard-errors  machine-learning  optimization  lasso  multivariate-analysis  ancova  machine-learning  cross-validation 

Saya membaca tautan berikut tentang regresi non linear SAS Non Linear . Pemahaman saya dari membaca bagian pertama "Regresi Nonlinear vs Regresi Linier" adalah bahwa persamaan di bawah ini sebenarnya adalah regresi linier, apakah itu benar? Jika demikian mengapa? y= b1x3+ b2x2+ b3x + cy=b1x3+b2x2+b3x+cy = b_1x^3 + b_2x^2 + …

27 regression  multiple-regression  nonlinear-regression  multicollinearity 

Mungkin pertanyaan ini naif, tetapi: Jika regresi linier terkait erat dengan koefisien korelasi Pearson, adakah teknik regresi yang terkait erat dengan koefisien korelasi Kendall dan Spearman?

27 regression  correlation  pearson-r  spearman-rho  kendall-tau 

Saya merenungkan diskusi seputar pertanyaan ini dan khususnya komentar Frank Harrell bahwa estimasi untuk varians dalam model yang dikurangi (yaitu satu dari mana sejumlah variabel penjelas telah diuji dan ditolak) harus menggunakan Tingkat Kemerdekaan Umum Ye . Profesor Harrell menunjukkan ini akan jauh lebih dekat dengan derajat sisa kebebasan dari …

27 r  regression  model-selection  regression-strategies 

Pertanyaan ini dimigrasikan dari Mathematics Stack Exchange karena dapat dijawab di Cross Validated. Bermigrasi 8 tahun yang lalu . Ketika saya melakukan regresi linier di beberapa paket perangkat lunak (misalnya Mathematica), saya mendapatkan nilai-p yang terkait dengan parameter individu dalam model. Misalnya, hasil dari regresi linier yang menghasilkan hasil akan …

27 probability  regression 

Semua variabel saya kontinu. Tidak ada level. Apakah mungkin untuk bahkan memiliki interaksi antara variabel?

27 regression  modeling  interaction 

Saya telah membaca di sejumlah referensi bahwa estimasi Lasso untuk parameter vektor regresi setara dengan mode posterior di mana distribusi sebelumnya untuk setiap adalah distribusi eksponensial ganda (juga dikenal sebagai distribusi Laplace).B B iBBBBBBBiBiB_i Saya telah mencoba untuk membuktikan ini, dapatkah seseorang menyempurnakan detailnya?

27 regression  bayesian  lasso  prior  regularization 

Saya mencoba menyelesaikan tugas regresi. Saya menemukan bahwa 3 model bekerja dengan baik untuk subset data yang berbeda: LassoLARS, SVR dan Gradient Tree Boosting. Saya perhatikan bahwa ketika saya membuat prediksi menggunakan ketiga model ini dan kemudian membuat tabel 'output nyata' dan output dari 3 model saya, saya melihat bahwa …

27 regression  scikit-learn  ensemble 

Saya menyelesaikan kursus Pembelajaran Mesin Andrew Ng sekitar setahun yang lalu, dan sekarang saya sedang menulis penjelajahan Matematika SMA saya tentang cara kerja Regresi Logistik dan teknik untuk mengoptimalkan kinerja. Salah satu teknik ini, tentu saja, regularisasi. Tujuan dari regularisasi adalah untuk mencegah overfitting dengan memperluas fungsi biaya untuk memasukkan …

27 regression  machine-learning  optimization  regularization  overfitting 

Saya mencoba memahami makalah tentang perkiraan beban listrik, tetapi saya berjuang dengan konsep di dalam, khususnya model SARIMAX . Model ini digunakan untuk memprediksi beban dan menggunakan banyak konsep statistik yang saya tidak mengerti (saya seorang mahasiswa ilmu komputer sarjana - Anda dapat menganggap saya orang awam dalam statistik). Tidak …

27 regression  time-series  arima  autoregressive  intuition 

Katakanlah kita ingin melakukan regresi untuk f = x * ymenggunakan jaringan saraf standar yang sederhana . Saya ingat bahwa ada beberapa penelitian yang mengatakan bahwa NN dengan satu layer tersembunyi dapat menggunakan fungsi apa pun, tetapi saya telah mencoba dan tanpa normalisasi, NN tidak dapat memperkirakan bahkan perkalian sederhana …

27 regression  machine-learning  neural-networks  deep-learning 

Apa distribusi koefisien determinasi, atau R kuadrat, , dalam regresi berganda univariat linier di bawah hipotesis nol ?R2R2R^2H0:β=0H0:β=0H_0:\beta=0 Bagaimana hal itu tergantung pada jumlah prediktor dan jumlah sampel ? Apakah ada ekspresi bentuk tertutup untuk mode distribusi ini?kkkn>kn>kn>k Secara khusus, saya merasa bahwa untuk regresi sederhana (dengan satu prediktor ) …

26 regression  mathematical-statistics  r-squared  intuition 

Saya pernah mendengar metode menggunakan laso dua kali (seperti laso ganda) di mana Anda melakukan laso pada set variabel asli, katakan S1, dapatkan set jarang yang disebut S2, dan kemudian lakukan laso lagi pada set S2 untuk mendapatkan set S3 . Apakah ada istilah metodologis untuk ini? Juga, apa keuntungan …

26 regression  lasso  regularization  shrinkage  lars 

Meskipun saya membaca posting ini , saya masih tidak tahu bagaimana menerapkan ini pada data saya sendiri dan berharap seseorang dapat membantu saya. Saya memiliki data berikut: y <- c(11.622967, 12.006081, 11.760928, 12.246830, 12.052126, 12.346154, 12.039262, 12.362163, 12.009269, 11.260743, 10.950483, 10.522091, 9.346292, 7.014578, 6.981853, 7.197708, 7.035624, 6.785289, 7.134426, 8.338514, 8.723832, …

26 r  regression  fitting