Pertanyaan yang diberi tag «regression»

Ada beberapa posting tentang cara memilih fitur. Salah satu metode menggambarkan pentingnya fitur berdasarkan t-statistik. Dalam R varImp(model)diterapkan pada model linier dengan fitur standar , nilai absolut t-statistik untuk setiap parameter model digunakan. Jadi, pada dasarnya kita memilih fitur berdasarkan t-statistiknya, artinya seberapa tepat koefisiennya. Tetapi apakah ketepatan koefisien saya …

12 regression  p-value  feature-selection 

Saya telah mempelajari regresi linear dan mencobanya pada set di bawah ini {(x, y)}, di mana x menentukan luas rumah dalam kaki persegi, dan y menentukan harga dalam dolar. Ini adalah contoh pertama dalam Catatan Andrew Ng . 2104.400 1600.330 2400.369 1416.232 3000,540 Saya mengembangkan kode sampel tetapi ketika saya …

12 regression  least-squares  gradient-descent  supervised-learning 

Berikut adalah masalah deviasi absolut terkecil yang terkait:. Saya tahu ini bisa diatur ulang sebagai masalah LP dengan cara berikut:argminwL(w)=∑ni=1|yi−wTx|arg⁡minwL(w)=∑i=1n|yi−wTx| \underset{\textbf{w}}{\arg\min} L(w)=\sum_{i=1}^{n}|y_{i}-\textbf{w}^T\textbf{x}| min∑ni=1uimin∑i=1nui\min \sum_{i=1}^{n}u_{i} ui≥xTw−yii=1,…,nui≥xTw−yii=1,…,nu_i \geq \textbf{x}^T\textbf{w}- y_{i} \; i = 1,\ldots,n ui≥−(xTw−yi)i=1,…,nui≥−(xTw−yi)i=1,…,nu_i \geq -\left(\textbf{x}^T\textbf{w}-y_{i}\right) \; i = 1,\ldots,n Tapi saya tidak punya ide untuk menyelesaikannya langkah demi langkah, karena …

12 regression  optimization  quantile-regression  linear-programming  least-absolute-deviations 

Apa perbedaan antara kuadrat terkecil dan regresi linier? Apakah ini sama?

12 regression  least-squares  terminology 

Latar Belakang: Saya mencoba mengikuti review Princeton tentang estimasi MLE untuk GLM . Saya memahami dasar-dasar estimasi MLE: likelihood, score, diamati dan diharapkan Fisher informationdan Fisher scoringteknik. Dan saya tahu bagaimana membenarkan regresi linier sederhana dengan estimasi MLE . Pertanyaan: Saya bahkan tidak mengerti baris pertama dari metode ini :( …

12 regression  generalized-linear-model  maximum-likelihood  link-function  irls 

Analisis regresi moderat sering digunakan dalam ilmu sosial untuk menilai interaksi antara dua atau lebih prediktor / kovariat. Biasanya, dengan dua variabel prediktor, model berikut ini diterapkan: Y=β0+β1∗X+β2∗M+β3∗XM+eY=β0+β1∗X+β2∗M+β3∗XM+eY = β_0 + β_1*X + β_2*M + β_3*XM + e Perhatikan bahwa uji moderasi dioperasionalkan oleh istilah produk XMXMXM (perkalian antara variabel …

12 regression  interaction 

Zou et al. "Pada" derajat kebebasan "dari laso" (2007) menunjukkan bahwa jumlah koefisien bukan nol adalah perkiraan yang tidak bias dan konsisten untuk derajat kebebasan laso. Sepertinya agak berlawanan dengan intuisi saya. Misalkan kita memiliki model regresi (di mana variabelnya nol rata-rata) y=βx+ε.y=βx+ε.y=\beta x + \varepsilon. Misalkan perkiraan OLS yang …

12 regression  lasso  degrees-of-freedom  shrinkage 

Apa contoh collinearity sempurna dalam hal matriks desain ?XXX Saya ingin contoh di mana tidak dapat diperkirakan karena tidak dapat dibalik.(X'X)β^=(X′X)−1X′Yβ^=(X′X)−1X′Y\hat \beta = (X'X)^{-1}X'Y(X′X)(X′X)(X'X)

12 regression  multicollinearity  matrix  matrix-inverse 

Kecuali saya salah, dalam model linier, distribusi respons diasumsikan memiliki komponen sistematis dan komponen acak. Istilah kesalahan menangkap komponen acak. Oleh karena itu, jika kita mengasumsikan bahwa istilah kesalahan terdistribusi secara normal, bukankah itu menyiratkan bahwa responsnya juga terdistribusi secara normal? Saya pikir memang demikian, tetapi pernyataan seperti di bawah …

12 regression  assumptions 

Saya telah menemukan tiga proposal untuk menangani overdispersi dalam variabel respon Poisson dan semua model awal efek tetap: Gunakan model kuasi; Gunakan GLM binomial negatif; Gunakan model campuran dengan efek acak tingkat subjek. Tapi yang mana yang harus dipilih, dan mengapa? Apakah ada kriteria aktual di antara ini?

12 regression  negative-binomial  poisson-regression  overdispersion  quasi-likelihood 

Saya membuat pengukuran dua variabel dan . Mereka berdua mengetahui ketidakpastian dan terkait dengannya. Saya ingin menemukan hubungan antara dan . Bagaimana saya bisa melakukannya?x y σ x σ y x ynnnxxxyyyσxσx\sigma_xσyσy\sigma_yxxxyyy EDIT : setiap memiliki terkait dengannya, dan sama dengan .σ x , i y ixsayaxix_iσx , sayaσx,i\sigma_{x,i}ysayayiy_i Contoh …

12 r  regression  deming-regression 

Saat ini saya sedang belajar sendiri bagaimana melakukan klasifikasi, dan secara khusus saya melihat tiga metode: mendukung mesin vektor, jaringan saraf, dan regresi logistik. Apa yang saya coba pahami adalah mengapa regresi logistik akan berkinerja lebih baik daripada dua lainnya. Dari pemahaman saya tentang regresi logistik, idenya adalah untuk mencocokkan …

12 regression  machine-learning  logistic  classification  regression-strategies 

Saya pikir saya mengerti masalah ini, tetapi sekarang saya tidak yakin dan saya ingin memeriksa dengan orang lain sebelum saya melanjutkan. Saya punya dua variabel, Xdan Y. Yadalah rasio, dan tidak dibatasi oleh 0 dan 1 dan biasanya terdistribusi secara normal. Xadalah proporsi, dan dibatasi oleh 0 dan 1 (berjalan …

12 r  regression  data-transformation  nonlinear-regression  proportion 

Latar belakang dan masalah Saya menggunakan Proses Gaussian (GP) untuk regresi dan optimasi Bayesian berikutnya (BO). Untuk regresi saya menggunakan paket gpml untuk MATLAB dengan beberapa modifikasi custom-made, tetapi masalahnya umum. Adalah fakta yang diketahui bahwa ketika dua input pelatihan terlalu dekat dalam ruang input, matriks kovarians dapat menjadi tidak-pasti …

12 regression  covariance-matrix  gaussian-process  bayesian-optimization 

Saya ingin tahu tentang pernyataan yang dibuat di bagian bawah halaman pertama dalam teks ini mengenai penyesuaianR2adjustedRadjusted2R^2_\mathrm{adjusted} R2adjusted=1−(1−R2)(n−1n−m−1).Radjusted2=1−(1−R2)(n−1n−m−1).R^2_\mathrm{adjusted} =1-(1-R^2)\left({\frac{n-1}{n-m-1}}\right). Teks menyatakan: Logika penyesuaian adalah sebagai berikut: dalam regresi berganda biasa, prediktor acak menjelaskan rata-rata proporsi dari variasi respons, sehingga m prediktor acak menjelaskan bersama, rata-rata, m / (n - 1) …

12 regression  expected-value  goodness-of-fit  r-squared