Pertanyaan yang diberi tag «regression»

Dokumentasi R untuk keduanya tidak menjelaskan banyak hal. Semua yang bisa saya dapatkan dari tautan ini adalah bahwa menggunakan salah satu dari keduanya harus baik-baik saja. Yang tidak saya dapatkan adalah mengapa mereka tidak sama. Fakta: Fungsi regresi bertahap di R, step()menggunakan extractAIC(). Menariknya, menjalankan lm()model dan model glm()'null' (hanya …

11 r  regression  aic  stepwise-regression 

Ketika kita menghitung standard error dari koefisien regresi, kita tidak memperhitungkan keacakan dalam desain matriks XXX . Dalam OLS misalnya, kita menghitung var(β^)var(β^)\text{var}(\hat{\beta}) sebagai var((XTX)−1XTY)=σ2(XTX)−1var((XTX)-1XTY)=σ2(XTX)-1\text{var}((X^TX)^{-1}X^TY) = \sigma^2(X^TX)^{-1} Jika XXX dianggap acak, hukum varians total akan, dalam arti tertentu, menuntut kontribusi tambahan dari varian XXX juga. yaitu var(β^)=var(E(β^|X))+E(var(β^|X)).var(β^)=var(E(β^|X))+E(var(β^|X)).\text{var}(\hat{\beta}) = \text{var}(E(\hat{\beta}|X)) + …

11 regression  probability  variance  inference 

Menurut referensi Buku 1 , Buku 2 dan kertas . Telah disebutkan bahwa ada kesetaraan antara regresi yang diatur (Ridge, LASSO dan Elastic Net) dan rumus kendala mereka. Saya juga telah melihat Cross Validated 1 , dan Cross Validated 2 , tetapi saya tidak bisa melihat jawaban yang jelas menunjukkan …

11 regression  optimization  lasso  ridge-regression  elastic-net 

Saya melakukan regresi linier yang keluar dengan hasil yang signifikan namun ketika saya memeriksa plot-scatter untuk linearitas saya tidak yakin bahwa data itu linear. Apakah ada cara lain untuk menguji linearitas tanpa memeriksa scatterplot? Bisakah regresi linier menjadi signifikan jika tidak linier? [Diedit untuk memasukkan scatterplots]

11 regression 

Saya mengalami kesulitan untuk memahami bentuk interval kepercayaan dari regresi polinomial. Ini adalah contoh buatan, . Gambar kiri menggambarkan UPV (varians prediksi tidak berskala) dan grafik kanan menunjukkan interval kepercayaan dan (diukur) titik yang diukur pada X = 1,5, X = 2 dan X = 3.Y^=a+b⋅X+c⋅X2Y^=a+b⋅X+c⋅X2\hat{Y}=a+b\cdot X+c\cdot X^2 Detail data …

11 regression  confidence-interval 

Pertanyaan ini terinspirasi oleh jawaban Martijn di sini . Misalkan kita cocok GLM untuk satu keluarga parameter seperti model binomial atau Poisson dan itu adalah prosedur kemungkinan penuh (sebagai lawan mengatakan, quasipoisson). Kemudian, varians adalah fungsi dari mean. Dengan binomial: dan dengan Poisson .var [ X ] = E [ …

11 regression  generalized-linear-model  inference  approximation  t-distribution 

Dalam pengaturan regresi univariat, kami mencoba memodelkan y= Xβ+ n o i s ey=Xβ+noisey = X\beta +noise di mana vektor pengamatan dan matriks desain dengan prediktor. Solusinya adalah . n X ∈ R n × m m β 0 = ( X T X ) - 1 X yy∈Rny∈Rny \in …

11 regression  multivariate-analysis  multivariate-regression 

Saya memiliki dua regresi dari Y yang sama dan tiga tingkat X. Secara keseluruhan n = 15, dengan n = 5 di setiap kelompok atau tingkat X. Regresi pertama memperlakukan X sebagai kategori, menetapkan variabel indikator ke level 2 dan 3 dengan level satu menjadi rujukan. Indikator / boneka seperti: …

11 regression  anova 

Judul mengatakan itu semua. Saya mengerti bahwa Least-Squares dan Maximum-Likelihood akan memberikan hasil yang sama untuk koefisien regresi jika kesalahan model terdistribusi secara normal. Tetapi, apa yang terjadi jika kesalahan tidak terdistribusi secara normal? Mengapa kedua metode ini tidak lagi setara?

11 regression  normal-distribution  maximum-likelihood  least-squares  error 

Saya ingin meningkatkan pemahaman saya tentang jaringan saraf dan manfaatnya dibandingkan dengan algoritma pembelajaran mesin lainnya. Pemahaman saya seperti di bawah ini dan pertanyaan saya adalah: Bisakah Anda memperbaiki dan menambah pemahaman saya? :) Pemahaman saya: (1) Jaringan saraf tiruan = Suatu fungsi, yang memprediksi nilai output dari nilai input. …

11 regression  machine-learning 

Saya seorang mahasiswa fisika yang mempelajari pembelajaran mesin / ilmu data, jadi saya tidak bermaksud pertanyaan ini untuk memulai konflik apa pun :) Namun, sebagian besar program sarjana fisika adalah melakukan laboratorium / eksperimen, yang berarti banyak data pemrosesan dan analisis statistik. Namun, saya melihat perbedaan yang tajam antara cara …

11 regression  machine-learning  cross-validation  dataset  experiment-design 

Saya menjalankan model regresi baik dengan Lasso dan Ridge (untuk memprediksi variabel hasil diskrit mulai dari 0-5). Sebelum menjalankan model, saya menggunakan SelectKBestmetode scikit-learnuntuk mengurangi set fitur dari 250 menjadi 25 . Tanpa pemilihan fitur awal, Lasso dan Ridge menghasilkan skor akurasi yang lebih rendah [yang mungkin disebabkan oleh ukuran …

11 regression  predictive-models  feature-selection  lasso  ridge-regression 

Saat melakukan regresi polinomial untuk ke , orang terkadang menggunakan polinomial mentah, terkadang polinomial ortogonal. Tetapi ketika mereka menggunakan apa yang tampaknya sepenuhnya sewenang-wenang.XYYYXXX Di sini dan di sini polinomial mentah digunakan. Tetapi di sini dan di sini , polinomial ortogonal tampaknya memberikan hasil yang benar. Apa, bagaimana, mengapa ?! …

11 regression  polynomial 

Misalkan saya memiliki dua estimator dan yang merupakan estimator konsisten dari parameter yang sama dan sedemikian rupa sehingga dengan dalam arti psd. Dengan demikian, asymptotically lebih efisien daripada . Kedua penaksir ini didasarkan pada fungsi kerugian yang berbeda. β 2β0√βˆ1β^1\widehat{\beta}_1βˆ2β^2\widehat{\beta}_2β0β0\beta_0V1≤V2 β 1 β 2n−−√(βˆ1−β0)→dN(0,V1),n−−√(βˆ2−β0)→dN(0,V2)n(β^1−β0)→dN(0,V1),n(β^2−β0)→dN(0,V2)\sqrt{n}(\widehat{\beta}_1 -\beta_0) \stackrel{d}\rightarrow \mathcal{N}(0, V_1), \quad \sqrt{n}(\widehat{\beta}_2 …

11 regression  ridge-regression  shrinkage  penalized 

Mencoba menghitung jumlah kunjungan dari demografi dan layanan. Data sangat miring. Histogram: plot qq (kiri adalah log): m <- lm(d$Visits~d$Age+d$Gender+city+service) m <- lm(log(d$Visits)~d$Age+d$Gender+city+service) citydan servicemerupakan variabel faktor. Saya mendapatkan nilai p rendah *** untuk semua variabel, tapi saya juga mendapatkan r-kuadrat rendah 0,05. Apa yang harus saya lakukan? Apakah model …

11 regression  multiple-regression  predictive-models  exponential  qq-plot