Pertanyaan yang diberi tag «regression»

Mengikuti pengalaman singkat saya dalam statistik, tampaknya jenis jumlah kuadrat (tipe I, II, III, IV ...) yang digunakan dalam mendapatkan hasil ANOVA dapat membuat perbedaan dramatis dalam hasil tes (terutama model dengan interaksi dan hilang data). Namun saya belum melihat makalah yang melaporkannya. Kenapa begitu? Saya akan sangat menghargai jika …

9 regression  anova  manova  reporting  sums-of-squares 

Posting ini mengacu pada model regresi linier bivariat, Yi=β0+β1xiYi=β0+β1xiY_i = \beta_0 + \beta_1x_i . Saya selalu mengambil partisi jumlah total kuadrat (SSTO) menjadi jumlah kuadrat untuk kesalahan (SSE) dan jumlah kuadrat untuk model (SSR) pada iman, tetapi begitu saya mulai benar-benar memikirkannya, saya tidak mengerti mengapa ini bekerja ... Bagian …

9 regression  sums-of-squares  orthogonal 

Hastie dan Tibshirani menyebutkan dalam bagian 4.3.2 dari buku mereka bahwa dalam pengaturan regresi linier, pendekatan kuadrat terkecil sebenarnya merupakan kasus khusus dari kemungkinan maksimum. Bagaimana kita dapat membuktikan hasil ini? PS: Tidak ada detail matematis.

9 regression  maximum-likelihood  least-squares 

y=β0+β1x1+ε0y=β0+β1x1+ε0y = \beta_{0} + \beta_{1}x_{1} + \varepsilon_{0} Bahasa untuk menggambarkan model regresi, seperti regresi linier sangat sederhana yang ditentukan di atas sering bervariasi dan variasi tersebut sering membawa pergeseran makna yang halus. Misalnya, bagian model di sisi kiri persamaan dapat disebut (antara lain saya tidak tahu) dengan konotasi dan denotasi …

9 regression  terminology 

Saya membaca pracetak makalah ini , dan saya mengalami kesulitan mengikuti derivasi mereka dari persamaan untuk Regresi Proses Gaussian. Mereka menggunakan pengaturan & notasi Rasmussen & Williams . Dengan demikian, aditif, mean-nol, stasioner, dan noise terdistribusi normal dengan varian σ2noiseσnoise2\sigma^2_{noise} diasumsikan: y=f(x)+ϵ,ϵ∼N(0,σ2noise)y=f(x)+ϵ,ϵ∼N(0,σnoise2)y=f(\mathbf{x})+\epsilon, \quad \epsilon\sim N(0,\sigma^2_{noise}) GP sebelum dengan nol rata-rata …

9 regression  bayesian  gaussian-process 

Salah satu asumsi regresi linier adalah bahwa harus ada varians konstan dalam hal kesalahan dan bahwa interval kepercayaan dan tes hipotesis yang terkait dengan model bergantung pada asumsi ini. Apa yang sebenarnya terjadi ketika istilah kesalahan tidak memiliki varian konstan?

9 regression  heteroscedasticity  assumptions  robust-standard-error 

Asumsikan hubungan linier berikut: , di mana adalah variabel dependen, variabel independen tunggal dan istilah kesalahan.Yi=β0+β1Xi+uiYi=β0+β1Xi+uiY_i = \beta_0 + \beta_1 X_i + u_iX i u iYiYiY_iXiXiX_iuiuiu_i Menurut Stock & Watson (Pengantar Ekonometrika; Bab 4 ), asumsi kuadrat terkecil ketiga adalah bahwa momen keempat dan adalah non-nol dan terbatas .u i …

9 regression  least-squares  assumptions  bias  consistency 

Katakanlah saya menjalankan regresi linier yang memiliki bentuk .y= β0+ β1A + β2B + β3A B + ϵy=β0+β1A+β2B+β3AB+ϵy = \beta_0 + \beta_1A+\beta_2B+\beta_3AB +\epsilon Jika positif, apakah ini menyiratkan korelasi positif antara A dan B ? (Sebaliknya, korelasi negatif jika β 3 negatif?)β3β3\beta_3SEBUAHAABBBβ3β3\beta_3

9 regression  interaction 

Saya memiliki dataset dengan variabel dependen dan independen. Keduanya bukan deret waktu. Saya memiliki 120 pengamatan. Koefisien korelasi adalah 0,43 Setelah perhitungan ini, saya telah menambahkan kolom untuk kedua variabel dengan rata-rata untuk setiap 12 pengamatan, menghasilkan 2 kolom baru dengan 108 pengamatan (pasangan). Koefisien korelasi kolom-kolom ini adalah 0,77 …

9 regression  correlation  mean  predictor  cross-section 

Saya perlu menyelesaikan masalah regresi yang rumit pada unit disk. Pertanyaan aslinya menarik beberapa komentar menarik, tetapi sayangnya tidak ada jawaban. Sementara itu, saya belajar lebih banyak tentang masalah ini, jadi saya akan mencoba untuk membagi masalah asli menjadi submasalah, dan melihat apakah saya lebih beruntung kali ini. Saya memiliki …

9 regression  spatial  circular-statistics 

Saya tahu bagaimana menerapkan fungsi objektif linear dan peningkatan linear di XGBoost. Pertanyaan konkret saya adalah: ketika algoritme itu cocok dengan residual (atau gradien negatif) apakah ia menggunakan satu fitur pada setiap langkah (yaitu model univariat) atau semua fitur (model multivariat)? Referensi apa pun untuk dokumentasi tentang peningkatan linear di …

9 regression  machine-learning  boosting  xgboost 

Saya mencoba menafsirkan hasil artikel, di mana mereka menerapkan regresi berganda untuk memprediksi berbagai hasil. Namun ββ\beta (koefisien B terstandarisasi didefinisikan sebagai βx1=Bx1⋅SDx1SDyβx1=Bx1⋅SDx1SDy\beta_{x_1} = B_{x_1} \cdot \frac{\mathrm{SD}_{x_1}}{\mathrm{SD}_y} manayyyadalah variabel dependen danx1x1x_1adalah prediktor) yang dilaporkan tampaknya tidak cocok dengandilaporkanR2R2R^2: Meskipun ββ\beta dari -0,83, -0,29, -0,16, -0,43, 0,25, dan -0,29, dilaporkan R2R2R^2hanya …

9 regression  regression-coefficients  multicollinearity  r-squared 

Karena standard error dari regresi linier biasanya diberikan untuk variabel respon, saya bertanya-tanya bagaimana cara mendapatkan interval kepercayaan di arah lain - misalnya untuk x-intersep. Saya dapat memvisualisasikan apa yang mungkin terjadi, tetapi saya yakin pasti ada cara mudah untuk melakukan ini. Di bawah ini adalah contoh dalam R bagaimana …

9 r  regression  confidence-interval  bootstrap 

Adakah yang bisa memberi tahu saya mengapa saya mendapatkan hasil yang berbeda dari Rkuadrat terkecil tertimbang dan solusi manual dengan operasi matriks ? Secara khusus, saya mencoba untuk secara manual menyelesaikan , di mana W adalah matriks diagonal pada bobot, A adalah matriks data, b adalah vektor respons. WAx=WbWAx=Wb\mathbf W …

9 r  regression  least-squares  weighted-regression  weighted-data 

Seorang teman saya baru-baru ini bertanya apa yang begitu biasa, tentang kotak paling tidak biasa. Kami sepertinya tidak berhasil dalam diskusi. Kami berdua sepakat bahwa OLS adalah kasus khusus dari model linier, ia memiliki banyak kegunaan, diketahui dengan baik, dan merupakan kasus khusus dari banyak model lainnya. Tetapi apakah ini …

9 regression  linear-model  least-squares  terminology