Statistik dan Big Data

Apakah penurunan regresi peringkat dan regresi komponen utama hanyalah kasus khusus dari kuadrat terkecil parsial? Tutorial ini (Halaman 6, "Perbandingan Tujuan") menyatakan bahwa ketika kita melakukan kuadrat terkecil parsial tanpa memproyeksikan X atau Y (yaitu, "tidak parsial"), itu menjadi penurunan peringkat peringkat atau regresi komponen utama, sesuai. Pernyataan serupa dibuat …

16 regression  pca  dimensionality-reduction  partial-least-squares  reduced-rank-regression 

Apakah ada penjelasan intuitif untuk terminologi ini? Mengapa demikian, dan bukankah para prediktor mengalami kemunduran pada hasilnya? Idealnya saya berharap bahwa penjelasan yang tepat tentang mengapa istilah ini ada akan membantu siswa mengingatnya, dan menghentikan mereka dari mengatakannya dengan cara yang salah.

16 regression  terminology  teaching 

Saya bingung tentang metode kemungkinan maksimum dibandingkan dengan misalnya menghitung rata-rata aritmatika. Kapan dan mengapa kemungkinan maksimum menghasilkan estimasi "lebih baik" daripada mis. Aritmatika? Bagaimana ini bisa diverifikasi?

16 maximum-likelihood 

Saya menemukan beberapa pro analisis diskriminan dan saya punya pertanyaan tentang mereka. Begitu: Ketika kelas dipisahkan dengan baik, estimasi parameter untuk regresi logistik secara mengejutkan tidak stabil. Koefisien bisa menuju tak terhingga. LDA tidak menderita masalah ini. Jika jumlah fitur kecil dan distribusi prediktor kira-kira normal di setiap kelas, model …

16 regression  logistic  multivariate-analysis  discriminant-analysis 

Apa pro & kontra dari kedua metode tersebut?

16 maximum-likelihood  predictive-models  optimization  gradient-descent 

Saya pikir dua formula berikut ini benar: Var(aX)=a2Var(X)Var(aX)=a2Var(X) \mathrm{Var}(aX)=a^2 \mathrm{Var}(X) sedangkan a adalah bilangan konstan Var(X+Y)=Var(X)+Var(Y)Var(X+Y)=Var(X)+Var(Y) \mathrm{Var}(X + Y)=\mathrm{Var}(X)+\mathrm{Var}(Y) jikaXXX ,YYY adalah independen Namun, saya tidak yakin apa yang salah dengan hal di bawah ini: Var(2X)=Var(X+X)=Var(X)+Var(X)Var(2X)=Var(X+X)=Var(X)+Var(X)\mathrm{Var}(2X) = \mathrm{Var}(X+X) = \mathrm{Var}(X) + \mathrm{Var}(X) yang tidak sama dengan , yaitu 4 V …

16 variance  linearity  fallacy 

Saya mencoba menggunakan Random Forest untuk memprediksi hasil dari set data yang sangat tidak seimbang (tingkat kelas minoritas hanya sekitar 1% atau bahkan kurang). Karena algoritma Acak Hutan tradisional meminimalkan tingkat kesalahan keseluruhan, daripada memberikan perhatian khusus pada kelas-kelas minoritas, itu tidak langsung berlaku pada data yang tidak seimbang. Jadi …

16 r  random-forest 

Mari kita pertimbangkan masalah tentang mengklasifikasikan dataset MNIST. Berdasarkan laman web MNIST Yann LeCun , 'Ciresan et al.' mendapat tingkat kesalahan 0,23% pada set uji MNIST menggunakan Jaringan Nevoltural Convolutional. Mari masing menunjukkan MNIST pelatihan ditetapkan sebagai , MNIST uji ditetapkan sebagai D t e s t , hipotesis akhir …

16 machine-learning  classification  overfitting  probability-inequalities 

Saya tahu sangat sedikit tentang Probabilitas dan Statistik, dan saya ingin belajar. Saya melihat kata "distribusi" digunakan di semua tempat dalam konteks yang berbeda. Sebagai contoh, variabel acak diskrit memiliki "distribusi probabilitas." Saya tahu ini apa. Variabel acak kontinu memiliki fungsi kerapatan probabilitas, maka untuk x∈Rx∈Rx\in\mathbb{R} , integral dari −∞−∞-\infty …

16 distributions  definition 

Saya sedang melakukan uji chi-square good-of-fit (GOF) dengan tiga kategori dan secara khusus ingin menguji nol bahwa proporsi populasi dalam setiap kategori adalah sama (yaitu proporsinya 1/3 dalam setiap kelompok): DATA OBSERVED Grup 1 Grup 2 Grup 3 Total 686 928 1012 2626 Dengan demikian, untuk tes GOF ini, penghitungan …

16 hypothesis-testing  chi-squared  goodness-of-fit  post-hoc 

Saya baru saja mulai mempelajari statistik dan saya tidak bisa mendapatkan pemahaman yang memadai tentang kecukupan. Untuk lebih tepatnya saya tidak dapat mengerti bagaimana menunjukkan bahwa dua paragraf berikut ini setara: Secara kasar, diberikan satu set X data independen yang terdistribusi secara identik dikondisikan pada parameter yang tidak diketahui θ, …

16 sufficient-statistics 

Jika kita mulai dengan satu set data , menerapkan Lasso untuk itu dan mendapatkan solusi β L , kita dapat menerapkan Lasso lagi ke set data ( X S , Y ) , di mana S adalah himpunan bukan-nol indeks β L , untuk mendapatkan solusi, β R L , …

16 regression  optimization  lasso  regularization  shrinkage 

Sebagaimana dijelaskan dalam handout kursus ini (halaman 1) , model linear dapat ditulis dalam bentuk: y=β1x1+⋯+βpxp+εi,y=β1x1+⋯+βpxp+εi, y = \beta_1 x_{1} + \cdots + \beta_p x_{p} + \varepsilon_i, di mana yyy adalah variabel respon dan xixix_{i} adalah variabel penjelas ithithi^{th} . Seringkali dengan tujuan memenuhi asumsi pengujian, seseorang dapat mengubah variabel …

16 regression  generalized-linear-model  data-transformation  linear-model 

Dalam laso atau regresi ridge, kita harus menentukan parameter penyusutan, sering disebut dengan atau . Nilai ini sering dipilih melalui validasi silang dengan memeriksa sekelompok nilai yang berbeda pada data pelatihan dan melihat mana yang menghasilkan yang terbaik misalnya pada data uji. Berapa kisaran nilai yang harus diperiksa? Apakah itu …

16 regression  lasso  regularization  ridge-regression  penalized 

Bagaimana Anda memperkirakan model ramalan yang sesuai untuk serangkaian waktu dengan inspeksi visual plot ACF dan PACF? Yang mana (yaitu, ACF atau PACF) memberi tahu AR atau MA (atau keduanya)? Bagian mana dari grafik yang memberi tahu Anda bagian musiman dan non-musiman untuk ARIMA musiman? Pertimbangkan fungsi ACF dan PCF …

16 r  time-series  forecasting  acf-pacf