Statistik dan Big Data

Dalam keadaan apa seseorang harus mempertimbangkan menggunakan metode regularisasi (ridge, laso atau paling tidak sudut regresi) daripada OLS? Dalam hal ini membantu mengarahkan diskusi, minat utama saya adalah meningkatkan akurasi prediksi.

83 regression  least-squares  lasso  ridge-regression  fused-lasso 

Bagaimana metode validasi silang berbeda dibandingkan dalam hal varian model dan bias? Pertanyaan saya sebagian dimotivasi oleh utas ini: Jumlah lipatan yang optimal dalam validasi silang lipat: apakah CV cuti-keluar-selalu merupakan pilihan terbaik? KKKK. Jawaban di sana menunjukkan bahwa model yang dipelajari dengan validasi silang tinggalkan-keluar-satu memiliki varians yang lebih …

83 machine-learning  variance  cross-validation  bias  bias-variance-tradeoff 

Apa perbedaan antara ketiga istilah di bawah ini? persentil kuantil kuartil

83 descriptive-statistics  quantiles  median  percentage 

Saat memecahkan masalah bisnis menggunakan data, sudah umum bahwa setidaknya satu asumsi utama bahwa statistik klasik under-pin tidak valid. Sebagian besar waktu, tidak ada yang mengganggu untuk memeriksa asumsi-asumsi itu sehingga Anda tidak pernah benar-benar tahu. Misalnya, bahwa begitu banyak metrik web umum "berekor panjang" (relatif terhadap distribusi normal), saat …

82 model-selection  nonparametric  outliers  robust  philosophical 

Lihatlah grafik Excel ini: Garis 'akal sehat' paling cocok akan muncul menjadi garis hampir vertikal lurus melalui pusat poin (diedit dengan tangan berwarna merah). Namun garis tren linier yang ditentukan oleh Excel adalah garis hitam diagonal yang ditunjukkan. Mengapa Excel menghasilkan sesuatu yang (bagi mata manusia) tampak salah? Bagaimana saya …

82 regression  excel  intuition 

Fungsi aktivasi tanh adalah: tanh(x)=2⋅σ(2x)−1tanh(x)=2⋅σ(2x)−1tanh \left( x \right) = 2 \cdot \sigma \left( 2 x \right) - 1 Di mana , fungsi sigmoid, didefinisikan sebagai: .σ(x)σ(x)\sigma(x) σ(x)=ex1+exσ(x)=ex1+ex\sigma(x) = \frac{e^x}{1 + e^x} Pertanyaan: Apakah benar-benar penting antara menggunakan kedua fungsi aktivasi (tanh vs sigma)? Fungsi mana yang lebih baik dalam hal …

82 machine-learning  neural-networks  optimization  cost-maximization 

Saya sering menemukan istilah "solusi bentuk tertutup". Apa yang dimaksud dengan solusi bentuk-tertutup? Bagaimana cara menentukan apakah solusi bentuk dekat ada untuk masalah yang diberikan? Pencarian online, saya menemukan beberapa informasi, tetapi tidak ada dalam konteks mengembangkan model / solusi statistik atau probabilistik. Saya memahami regresi dengan sangat baik, jadi …

82 regression  machine-learning  probability  terminology  stochastic-processes 

Saya mencari definisi non-teknis dari laso dan apa yang digunakan untuk itu.

82 regression  lasso  regularization  shrinkage 

Saya tahu ini dari komik terkenal karena mengambil keuntungan dari kecenderungan analitis tertentu , tetapi sebenarnya terlihat masuk akal setelah beberapa menit menatap. Adakah yang bisa menjelaskan kepada saya apa yang dilakukan " teorema Bayes yang dimodifikasi " ini?

81 bayesian  hierarchical-bayesian 

Saya bertanya-tanya apakah ada perbedaan yang jelas antara apa yang disebut sebagai distribusi nol (model) dan apa yang disebut distribusi hurdle-at-zero (model)? Istilah-istilah itu cukup sering muncul dalam literatur dan saya menduga itu tidak sama, tetapi bisakah Anda menjelaskan kepada saya perbedaannya dalam istilah yang sederhana?

81 zero-inflation 

Apa cara paling bersih dan termudah untuk menjelaskan konsep varians kepada seseorang? Apa artinya secara intuitif? Jika seseorang menjelaskan hal ini kepada anak mereka, bagaimana ia akan melakukannya? Ini adalah konsep yang saya sulit mengartikulasikan - terutama ketika menghubungkan varians dengan risiko. Saya memahaminya secara matematis dan bisa menjelaskannya juga. …

81 distributions  variance  standard-deviation  inference  intuition 

Oke, jadi saya pikir saya memiliki sampel yang cukup layak, dengan mempertimbangkan aturan praktis 20: 1: sampel yang cukup besar (N = 374) dengan total 7 variabel prediktor kandidat. Masalah saya adalah sebagai berikut: set variabel prediktor apa pun yang saya gunakan, klasifikasi tidak pernah lebih baik daripada spesifisitas 100% …

81 regression  logistic  sample-size  unbalanced-classes 

Sebuah pertanyaan baru tentang perbedaan antara interval kepercayaan dan interval yang dapat dipercaya membuat saya mulai membaca kembali artikel Edwin Jaynes tentang topik itu: Jaynes, ET, 1976. `Interval Keyakinan vs Interval Bayesian, 'dalam Fondasi Teori Probabilitas, Statistik Inferensi, dan Teori Statistik Sains, WL Harper dan CA Hooker (eds.), D. Reidel, …

81 bayesian  confidence-interval 

Mengenai nilai-p , saya bertanya-tanya mengapa 111 % dan 555 % tampaknya menjadi standar emas untuk "statistical significance". Mengapa tidak nilai lain, seperti 666 % atau 101010 %? Apakah ada alasan matematika mendasar untuk ini, atau ini hanya konvensi yang diadakan secara luas?

80 hypothesis-testing  statistical-significance  p-value  history 

Untuk interval prediksi dalam regresi linear Anda masih menggunakan E [ Y | x ] = ^ β 0 + β 1 x untuk menghasilkan interval. Anda juga menggunakan ini untuk menghasilkan interval kepercayaan E [ Y | x 0 ] . Apa perbedaan keduanya?E^[ Y| x]= β0^+ β^1xE^[Y|x]=β0^+β^1x\hat{E}[Y|x] = …

80 regression  confidence-interval  predictive-models  prediction-interval