Statistik dan Big Data

Nilai-p adalah probabilitas untuk memperoleh statistik yang setidaknya sama ekstrimnya dengan yang diamati dalam data sampel ketika mengasumsikan bahwa hipotesis nol (H0H0H_0) adalah benar. Secara grafis ini sesuai dengan area yang ditentukan oleh statistik sampel di bawah distribusi sampling yang akan diperoleh ketika mengasumsikan H0H0H_0: Namun, karena bentuk dari distribusi …

9 hypothesis-testing  confidence-interval  p-value 

Misalkan kita mengganti fungsi kerugian dari regresi logistik (yang biasanya log-kemungkinan) dengan MSE. Artinya, masih memiliki rasio odds log menjadi fungsi linier dari parameter, tetapi meminimalkan jumlah perbedaan kuadrat antara estimasi probabilitas dan hasil (dikodekan sebagai 0/1): catatanhal1 - hal=β0+β1x1+ . . . +βnxnlog⁡p1−p=β0+β1x1+...+βnxn\log \frac p{1-p} = \beta_0 + \beta_1x_1 …

9 logistic  maximum-likelihood  unbiased-estimator  mse 

Saya mengalami kesulitan menafsirkan beberapa hasil. Saya sedang melakukan regresi terkait hirarkis dengan ecoreg. Jika saya memasukkan kode saya menerima output dengan rasio odds, rasio kepercayaan dan kemungkinan log 2x dimaksimalkan. Namun, saya tidak sepenuhnya mengerti bagaimana menafsirkan kemungkinan log maksimal 2x. Sejauh yang saya tahu log likelihood digunakan sebagai …

9 r  interpretation 

Saya tahu bahwa bukti transformasi integral probabilitas telah diberikan beberapa kali di situs ini. Namun, bukti yang saya temukan menggunakan hipotesis bahwa CDF benar-benar meningkat (bersama-sama, tentu saja, dengan hipotesis bahwa adalah variabel acak kontinu). Saya tahu bahwa sebenarnya satu-satunya hipotesis yang diperlukan adalah bahwa adalah variabel acak kontinu, dan …

9 probability  cdf 

Misalkan saya punya sampel acak {xn,yn}Nn=1{xn,yn}n=1N\lbrace x_n ,y_n \rbrace_{n=1}^N. Seharusnya yn=β0+β1xn+εnyn=β0+β1xn+εny_n = \beta_0 + \beta_1 x_n + \varepsilon_n dan y^n=β^0+β^1xny^n=β^0+β^1xn\hat{y}_n = \hat{\beta}_0 +\hat{\beta}_1 x_n Apa perbedaan antara β1β1\beta_1 dan β^1β^1\hat{\beta}_1?

9 regression 

Dalam makalah seminal mereka 'Least Angle Regression' , Efron dkk menjelaskan modifikasi sederhana dari algoritma LARS yang memungkinkan untuk menghitung jalur regularisasi LASSO penuh. Saya telah mengimplementasikan varian ini dengan sukses dan biasanya memplot jalur output baik terhadap jumlah langkah (iterasi berurutan dari algoritma LARS) atau -norm dari koefisien regresi …

9 regression  lasso  regularization  lars 

Hampir setiap buku teks yang membahas aproksimasi normal terhadap distribusi binomial menyebutkan aturan praktis bahwa aproksimasi dapat digunakan jika dan . Beberapa buku menyarankan np (1-p) \ geq 5 sebagai gantinya. Konstanta yang sama 5 sering muncul dalam diskusi tentang kapan harus menggabungkan sel dalam uji \ chi ^ 2 …

9 normal-distribution  binomial  approximation 

Ketika menerapkan dropout di jaringan saraf tiruan, kita perlu mengimbangi kenyataan bahwa pada waktu pelatihan sebagian neuron dinonaktifkan. Untuk melakukannya, ada dua strategi umum: scaling aktivasi pada waktu ujian membalikkan dropout selama fase pelatihan Dua strategi dirangkum dalam slide di bawah ini, diambil dari Standford CS231n: Convolutional Neural Networks for …

9 neural-networks  deep-learning  dropout 

Ada berbagai pertanyaan yang berbicara tentang manfaat relatif berbagai metode menilai pentingnya prediktor regresi, misalnya yang ini . Saya perhatikan bahwa dalam komentar ini @gung menyebut praktik ini sebagai "ide keliru", yang menghubungkan ke jawaban ini untuk mendukung klaim ini. Paragraf terakhir dari jawaban adalah bagian yang relevan. Saya merasa …

9 regression  standardization 

Saya menggunakan fungsi randomForestdalam randomForestpaket R untuk melakukan regresi. Namun, ketika saya mencoba memasukkan istilah interaksi dalam kode berikut: library(MASS) library(randomForest) Boston_f <- within(Boston, factor(rad)) mdl <- randomForest(lstat ~ rad * . , data = Boston_f) Hasilnya mdl$termmemang termasuk interaksi, tetapi jika saya mengintip ke dalam pohon yang mdlmenggunakan, getTree(mdl, …

9 r  interaction  random-forest 

Saya kagum bahwa saya tidak dapat menemukan artikel / kuliah tentang bagaimana seseorang dapat memasukkan Distribusi Probabilitas Kelas Sebelumnya dalam pengklasifikasi seperti Regresi Logistik atau Hutan Acak. Jadi pertanyaan saya adalah: Bagaimana menggabungkan Distribusi Probabilitas Kelas Sebelumnya dalam Regresi Logistik atau Hutan Acak? Apakah memasukkan Distribusi Probabilitas Kelas Sebelumnya menyiratkan …

9 logistic  bayesian  random-forest  prior 

AIC sering direkomendasikan sebagai kriteria untuk membandingkan model untuk peramalan seri waktu. Lihat misalnya ini dalam konteks model regresi dinamis : AIC dapat dihitung untuk model akhir, dan nilai ini dapat digunakan untuk menentukan prediktor terbaik. Artinya, prosedur harus diulangi untuk mempertimbangkan semua himpunan bagian prediktor, dan model dengan nilai …

9 time-series  cross-validation  model-selection  arima  aic 

Saya telah melihat ada berbagai pertanyaan mengenai interpretasi dan pembangunan gams, yang tampaknya menggambarkan kesulitan bagi non-ahli statistik untuk berurusan dengan itu. Sayangnya, dari tidak ada thread atau tutorial yang saya baca, saya bisa mendapatkan pemahaman yang jelas tentang bagaimana membangun model yang bermakna. Saat ini saya sedang mempelajari pengaruh …

9 r  model-selection  gam 

Saya membaca kedua halaman wikipedia tentang analisis sensitivitas dan validasi model (di sini, hanya validasi regresi linier) tetapi saya tidak berhasil menemukan cara untuk memisahkan kedua istilah ini. Saya mendapat kesan bahwa yang pertama lebih banyak digunakan di bidang akademik dan teknik pada umumnya dan yang kedua dalam "ilmu data". …

9 validation  sensitivity-analysis 

Di wiki, fungsi softmax didefinisikan sebagai gradient-log-normalizer dari distribusi probabilitas kategorikal . Penjelasan parsial untuk log-normalizer ditemukan di sini , tetapi apa yang dimaksud dengan gradient-log-normalizer ?

9 softmax