Statistik dan Big Data

Kami mendefinisikan zaman sebagai telah melalui keseluruhan dari semua sampel pelatihan yang tersedia, dan ukuran mini-batch sebagai jumlah sampel yang kami rata-rata menemukan pembaruan untuk bobot / bias yang diperlukan untuk turun gradien. Pertanyaan saya adalah apakah kita harus menggambar tanpa penggantian dari set contoh pelatihan untuk menghasilkan setiap mini-batch …

18 machine-learning  neural-networks  optimization  deep-learning 

Saya telah membaca (misalnya, di sini ) bahwa kernel Epanechnikov optimal, setidaknya secara teoritis, ketika melakukan estimasi kepadatan kernel. Jika ini benar, lalu mengapa Gaussian muncul begitu sering sebagai kernel default, atau dalam banyak kasus satu-satunya kernel, di perpustakaan estimasi kepadatan?

18 nonparametric  kernel-smoothing 

Saya menggunakan model logit. Variabel dependen saya adalah biner. Namun saya memiliki variabel independen yang kategoris dan berisi tanggapan: 1.very good, 2.good, 3.average, 4.poor and 5.very poor. Jadi, ini bersifat ordinal ("kategorikal kuantitatif"). Saya tidak yakin bagaimana menangani ini dalam model. Saya menggunakan gretl. [Catatan dari @ttnphns: Meskipun pertanyaannya mengatakan …

18 regression  logistic  ordinal-data  predictor 

Saat mempelajari Penguatan Pembelajaran, saya telah menemukan banyak bentuk fungsi hadiah: , R ( s , a , s ′ ) , dan bahkan fungsi hadiah yang hanya bergantung pada keadaan saat ini. Karena itu, saya menyadari itu tidak mudah untuk 'membuat' atau 'mendefinisikan' fungsi hadiah.R(s,a)R(s,a)R(s,a)R(s,a,s′)R(s,a,s′)R(s,a,s') Ini pertanyaan saya: Apakah …

18 machine-learning  reinforcement-learning 

Ada penelitian kontemporer substansial tentang Bayesian Optimization (1) untuk menyetel hiperparameter ML. Motivasi mengemudi di sini adalah bahwa jumlah minimal titik data diperlukan untuk membuat pilihan berdasarkan informasi tentang poin apa yang layak untuk dicoba (panggilan fungsi obyektif itu mahal, sehingga membuat lebih sedikit lebih baik) karena melatih model intensif …

18 hyperparameter  bayesian-optimization  optunity 

Beberapa fitur data saya memiliki nilai besar, sedangkan fitur lainnya memiliki nilai jauh lebih kecil. Apakah perlu memusatkan + skala data sebelum menerapkan t-SNE untuk mencegah bias terhadap nilai yang lebih besar? Saya menggunakan implementasi sklearn.manifold.TSNE dari Python dengan metrik jarak euclidean default.

18 normalization  dimensionality-reduction  high-dimensional  tsne 

Saya baru belajar tentang pengoptimalan, dan mengalami kesulitan memahami perbedaan antara pengoptimalan cembung dan non-cembung. Dari pemahaman saya, fungsi cembung adalah salah satu di mana "segmen garis antara dua titik pada grafik fungsi berada di atas atau pada grafik". Dalam hal ini, algoritma gradient descent dapat digunakan, karena ada minimum …

18 optimization 

Beberapa penulis (misalnya Pallant, 2007, hal. 225; lihat gambar di bawah) menyarankan untuk menghitung ukuran efek untuk uji peringkat bertanda Wilcoxon dengan membagi statistik uji dengan akar kuadrat dari jumlah pengamatan: r = Znx+ ny√r=Znx+nyr = \frac{Z}{\sqrt{n_x + n_y}} Zadalah statistik uji keluaran oleh SPSS (lihat gambar di bawah) dan …

18 effect-size  wilcoxon-signed-rank 

Secara umum, Apa perbedaan antara E(X|Y)E(X|Y) dan E(X|Y=y)E(X|Y=y) ? Mantan adalah fungsi dan yang terakhir adalah fungsi ? Sangat membingungkan ..yyxx

18 conditional-expectation  notation  definition 

Latar Belakang: Catatan: Kumpulan data dan kode-r saya termasuk di bawah teks Saya ingin menggunakan AIC untuk membandingkan dua model efek campuran yang dihasilkan menggunakan paket lme4 di R. Setiap model memiliki satu efek tetap dan satu efek acak. Efek tetap berbeda di antara model, tetapi efek acak tetap sama …

18 maximum-likelihood  random-effects-model  fixed-effects-model  mixed-model  lme4-nlme 

Saya sepertinya telah membingungkan diri saya sendiri mencoba memahami jika nilai -quared juga memiliki -value.rrrppp Seperti yang saya pahami, dalam korelasi linier dengan sekumpulan titik data dapat memiliki nilai mulai dari hingga dan nilai ini, apa pun itu, dapat memiliki nilai yang menunjukkan jika berbeda secara signifikan dari (yaitu , …

18 statistical-significance  p-value  r-squared 

Saya menggunakan cv.glmnetuntuk menemukan prediktor. Pengaturan yang saya gunakan adalah sebagai berikut: lassoResults<-cv.glmnet(x=countDiffs,y=responseDiffs,alpha=1,nfolds=cvfold) bestlambda<-lassoResults$lambda.min results<-predict(lassoResults,s=bestlambda,type="coefficients") choicePred<-rownames(results)[which(results !=0)] Untuk membuat yakin hasilnya direproduksi saya set.seed(1). Hasilnya sangat bervariasi. Saya menjalankan kode yang sama persis 100 untuk melihat bagaimana variabel hasilnya. Dalam menjalankan 98/100 memiliki satu prediktor tertentu selalu dipilih (kadang-kadang hanya …

18 r  cross-validation  feature-selection  glmnet 

Saya pernah mendengar itu transformasi log adalah yang paling populer untuk distribusi yang condong ke kanan dalam regresi linier atau regresi kuantil Saya ingin tahu apakah ada alasan yang mendasari pernyataan ini? Mengapa transformasi log cocok untuk distribusi yang condong ke kanan? Bagaimana dengan distribusi miring kiri?

18 regression  distributions  data-transformation  skewness 

Saya memiliki satu set data dengan N ~ 5000 dan sekitar 1/2 hilang pada setidaknya satu variabel penting. Metode analitik utama adalah bahaya proporsional Cox. Saya berencana untuk menggunakan beberapa imputasi. Saya juga akan membagi menjadi set kereta dan tes. Haruskah saya membagi data dan kemudian menghubungkannya secara terpisah, atau …

18 cross-validation  survival  multiple-imputation  train 

Saya menghadapi kesulitan memahami makna "sampel acak" dan "variabel acak acak". Saya mencoba mencari tahu artinya dari beberapa sumber, tetapi semakin bingung. Saya memposting di sini apa yang saya coba dan ketahui: Probabilitas & Statistik Degroot mengatakan: Sampel Acak / iid / Ukuran Sampel: Pertimbangkan distribusi probabilitas yang diberikan pada …

18 sampling  terminology  iid