Statistik dan Big Data

Ketika saya menerapkan gradien batch mini yang layak, saya hanya rata-rata gradien dari semua contoh dalam batch pelatihan. Namun, saya perhatikan bahwa sekarang tingkat belajar optimal jauh lebih tinggi daripada gradien online yang layak. Intuisi saya adalah ini karena gradien rata-rata kurang berisik dan dengan demikian dapat diikuti lebih cepat. …

15 neural-networks  gradient-descent  backpropagation 

Sejauh yang saya mengerti, korelasi jarak adalah cara yang kuat dan universal untuk memeriksa apakah ada hubungan antara dua variabel numerik. Misalnya, jika kita memiliki satu set pasangan angka: (x1, y1) (x2, y2) ... (xn, yn) kita dapat menggunakan korelasi jarak untuk memeriksa apakah ada hubungan (tidak harus linier) antara …

15 correlation  independence  intuition  distance-covariance 

Saya membaca berulang-ulang bahwa validasi silang "Leave-one-out" memiliki varian yang tinggi karena tumpang tindih yang besar dari lipatan pelatihan. Namun saya tidak mengerti mengapa itu adalah: Tidak seharusnya kinerja validasi silang menjadi sangat stabil (varian rendah) justru karena set pelatihan hampir identik? Atau apakah saya memiliki pemahaman yang salah tentang …

15 variance  cross-validation  bias 

Distribusi Tweedie dapat memodelkan data yang miring dengan massa titik pada nol saat parameter halhalp (eksponen dalam hubungan mean-variance) adalah antara 1 dan 2. Demikian pula model nol-meningkat (apakah kontinu atau diskrit) mungkin memiliki sejumlah besar nol. Saya mengalami kesulitan memahami mengapa ketika saya melakukan prediksi atau menghitung nilai yang …

15 r  generalized-linear-model  prediction  zero-inflation  tweedie-distribution 

Saya mencoba memahami rantai Markov menggunakan SAS. Saya mengerti bahwa proses Markov adalah satu di mana keadaan di masa depan hanya bergantung pada keadaan saat ini dan bukan pada keadaan masa lalu dan ada matriks transisi yang menangkap probabilitas transisi dari satu keadaan ke keadaan lain. Tapi kemudian saya menemukan …

15 probability  simulation  mcmc  monte-carlo  markov-process 

Saat ini saya memasang hutan acak untuk masalah klasifikasi menggunakan randomForestpaket dalam R, dan saya tidak yakin tentang cara melaporkan kesalahan pelatihan untuk model ini. Kesalahan pelatihan saya mendekati 0% ketika saya menghitungnya menggunakan prediksi yang saya dapatkan dengan perintah: predict(model, data=X_train) di mana X_traindata pelatihan. Dalam jawaban untuk pertanyaan …

15 r  machine-learning  classification  random-forest  overfitting 

Saya mencoba memahami intuisi di balik kernel SVM. Sekarang, saya mengerti bagaimana linear kerja SVM, di mana garis keputusan dibuat yang membagi data sebaik mungkin. Saya juga memahami prinsip di balik porting data ke ruang dimensi yang lebih tinggi, dan bagaimana hal ini dapat membuatnya lebih mudah untuk menemukan garis …

15 machine-learning  svm  kernel-trick 

Apakah ada cara untuk menentukan apakah perbedaan antara jumlah kecelakaan di jalan pada waktu 1 berbeda secara signifikan dengan hitungan pada waktu 2? Saya telah menemukan metode yang berbeda untuk menentukan perbedaan antara kelompok pengamatan pada waktu yang berbeda (misalnya membandingkan cara poisson) tetapi tidak untuk membandingkan hanya dua hitungan. …

15 statistical-significance  count-data 

Saya memberikan presentasi tentang pemasangan garis. Saya memiliki fungsi linier sederhana, . Saya mencoba untuk mendapatkan titik data yang tersebar yang bisa saya masukkan ke dalam sebar plot yang akan menjaga garis saya paling cocok dengan persamaan yang sama.y= 1 x + by=1x+by=1x+b Saya ingin mempelajari teknik ini dalam R …

15 r  regression  least-squares  excel 

Saya memiliki pertanyaan spesifik tentang validasi dalam penelitian pembelajaran mesin. Seperti yang kita ketahui, rezim pembelajaran mesin meminta para peneliti untuk melatih model mereka pada data pelatihan, memilih dari model kandidat dengan set validasi, dan melaporkan akurasi pada set tes. Dalam studi yang sangat ketat, set tes hanya dapat digunakan …

15 machine-learning  cross-validation  reproducible-research 

Dalam teori probabilitas, variabel acak non-negatif XXX disebut kisi jika ada d≥0d≥0d \geq 0 sehingga ∑∞n=0P(X=nd)=1∑n=0∞P(X=nd)=1\sum_{n=0}^{\infty}P(X=nd) = 1 . Apakah ada interpretasi geometris mengapa definisi ini disebut kisi?

15 probability 

Apakah benar-benar ada perbedaan antara jackknife dan meninggalkan satu validasi silang? Prosedurnya terlihat sama, apakah saya melewatkan sesuatu?

15 cross-validation  jackknife 

Saya memiliki dataset dengan 11 variabel dan PCA (orthogonal) dilakukan untuk mengurangi data. Memutuskan jumlah komponen untuk dijaga jelas bagi saya dari pengetahuan saya tentang subjek dan plot scree (lihat di bawah) bahwa dua komponen utama (PC) cukup untuk menjelaskan data dan komponen lainnya hanya kurang informatif. Scree plot dengan …

15 variance  pca 

Saya telah membaca banyak tentang jaringan saraf convoloutional dan bertanya-tanya bagaimana mereka menghindari masalah gradien menghilang. Saya tahu jaringan kepercayaan yang mendalam menumpuk auto-encoders tingkat tunggal atau jaringan dangkal pra-terlatih lainnya dan dengan demikian dapat menghindari masalah ini, tetapi saya tidak tahu bagaimana hal itu dihindari di CNN. Menurut Wikipedia …

15 machine-learning  optimization  deep-learning  gradient-descent 

Saya melakukan CV 5 kali lipat untuk memilih K yang optimal untuk KNN. Dan sepertinya semakin besar K, semakin kecil kesalahannya ... Maaf saya tidak punya legenda, tetapi warna yang berbeda mewakili cobaan yang berbeda. Ada 5 total dan sepertinya ada sedikit variasi di antara mereka. Kesalahan sepertinya selalu berkurang …

15 model-selection  k-nearest-neighbour