Statistik dan Big Data

Pertanyaan: Kapan (untuk tipe apa dari masalah visualisasi data) apakah peta panas paling efektif? (Khususnya, lebih efektif daripada semua teknik visualisasi lain yang mungkin?) Kapan peta panas paling tidak efektif? Apakah ada pola umum atau aturan praktis yang dapat digunakan untuk memutuskan apakah peta panas cenderung menjadi cara yang efektif …

22 data-visualization  heatmap 

Saya ingin tahu tentang bagaimana gradien diperbanyak kembali melalui jaringan saraf menggunakan modul ResNet / lewati koneksi. Saya telah melihat beberapa pertanyaan tentang ResNet (mis. Jaringan saraf dengan koneksi lompatan-lapisan ) tetapi yang satu ini menanyakan secara khusus tentang back-propagation of gradien selama pelatihan. Arsitektur dasarnya ada di sini: Saya …

22 machine-learning  neural-networks  conv-neural-network  gradient-descent  backpropagation 

Kami menggulung dadu 6 sisi beberapa kali. Menghitung selisih (nilai absolut) antara roll dan roll sebelumnya, apakah perbedaan diharapkan didistribusikan secara merata? Untuk menggambarkan dengan 10 gulungan: roll num result diff 1 1 0 2 2 1 3 1 1 4 3 2 5 3 0 6 5 2 7 …

22 distributions  uniform 

Setelah memasukkan model regresi kuantil dalam makalah, pengulas ingin saya memasukkan disesuaikanR2R2R^2 di koran. Saya telah menghitung pseudo-R2R2R^2 (darimakalah JASA 1999 karya Koenker dan Machado) untuk tiga kuantil yang menarik untuk studi saya. Namun, saya tidak pernah mendengar sebuah disesuaikan R2R2R^2 untuk regresi kuantil dan tidak akan tahu bagaimana cara …

22 goodness-of-fit  r-squared  quantile-regression 

Saya bermain dengan Neural Network sederhana dengan hanya satu lapisan tersembunyi, oleh Tensorflow, dan kemudian saya mencoba berbagai aktivasi untuk lapisan tersembunyi: Relu Sigmoid Softmax (well, biasanya softmax digunakan di lapisan terakhir ..) Relu memberikan akurasi kereta terbaik & akurasi validasi. Saya tidak yakin bagaimana menjelaskannya. Kita tahu bahwa Relu …

22 machine-learning  neural-networks  conv-neural-network  tensorflow  sigmoid-curve 

Saya punya dataset. Katakan pengamatan dan variabel:101010333 obs A B C 1 0 0 1 2 0 1 0 3 1 0 1 4 1 1 0 5 1 0 1 6 1 0 0 7 1 1 0 8 0 0 1 9 0 1 1 10 0 1 …

22 proportion  descriptive-statistics  paradox 

Saya tahu untuk masalah reguler, jika kita memiliki penaksir tidak bias reguler terbaik, itu harus penaksir kemungkinan maksimum (MLE). Tetapi secara umum, jika kita memiliki MLE yang tidak bias, apakah itu juga akan menjadi penaksir tidak bias yang terbaik (atau mungkin saya harus menyebutnya UMVUE, asalkan memiliki varian terkecil)?

22 mathematical-statistics  maximum-likelihood  unbiased-estimator 

Andrew Gelman menulis artikel yang luas tentang mengapa pengujian Bayesian AB tidak memerlukan beberapa koreksi hipotesis: Mengapa Kita (Biasanya) Tidak Perlu Khawatir Tentang Multiple Comparisons , 2012. Saya tidak begitu mengerti: mengapa metode Bayesian tidak membutuhkan banyak koreksi pengujian? A ~ Distribution1 + Common Distribution B ~ Distribution2 + Common …

22 hypothesis-testing  bayesian  multiple-comparisons 

A berhubungan positif dengan B. C adalah hasil dari A dan B, tetapi efek A pada C adalah negatif dan efek B pada C adalah positif. Bisakah ini terjadi?

22 regression  correlation 

Beberapa fungsi dan perkiraan penalti dipelajari dengan baik, seperti LASSO ( ) dan Ridge ( ) dan bagaimana ini dibandingkan dalam regresi.L 2L1L1L_1L2L2L_2 Saya telah membaca tentang penalti Bridge, yang merupakan ∑∥βj∥γ∑‖βj‖γ\sum \|\beta_{j}\|^{\gamma} penalti umum Bandingkan dengan LASSO, yang memiliki γ=1γ=1\gamma = 1 , dan Ridge, dengan γ=2γ=2\gamma = 2 …

22 regression  lasso  regularization  ridge-regression  elastic-net 

Saat melatih jaringan saraf menggunakan algoritma back-propagation, metode gradient descent digunakan untuk menentukan pembaruan bobot. Pertanyaan saya adalah: Daripada menggunakan metode gradient descent untuk secara perlahan menemukan titik minimum sehubungan dengan bobot tertentu, mengapa kita tidak mengatur turunan , dan temukan nilai bobot yang meminimalkan kesalahan?wd( Kesalahan )dw= 0d(Kesalahan)dw=0\frac{d(\text{Error})}{dw}=0www Juga, …

22 neural-networks  gradient-descent  backpropagation 

Apa perbedaan antara distribusi binomial negatif dan distribusi binomial? Saya mencoba membaca online, dan saya menemukan bahwa distribusi binomial negatif digunakan ketika titik data terpisah, tetapi saya pikir bahkan distribusi binomial dapat digunakan untuk titik data terpisah.

22 categorical-data  data-mining  binomial  negative-binomial 

Saya melihat-lihat literatur tentang regularisasi, dan sering melihat paragraf yang menghubungkan L2 regulatization dengan Gaussian sebelumnya, dan L1 dengan Laplace berpusat pada nol. Saya tahu bagaimana rupa prior ini, tetapi saya tidak mengerti, bagaimana ini diterjemahkan menjadi, misalnya, bobot dalam model linier. Di L1, jika saya mengerti dengan benar, kami …

22 regression  bayesian  prior  regularization  laplace-distribution 

Gambar di bawah ini menunjukkan kurva kontinu dari tingkat positif palsu vs. Namun, yang saya tidak segera dapatkan adalah bagaimana tarif ini dihitung. Jika suatu metode diterapkan pada dataset, ia memiliki tingkat FP tertentu dan tingkat FN tertentu. Bukankah itu berarti bahwa setiap metode harus memiliki satu titik daripada kurva? …

22 machine-learning  data-visualization  roc  auc 

Menurut Miller dan Freund's Probability and Statistics for Engineers, 8ed (hal.217-218), fungsi kemungkinan dimaksimalkan untuk distribusi binomial (uji coba Bernoulli) diberikan sebagai L(p)=∏ni=1pxi(1−p)1−xiL(p)=∏i=1npxi(1−p)1−xsayaL(p) = \prod_{i=1}^np^{x_i}(1-p)^{1-x_i} Bagaimana cara mencapai persamaan ini? Tampaknya cukup jelas bagi saya mengenai distribusi lainnya, Poisson dan Gaussian; L(θ)=∏ni=1PDF or PMF of dist.L(θ)=∏i=1nPDF or PMF of dist.L(\theta) …

22 estimation  maximum-likelihood  bernoulli-distribution  point-estimation