Statistik dan Big Data

Misalkan menjadi keluarga variabel acak iid yang mengambil nilai dalam [ 0 , 1 ] , memiliki mean μ dan varians σ 2 . Interval kepercayaan sederhana untuk rata-rata, menggunakan σ kapan pun diketahui, diberikan oleh P ( | ˉ X - μ | > ε ) ≤ σ 2{Xi}ni=1{Xi}i=1n\{X_i\}_{i=1}^n[0,1][0,1][0,1]μμ\muσ2σ2\sigma^2σσ\sigmaP(|X¯−μ|>ε)≤σ2nε2≤1nε2(1).P(|X¯−μ|>ε)≤σ2nε2≤1nε2(1). …

15 normal-distribution  confidence-interval  references  asymptotics  approximation 

Saya memiliki model prediksi yang diuji dengan empat metode seperti yang Anda lihat pada gambar boxplot di bawah ini. Atribut yang diprediksi model berada dalam kisaran 0-8. Anda mungkin memperhatikan bahwa ada satu outlier batas atas dan tiga outlier batas bawah yang ditunjukkan oleh semua metode. Saya ingin tahu apakah …

15 regression  machine-learning  multiple-regression  predictive-models  outliers 

Selama pelatihan dari sebuah classifier biner jaringan saraf sederhana saya mendapatkan nilai kerugian yang tinggi, menggunakan cross-entropy. Meskipun demikian, nilai akurasi pada set validasi cukup baik. Apakah ada artinya? Tidak ada korelasi ketat antara kehilangan dan akurasi? Saya memiliki pelatihan dan validasi nilai-nilai ini: 0.4011 - acc: 0.8224 - val_loss: …

15 neural-networks  accuracy 

Saya tahu PCA biasa tidak mengikuti model probabilistik untuk data yang diamati. Jadi apa perbedaan mendasar antara PCA dan PPCA ? Dalam PPCA, variabel model laten berisi misalnya variabel yang diamati , laten (variabel tidak teramati x ) dan matriks W yang tidak harus ortonormal seperti pada PCA biasa. Satu …

15 pca 

Misalkan Anda cocok dengan regresi linier / logistik , dengan tujuan dari estimasi yang tidak bias dari . Anda sangat yakin bahwa dan sangat positif relatif terhadap noise dalam estimasi mereka.g(y)=a0+a1⋅x1+a2⋅x2g(y)=a0+a1⋅x1+a2⋅x2g(y) = a_0 + a_1\cdot x_1 + a_2\cdot x_2a1a2a1a2\frac{a_1}{a_2}a1a1a_1a2a2a_2 Jika Anda memiliki kovarians gabungan , Anda dapat menghitung, atau setidaknya …

15 regression  regression-coefficients  unbiased-estimator  ratio 

Dalam pengenalan pola buku dan pembelajaran mesin (rumus 1.27), itu memberi di manax=g(y),px(x)adalah pdf yang sesuai denganpy(y)py(y)=px(x)∣∣∣dxdy∣∣∣=px(g(y))|g′(y)|py(y)=px(x)|dxdy|=px(g(y))|g′(y)|p_y(y)=p_x(x) \left | \frac{d x}{d y} \right |=p_x(g(y)) | g'(y) |x=g(y)x=g(y)x=g(y)px(x)px(x)p_x(x)py(y)py(y)p_y(y) sehubungan dengan perubahan variabel. Buku-buku mengatakan itu karena pengamatan jatuh dalam kisaran akan, untuk nilai-nilai kecil δ x , ditransformasikan menjadi kisaran ( …

15 machine-learning  probability  self-study  derivative  jacobian 

Saya mencoba menggunakan lme4::glmer()agar sesuai dengan model campuran binomial umum (GLMM) dengan variabel dependen yang bukan biner, tetapi variabel kontinu antara nol dan satu. Orang dapat menganggap variabel ini sebagai probabilitas; sebenarnya itu adalah probabilitas sebagaimana dilaporkan oleh subyek manusia (dalam percobaan yang saya bantu analisis). Yaitu itu bukan fraksi …

15 r  logistic  mixed-model  glmm  lme4-nlme 

Bandit multi-lengan bekerja dengan baik dalam situasi di mana Anda memiliki pilihan dan Anda tidak yakin mana yang akan memaksimalkan kesejahteraan Anda. Anda dapat menggunakan algoritme untuk beberapa situasi kehidupan nyata. Sebagai contoh, belajar bisa menjadi bidang yang baik: Jika seorang anak mempelajari pertukangan kayu dan dia buruk dalam hal …

15 algorithms  reinforcement-learning  multiarmed-bandit 

Apakah ada distribusi untuk dua variabel acak iid mana distribusi gabungan X - Y adalah seragam di atas dukungan [0,1]?X,YX,YX,YX−YX−YX-Y

15 distributions  random-variable 

Keturunan Gradien Standar akan menghitung gradien untuk seluruh dataset pelatihan. for i in range(nb_epochs): params_grad = evaluate_gradient(loss_function, data, params) params = params - learning_rate * params_grad Untuk jumlah zaman yang ditentukan sebelumnya, pertama-tama kita menghitung vektor gradien weights_grad dari fungsi kerugian untuk seluruh dataset menggunakan parameter vektor parameter kami. Stochastic …

15 machine-learning  optimization  gradient-descent  computational-statistics  sgd 

Untuk masalah inferensi yang diberikan, kita tahu bahwa pendekatan Bayesian biasanya berbeda dalam bentuk dan hasil dari pendekatan fequentist. Frequentists (biasanya termasuk saya) sering menunjukkan bahwa metode mereka tidak memerlukan prior dan karenanya lebih "didorong data" daripada "didorong penilaian". Tentu saja, Bayesian dapat menunjuk ke prior non-informatif, atau, karena pragmatis, …

15 bayesian  inference  likelihood  likelihood-ratio  frequentist 

Pertimbangkan jalan acak 1 dimensi pada bilangan bulat dengan keadaan awal x ∈ Z :ZZ\mathbb{Z}x∈Zx∈Zx\in\mathbb{Z} Sn=x+∑i=1nξiSn=x+∑i=1nξi\begin{equation} S_n=x+\sum^n_{i=1}\xi_i \end{equation} di mana kenaikan adalah IID sehingga P { ξ i = 1 } = P { ξ i = - 1 } = 1ξiξi\xi_i .P{ξi=1}=P{ξi=−1}=12P{ξi=1}=P{ξi=−1}=12P\{\xi_i=1\}=P\{\xi_i=-1\}=\frac{1}{2} Seseorang dapat membuktikan bahwa (1) Px{Sn reaches …

15 probability  terminology  stochastic-processes  randomness  random-walk 

Pertanyaan CV Saya mencoba memberikan (a) representasi matematis yang terperinci dan ringkas dari model efek campuran. Saya menggunakan lme4paket dalam R. Apa representasi matematika yang benar untuk model saya? Data, Pertanyaan Sains, dan Kode R Kumpulan data saya terdiri dari spesies di berbagai daerah. Saya sedang menguji apakah prevalensi suatu …

15 r  mixed-model  multilevel-analysis  lme4-nlme 

Saya bereksperimen dengan algoritma mesin peningkat gradien melalui caretpaket di R. Menggunakan dataset penerimaan perguruan tinggi kecil, saya menjalankan kode berikut: library(caret) ### Load admissions dataset. ### mydata <- read.csv("http://www.ats.ucla.edu/stat/data/binary.csv") ### Create yes/no levels for admission. ### mydata$admit_factor[mydata$admit==0] <- "no" mydata$admit_factor[mydata$admit==1] <- "yes" ### Gradient boosting machine algorithm. ### set.seed(123) …

15 machine-learning  caret  boosting  gbm  hypothesis-testing  t-test  panel-data  psychometrics  intraclass-correlation  generalized-linear-model  categorical-data  binomial  model  intercept  causality  cross-correlation  distributions  ranks  p-value  z-test  sign-test  time-series  references  terminology  cross-correlation  definition  probability  distributions  beta-distribution  inverse-gamma  missing-data  paired-comparisons  paired-data  clustered-standard-errors  cluster-sample  time-series  arima  logistic  binary-data  odds-ratio  medicine  hypothesis-testing  wilcoxon-mann-whitney  unsupervised-learning  hierarchical-clustering  neural-networks  train  clustering  k-means  regression  ordinal-data  change-scores  machine-learning  experiment-design  roc  precision-recall  auc  stata  multilevel-analysis  regression  fitting  nonlinear  jmp  r  data-visualization  gam  gamm4  r  lme4-nlme  many-categories  regression  causality  instrumental-variables  endogeneity  controlling-for-a-variable 

Untuk pemahaman saya Perkiraan Bayesian Computation (ABC) dan Markov Chain Monte Carlo (MCMC) memiliki tujuan yang sangat mirip. Di bawah ini saya menjelaskan pemahaman saya tentang metode ini dan bagaimana saya melihat perbedaan dalam penerapannya pada data kehidupan nyata. Perkiraan Bayesian Computation ABC terdiri atas pengambilan sampel parameter θθ\theta dari …

15 bayesian  mcmc  computational-statistics