Statistik dan Big Data

Berikut ini adalah contoh kode keras yang menggunakannya: from keras.constraints import max_norm model.add(Convolution2D(32, 3, 3, input_shape=(3, 32, 32), border_mode='same', activation='relu', kernel_constraint=max_norm(3)))

12 neural-networks  regularization  conv-neural-network  optimization 

Ini adalah contoh kecil: MyDf<-data.frame(x=c(1,2,3,4), y=c(1.2, .7, -.5, -3)) Sekarang dengan base::lm: > lm(y~x, data=MyDf) %>% summary Call: lm(formula = y ~ x, data = MyDf) Residuals: 1 2 3 4 -0.47 0.41 0.59 -0.53 Coefficients: Estimate Std. Error t value Pr(>|t|) (Intercept) 3.0500 0.8738 3.491 0.0732 . x -1.3800 …

12 r  regression  p-value  linear-model 

Saya baru-baru ini mengajukan pertanyaan mencari interpretasi matematika / intuisi di balik persamaan dasar yang berkaitan dengan mean sampel dan varians: , geometris atau sebaliknya.E[X2]=Var(X)+(E[X])2E[X2]=Var(X)+(E[X])2 E[X^2] = Var(X) +(E[X])^2 Tapi sekarang saya ingin tahu tentang persamaan tradeoff varians yang sangat mirip. MSE(θ^)=E[(θ^−θ)2]==E[(θ^−E[θ^])2]+(E[θ^]−θ)2Var(θ^)+Bias(θ^,θ)2MSE(θ^)=E[(θ^−θ)2]=E[(θ^−E[θ^])2]+(E[θ^]−θ)2=Var(θ^)+Bias(θ^,θ)2 \begin{eqnarray} \text{MSE}(\hat{\theta}) = E [(\hat{\theta}-\theta)^2 ] &=& E[(\hat{\theta} …

12 variance  bias 

Kedua istilah "upsampling" dan "transpose convolution" digunakan ketika Anda melakukan "dekonvolusi" (<- bukan istilah yang baik, tetapi izinkan saya menggunakannya di sini). Awalnya, saya pikir mereka memiliki arti yang sama, tetapi bagi saya tampaknya berbeda setelah saya membaca artikel ini. adakah yang bisa menjelaskan? Konvolusi konvolusi : sepertinya kita bisa …

12 machine-learning  neural-networks  conv-neural-network  transposed-convolution 

Saya ingin tahu perbedaan antara regresi linier dalam analisis pembelajaran mesin reguler dan regresi linier dalam pengaturan "pembelajaran dalam". Algoritma apa yang digunakan untuk regresi linier dalam pengaturan pembelajaran yang mendalam.

12 regression  machine-learning  deep-learning 

Saya memiliki dataset yang terdiri dari proporsi yang mengukur "tingkat aktivitas" kecebong individu, oleh karena itu membuat nilai-nilai terikat antara 0 dan 1. Data ini dikumpulkan dengan menghitung berapa kali individu bergerak dalam interval waktu tertentu (1 untuk pergerakan, 0 untuk tanpa gerakan), dan kemudian dirata-rata untuk membuat satu nilai …

12 r  mixed-model  random-effects-model  beta-distribution  beta-regression 

Saya membaca makalah Deep Residual Learning untuk Pengenalan Gambar dan saya mengalami kesulitan memahami dengan kepastian 100% apa yang diperlukan oleh blok residual secara komputasi. Membaca makalah mereka, mereka memiliki angka 2: yang menggambarkan apa yang seharusnya menjadi Blok Residual. Apakah perhitungan blok residu sama dengan: y=σ(W2σ(W1x+b1)+b2+x)y=σ(W2σ(W1x+b1)+b2+x) \mathbf{y} = \sigma( …

12 machine-learning  neural-networks  deep-learning  conv-neural-network  residual-networks 

Saya memahami hubungan antara Analisis Komponen Utama dan Dekomposisi Nilai Singular pada tingkat aljabar / eksak. Pertanyaan saya adalah tentang implementasi scikit-learning . Dokumentasi mengatakan: " [TruncatedSVD] sangat mirip dengan PCA, tetapi beroperasi pada vektor sampel secara langsung, bukan pada matriks kovarians. ", Yang akan mencerminkan perbedaan aljabar antara kedua …

12 pca  scikit-learn  svd  scipy 

Pada posting ini , Anda dapat membaca pernyataan: Model biasanya diwakili oleh titik θθ\theta pada manifold dimensi terbatas. Pada Diferensial Geometri dan Statistik oleh Michael K Murray dan John W Rice konsep-konsep ini dijelaskan dalam prosa dapat dibaca bahkan mengabaikan ekspresi matematika. Sayangnya, hanya ada sedikit ilustrasi. Hal yang sama …

12 distributions  manifold-learning  information-geometry  topologies 

Buku Bayesian karya Kruschke mengatakan, mengenai penggunaan distribusi beta untuk membalik koin, Misalnya, jika kita tidak memiliki pengetahuan sebelumnya selain pengetahuan bahwa koin memiliki sisi kepala dan sisi ekor, itu sama dengan sebelumnya mengamati satu kepala dan satu ekor, yang sesuai dengan a = 1 dan b = 1. Mengapa …

12 probability  bayesian  beta-distribution 

Saya melakukan tugas klasifikasi biner di mana probabilitas hasil cukup rendah (sekitar 3%). Saya mencoba memutuskan apakah akan mengoptimalkan dengan AUC atau log-loss. Seperti yang saya mengerti, AUC memaksimalkan kemampuan model untuk membedakan antara kelas-kelas sementara logloss menghukum perbedaan antara probabilitas aktual dan estimasi. Dalam tugas saya sangat penting untuk …

12 classification  binary-data  auc  log-loss 

Dalam pembelajaran mesin (untuk masalah regresi), saya sering melihat mean-squared-error (MSE) atau mean-absolute-error (MAE) digunakan sebagai fungsi kesalahan untuk meminimalkan (ditambah istilah regularisasi). Saya bertanya-tanya apakah ada situasi di mana menggunakan koefisien korelasi akan lebih sesuai? jika situasi seperti itu ada, maka: Dalam situasi apa koefisien korelasi metrik lebih baik …

12 regression  machine-learning  svm  optimization  deep-learning 

Saya membaca artikel Wikipedia tentang model statistik di sini , dan saya agak bingung dengan arti "model statistik non-parametrik", khususnya: Model statistik adalah nonparametrik jika set parameter adalah dimensi tak terbatas. Model statistik adalah semiparametrik jika memiliki parameter dimensi hingga dan dimensi tak terbatas. Secara formal, jika adalah dimensi dan …

12 nonparametric  model 

Saat ini saya sedang mengerjakan pembuatan model prediksi untuk hasil biner pada dataset dengan ~ 300 variabel dan 800 pengamatan. Saya telah membaca banyak di situs ini tentang masalah yang terkait dengan regresi bertahap dan mengapa tidak menggunakannya. Saya telah membaca regresi LASSO dan kemampuannya untuk pemilihan fitur dan telah …

12 multiple-regression  predictive-models  interpretation  regression-coefficients  lasso 

Saya mulai belajar tentang jaringan saraf dengan tutorial neuralnetworksanddeeplearning dot com. Khususnya di bab ke - 3 ada bagian tentang fungsi cross entropy, dan mendefinisikan cross entropy loss sebagai: C=−1n∑x∑j(yjlnaLj+(1−yj)ln(1−aLj))C=−1n∑x∑j(yjln⁡ajL+(1−yj)ln⁡(1−ajL))C = -\frac{1}{n} \sum\limits_x \sum\limits_j (y_j \ln a^L_j + (1-y_j) \ln (1 - a^L_j)) Namun, membaca pengantar Tensorflow , cross entropy …

12 neural-networks  loss-functions  softmax  cross-entropy