Statistik dan Big Data

Untuk pertama kalinya (alasan ketidaktepatan / kesalahan) saya melihat proses Gaussian , dan lebih khusus lagi, menonton video ini oleh Nando de Freitas . Catatan tersedia online di sini . Pada titik tertentu ia menggambar sampel acak dari normal multivariat yang dihasilkan dengan membuat matriks kovarians berdasarkan pada kernel Gaussian …

8 machine-learning  simulation  stochastic-processes  gaussian-process 

Dalam SGD suatu jaman akan menjadi presentasi penuh dari data pelatihan, dan kemudian akan ada pembaruan bobot N per jaman (jika ada contoh data N dalam set pelatihan). Jika sekarang kita melakukan mini-batch sebagai gantinya, katakan dalam batch 20. Apakah satu zaman sekarang terdiri dari pembaruan berat N / 20, …

8 machine-learning  neural-networks 

Pertama izinkan saya memberi latar belakang; Saya akan meringkas pertanyaan saya di bagian akhir. Distribusi Beta, diparameterisasi dengan rata-rata μμ\mudan , memiliki , di mana adalah fungsi varians.ϕϕ\phiVar( Y) = V( μ ) / ( ϕ + 1 )Var⁡(Y)=V⁡(μ)/(ϕ+1)\operatorname{Var}(Y) = \operatorname{V}(\mu)/(\phi+1)V( μ ) = μ ( 1 - μ )V⁡(μ)=μ(1-μ)\operatorname{V}(\mu) …

8 generalized-linear-model  lme4-nlme  binomial  beta-regression  quasi-likelihood 

Sepertinya saya bisa mempelajari parameter dengan baik dan menemukan probabilitas posterior untuk data pelatihan tetapi saya tidak tahu bagaimana membuat prediksi baru pada data baru. Masalahnya terutama berasal dari probabilitas transisi yang berubah pada kovariat sehingga tidak mudah untuk menulis kode untuk memprediksi data baru. Pendekatan standar adalah untuk menentukan …

8 r  hidden-markov-model  mixture 

Peninjau buku saya menanyakan alasan mengapa saya menggunakan data tidak tertimbang, alih-alih data tertimbang. Saya telah membahas masalah ini dengan seorang ahli statistik dan tanggapannya sejalan Jika Anda memiliki pengamatan independen dan Anda mengambil rata-rata keseluruhan, variansnya selalu lebih kecil dari varians dari mean tertimbang sebagai estimator. ... Jadi interval …

8 variance  weighted-mean  weighted-data 

Saya mencoba menerapkan HMC dengan matriks massa non-diagonal, tetapi saya tersandung oleh beberapa terminologi. Menurut BDA3 dan ulasan Neal, istilah energi kinetik (yang saya kira selalu digunakan karena kenyamanan) adalah K( p ) =halTM.- 1hal2.K(p)=pTM−1p2. K(p) = \frac{p^T M^{-1} p}{2} \,. Ini juga dikenali disebut multivariat normal dengan mean nol …

8 bayesian  mcmc  monte-carlo 

Jaringan saraf berulang saya (LSTM, resp. GRU) berperilaku dengan cara yang tidak bisa saya jelaskan. Pelatihan dimulai dan dilatih dengan baik (hasilnya terlihat cukup baik) ketika akurasi tiba-tiba turun (dan kehilangan meningkat dengan cepat) - baik pelatihan dan metrik pengujian. Terkadang net menjadi gila dan mengembalikan output acak dan kadang-kadang …

8 neural-networks  lstm  gru 

Tutup. Pertanyaan ini di luar topik . Saat ini tidak menerima jawaban. Ingin meningkatkan pertanyaan ini? Perbarui pertanyaan sehingga sesuai topik untuk Cross Validated. Ditutup tahun lalu . Saya mencoba menyesuaikan model linear umum untuk keluarga weibull, tetapi ketika saya mencobanya di R, itu memberikan kesalahan. Saya tahu bahwa weibull …

8 r  generalized-linear-model  survival  gamlss 

Saya bertanya-tanya apakah ada orang di sini yang dapat menjelaskan perbedaan antara mode normalisasi l1, l2 dan maks dalam modul sklearn.preprocessing.normalize ()? Setelah membaca dokumentasi saya tidak dapat menyadari perbedaannya!

8 normalization  scikit-learn 

Saya kutip (penekanan saya) dari definisi wikipedia : Proposisi dalam teori probabilitas dikenal sebagai hukum ekspektasi total, ..., menyatakan bahwa jika X adalah variabel acak yang dapat diintegrasikan (yaitu, variabel acak yang memenuhi E (| X |) <∞) dan Y adalah variabel acak apa pun, tidak tentu dapat diintegrasikan, pada …

8 probability  expected-value  conditional-expectation 

Jika pasangan duduk secara acak di meja bundar, bagaimana kemungkinan tidak ada yang duduk di hadapan pasangannya? Jika ada empat orang, jawabannya adalah 2/3. Jika ada enam itu adalah 8/15, saya pikir. Setelah itu, metode langkah demi langkah saya, mengisi semua kemungkinan dan berakhir dengan sejumlah nilai yang diharapkan, menjadi …

8 probability 

Secara umum saya harus melatih ulang jaringan saraf saya dengan lebih sedikit neuron sehingga memiliki lebih sedikit neuron ReLU yang mati? Saya telah membaca pendapat yang bertentangan tentang ReLU yang mati. Beberapa sumber mengatakan ReLU yang mati baik karena mereka mendorong sparsity. Yang lain mengatakan mereka buruk karena ReLU yang …

8 machine-learning  neural-networks  conv-neural-network 

Saya ingin melatih jaringan dengan non-linearitas yang menderita menghilangnya (atau meledak masalah gradien meskipun sebagian besar menghilang). Saya tahu bahwa cara standar (saat ini) adalah dengan menggunakan normalisasi batch 1 [BN] 1 atau hanya meninggalkan non-linearitas dan menggunakan unit ReLu Rectifier / ReLu . Saya menginginkan dua hal: Tetap dengan …

8 machine-learning  neural-networks  conv-neural-network  batch-normalization 

Pertimbangkan tabel frekuensi 2x2 yang umum (diperlihatkan dalam gambar ini): Notasi: Variabel baris dilambangkan R dan mengambil nilai 0 atau 1; variabel kolom dilambangkan C dan mengambil nilai 0 atau 1. Sel-sel tabel mengindikasikan frekuensi setiap kombinasi R dan C; misalnya, adalah frekuensi R = 0 dan C = 1. …

8 contingency-tables  simultaneous-equation 

Saya menjalankan beberapa regresi dan, karena saya ingin berada di sisi yang aman, memutuskan untuk menggunakan kesalahan standar HAC (heteroskedasticity & autocorrelation). Mungkin ada beberapa kasus di mana korelasi serial tidak ada. Apakah ini pendekatan yang valid? Apakah ada kekurangan?

8 time-series  least-squares  standard-error  robust  robust-standard-error