Statistik dan Big Data

Ini dianggap sebagai kasus ideal di mana struktur probabilitas yang mendasari kategori dikenal dengan sempurna. Mengapa dengan Bayes classifier kita mencapai kinerja terbaik yang bisa dicapai? Apa bukti / penjelasan formal untuk ini? Karena kami selalu menggunakan pengklasifikasi Bayes sebagai tolok ukur untuk membandingkan kinerja semua pengklasifikasi lainnya.

11 probability  classification  bayesian  bayes 

Saya mencoba membuat detektor objek yang sangat jarang terjadi (dalam gambar), berencana untuk menggunakan classifier biner CNN yang diterapkan pada jendela geser / ukuran. Saya telah membangun pelatihan 1: 1 positif-negatif yang seimbang dan set tes (apakah itu hal yang benar untuk dilakukan dalam kasus seperti itu?), Dan classifier baik-baik …

11 logistic  classification  unbalanced-classes  loss-functions 

Saya membutuhkan algoritma untuk melakukan pencarian biner ketika tes pada setiap langkah dapat memberikan hasil yang salah. Latar belakang: Saya perlu menempatkan siswa pada 12 tingkat kesulitan yang paling tepat. Pendekatan saat ini adalah brute force dan mengajukan 60 pertanyaan pilihan ganda 4-jawaban untuk meningkatkan kesulitan, berhenti setelah tiga salah, …

11 algorithms 

Latar belakang penelitian saya : Dalam sampling Gibbs di mana kami sampel (variabel minat) dan dari dan masing-masing, di mana dan adalah vektor acak -dimensi. Kita tahu bahwa proses ini biasanya dibagi menjadi dua tahap:XXXYYYP(X|Y)P(X|Y)P(X|Y)P(Y|X)P(Y|X)P(Y|X)XXXYYYkkk Periode Bakar, di mana kami membuang semua sampel. sampel sebagai dan .X1∼XtX1∼XtX_1\sim X_tY1∼YtY1∼YtY_1\sim Y_t Periode …

11 hypothesis-testing  covariance  covariance-matrix  gibbs 

Saya memiliki aplikasi yang dilindungi oleh PIN empat digit dan pengguna mendapat lima upaya masuk sebelum akun dikunci. Sekarang, salah satu pelanggan saya ingin "memperkuat" keamanan dan mengadvokasi solusi lain: enam digit PIN TIDAK "angka yang sama di sebelah satu sama lain": mis: 11 3945 atau 39 55 94 TIDAK …

11 combinatorics 

Jadi, kami punya Secret Santa di kantor. Kami 8 orang. Kami masing-masing bergiliran dan menarik selembar kertas kecil dari mangkuk dengan nama di atasnya. Satu-satunya aturan: Jika Anda menarik nama Anda, Anda harus meletakkan kembali kertas itu di mangkuk dan coba lagi. Sebut saja orang-orang A, B, C, D, E, …

11 combinatorics  odds 

Pertanyaan: seperti apa distribusi binomial bivariat dalam ruang 3 dimensi? Di bawah ini adalah fungsi spesifik yang ingin saya visualisasikan untuk berbagai nilai parameter; yaitu, , p 1 , dan p 2 .nnnp1p1p_{1}p2p2p_{2} f(x1,x2)=n!x1!x2!px11px22,x1+x2=n,p1+p2=1.f(x1,x2)=n!x1!x2!p1x1p2x2,x1+x2=n,p1+p2=1.f(x_{1},x_{2}) = \frac{n!}{x_{1}!x_{2}!}p_{1}^{x_{1}}p_{2}^{x_{2}}, \qquad x_{1}+x_{2}=n, \quad p_{1}+p_{2}=1. Perhatikan bahwa ada dua kendala; dan p 1 + p …

11 probability  data-visualization  binomial  discrete-data  distributions 

Hyperplane optimal dalam SVM didefinisikan sebagai: w⋅x+b=0,w⋅x+b=0,\mathbf w \cdot \mathbf x+b=0, di mana merupakan ambang. Jika kita memiliki beberapa pemetaan yang memetakan ruang input ke beberapa ruang , kita dapat mendefinisikan SVM di ruang , di mana hiperplane optimal adalah:ϕ Z Zbbbϕϕ\mathbf \phiZZZZZZ w⋅ϕ(x)+b=0.w⋅ϕ(x)+b=0.\mathbf w \cdot \mathbf \phi(\mathbf x)+b=0. Namun, …

11 svm  threshold 

Saya selalu membaca istilah interaksi dalam konteks regresi. Haruskah kita juga mempertimbangkan interaksi dengan model yang berbeda misalnya knn atau svm? Jika ada , atau bahkan lebih banyak fitur dan katakanlah pengamatan, apa cara yang biasa untuk menemukan interaksi yang bermanfaat? Coba semua kombinasi? Atau hanya gunakan kombinasi yang masuk …

11 machine-learning  interaction  terminology 

Saya dengan santai membaca sebuah artikel (dalam bidang ekonomi) yang memiliki perkiraan :log(E(X))log⁡(E(X))\log(E(X)) ,log(E(X))≈E(log(X))+0.5var(log(X))log⁡(E(X))≈E(log⁡(X))+0.5var(log⁡(X))\log(E(X)) \approx E(\log(X))+0.5 \mathrm{var}(\log(X)) yang penulis katakan tepat jika X adalah log-normal (yang saya tahu). Apa yang saya tidak tahu adalah bagaimana mendapatkan perkiraan ini. Saya mencoba menghitung perkiraan urutan kedua Taylor dan yang saya dapatkan hanyalah …

11 lognormal  approximation  taylor-series 

Tampaknya ada sesuatu dalam pemahaman manusiawi kita yang menciptakan kesulitan dalam memahami secara intuitif gagasan varian. Dalam arti sempit, jawabannya langsung: mengkuadratkan kita dari pemahaman refleksif kita. Tapi, apakah itu hanya varian yang menghadirkan masalah, atau apakah itu seluruh gagasan penyebaran data? Kami berlindung di kisaran, atau hanya menyatakan minimum …

11 variance  dispersion 

Berikut ini adalah kutipan dari Pengantar Bolstad untuk Statistik Bayesian . Untuk Anda yang ahli di luar sana, ini mungkin sepele tapi saya tidak mengerti bagaimana penulis menyimpulkan bahwa kami tidak perlu melakukan integrasi untuk menghitung probabilitas posterior untuk beberapa nilai . Saya mengerti ungkapan kedua yang proporsionalitas dan dari …

11 distributions  bayesian  beta-distribution  conjugate-prior 

Jika 20 uji coba independen Bernoulli dilakukan masing-masing dengan probabilitas keberhasilan dan kegagalan yang berbeda. Berapa probabilitas bahwa tepatnya n dari 20 percobaan berhasil? Apakah ada cara yang lebih baik untuk menghitung probabilitas ini daripada sekadar merangkum kombinasi probabilitas keberhasilan dan kegagalan?

11 probability  distributions  bernoulli-distribution  poisson-binomial 

Saya mencari sumber daya (buku, catatan kuliah, dll.) Tentang teknik yang dapat menangani data yang memiliki banyak target (Contoh: tiga variabel dependen: 2 diskrit dan 1 kontinu). Apakah ada yang punya sumber daya / pengetahuan tentang ini? Saya tahu bahwa dimungkinkan untuk menggunakan jaringan saraf untuk ini.

11 regression  machine-learning  predictive-models  references 

Saya sudah punya ide tentang pro dan kontra regresi ridge dan LASSO. Untuk LASSO, istilah penalti L1 akan menghasilkan vektor koefisien jarang, yang dapat dilihat sebagai metode pemilihan fitur. Namun, ada beberapa batasan untuk LASSO. Jika fitur memiliki korelasi tinggi, LASSO hanya akan memilih salah satunya. Selain itu, untuk masalah …

11 feature-selection  lasso  regularization  ridge-regression  elastic-net