Statistik dan Big Data

Tahun lalu di NIPS 2017 Ali Rahimi dan Ben Recht memenangkan ujian penghargaan waktu untuk makalah mereka "Fitur Acak untuk Mesin Kernel Skala Besar" di mana mereka memperkenalkan fitur acak, yang kemudian dikodifikasikan sebagai algoritma kitchen sink acak. Sebagai bagian dari mempublikasikan makalah mereka, mereka menunjukkan bahwa model mereka dapat …

18 machine-learning  svm  gaussian-process  approximation 

Saya ingin membuat kode untuk memplot ACF dan PACF dari data time-series. Sama seperti plot yang dihasilkan ini dari minitab (di bawah). Saya sudah mencoba mencari formula, tetapi saya masih belum memahaminya dengan baik. Maukah Anda memberi tahu saya formula dan bagaimana menggunakannya? Apa garis merah horizontal pada plot ACF …

18 correlation  data-visualization  autocorrelation  partial-correlation 

Saya menemukan utas ini melihat perbedaan antara bootstrap dan validasi silang - jawaban yang bagus dan referensi. Apa yang saya bertanya-tanya sekarang adalah, jika saya adalah untuk melakukan diulang 10 kali lipat CV katakanlah untuk menghitung akurasi classifier ini, berapa kali n harus saya mengulanginya? Apakah n tergantung pada jumlah …

18 cross-validation 

Mengapa divergensi KL non-negatif? Dari perspektif teori informasi, saya memiliki pemahaman yang intuitif: Katakanlah ada dua ansambel AAA dan BBB yang terdiri dari himpunan elemen yang sama dengan label xxx . p(x)p(x)p(x) dan q(x)q(x)q(x) adalah distribusi probabilitas yang berbeda atas masing-masing ensemble AAA dan BBB Dari perspektif teori informasi, adalah …

18 information-theory  kullback-leibler 

Saya ingin menerapkan algoritma dalam sebuah makalah yang menggunakan kernel SVD untuk menguraikan matriks data. Jadi saya telah membaca materi tentang metode kernel dan PCA kernel dll. Tetapi masih sangat tidak jelas bagi saya terutama ketika datang ke rincian matematika, dan saya punya beberapa pertanyaan. Mengapa metode kernel? Atau, apa …

18 pca  svd  kernel-trick 

Saya telah melalui dokumen konvolusi keras dan saya telah menemukan dua jenis konveksi Conv1D dan Conv2D. Saya melakukan beberapa pencarian web dan ini adalah apa yang saya mengerti tentang Conv1D dan Conv2D; Conv1D digunakan untuk urutan dan penggunaan Conv2D untuk gambar. Saya selalu mengira jaringan konvolusi nerual hanya digunakan untuk …

18 machine-learning  neural-networks  conv-neural-network  keras 

Saya telah melihat plot kesalahan tes / pelatihan tiba-tiba jatuh pada zaman tertentu beberapa kali selama pelatihan jaringan saraf, dan saya bertanya-tanya apa yang menyebabkan kinerja ini melonjak: Gambar ini diambil dari Kaiming He Github, tetapi plot serupa muncul di banyak surat kabar.

18 conv-neural-network 

Saya telah menulis sebuah program yang menghasilkan data acak. Jika program bekerja dengan benar, data tersebut harus mengikuti distribusi probabilitas khusus yang diketahui. Saya ingin menjalankan program, melakukan perhitungan pada hasilnya, dan menghasilkan nilai-p. Sebelum orang lain mengatakannya: Saya mengerti bahwa pengujian hipotesis tidak dapat mendeteksi kapan program beroperasi dengan …

17 distributions  hypothesis-testing  random-generation 

Konteks: Dalam contoh 8-sekolah Gelman (Bayesian Data Analysis, edisi ke-3, Bab 5.5) ada delapan percobaan paralel di 8 sekolah yang menguji efek pembinaan. Setiap percobaan menghasilkan perkiraan untuk efektivitas pembinaan dan kesalahan standar yang terkait. Penulis kemudian membangun model hierarkis untuk 8 titik data efek pembinaan sebagai berikut: yi∼N(θi,sei)θi∼N(μ,τ)yi∼N(θi,sei)θi∼N(μ,τ) y_i …

17 bayesian  hierarchical-bayesian 

Saya memiliki variabel numerik yang ternyata tidak signifikan dalam model regresi logistik multivariat. Namun, ketika saya mengelompokkannya menjadi kelompok, tiba-tiba itu menjadi signifikan. Ini sangat kontra-intuitif bagi saya: ketika mengelompokkan variabel, kami memberikan beberapa informasi. Bagaimana ini bisa terjadi?

17 regression  logistic  statistical-significance  multivariate-analysis 

Saya telah membaca posting yang tak terhitung jumlahnya di situs ini yang sangat menentang penggunaan seleksi bertahap variabel menggunakan segala jenis kriteria apakah itu berbasis p-nilai, AIC, BIC, dll. Saya mengerti mengapa prosedur ini secara umum, sangat buruk untuk pemilihan variabel. Pos gung yang mungkin terkenal di sini dengan jelas …

17 forecasting  predictive-models  arima  aic  stepwise-regression 

Mengapa huruf Q dipilih atas nama Q-learning? Sebagian besar huruf dipilih sebagai singkatan, seperti singkatan kebijakan dan singkatan nilai. Tapi saya tidak berpikir Q adalah singkatan dari kata apa pun.vππ\pivvv

17 terminology  reinforcement-learning  history  q-learning 

Estimator regresi yang dihukum seperti LASSO dan ridge dikatakan sesuai dengan estimator Bayesian dengan prior tertentu. Saya kira (karena saya tidak tahu cukup tentang statistik Bayesian) bahwa untuk parameter penyetelan tetap, ada beton yang sesuai sebelumnya. Sekarang frequentist akan mengoptimalkan parameter tuning dengan validasi silang. Apakah ada padanan Bayesian dalam …

17 bayesian  lasso  ridge-regression 

Saya telah melatih model regresi linier, menggunakan serangkaian variabel / fitur. Dan modelnya memiliki kinerja yang baik. Namun, saya menyadari bahwa tidak ada variabel dengan korelasi yang baik dengan variabel yang diprediksi. Bagaimana itu mungkin?

17 regression  machine-learning  correlation  multiple-regression  linear-model 

Saya baru saja mengikuti ujian di mana kami disajikan dengan dua variabel. Dalam permainan diktator di mana seorang diktator diberikan 100 USD, dan dapat memilih berapa banyak untuk dikirim atau disimpan untuk dirinya sendiri, ada korelasi positif antara usia dan berapa banyak uang yang diputuskan untuk disimpan oleh para peserta. …

17 correlation  causality