Statistik dan Big Data

Saya tahu ini mungkin telah dibahas di tempat lain, tetapi saya belum dapat menemukan jawaban yang jelas. Saya mencoba menggunakan rumus untuk menghitung out-of-sample dari model regresi linier, di mana adalah jumlah residu kuadrat dan adalah jumlah total kuadrat. Untuk set pelatihan, jelas ituR 2 S S R S S …

10 regression  machine-learning  r-squared  out-of-sample 

Katakanlah saya memiliki beberapa arsitektur model pembelajaran yang mendalam, serta ukuran mini-batch yang dipilih. Bagaimana saya mendapatkan dari persyaratan memori yang diharapkan untuk melatih model itu? Sebagai contoh, pertimbangkan model (tidak berulang) dengan input dimensi 1000, 4 lapisan tersembunyi yang sepenuhnya terhubung dari dimensi 100, dan lapisan keluaran tambahan dimensi …

10 deep-learning 

Saya ingin menguji beberapa ide saya yang menurut saya lebih baik daripada apa pun yang saya lihat. Saya bisa saja salah tetapi saya ingin menguji ide-ide saya dan mengalahkan keraguan saya dengan pengamatan yang lebih pasti. Apa yang saya pikirkan untuk lakukan adalah sebagai berikut: Mendefinisikan secara analitik seperangkat distribusi. …

10 hypothesis-testing  estimation  pdf  kernel-smoothing  model-evaluation 

Oke - pesan asli saya gagal mendapat respons; jadi, izinkan saya mengajukan pertanyaan yang berbeda. Saya akan mulai dengan menjelaskan pemahaman saya tentang estimasi dari perspektif teori keputusan. Saya tidak memiliki pelatihan formal dan tidak akan mengejutkan saya jika pemikiran saya cacat dalam beberapa cara. Misalkan kita memiliki beberapa fungsi …

10 bias  loss-functions  frequentist  decision-theory  risk 

Ketika kita dapat membedakan fungsi biaya dan menemukan parameter dengan menyelesaikan persamaan yang diperoleh melalui diferensiasi parsial sehubungan dengan setiap parameter dan mencari tahu di mana fungsi biaya minimum. Juga saya pikir mungkin untuk menemukan banyak tempat di mana turunannya nol, dengan demikian kita dapat memeriksa semua tempat tersebut dan …

10 machine-learning  computational-statistics 

Saat ini saya sedang mengerjakan proyek untuk melakukan peramalan data deret waktu (data bulanan). Saya menggunakan R untuk melakukan peramalan. Saya memiliki 1 variabel dependen (y) dan 3 variabel independen (x1, x2, x3). Variabel y memiliki 73 pengamatan, dan begitu pula 3 variabel lainnya (juga 73). Dari Januari 2009 hingga …

10 time-series  multiple-regression  forecasting  lags 

Pada dasarnya saya ingin mengubah ukuran kesamaan menjadi bobot yang digunakan sebagai prediktor. Kesamaannya adalah pada [0,1], dan saya akan membatasi bobot juga pada [0,1]. Saya ingin fungsi paramteris yang melakukan pemetaan ini yang kemungkinan saya akan optimalkan menggunakan gradient descent. Syaratnya adalah bahwa 0 peta ke 0, 1 peta …

10 optimization  curve-fitting 

Dalam beberapa kompetisi yang luar biasa, penilaian didasarkan pada "logloss". Ini berkaitan dengan kesalahan klasifikasi. Inilah jawaban teknis tetapi saya mencari jawaban yang intuitif. Saya sangat menyukai jawaban atas pertanyaan ini tentang jarak Mahalanobis, tetapi PCA tidak logloss. Saya dapat menggunakan nilai yang dikeluarkan oleh perangkat lunak klasifikasi saya, tetapi …

10 interpretation  intuition  loss-functions 

Bagaimana Anda menginterpretasikan koefisien rasio Mills terbalik (lambda) dalam model Heckman dua langkah ?

10 econometrics  heckman  selection-bias 

Apakah "residu pelajar" dan "residu standar" sama dalam model regresi? Saya membangun model regresi linier dalam R dan ingin memplot grafik nilai residu Studentized v / s, tetapi tidak menemukan cara otomatis untuk melakukan ini di R. Misalkan saya punya model library(MASS) lm.fit <- lm(Boston$medv~(Boston$lstat)) kemudian menggunakan plot(lm.fit)tidak memberikan plot …

10 r  regression  residuals  terminology 

Bisakah seseorang menjelaskan kepada saya secara sederhana apa itu matriks kovarians isotropik? Saya tidak dapat menemukan apa pun secara online.

10 terminology  covariance-matrix  definition 

Situasi: Dua burung (jantan dan betina) melindungi telur mereka di sarang dari pengganggu. Setiap burung dapat menggunakan serangan atau ancaman untuk perlindungan, dan hadir atau tidak ada. Ada pola yang muncul dari data bahwa perilaku mungkin saling melengkapi - serangan laki-laki sementara perempuan menggunakan tampilan ancaman dan sebaliknya. Pertanyaan saya …

10 r  sequence-analysis 

Bagaimana cara melakukan regresi ridge non-negatif? Laso non-negatif tersedia di scikit-learn, tetapi untuk ridge, saya tidak dapat menegakkan non-negativitas beta, dan memang, saya mendapatkan koefisien negatif. Adakah yang tahu mengapa ini terjadi? Juga, dapatkah saya menerapkan punggungan dalam hal kuadrat terkecil reguler? Pindah ini ke pertanyaan lain: Dapatkah saya menerapkan …

10 regression  lasso  regularization  ridge-regression 

Saya mengerti bahwa kita dapat menggunakan regularisasi dalam masalah regresi kuadrat terkecil sebagai w∗= argminw[ ( Y - X w )T( y - X w ) + λ ∥ w ∥2]w∗=argminw⁡[(y−Xw)T(y−Xw)+λ‖w‖2]\boldsymbol{w}^* = \operatorname*{argmin}_w \left[ (\mathbf y-\mathbf{Xw})^T(\boldsymbol{y}-\mathbf{Xw}) + \lambda\|\boldsymbol{w}\|^2 \right] dan bahwa masalah ini memiliki solusi bentuk tertutup seperti: w^= ( …

10 regression  regularization  ridge-regression  overfitting  matrix-inverse 

Algoritma SVM cukup tua - dikembangkan tahun 1960-an, tetapi sangat populer pada 1990-an dan 2000-an. Ini adalah bagian klasik (dan sangat indah) dari kursus pembelajaran mesin. Saat ini tampaknya dalam pemrosesan media (gambar, suara, dll.) Jaringan saraf benar-benar mendominasi, sementara di daerah lain Gradient Boosting memiliki posisi yang sangat kuat. …

10 machine-learning  svm