Statistik dan Big Data

Katakanlah kita memiliki daftar barang yang dipesan [a, b, c, ... x, y, z, ...] Saya mencari keluarga distribusi dengan dukungan pada daftar di atas yang diatur oleh beberapa parameter alpha sehingga: Untuk alpha = 0, ia menetapkan probabilitas 1 ke item pertama, a di atas, dan 0 ke yang …

10 distributions  sampling  discrete-data 

Pertimbangkan model regresi berganda berikut:Y=Xβ+Zδ+U.(1)(1)Y=Xβ+Zδ+U.Y=X\beta+Z\delta+U.\tag{1} Di sini adalah vektor vektor kolom; Matriks a ; a vektor kolom; a matriks; a vektor kolom; dan , istilah kesalahan, vektor kolom .YYYn×1n×1n\times 1XXXn×(k+1)n×(k+1)n\times (k+1)ββ\beta(k+1)×1(k+1)×1(k+1)\times 1ZZZn×ln×ln\times lδδ\deltal×1l×1l\times 1UUUn×1n×1n\times1 PERTANYAAN Dosen saya, buku teks Pengantar Ekonometrika, edisi ke-3. oleh James H. Stock dan Mark W. …

10 regression  multiple-regression  econometrics  least-squares  nonlinear-regression 

Saya tertarik pada interaksi perlakuan-kovariat dalam konteks eksperimen / percobaan terkontrol acak, dengan perawatan tugas indikator biner .TTT Bergantung pada metode / sumber spesifik, saya telah melihat masing-masing dan masing-masing untuk subjek yang dirawat dan yang tidak diobati.T={1,0}T={1,0}T=\{1,0\}T={1,−1}T={1,−1}T=\{1, -1\} Apakah ada aturan praktis kapan harus menggunakan atau ?{1,0}{1,0}\{1,0\}{1,−1}{1,−1}\{1, -1\} Apa …

10 binary-data  categorical-encoding 

Apakah itu hanya agregasi poin data? Atau itu representasi titik data untuk elemen yang berbeda dalam format tabel yang disusun dengan nilai-nilai variabel yang berbeda? Apa bedanya dengan data mentah?

10 dataset  terminology  definition 

[Pertanyaan serupa ditanyakan di sini tanpa jawaban] Saya telah cocok dengan model regresi logistik dengan L1 regularisasi (regresi logistik Lasso) dan saya ingin menguji koefisien yang dipasang untuk signifikansi dan mendapatkan nilai-p mereka. Saya tahu tes Wald (misalnya) adalah pilihan untuk menguji signifikansi koefisien individu dalam regresi penuh tanpa regularisasi, …

10 logistic  statistical-significance  regression-coefficients  lasso 

Saya mencoba menghitung prediksi efek acak dari model campuran linier dengan tangan, dan menggunakan notasi yang diberikan oleh Wood dalam Generalized Additive Models: sebuah pengantar dengan R (pg 294 / pg 307 pdf), saya semakin bingung mengenai apa yang masing-masing parameter mewakili. Di bawah ini adalah ringkasan dari Wood. Tentukan …

10 mixed-model  lme4-nlme 

Variabel acak didefinisikan sebagai fungsi yang dapat diukur dari satu aljabar dengan ukuran dasar ke aljabar lainnya .XXXσσ\sigma(Ω1,F1)(Ω1,F1)(\Omega_1, \mathcal F_1)PPPσσ\sigma(Ω2,F2)(Ω2,F2)(\Omega_2, \mathcal F_2) Bagaimana kita berbicara tentang sampel dari variabel acak ini? Apakah kami memperlakukannya sebagai elemen dari ? Atau sebagai fungsi terukur yang sama dengan ?XnXnX^nΩ2Ω2\Omega_2XXX Di mana saya bisa …

10 sampling  random-variable  simulation 

Saya bertanya-tanya bagaimana cara pendekatan dengan benar pelatihan dan pengujian model LASSO menggunakan glmnet di R? Secara khusus, saya bertanya-tanya bagaimana cara melakukannya jika kurangnya set data uji eksternal mengharuskan saya gunakan validasi silang (atau pendekatan serupa lainnya) untuk menguji model LASSO saya. Biarkan saya memecah skenario saya: Saya hanya …

10 r  cross-validation  glmnet  lasso 

Saat ini saya menggunakan pendekatan bayesian untuk memperkirakan parameter untuk model yang terdiri dari beberapa ODE. Karena saya memiliki 15 parameter untuk diperkirakan, ruang pengambilan sampel saya adalah 15-dimensi dan pencarian saya untuk distribusi posterior tampaknya memiliki banyak maxima lokal yang sangat terisolasi oleh daerah besar dengan probabilitas sangat rendah. …

10 bayesian  mcmc  monte-carlo  ergodic 

Seperti yang dinyatakan judul, saya mencoba mereplikasi hasil dari glmnet linear menggunakan pengoptimal LBFGS dari perpustakaan lbfgs. Pengoptimal ini memungkinkan kita untuk menambahkan istilah regularizer L1 tanpa harus khawatir tentang diferensiabilitas, selama fungsi objektif kami (tanpa istilah regularizer L1) adalah cembung. minβ∈Rp12n∥β0+Xβ−y∥22+αλ∥β∥1+12(1−α)λ∥β∥22minβ∈Rp12n‖β0+Xβ−y‖22+αλ‖β‖1+12(1−α)λ‖β‖22\min_{\beta \in \mathbb{R}^p} \frac{1}{2n}\Vert \beta_0 + X\beta - y …

10 r  regression  regularization  glmnet  elastic-net 

Misalkan adalah estimator yang tidak bias untuk . Maka tentu saja, . θE[ θ |θ]=θθ^θ^\hat{\theta}θθ\thetaE[θ^∣θ]=θE[θ^∣θ]=θ\mathbb{E}[\hat{\theta} \mid \theta] = \theta Bagaimana seseorang menjelaskan hal ini kepada orang awam? Di masa lalu, apa yang saya katakan adalah jika Anda rata-rata banyak nilai , karena ukuran sampel semakin besar, Anda mendapatkan perkiraan yang …

10 bias  asymptotics  unbiased-estimator  estimators  communication 

Dalam hal perbedaan antara jaringan saraf dan pembelajaran yang mendalam, kita dapat membuat daftar beberapa item, seperti lebih banyak lapisan yang disertakan, kumpulan data yang besar, perangkat keras komputer yang kuat untuk membuat model pelatihan yang rumit menjadi mungkin. Selain itu, apakah ada penjelasan lebih rinci mengenai perbedaan antara NN …

10 machine-learning  neural-networks  deep-learning  conv-neural-network  deep-belief-networks 

Selain pohon keputusan dan regresi logistik, model klasifikasi apa yang menyediakan interpretasi yang baik? Saya tidak tertarik pada keakuratan atau parameter lain, hanya interpretasi hasil yang penting.

10 interpretation  supervised-learning 

Apakah ada aturan praktis antara kedalaman jaringan saraf dan tingkat pembelajaran? Saya telah memperhatikan bahwa semakin dalam jaringannya, semakin rendah tingkat pembelajarannya. Jika itu benar, mengapa begitu?

10 neural-networks  deep-learning  hyperparameter  rule-of-thumb 

Sementara saya benar-benar telah melakukan beberapa pemrograman dengan mesin Boltzmann di kelas fisika, saya tidak akrab dengan karakterisasi teoretis mereka. Sebaliknya, saya tahu sedikit tentang teori model grafis (tentang beberapa bab pertama buku Lauritzen, Graphical Models ). Pertanyaan: Apakah ada hubungan yang bermakna antara model grafis dan mesin Boltzmann? Apakah …

10 machine-learning  neural-networks  mathematical-statistics  graphical-model  rbm