Statistik dan Big Data

TLDR: Apakah splines regresi plat tipis memiliki interpretasi probabilistik / Bayesian? Pasangan input-output yang diberikan , ; Saya ingin memperkirakan fungsi sebagai berikut mana adalah fungsi kernel dan adalah vektor fitur dengan ukuran . Koefisien dan dapat ditemukan dengan menyelesaikan mana baris \ Phi diberikan oleh(xsaya,ysaya)(xi,yi)(x_i,y_i)saya=1,...,ni=1,...,ni=1,...,nf(⋅)f(⋅)f(\cdot)f(x)≈kamu(x)=ϕ(xsaya)Tβ+n∑saya=1αsayak(x,xsaya),f(x)≈u(x)=ϕ(xi)Tβ+∑i=1nαik(x,xi),\begin{equation}f(x)\approx u(x)=\phi(x_i)^T\beta +\sum_{i=1}^n \alpha_i k(x,x_i),\end{equation}k(⋅,⋅)k(⋅,⋅)k(\cdot,\cdot)ϕ(xsaya)ϕ(xi)\phi(x_i)m&lt;nm&lt;nm<nαsayaαi\alpha_iβsayaβi\beta_iminα∈Rn,β∈Rm1n‖Y−Φβ−Kα‖2Rn+λαTKα,minα∈Rn,β∈Rm1n∥Y−Φβ−Kα∥2Rn+λαTKα,\begin{equation} …

8 regression  bayesian  gaussian-process  smoothing  semiparametric 

Saya tidak yakin tentang apa yang saya mengerti dari dokumentasi resmi, yang mengatakan: Pengembalian: Sepasang (keluaran, status) tempat: outputs: Tensor keluaran RNN. Jika time_major == False(default), ini akan menjadi Tensor berbentuk: [batch_size, max_time, cell.output_size]. Jika time_major == True, ini akan menjadi Tensor berbentuk: [max_time, batch_size, cell.output_size]. Catatan, jika cell.output_sizetupel integer …

8 deep-learning  lstm  tensorflow  rnn  gru 

Apakah yang berikut ini benar? Bias rendah = varians tinggi Bias tinggi = varians rendah Saya mengerti bias tinggi dan rendah tetapi lalu bagaimana perbedaannya? Atau sinonim di atas?

8 machine-learning  neural-networks  variance  sampling  bias 

Baru-baru ini saya menemukan artikel yang menarik tentang memprediksi pengembalian pasar saham di masa depan. Penulis menyajikan grafik di bawah ini dan mengutip R ^ 2 dari 0,913. Ini akan membuat metode penulis jauh lebih unggul daripada apa pun yang pernah saya lihat pada subjek (kebanyakan berpendapat bahwa pasar saham …

8 machine-learning  time-series  forecasting  predictive-models 

Apakah teorema aproksimasi universal untuk jaringan saraf berlaku untuk setiap fungsi aktivasi (sigmoid, ReLU, Softmax, dll ...) atau apakah itu terbatas pada fungsi sigmoid? Pembaruan: Seperti yang ditunjukkan oleh shimao di komentar, itu tidak berlaku untuk semua fungsi. Jadi untuk kelas fungsi aktivasi apa yang dimilikinya?

8 neural-networks  approximation 

Tujuan utama saya adalah untuk dapat memiliki cara untuk menghasilkan vektor ukuran dari variabel acak berkorelasi Bernoulli. Salah satu cara saya melakukan ini adalah dengan menggunakan pendekatan Gaussian Coupla. Namun, pendekatan Gaussian Coupla hanya membuat saya dengan vektor:NNN (p1,…,pN)∈[0,1]N(p1,…,pN)∈[0,1]N (p_1, \ldots, p_N) \in [0,1]^N Misalkan saya telah menghasilkan sedemikian rupa …

8 correlation  mathematical-statistics  simulation  copula 

Saya menggulirkan dadu yang adil. Berapakah distribusi probabilitas jumlah gulungan sampai saya pertama kali mengakumulasi: 1) Lima yang 2) 20 kemunculan wajah yang bukan satu? Saya senang berbagi aplikasi yang sebenarnya jika itu akan membantu.

8 probability  negative-binomial 

Saya baru-baru ini menemukan beberapa sumber "informal" yang menunjukkan bahwa dalam beberapa keadaan, jika kita menggunakan AIC atau BIC untuk melatih model deret waktu, kita tidak perlu membagi data menjadi tes dan kereta - kita dapat menggunakan semua data untuk pelatihan. (Sumber termasuk antara lain, diskusi di posting blog Rob …

8 time-series  cross-validation  aic  train  bic 

Ini mungkin pertanyaan yang tidak jelas, tetapi saya bertanya-tanya bagaimana transformasi quantile Scikit-Learn diimplementasikan? Saya ingin tahu bagaimana dataset yang miring dapat diubah menjadi distribusi normal seperti ini ? Biasanya scikit-learn menyediakan tautan ke wiki, tetapi bukan transformasi ini. Bisakah seseorang mengarahkan saya ke arah yang benar? Terima kasih

8 data-transformation  quantiles 

Saya telah mengikuti tutorial online untuk sprigal kriging dengan keduanya geoRdan gstat(dan juga automap). Saya dapat melakukan kriging spasial dan saya memahami konsep utama di baliknya. Saya tahu cara membuat semivariogram, cara menyesuaikan model dengan itu dan bagaimana melakukan kriging biasa. Yang tidak saya mengerti adalah bagaimana bobot dari nilai …

8 prediction  spatial  weights  kriging 

Misalkan Anda telah diberi beberapa data dari rancangan acak kelompok dengan 4 kali pengulangan dan 23 kali perawatan. Setelah pemeriksaan awal data, Anda perhatikan bahwa untuk 8 perawatan semua pengulangan adalah identik, yang jelas salah. Setelah melaporkan masalah, Anda diberi tahu bahwa itu karena kebingungan dari orang yang bertanggung jawab …

8 probability  anova  dataset  fraud 

Saya menemukan formula untuk mendapatkan batas kepercayaan atas pada masalah bandit bersenjata k: cdalamNsayansaya-----√clnNinic\sqrt{\frac{\text{ln} N_i}{n_i}} di mana adalah jumlah sampel yang kami miliki untuk bandit khusus ini dan adalah jumlah total sampel yang kami miliki dari semua bandit. Algoritma yang sama digunakan dalam Pencarian Pohon Monte Carlo juga untuk mendapatkan …

8 machine-learning  mathematical-statistics  confidence-interval  reinforcement-learning  multiarmed-bandit 

Saya ingin memperkirakan GLM hirarkis tetapi dengan pemilihan fitur untuk menentukan kovariat mana yang relevan pada tingkat populasi untuk dimasukkan. Misalkan saya punya GGGgrup dengan pengamatan dan kemungkinan kovariat Yaitu, saya memiliki matriks desain kovariat , hasil . Koefisien pada kovariat ini adalah .NNNKKKx(N⋅G)×Kx(N⋅G)×K\boldsymbol{x}_{(N\cdot G) \times K}y(N⋅G)×1y(N⋅G)×1\boldsymbol{y}_{(N\cdot G) \times 1}βK×1βK×1\beta_{K …

8 machine-learning  bayesian  feature-selection  hierarchical-bayesian  shrinkage 

Saya terkadang melihat orang menggunakan pendekatan taylor sebagai berikut: E(ex)≈E(1+x)E(ex)≈E(1+x)E(e^x)\approx E(1+x) Saya tahu bahwa pendekatan taylor bekerja untuk ex≈1+xex≈1+xe^x \approx 1+x Tetapi tidak jelas bagi saya bahwa kita dapat melakukan perkiraan di dalam operator ekspektasi. Secara intuitif, saya kira itu bekerja jika "probabilitas jauh lebih besar dari 0 kecil", tapi …

8 expected-value  approximation 

Saya baru mengenal ML. Saya diberitahu bahwa L2-normalisasi regresi ridge tidak menghukum intersepsi . Seperti dalam fungsi biaya: Istilah normalisasi L2 \ lambda \ sum_ { j = 1} ^ {n} {\ theta_ {j} ^ {2}} hanya jumlah dari j = 1 ke n , bukan dari j = 0 …

8 machine-learning  ridge-regression