Statistik dan Big Data

Saya menemukan masalah simulasi berikut: diberi satu set dari bilangan real yang diketahui, distribusi pada { - 1 , 1 } d didefinisikan oleh P ( X = ( x 1 , ... , x d ) ) ∝ ( x 1 ω 1 + … + x d ω …

9 simulation  algorithms  random-generation  computational-statistics  metropolis-hastings 

Saya baru-baru ini menyaksikan pembicaraan oleh Eric J. Ma dan memeriksa entri blog - nya , di mana ia mengutip Radford Neal, bahwa model Bayesian tidak mengenakan pakaian yang berlebihan (tetapi mereka bisa mengenakan pakaian yang sesuai ) dan ketika menggunakannya, kita tidak perlu set tes untuk memvalidasi mereka (untuk …

9 machine-learning  bayesian  cross-validation  deep-learning 

Ditutup . Pertanyaan ini perlu lebih fokus . Saat ini tidak menerima jawaban. Ingin meningkatkan pertanyaan ini? Perbarui pertanyaan sehingga berfokus pada satu masalah hanya dengan mengedit posting ini . Ditutup 2 tahun yang lalu . Saya baru di bidang pembelajaran mesin, tetapi saya ingin mencoba dan mengimplementasikan algoritma klasifikasi …

9 machine-learning  classification  neural-networks  transfer-learning 

Saya sedang mempelajari perbedaan antara regularisasi dalam regresi RKHS dan regresi linier, tetapi saya kesulitan memahami perbedaan penting antara keduanya. (xi,yi)(xi,yi)(x_i,y_i)f(⋅)f(⋅)f(\cdot)f(x)≈u(x)=∑i=1mαiK(x,xi),f(x)≈u(x)=∑i=1mαiK(x,xi),\begin{equation}f(x)\approx u(x)=\sum_{i=1}^m \alpha_i K(x,x_i),\end{equation}K(⋅,⋅)K(⋅,⋅)K(\cdot,\cdot)αmαm\alpha_mminα∈Rn1n∥Y−Kα∥2Rn+λαTKα,minα∈Rn1n‖Y−Kα‖Rn2+λαTKα,\begin{equation} {\displaystyle \min _{\alpha\in R^{n}}{\frac {1}{n}}\|Y-K\alpha\|_{R^{n}}^{2}+\lambda \alpha^{T}K\alpha},\end{equation} di mana, dengan beberapa penyalahgunaan notasi, entri i,ji,ji,j dari matriks kernel KKK adalah K(xi,xj)K(xi,xj){\displaystyle K(x_{i},x_{j})} . Ini memberi α∗=(K+λnI)−1Y.α∗=(K+λnI)−1Y.\begin{equation} \alpha^*=(K+\lambda …

9 regression  generalized-linear-model  regularization  kernel-trick  rbf-kernel 

Sebuah pdf biasanya ditulis sebagai , di mana huruf kecil diperlakukan sebagai realisasi atau hasil dari variabel acak yang memiliki pdf itu. Demikian pula, cdf ditulis sebagai , yang memiliki arti . Namun, dalam beberapa keadaan, seperti definisi fungsi skor dan derivasi ini bahwa cdf didistribusikan secara seragam , tampak …

9 random-variable  pdf  cdf  intuition 

Saat ini saya sedang mencari Tinjauan atas Algoritma Pembelajaran Penguatan dan mungkin klasifikasi mereka. Tetapi di sebelah Sarsa dan Q-Learning + Deep Q-Learning saya tidak dapat menemukan algoritma yang populer. Wikipedia memberi saya gambaran tentang Metode Pembelajaran Penguatan umum yang berbeda tetapi tidak ada referensi untuk algoritma yang berbeda yang …

9 reinforcement-learning  q-learning 

Saya mencoba memahami pekerjaan dalam Hamiltonian Monte Carlo (HMC), tetapi tidak dapat sepenuhnya memahami bagian ketika kita mengganti integrasi waktu deterministik dengan proposal Metropolis-Hasting. Saya membaca makalah pengantar yang luar biasa A Pengantar Konseptual untuk Hamiltonian Monte Carlo oleh Michael Betancourt, jadi saya akan mengikuti notasi yang sama yang digunakan …

9 mcmc  monte-carlo  hmc 

Biarkan berada di . Apa yang dimaksud dengan matriks kovarians dan rata-rata dari (dengan max dihitung dengan elementwise)?Z∼N(μ,Σ)Z∼N(μ,Σ)Z \sim \mathcal N(\mu, \Sigma)RdRd\mathbb R^dZ+=max(0,Z)Z+=max(0,Z)Z_+ = \max(0, Z) Ini muncul misalnya karena, jika kita menggunakan fungsi aktivasi ReLU di dalam jaringan yang dalam, dan mengasumsikan melalui CLT bahwa input ke lapisan yang …

9 probability  distributions  normal-distribution  moments  censoring 

Saya bertemu dengan perilaku paradoks dari apa yang disebut "tes eksak" atau "tes permutasi", prototipe di antaranya adalah tes Fisher. Ini dia. Bayangkan Anda memiliki dua kelompok yang terdiri dari 400 orang (mis. 400 kontrol vs 400 kasus), dan kovariat dengan dua modalitas (mis. Terbuka / tidak terpajan). Hanya ada …

9 power  permutation-test  fishers-exact 

Kejadian yang tidak biasa ketika berhadapan dengan model campuran maksimal yang kompleks (memperkirakan semua efek acak yang mungkin untuk data dan model yang diberikan) adalah sempurna (+1 atau -1) atau korelasi yang hampir sempurna di antara beberapa efek acak. Untuk tujuan diskusi, mari kita amati model dan ringkasan model berikut …

9 r  correlation  mixed-model  lme4-nlme  covariance-matrix 

Misalkan kita sedang melakukan contoh mainan pada gradient layak, meminimalkan fungsi kuadrat , menggunakan ukuran langkah tetap . ( )α = 0,03 A = [ 10 , 2 ; 2 , 3 ]xTA xxTSEBUAHxx^TAxα = 0,03α=0,03\alpha=0.03A = [ 10 , 2 ; 2 , 3 ]SEBUAH=[10,2;2,3]A=[10, 2; 2, 3] Jika …

9 r  machine-learning  optimization  gradient-descent 

Jika saya memiliki dua distribusi simetris (sehubungan dengan median) dan Y , apakah perbedaan X - Y juga distribusi simetris (sehubungan dengan median)?XXXYYYX−YX−YX-Y

9 distributions  median 

Jika X∼C(0,1)X∼C(0,1)X\sim\mathcal C(0,1) , temukan distribusi .Y=2X1−X2Y=2X1−X2Y=\frac{2X}{1-X^2} Kami memilikiFY(y)=Pr(Y≤y)FY(y)=Pr(Y≤y)F_Y(y)=\mathrm{Pr}(Y\le y) =Pr(2X1−X2≤y)=Pr(2X1−X2≤y)\qquad\qquad\qquad=\mathrm{Pr}\left(\frac{2X}{1-X^2}\le y\right) =⎧⎩⎨⎪⎪⎪⎪⎪⎪Pr(X∈(−∞,−1−1+y2√y])+Pr(X∈(−1,−1+1+y2√y]),ify&gt;0Pr(X∈(−1,−1+1+y2√y])+Pr(X∈(1,−1−1+y2√y]),ify&lt;0={Pr(X∈(−∞,−1−1+y2y])+Pr(X∈(−1,−1+1+y2y]),ify&gt;0Pr(X∈(−1,−1+1+y2y])+Pr(X∈(1,−1−1+y2y]),ify&lt;0\qquad\qquad=\begin{cases} \mathrm{Pr}\left(X\in\left(-\infty,\frac{-1-\sqrt{1+y^2}}{y}\right]\right)+\mathrm{Pr}\left(X\in\left(-1,\frac{-1+\sqrt{1+y^2}}{y}\right]\right),\text{if}\quad y>0\\ \mathrm{Pr}\left(X\in\left(-1,\frac{-1+\sqrt{1+y^2}}{y}\right]\right)+\mathrm{Pr}\left(X\in\left(1,\frac{-1-\sqrt{1+y^2}}{y}\right]\right),\text{if}\quad y<0 \end{cases} Saya ingin tahu apakah perbedaan kasus di atas benar atau tidak. Di sisi lain, berikut ini tampaknya metode yang lebih sederhana: Kita dapat menulis menggunakan identitas 2 tan zY=tan(2tan−1X)Y=tan⁡(2tan−1⁡X)Y=\tan(2\tan^{-1}X)2tanz1−tan2z=tan2z2tan⁡z1−tan2⁡z=tan⁡2z\frac{2\tan z}{1-\tan^2z}=\tan 2z Sekarang, …

9 self-study  distributions  mathematical-statistics  random-variable 

Jadi saya memiliki tes probabilitas dan saya tidak bisa menjawab pertanyaan ini. Itu hanya bertanya seperti ini: "Menimbang bahwa adalah variabel acak, 0 , gunakan ketidaksetaraan yang benar untuk membuktikan apa yang lebih tinggi atau sama, E (X ^ 2) ^ 3 atau E (X ^ 3) ^ 2 .XXXXXX …

9 probability  self-study  probability-inequalities 

Apakah menyiratkan independensi X dan Y ?Cov(f(X),Y)=0∀f(.)Cov(f(X),Y)=0∀f(.)\mathbb{Cov} \left(f(X),Y\right) = 0 \; \forall \; f(.)XXXYYY Saya hanya akrab dengan definisi independensi antara dan Y berikut .XXXYYY fx,y(x,y)=fx(x)fy(y)fx,y(x,y)=fx(x)fy(y) f_{x,y}(x,y) = f_x(x)f_y(y)

9 random-variable  independence