Statistik dan Big Data

Saya tahu definisi matriks positif simetris positif (SPD), tetapi ingin lebih memahami. Mengapa mereka begitu penting, secara intuitif? Inilah yang saya tahu. Apa lagi? Untuk data yang diberikan, matriks Co-variance adalah SPD. Matriks co-variance adalah metrik penting, lihat posting yang luar biasa ini untuk penjelasan intuitif. Bentuk kuadrat 12x⊤Ax−b⊤x+c12x⊤SEBUAHx-b⊤x+c\frac 1 …

20 mathematical-statistics  optimization  covariance-matrix  intuition  linear-algebra 

Kita semua akrab dengan gagasan, didokumentasikan dengan baik dalam literatur, bahwa optimasi LASSO (demi kesederhanaan membatasi perhatian di sini untuk kasus regresi linier) setara dengan model linier dengan kesalahan Gaussian di mana parameter diberikan Laplace sebelumnya \ exp (- \ lambda \ | \ beta \ | _1) Kami juga …

20 lasso  laplace-distribution 

Saya tidak dapat secara spesifik tentang sifat data karena ini adalah hak milik, tetapi anggaplah kami memiliki data seperti ini: Setiap bulan, beberapa orang mendaftar untuk suatu layanan. Kemudian, pada setiap bulan berikutnya, orang-orang tersebut dapat memutakhirkan layanan, menghentikan layanan atau menolak layanan (misalnya karena gagal membayar). Untuk kohort awal …

20 panel-data  splines  mars 

Saya mengambil kursus Andrew Ng tentang Pembelajaran Mesin melalui Coursera . Untuk persamaan, superskrip digunakan sebagai pengganti subskrip. Misalnya, dalam persamaan berikut x(i)x(i)x^{(i)} digunakan sebagai ganti xixix_i : J(θ0,θ1)=12m∑i=1m(hθ(x(i))−y(i))2J(θ0,θ1)=12m∑saya=1m(hθ(x(saya))-y(saya))2J(\theta_0, \theta_1) = \frac{1}{2m} \sum\limits_{i=1}^{m}{(h_\theta(x^{(i)}) - y^{(i)})^2} Rupanya, ini adalah praktik umum. Pertanyaan saya adalah mengapa menggunakan superskrip, bukan subskrip? Superskrip sudah …

20 machine-learning  notation 

Saya tidak mengerti persis apa yang dimaksud dengan ukuran simpul. Saya tahu apa itu simpul keputusan, tetapi bukan apa ukuran simpul itu.

20 machine-learning  random-forest  bagging 

Itu sedikit mengejutkan bagi saya ketika pertama kali saya melakukan simulasi distribusi normal Monte Carlo dan menemukan bahwa rata-rata standar deviasi dari sampel, semuanya memiliki ukuran sampel hanya , terbukti jauh lebih sedikit. dari, yaitu rata-rata kali, digunakan untuk menghasilkan populasi. Namun, ini terkenal, jika jarang diingat, dan saya agak …

20 normal-distribution  standard-deviation  expected-value  unbiased-estimator  umvue 

Saya membaca dari sana bahwa kesalahan standar dari varian sampel adalah SEs2=2σ4N−1−−−−−−√SEs2=2σ4N-1SE_{s^2} = \sqrt{\frac{2 \sigma^4}{N-1}} Apa kesalahan standar dari standar deviasi sampel? Saya akan tergoda untuk menebak dan mengatakan bahwa tapi saya tidak yakin.SEs= SEs2----√SEs=SEs2SE_{s} = \sqrt{SE_{s^2}}

20 sampling  standard-deviation  standard-error 

Saya memiliki jaringan saraf yang diatur untuk memprediksi sesuatu di mana variabel output adalah ordinal. Saya akan jelaskan di bawah ini dengan menggunakan tiga kemungkinan keluaran A <B <C. Cukup jelas bagaimana menggunakan jaringan saraf untuk menampilkan data kategori: output hanyalah sebuah softmax dari lapisan terakhir (biasanya sepenuhnya terhubung), satu …

20 neural-networks  ordinal-data  softmax 

Lihat pertanyaan ini di Math SE . Cerpen: Saya membaca Elemen Pembelajaran Statistik dan merasa frustrasi ketika saya mencoba memverifikasi beberapa hasil, misalnya, diberikan lalu RSS ( β) = ( y - X β)T( y - X β) ,RSS(β)=(y-Xβ)T(y-Xβ),\text{RSS}(\beta) = \left(\mathbf{y}-\mathbf{X}\beta\right)^{T}\left(\mathbf{y}-\mathbf{X}\beta\right)\text{,} Saya mencari buku kalkulus matriks yang ditulis seperti buku …

20 references  matrix  matrix-calculus 

Stein's Paradox menunjukkan bahwa ketika tiga atau lebih parameter diestimasi secara bersamaan, rata-rata ada gabungan estimasi yang lebih akurat (yaitu, memiliki kesalahan kuadrat rata-rata yang diharapkan) daripada metode apa pun yang menangani parameter secara terpisah. Ini adalah hasil yang sangat berlawanan dengan intuisi. Apakah hasil yang sama berlaku jika alih-alih …

20 paradox  steins-phenomenon 

Saya punya satu pertanyaan berkenaan dengan kebutuhan untuk menggunakan metode pemilihan fitur (Acak fitur nilai pentingnya hutan atau metode pemilihan fitur Univariat dll) sebelum menjalankan algoritma pembelajaran statistik. Kami tahu untuk menghindari overfitting, kami dapat menerapkan penalti regularisasi pada vektor bobot. Jadi jika saya ingin melakukan regresi linier, maka saya …

20 regression  machine-learning  feature-selection  lasso  regularization 

Saya telah menonton banyak video tutorial dan terlihat sama. Yang ini misalnya: https://www.youtube.com/watch?v=ip4iSMRW5X4 Mereka menjelaskan keadaan, tindakan dan probabilitas yang baik-baik saja. Orang itu menjelaskannya baik-baik saja tetapi sepertinya saya tidak bisa memahami apa yang akan digunakan dalam kehidupan nyata. Saya belum menemukan daftar apa pun. Yang paling umum yang …

20 markov-process 

Ada banyak teknik dalam statistik ekologi untuk analisis data eksplorasi data multidimensi. Ini disebut teknik 'penahbisan'. Banyak yang sama atau terkait erat dengan teknik umum di tempat lain dalam statistik. Mungkin contoh prototipikal akan menjadi analisis komponen utama (PCA). Ahli ekologi mungkin menggunakan PCA, dan teknik terkait, untuk mengeksplorasi 'gradien' …

20 pca  eda  ecology  correspondence-analysis 

Saya terkesan dengan hasil dalam makalah ICML 2014 " Representasi Terdistribusi dari Kalimat dan Dokumen " oleh Le dan Mikolov. Teknik yang mereka gambarkan, disebut "vektor paragraf", mempelajari representasi paragraf / dokumen yang panjangnya tidak diawasi secara sewenang-wenang, berdasarkan perluasan model word2vec. Makalah ini melaporkan kinerja canggih pada analisis sentimen …

20 text-mining  natural-language  word-embeddings  sentiment-analysis  reproducible-research 

Mengapa dalam "Metode Momen", kami menyamakan momen sampel dengan momen populasi untuk menemukan estimator titik? Di mana logika di balik ini?

20 intuition  method-of-moments