Statistik dan Big Data

Perlakuan klasik dari inferensi statistik bergantung pada asumsi bahwa statistik yang ditentukan secara tepat digunakan. Yaitu, distribusi yang menghasilkan data yang diamati adalah bagian dari model statistik : Namun, dalam kebanyakan situasi kita tidak dapat berasumsi bahwa ini benar. Saya ingin tahu apa yang terjadi dengan prosedur inferensi statistik jika …

14 hypothesis-testing  confidence-interval  model  frequentist  misspecification 

Model campuran Gaussian (GMM) menarik karena mudah digunakan baik secara analitis maupun dalam praktik, dan mampu memodelkan beberapa distribusi eksotis tanpa terlalu banyak kerumitan. Ada beberapa sifat analitik yang harus kita pegang yang umumnya tidak jelas. Khususnya: SnSnS_nnnnPPPnnnPPPlimn→∞infP^∈SnD(P||P^)=0?limn→∞infP^∈SnD(P||P^)=0?\lim_{n\rightarrow \infty}\inf_{\hat{P}\in S_n} D(P||\hat{P})=0? Katakanlah kita memiliki distribusi kontinu dan kami telah menemukan …

14 probability  normal-distribution  references  gaussian-mixture  information-theory 

Mari kita menjumlahkan aliran variabel acak, ; misalkan adalah jumlah istilah yang kita perlukan untuk totalnya melebihi satu, yaitu adalah angka terkecil sehinggaY YXi∼iidU(0,1)Xi∼iidU(0,1)X_i \overset{iid}\sim \mathcal{U}(0,1)YYYYYY X1+X2+⋯+XY>1.X1+X2+⋯+XY>1.X_1 + X_2 + \dots + X_Y > 1. Mengapa mean dari sama Euler konstan ?eYYYeee E(Y)=e=10!+11!+12!+13!+…E(Y)=e=10!+11!+12!+13!+…\mathbb{E}(Y) = e = \frac{1}{0!} + \frac{1}{1!} + …

14 probability  self-study  expected-value  uniform 

Saya telah membaca beberapa makalah, dan saya tidak jelas tentang definisi spesifik dari Average Treatment Effect (ATE), dan Marginal Treatment Effect (MTE). Apakah mereka sama? Menurut Austin ... Efek kondisional adalah efek rata-rata, pada tingkat subjek, dari memindahkan subjek dari yang tidak diobati ke yang diobati. Koefisien regresi untuk variabel …

14 causality  hazard  propensity-scores  marginal-effect  marginal-model 

Ketika melihat vektor eigen dari matriks kovarians, kita mendapatkan arah varians maksimum (vektor eigen pertama adalah arah di mana data paling bervariasi, dll.); ini disebut analisis komponen utama (PCA). Saya bertanya-tanya apa artinya melihat vektor-vektor eigen / nilai-nilai matriks informasi timbal balik, akankah mereka menunjuk ke arah entropi maksimum?

14 pca  entropy  mutual-information  eigenvalues 

Semua contoh yang saya temukan menggunakan keyakinan mendalam atau jaringan saraf convolutional menggunakannya untuk klasifikasi gambar, deteksi bakteri atau pengenalan suara. Apakah jaringan syaraf yang dalam juga berguna untuk tugas-tugas regresi klasik, di mana fitur-fiturnya tidak terstruktur (misalnya, tidak diatur dalam urutan atau kisi)? Jika ya, bisakah Anda memberi contoh?

14 regression  machine-learning  neural-networks  deep-learning 

Saya melakukan klasifikasi gambar menggunakan pembelajaran mesin. Misalkan saya memiliki beberapa data pelatihan (gambar) dan akan membagi data menjadi set pelatihan dan validasi. Dan saya juga ingin menambah data (menghasilkan gambar baru dari yang asli) dengan rotasi acak dan injeksi noise. Augmentaion dilakukan secara offline. Mana cara yang benar untuk …

14 machine-learning  classification  cross-validation  dataset  data-augmentation 

Pelatihan statistik saya berakar pada statistik matematika, dan mengambil metode-metode ini dalam MS saya sedikit mengejutkan saat ini; Saat ini sulit bagi saya untuk dapat memahami beberapa metode "terapan" ini karena saya kurang berpengalaman dalam industri ini. Salah satu topik yang telah kita bicarakan di kelas metode saya adalah ide …

14 references  experiment-design 

Sering dikatakan bahwa regresi proses gaussian berhubungan (GPR) dengan regresi linier bayesian dengan (kemungkinan) jumlah tak terbatas fungsi basis. Saat ini saya mencoba memahami ini secara detail untuk mendapatkan intuisi untuk model seperti apa yang dapat saya ungkapkan menggunakan GPR. Apakah Anda berpikir bahwa ini adalah pendekatan yang baik untuk …

14 gaussian-process  kernel-trick  basis-function 

Saya cukup cenderung matematis - memiliki 6 semester Matematika di undergrad saya - meskipun saya sedikit keluar dari praktik dan lambat dengan mengatakan persamaan diferensial parsial dan integral jalur konsep saya kembali dengan sedikit latihan. Saya belum memiliki kursus tentang bukti matematika (pemikiran matematika) atau satu tentang analisis. Saya juga …

14 mathematical-statistics  references 

Mungkin di luar topik di sini, tetapi sudah ada beberapa ( satu , dua ) pertanyaan terkait. Mengaduk-aduk dalam literatur (atau pencarian google untuk Algoritma SVD Terpotong) muncul banyak makalah yang menggunakan SVD terpotong dalam berbagai cara, dan klaim (frustasi, sering tanpa kutipan) bahwa ada algoritma cepat untuk menghitungnya, tetapi …

14 algorithms  svd  numerics 

Saya mencari cara sederhana untuk mengambil sampel dari distribusi multivariat von Mises-Fisher dengan Python. Saya telah melihat dalam modul stats dalam modul scipy dan numpy tetapi hanya menemukan distribusi univariat von Mises. Apakah ada kode yang tersedia? Saya belum menemukan. Rupanya, Wood (1994) telah merancang algoritma untuk pengambilan sampel dari …

14 distributions  sampling  python 

Dalam Statistik Penemuan Andy Field Menggunakan SPSS ia menyatakan bahwa semua variabel harus diubah. Namun dalam publikasi: "Memeriksa hubungan spasial yang bervariasi antara penggunaan lahan dan kualitas air menggunakan regresi tertimbang secara geografis I: Desain model dan evaluasi" mereka secara khusus menyatakan bahwa hanya variabel non-normal yang ditransformasikan. Apakah analisis …

14 normal-distribution  data-transformation 

Apakah ada algoritma yang didokumentasikan untuk memisahkan bagian-bagian dari dataset yang diberikan ke dalam kurva berbeda yang paling sesuai? Sebagai contoh, kebanyakan manusia yang melihat bagan data ini akan dengan mudah membaginya menjadi 3 bagian: segmen sinusoidal, segmen linier, dan segmen eksponensial terbalik. Sebenarnya, saya membuat ini dengan gelombang sinus, …

14 fitting  curve-fitting  segmentation 

Dapatkah seseorang menjelaskan secara singkat untuk saya, mengapa masing-masing dari enam asumsi diperlukan untuk menghitung estimator OLS? Saya hanya menemukan tentang multikolinieritas — bahwa jika ada, kami tidak dapat membalikkan (X'X) matriks dan pada gilirannya memperkirakan penaksir keseluruhan. Bagaimana dengan yang lain (misalnya, linearitas, nol kesalahan berarti, dll.)?

14 least-squares  assumptions