Statistik dan Big Data

Struktur pertanyaan ini adalah sebagai berikut: pada awalnya, saya memberikan konsep pembelajaran ensemble , selanjutnya saya memberikan daftar tugas pengenalan pola , kemudian saya memberikan contoh algoritma pembelajaran ensemble dan, akhirnya, memperkenalkan pertanyaan saya. Mereka yang tidak membutuhkan semua informasi tambahan mungkin hanya melihat berita utama dan langsung ke pertanyaan …

14 machine-learning  neural-networks  pattern-recognition  ensemble  ocr 

Saya seorang pemula yang mencoba menyusun proyek pertama saya. Saya memiliki proyek klasifikasi lagu dalam pikiran, tetapi karena saya akan memberi label secara manual, saya hanya bisa mengumpulkan sekitar 1000 lagu, atau 60 jam musik. Saya akan mengklasifikasikan dengan beberapa kelas, jadi mungkin saja satu kelas memiliki sedikitnya 50-100 lagu …

14 neural-networks 

Saya memiliki beberapa data menarik tentang artis-artis musik paling populer yang dialirkan dibagi berdasarkan lokasi ke sekitar 200 distrik kongres. Saya ingin melihat apakah mungkin untuk polling seseorang pada preferensi musiknya dan menentukan apakah dia "mendengarkan seperti seorang Demokrat" atau "mendengarkan seperti seorang Republikan." (Tentu ini adalah hati yang ringan, …

14 correlation  prediction  pooling  weighted-data 

Saya mungkin tidak memiliki pemahaman yang jelas tentang paradoks Simpson . Secara informal saya tahu bahwa rata-rata respons Y1, yang dikelompokkan atas semua tingkat faktor A yang mungkin, dapat lebih tinggi daripada rata-rata respons Y2 di atas semua tingkat A, bahkan jika rata-rata Y1 untuk setiap tingkat A (setiap kelompok) …

14 mathematical-statistics  simpsons-paradox 

Benarkah adalah penaksir yang tidak bias untuk ? Yaitu, ρ X , Y E [ R X , Y ] = ρ X , Y ?RX,YRX,YR_{X,Y}ρX,YρX,Y\rho_{X,Y}E[RX,Y]=ρX,Y?E[RX,Y]=ρX,Y?\mathbf{E}\left[R_{X,Y}\right]=\rho_{X,Y}? Jika tidak, apa yang merupakan penaksir tidak bias untuk ? (Mungkin ada penaksir bias standar yang digunakan? Juga, apakah ini analog dengan varians sampel …

14 correlation 

Adakah yang bisa menjelaskan ide utama di balik metode Hamiltonian Monte Carlo dan dalam kasus apa mereka akan menghasilkan hasil yang lebih baik daripada metode Markov Chain Monte Carlo?

14 bayesian  mcmc  hmc 

Dalam kasus-kasus tertentu, Jeffrey sebelum untuk model multidimensi penuh pada umumnya dianggap tidak memadai, ini misalnya dalam: (di mana , dengan dan tidak diketahui) di mana prior berikut lebih disukai (ke Jeffrey penuh sebelumnya \ pi (\ mu, \ sigma) \ propto \ sigma ^ {- 2} ): p (\ …

14 distributions  bayesian  estimation  prior  jeffreys-prior 

Pernahkah ada studi skala besar metode MCMC yang membandingkan kinerja beberapa algoritma yang berbeda pada serangkaian kepadatan uji? Saya sedang memikirkan sesuatu yang setara dengan makalah Rios dan Sahinidis (2013), yang merupakan perbandingan menyeluruh dari sejumlah besar pengoptimalisasi kotak hitam bebas derivatif pada beberapa kelas fungsi pengujian. Untuk MCMC, kinerja …

14 machine-learning  bayesian  references  mcmc 

Catatan: SSTSSTSST = Jumlah Total Kuadrat, SSESSESSE = Jumlah Kesalahan Kuadrat, dan SSRSSRSSR = Jumlah Regresi Kuadrat. Persamaan dalam judul sering ditulis sebagai: ∑i=1n(yi−y¯)2=∑i=1n(yi−y^i)2+∑i=1n(y^i−y¯)2∑i=1n(yi−y¯)2=∑i=1n(yi−y^i)2+∑i=1n(y^i−y¯)2\sum_{i=1}^n (y_i-\bar y)^2=\sum_{i=1}^n (y_i-\hat y_i)^2+\sum_{i=1}^n (\hat y_i-\bar y)^2 Pertanyaan yang cukup mudah, tetapi saya mencari penjelasan yang intuitif. Secara intuitif, bagi saya sepertinya SST≥SSE+SSRSST≥SSE+SSRSST\geq SSE+SSR akan lebih …

14 regression  least-squares  r-squared 

Pertanyaan ini berkaitan dengan estimasi kemungkinan maksimum terbatas (REML) dalam versi tertentu dari model linier, yaitu: Y=X(α)β+ϵ,ϵ∼Nn(0,Σ(α)),Y=X(α)β+ϵ,ϵ∼Nn(0,Σ(α)), Y = X(\alpha)\beta + \epsilon, \\ \epsilon\sim N_n(0, \Sigma(\alpha)), di mana adalah matriks ( ) yang diparameterisasi oleh , seperti . adalah vektor yang tidak diketahui dari parameter gangguan; minatnya adalah dalam mengestimasi …

14 mixed-model  maximum-likelihood  linear-model  optimization  reml 

Saya memiliki beberapa data yang ingin saya smoothkan sehingga poin yang dihaluskan menurun secara monoton. Data saya menurun tajam dan kemudian mulai naik. Berikut ini contoh menggunakan R df <- data.frame(x=1:10, y=c(100,41,22,10,6,7,2,1,3,1)) ggplot(df, aes(x=x, y=y))+geom_line() Apa teknik smoothing yang baik yang bisa saya gunakan? Juga, alangkah baiknya jika saya bisa …

14 regression  smoothing 

Saya membaca tentang pengoptimalan untuk masalah yang salah dalam penglihatan komputer dan menemukan penjelasan di bawah ini tentang pengoptimalan di Wikipedia. Yang tidak saya mengerti adalah, mengapa mereka menyebut optimasi ini " Minimalisasi energi " dalam Visi Komputer? Masalah optimisasi dapat direpresentasikan dengan cara berikut: Diberikan: fungsi dari beberapa set …

14 machine-learning  optimization  computer-vision 

Pertanyaan ini dipicu dari pertanyaan: Kapan (jika pernah) pendekatan yang lebih sering secara substantif lebih baik daripada Bayesian? Ketika saya memposting dalam solusi saya untuk pertanyaan itu, menurut pendapat saya, jika Anda adalah seorang yang sering, Anda tidak perlu percaya / berpegang pada prinsip kemungkinan karena sering kali metode frequentist …

14 bayesian  likelihood  likelihood-principle 

Dalam Berpikir, Cepat dan Lambat , Daniel Kahneman mengajukan pertanyaan hipotetis berikut: (P. 186) Julie saat ini adalah senior di universitas negeri. Dia lancar membaca ketika berusia empat tahun. Apa nilai poin rata-rata (IPK) -nya? Niatnya adalah untuk menggambarkan bagaimana kita sering gagal memperhitungkan regresi dengan rata-rata ketika membuat prediksi …

14 standard-deviation  regression-coefficients  regression-to-the-mean 

Dalam menjelaskan mengapa tidak berkorelasi tidak menyiratkan independen, ada beberapa contoh yang melibatkan banyak variabel acak, tetapi mereka semua tampak sangat abstrak: 1 2 3 4 . Jawaban ini sepertinya masuk akal. Interpretasi saya: Variabel acak dan kuadratnya mungkin tidak berkorelasi (karena tampaknya kurangnya korelasi adalah sesuatu seperti independensi linear) …

14 correlation  independence  non-independent  garch  intuition