Statistik dan Big Data

Penegasan ini dimunculkan dalam respons teratas untuk pertanyaan ini . Saya pikir pertanyaan 'mengapa' cukup berbeda sehingga membutuhkan utas baru. Google "ukuran lengkap asosiasi" tidak menghasilkan hit, dan saya tidak yakin apa arti frasa itu.

16 correlation  normal-distribution  pearson-r  multivariate-normal 

Saat ini saya sedang membaca "Semua Statistik" karya Larry Wasserman dan bingung dengan sesuatu yang ditulisnya dalam bab tentang memperkirakan fungsi statistik model nonparametrik. Dia menulis "Kadang-kadang kita dapat menemukan kesalahan standar estimasi fungsi statistik dengan melakukan beberapa perhitungan. Namun dalam kasus lain tidak jelas bagaimana memperkirakan kesalahan standar". Saya …

16 self-study  estimation  bootstrap  standard-error 

Asumsikan saya memiliki fungsi g(x)g(x)g(x) yang ingin saya integrasikan ∫∞−∞g(x)dx.∫−∞∞g(x)dx. \int_{-\infty}^\infty g(x) dx. Tentu saja dengan asumsi g(x)g(x)g(x) menjadi nol pada titik akhir, tidak ada semburan, fungsi yang bagus. Salah satu cara yang saya telah mengutak-atik adalah dengan menggunakan algoritma Metropolis-Hastings untuk menghasilkan daftar sampel x1,x2,…,xnx1,x2,…,xnx_1, x_2, \dots, x_n dari …

16 simulation  monte-carlo  metropolis-hastings  numerical-integration 

Saya sedang mengerjakan alogoritma di R untuk mengotomatiskan perhitungan perkiraan bulanan. Saya menggunakan, antara lain, fungsi ets () dari paket perkiraan untuk menghitung perkiraan. Ini bekerja dengan sangat baik. Sayangnya, untuk beberapa seri waktu tertentu, hasil yang saya dapatkan aneh. Silakan, cari di bawah kode yang saya gunakan: train_ts<- ts(values, …

16 r  time-series  forecasting  exponential-smoothing 

Saya minta maaf sebelumnya atas fakta bahwa saya masih akan mempercepat ini. Saya mencoba memahami pro dan kontra menggunakan tanh (peta -1 hingga 1) vs sigmoid (peta 0 hingga 1) untuk fungsi aktivasi neuron saya. Dari bacaan saya itu terdengar seperti hal kecil dengan perbedaan kecil. Dalam praktik untuk masalah …

16 neural-networks 

Apakah komponen PCA (dalam analisis komponen utama) secara statistik independen jika data kami terdistribusi normal multivarian? Jika demikian, bagaimana ini dapat ditunjukkan / dibuktikan? Saya bertanya karena saya melihat posting ini , di mana jawaban teratas menyatakan: PCA tidak membuat asumsi Gaussianity eksplisit. Ia menemukan vektor eigen yang memaksimalkan varians …

16 pca  independence  svd 

Ketika mempelajari jaringan saraf convolutional, saya memiliki pertanyaan mengenai gambar berikut. 1) C1 pada layer 1 memiliki 6 peta fitur, apakah itu berarti ada enam kernel konvolusional? Setiap kernel konvolusional digunakan untuk menghasilkan peta fitur berdasarkan input. 2) S1 di lapisan 2 memiliki 6 peta fitur, C2 memiliki 16 peta …

16 machine-learning  neural-networks  deep-learning  pattern-recognition  conv-neural-network 

Untuk distribusi normal, ada penaksir yang tidak bias dari standar deviasi yang diberikan oleh: σ^unbiased=Γ(n−12)Γ(n2)12∑k=1n(xi−x¯)2−−−−−−−−−−−−√σ^unbiased=Γ(n−12)Γ(n2)12∑k=1n(xi−x¯)2\hat{\sigma}_\text{unbiased} = \frac{\Gamma(\frac{n-1}{2})}{\Gamma(\frac{n}{2})} \sqrt{\frac{1}{2}\sum_{k=1}^n(x_i-\bar{x})^2} Alasan mengapa hasil ini tidak begitu dikenal tampaknya karena sebagian besar merupakan curio daripada masalah impor besar . Buktinya tercakup di utas ini ; itu mengambil keuntungan dari properti utama dari distribusi …

16 mathematical-statistics  standard-deviation  unbiased-estimator 

Saya membaca sebuah makalah baru-baru ini yang memasukkan keacakan dalam interval kepercayaan dan kredibilitasnya, dan saya bertanya-tanya apakah ini standar (dan, jika demikian, mengapa itu merupakan hal yang masuk akal untuk dilakukan). Untuk mengatur notasi, asumsikan bahwa data kami adalah dan kami tertarik untuk membuat interval untuk parameter . Saya …

16 confidence-interval  credible-interval 

Perkiraan perhitungan Bayesian adalah teknik yang sangat keren untuk pemasangan pada dasarnya setiap model stokastik, yang ditujukan untuk model-model di mana kemungkinannya tidak dapat diterapkan (katakanlah, Anda dapat mengambil sampel dari model jika Anda memperbaiki parameter tetapi Anda tidak dapat menghitung kemungkinan secara numerik, algoritmik, atau analitis menghitung kemungkinan). Saat …

16 bayesian  simulation  model  likelihood  abc 

Kami sedang mempelajari pembelajaran mesin melalui Machine Learning: A Probabilistic Perspective (Kevin Murphy). Sementara teks menjelaskan landasan teoretis dari masing-masing algoritma, ia jarang mengatakan dalam kasus apa algoritma yang lebih baik, dan ketika itu, tidak mengatakan bagaimana mengatakan dalam kasus apa saya masuk. Sebagai contoh, untuk pilihan kernel, saya telah …

16 machine-learning  eda 

Ridge perkiraan regresi parameter ββ\boldsymbol \beta dalam model linear y=Xβy=Xβ\mathbf y = \mathbf X \boldsymbol \beta oleh β λ = ( X ⊤ X + λ I ) - 1 X ⊤ y , di mana λ adalah parameter regularisasi. Sudah diketahui bahwa sering berkinerja lebih baik daripada regresi OLS …

16 regression  ridge-regression  shrinkage 

Saya mempelajari jaringan saraf convolutional (CNNs) karena aplikasi mereka dalam visi komputer. Saya sudah terbiasa dengan jaringan saraf feed-foward standar, jadi saya berharap beberapa orang di sini dapat membantu saya mengambil langkah ekstra dalam memahami CNN. Inilah yang saya pikirkan tentang CNN: Dalam NN feed-foward tradisional, kami memiliki data pelatihan …

16 neural-networks  deep-learning  conv-neural-network  convolution 

Hari ini saya mengajar kelas pengantar statistik dan seorang siswa mendatangi saya dengan sebuah pertanyaan, yang saya ulangi di sini sebagai: "Mengapa standar deviasi didefinisikan sebagai sqrt of variance dan bukan sebagai sqrt dari jumlah kuadrat atas N?" Kami mendefinisikan varians populasi:σ2=1N∑(xi−μ)2σ2=1N∑(xi−μ)2\sigma^2=\frac{1}{N}\sum{(x_i-\mu)^2} Dan standar deviasi: .σ=σ2−−√=1N√∑(xi−μ)2−−−−−−−−−−√σ=σ2=1N∑(xi−μ)2\sigma=\sqrt{\sigma^2}=\frac{1}{\sqrt{N}}\sqrt{\sum{(x_i-\mu)^2}} Interpretasi kami dapat memberikan …

16 variance  standard-deviation  intuition  teaching 

Hai teman-teman, saya menemukan satu atau dua makalah yang menggunakan regresi ridge (untuk data bola basket). Saya selalu diminta untuk menstandardisasi variabel saya jika saya menjalankan regresi punggungan, tetapi saya hanya diminta untuk melakukan ini karena punggungan adalah varian skala (regresi punggungan tidak benar-benar bagian dari kursus kami, jadi dosen …

16 regression  standardization