Statistik dan Big Data

Saya mencoba untuk mendapatkan perspektif global tentang beberapa ide penting dalam pembelajaran mesin, dan saya bertanya-tanya apakah ada perawatan komprehensif dari berbagai konsep kerugian (kuadrat, log, engsel, proksi, dll.). Saya sedang memikirkan sesuatu yang sejalan dengan presentasi formal yang lebih komprehensif dan komprehensif dari John Langford tentang Kehilangan Fungsi Semantik …

16 references  loss-functions 

Saya memiliki pengamatan berpasangan ( , ) diambil dari distribusi yang tidak diketahui umum, yang memiliki momen pertama dan kedua terbatas, dan simetris di sekitar mean.NNNXiXiX_iYiYiY_i Biarkan deviasi standar (tanpa syarat pada ), dan sama untuk Y. Saya ingin menguji hipotesis σXσX\sigma_XXXXYYYσYσY\sigma_Y H0H0H_0 :σX=σYσX=σY\sigma_X = \sigma_Y H1H1H_1 :σX≠σYσX≠σY\sigma_X \neq \sigma_Y …

16 distributions  hypothesis-testing  standard-deviation  normal-distribution 

Ahli ekonometrika sering berbicara tentang deret waktu yang diintegrasikan dengan urutan k, I (k) . k menjadi jumlah minimum perbedaan yang diperlukan untuk mendapatkan deret waktu stasioner. Metode atau uji statistik apa yang dapat digunakan untuk menentukan, mengingat tingkat kepercayaan, urutan integrasi deret waktu?

16 time-series 

Baru-baru ini, dua rekan kerja yang berbeda telah menggunakan semacam argumen tentang perbedaan antara kondisi yang tampaknya salah bagi saya. Kedua rekan kerja ini menggunakan statistik, tetapi mereka bukan ahli statistik. Saya seorang pemula dalam statistik. Dalam kedua kasus, saya berpendapat bahwa, karena tidak ada perbedaan yang signifikan antara dua …

16 statistical-significance 

Saya sedang membaca dokumentasi Stan yang dapat diunduh dari sini . Saya sangat tertarik dengan implementasi diagnostik Gelman-Rubin. Makalah asli Gelman & Rubin (1992) mendefinisikan faktor skala pengurangan potensial (PSRF) sebagai berikut: Biarkan menjadi rantai Markov ke- i sampel, dan biarkan ada rantai M independen keseluruhan sampel. Biarkan ˉ X …

16 mcmc  convergence  gibbs  metropolis-hastings  stan 

Saya mencoba membaca tentang penelitian di bidang regresi dimensi tinggi; ketika ppp lebih besar dari nnn , yaitu, p>>np>>np >> n . Sepertinya istilah logp/nlog⁡p/n\log p/n sering muncul dalam hal tingkat konvergensi untuk estimator regresi. Sebagai contoh, di sini , persamaan (17) mengatakan bahwa fit β^β^\hat{\beta} memenuhi 1n∥Xβ^−Xβ∥22=OP(σlogpn−−−−−√∥β∥1).1n‖Xβ^−Xβ‖22=OP(σlog⁡pn‖β‖1). \dfrac{1}{n}\|X\hat{\beta} - …

16 regression  lasso  convergence  high-dimensional 

Ini adalah pertanyaan tentang terminologi. Kadang-kadang saya melihat orang menyebut jaringan saraf yang dalam sebagai "perceptrons berlapis-lapis", mengapa demikian? Saya diajari perceptron, adalah pengklasifikasi lapisan tunggal (atau regresi) dengan keluaran ambang biner menggunakan cara spesifik untuk melatih bobot (bukan back-prop). Jika output perceptron tidak sesuai dengan target output, kami menambah …

16 neural-networks  perceptron 

Saya mencari prior yang tidak informatif untuk distribusi beta agar dapat bekerja dengan proses binomial (Hit / Miss). Pada awalnya saya berpikir tentang menggunakan α=1,β=1α=1,β=1\alpha=1, \beta=1 yang menghasilkan PDF yang seragam, atau Jeffrey sebelumnya α=0.5,β=0.5α=0.5,β=0.5\alpha=0.5, \beta=0.5 . Tapi saya sebenarnya mencari prior yang memiliki efek minimum pada hasil posterior, dan …

16 bayesian  prior  beta-distribution  uninformative-prior 

Dalam praktiknya, menggunakan uji-T standar untuk memeriksa signifikansi koefisien regresi linier adalah praktik umum. Mekanisme perhitungannya masuk akal bagi saya. Mengapa distribusi-T dapat digunakan untuk memodelkan statistik uji standar yang digunakan dalam pengujian hipotesis regresi linier? Statistik uji standar yang saya maksud di sini: T0=βˆ−β0SE(βˆ)T0=β^−β0SE(β^) T_{0} = \frac{\widehat{\beta} - \beta_{0}}{SE(\widehat{\beta})}

16 regression  hypothesis-testing  linear-model  t-distribution 

Saya memiliki satu set besar data polusi yang telah direkam setiap 10 menit selama 2 tahun, namun ada sejumlah kesenjangan dalam data (termasuk beberapa yang berlangsung selama beberapa minggu setiap kali). Data tampaknya cukup musiman dan ada variasi besar di siang hari dibandingkan dengan malam di mana nilai tidak memiliki …

16 time-series  missing-data  data-imputation 

Pertanyaan saya adalah: Apa hubungan matematis antara distribusi Beta dan koefisien model regresi logistik ? Sebagai ilustrasi: fungsi logistik (sigmoid) diberikan oleh f(x)=11+exp(−x)f(x)=11+exp⁡(−x)f(x) = \frac{1}{1+\exp(-x)} dan digunakan untuk memodelkan probabilitas dalam model regresi logistik. Biarkan AAA menjadi dikotomis (0,1)(0,1)(0,1) mencetak hasil dan XXX sebuah matriks desain. Model regresi logistik diberikan …

16 regression  logistic  mathematical-statistics  beta-distribution 

Apa perbedaan antara rantai Markov dan proses Markov? Saya membaca informasi yang bertentangan: kadang-kadang definisi didasarkan pada apakah ruang keadaan diskrit atau kontinu, dan kadang-kadang didasarkan pada apakah waktu diskrit kontinu. Slide 20 dokumen ini : Proses Markov disebut rantai Markov jika ruang keadaan diskrit, yaitu terbatas atau ruang dihitung …

16 terminology  stochastic-processes  markov-process 

Jika data 1d, varians menunjukkan sejauh mana titik data berbeda satu sama lain. Jika datanya multidimensi, kita akan mendapatkan matriks kovarians. Apakah ada ukuran yang memberikan satu angka bagaimana titik data berbeda satu sama lain secara umum untuk data multi-dimensi? Saya merasa bahwa mungkin sudah ada banyak solusi, tetapi saya …

16 variance  covariance  covariance-matrix 

Saya membuat kurva ROC untuk sistem diagnostik. Area di bawah kurva kemudian non-parametrik diperkirakan menjadi AUC = 0,89. Ketika saya mencoba menghitung akurasi pada pengaturan ambang optimal (titik terdekat dengan titik (0, 1)), saya mendapatkan akurasi sistem diagnostik menjadi 0,8, yang kurang dari AUC! Ketika saya memeriksa akurasi pada pengaturan …

16 roc  reliability  accuracy  auc 

Gambar 1. Fungsi Logistik Gambar 2. Fungsi Sigmoid apakah ini lebih seperti jenis fungsi sigmoid umum di mana Anda bisa memiliki nilai maksimum yang lebih tinggi?

16 logistic