Statistik dan Big Data

Pertanyaan saya adalah: Apakah model linier umum (GLM) dijamin untuk konvergen ke global maksimum? Jika demikian, mengapa? Lebih lanjut, kendala apa yang ada pada fungsi tautan untuk memastikan kecemburuan? Pemahaman saya tentang GLM adalah bahwa mereka memaksimalkan fungsi kemungkinan sangat nonlinier. Jadi, saya akan membayangkan bahwa ada beberapa maxima lokal …

16 generalized-linear-model  optimization  convergence  exponential-family 

Dalam R, saya menggunakan ldafungsi dari perpustakaan MASSuntuk melakukan klasifikasi. Seperti yang saya mengerti LDA, input xxx akan diberi label yyy , yang memaksimalkan p(y|x)p(y|x)p(y|x) , kan? Tapi ketika saya cocok dengan model, di mana x=(Lag1,Lag2)x=(Lag1,Lag2)x=(Lag1,Lag2)y=Direction,y=Direction,y=Direction, saya tidak begitu mengerti output dari lda, Edit: untuk mereproduksi output di bawah ini, …

16 r  discriminant-analysis  inference 

Apa persyaratan stasioneritas menggunakan regresi dengan kesalahan ARIMA (regresi dinamis) untuk kesimpulan? yyyxSebuahxSebuahx_axbxbx_b. Saya ingin tahu apakah perawatan berkorelasi dengan perubahan pada variabel hasil yang lebih dari dua kesalahan standar dari nol perubahan. Saya tidak yakin apakah saya perlu membedakan seri ini sebelum melakukan regresi dengan pemodelan kesalahan ARIMA. Dalam …

16 regression  time-series  arima  stationarity 

Saat ini saya membaca makalah Efisien Online dan Batch Learning menggunakan Forward-Backward Splitting oleh John Duchi dan Yoram Singer. Saya sangat bingung tentang penggunaan istilah 'Online' dan 'Batch'. Saya pikir 'Online' berarti kami memperbarui parameter bobot setelah memproses satu unit data pelatihan. Kemudian kami menggunakan parameter bobot baru untuk memproses …

16 machine-learning  online  gradient-descent 

Saya masih cukup baru untuk model linier umum, dan saya berjuang dengan banyak notasi di sebagian besar teks GLM yang saya ambil. Apakah ada buku GLM yang sangat populer yang cocok untuk dibaca?

16 regression  generalized-linear-model  references 

Saya perlu menemukan fungsi minimum. Membaca dokumen di http://docs.scipy.org/doc/scipy/reference/optimize.html Saya melihat bahwa ada beberapa algoritma yang melakukan hal yang sama, yaitu menemukan minimum. Bagaimana saya tahu yang mana yang harus saya pilih? beberapa algoritma terdaftar Minimalkan fungsi menggunakan algoritma simpleks downhill. Minimalkan fungsi menggunakan algoritma BFGS. Minimalkan fungsi dengan algoritma …

16 optimization 

Katakanlah saya memiliki regresi multivariabel (beberapa variabel independen) yang terdiri dari 3 variabel. Masing-masing variabel memiliki koefisien yang diberikan. Jika saya memutuskan untuk memperkenalkan variabel ke-4 dan menjalankan kembali regresi, akankah koefisien dari 3 variabel asli berubah? Secara lebih luas: dalam regresi multivariabel (beberapa variabel independen), apakah koefisien variabel yang …

16 regression  multiple-regression  multivariable 

Saya terkesan dengan forecastpaket R , serta misalnya zoopaket untuk seri waktu tidak beraturan dan interpolasi nilai yang hilang. Aplikasi saya ada di bidang perkiraan lalu lintas pusat panggilan, sehingga data pada akhir pekan selalu (hampir) hilang, yang dapat ditangani dengan baik zoo. Juga, beberapa titik diskrit mungkin hilang, saya …

16 r  time-series  forecasting  missing-data  unevenly-spaced-time-series 

Saya mencoba mempelajari statistik karena saya menemukan itu sangat lazim sehingga melarang saya belajar beberapa hal jika saya tidak memahaminya dengan benar. Saya mengalami kesulitan memahami gagasan tentang distribusi sampling dari rata-rata sampel. Saya tidak dapat memahami cara beberapa buku dan situs menjelaskannya. Saya pikir saya memiliki pemahaman tetapi tidak …

16 distributions  normal-distribution  sampling  normality-assumption 

Saya baru saja menonton ulang kuliah dari kursus Machine Learning on Coursera. Di bagian di mana profesor membahas PCA untuk pra-pemrosesan data dalam aplikasi pembelajaran yang diawasi, ia mengatakan PCA hanya boleh dilakukan pada data pelatihan dan kemudian pemetaan digunakan untuk mengubah validasi silang dan set tes. Lihat juga PCA …

16 r  pca  cross-validation  caret 

Saya sering melihat saran untuk memeriksa apakah model Poisson cocok atau tidak tersebar melibatkan pembagian penyimpangan residual dengan derajat kebebasan. Rasio yang dihasilkan harus "sekitar 1". Pertanyaannya adalah kisaran apa yang kita bicarakan untuk "perkiraan" - berapa rasio yang harus menyalakan alarm untuk mempertimbangkan bentuk model alternatif?

16 poisson-distribution  negative-binomial  poisson-regression  overdispersion 

Versi pendek: Saya memiliki serangkaian waktu data iklim yang saya uji untuk stasioneritas. Berdasarkan penelitian sebelumnya, saya berharap model yang mendasari (atau "menghasilkan", dengan demikian) data memiliki istilah intersep dan tren waktu linier positif. Untuk menguji data ini untuk stasioneritas, haruskah saya menggunakan tes Dickey-Fuller yang mencakup intersep dan tren …

16 time-series  stationarity  unit-root  augmented-dickey-fuller 

Dapatkah seseorang meringkas untuk saya dengan contoh yang mungkin, pada situasi apa meningkatkan data pelatihan meningkatkan sistem secara keseluruhan? Kapan kami mendeteksi bahwa menambahkan lebih banyak data pelatihan dapat membuat data terlalu berlebihan dan tidak memberikan akurasi yang baik pada data uji? Ini adalah pertanyaan yang sangat tidak spesifik, tetapi …

16 machine-learning  classification  dataset  precision-recall 

Bagaimana Anda menguji atau memeriksa bahwa pengambilan sampel adalah IID (Independen dan Didistribusikan Secara Identik)? Perhatikan bahwa yang saya maksud bukan Gaussian dan Distributed Identically, hanya IID. Dan ide yang muncul di benak saya adalah berulang kali membagi sampel dalam dua sub-sampel dengan ukuran yang sama, melakukan tes Kolmogorov-Smirnov dan …

16 hypothesis-testing  independence  kolmogorov-smirnov  resampling  iid 

Simulasi data de novo dari kerangka data desain eksperimental. Dengan fokus pada R (meskipun solusi bahasa lain akan lebih bagus). Dalam mendesain eksperimen atau survei, mensimulasikan data dan melakukan analisis pada data yang disimulasikan ini dapat memberikan wawasan yang hebat tentang kelebihan dan kelemahan desain. Pendekatan semacam itu juga dapat …

16 r  experiment-design  simulation