Statistik dan Big Data

Saya baru-baru ini menjadi tertarik pada LSTM dan saya terkejut mengetahui bahwa bobot dibagi bersama waktu. Saya tahu bahwa jika Anda berbagi bobot lintas waktu, maka urutan waktu input Anda dapat menjadi panjang variabel. Dengan bobot bersama, Anda memiliki lebih sedikit parameter untuk dilatih. Dari pemahaman saya, alasan seseorang akan …

20 machine-learning  lstm  rnn 

Misalkan ( Ω , F , μ )(Ω,F,μ)(\Omega,\mathscr{F},\mu) menjadi ruang probabilitas, diberi variabel acak ξ : Ω → Rξ:Ω→R\xi:\Omega \to \mathbb{R} dan σ-σ\sigma aljabar G ⊆ FG⊆F\mathscr{G}\subseteq \mathscr{F} kita dapat membuat variabel acak baru E [ ξ | G ]E[ξ|G]E[\xi|\mathscr{G}] , yang merupakan harapan bersyarat. Apa sebenarnya intuisi untuk berpikir …

20 probability  conditional-probability  conditional-expectation  conditioning  sigma-algebra 

Saya baru mengenal pengoptimalan. Saya terus melihat persamaan yang memiliki superskrip 2 dan subskrip 2 di sebelah kanan norma. Sebagai contoh, di sini adalah persamaan kuadrat terkecil mnt | | Ax-b | |22||Ax−b||22 ||Ax-b||^2_2 Saya rasa saya mengerti superskrip 2: artinya kuadratkan nilai norma. Tapi apa itu subskrip 2? Bagaimana …

20 regression  optimization  notation 

Sementara dua istilah ini di mana-mana sering digunakan secara sinonim, kadang-kadang tampaknya ada perbedaan. Apakah memang ada perbedaan, atau mereka persis sama?

20 residuals  error  terminology 

Saya bingung tentang bagaimana cara mempartisi data untuk validasi lintas k-fold pembelajaran ensemble. Dengan asumsi saya memiliki kerangka kerja ensemble untuk klasifikasi. Lapisan pertama saya berisi model klasifikasi, misalnya svm, pohon keputusan. Lapisan kedua saya berisi model pemungutan suara, yang menggabungkan prediksi dari lapisan pertama dan memberikan prediksi akhir. Jika …

20 classification  cross-validation  ensemble 

Saya berjuang untuk memahami derivasi dari kesalahan prediksi yang diharapkan per bawah (ESL), terutama pada derivasi dari 2.11 dan 2.12 (mengkondisikan, langkah menuju titik minimum bijaksana). Setiap petunjuk atau tautan sangat dihargai. Di bawah ini saya melaporkan kutipan dari ESL hal. 18. Dua persamaan pertama adalah, secara berurutan, persamaan 2.11 …

20 regression  prediction  error 

"Pengawasan jauh" adalah skema pembelajaran di mana pengklasifikasi dipelajari dengan perangkat pelatihan yang berlabel lemah (data pelatihan diberi label secara otomatis berdasarkan heuristik / aturan). Saya pikir baik pembelajaran yang diawasi, dan pembelajaran semi-diawasi dapat mencakup "pengawasan yang jauh" jika data yang diberi label secara heuristik / secara otomatis diberi …

20 machine-learning  data-mining  dataset  references  unsupervised-learning 

Saya membaca tentang dua teknik interpretabilitas model post hoc yang populer: LIME dan SHAP Saya mengalami kesulitan memahami perbedaan utama dalam kedua teknik ini. Untuk mengutip Scott Lundberg , otak di balik SHAP: Nilai SHAP datang dengan keunggulan estimasi kotak hitam lokal LIME, tetapi juga dilengkapi dengan jaminan teoretis tentang …

20 model-interpretation  shapley-value  lime 

Saya sedang mengerjakan klasifikasi tahap tidur. Saya membaca beberapa artikel penelitian tentang topik ini banyak dari mereka menggunakan metode SVM atau ensemble. Apakah ide yang baik untuk menggunakan jaringan saraf convolutional untuk mengklasifikasikan sinyal EEG satu dimensi? Saya baru dalam pekerjaan semacam ini. Maafkan saya jika saya meminta sesuatu yang …

20 neural-networks  svm  conv-neural-network  signal-processing 

Ada berbagai jenis algoritma MCMC: Metropolis-Hastings Gibbs Pentingnya / penolakan sampel (terkait). Mengapa orang menggunakan sampling Gibbs alih-alih Metropolis-Hastings? Saya menduga ada kasus-kasus di mana kesimpulan lebih mudah ditelusuri dengan sampling Gibbs daripada dengan Metropolis-Hastings, tetapi saya tidak jelas secara spesifik.

20 bayesian  simulation  mcmc  gibbs  metropolis-hastings 

Saya mengalami kesulitan mencoba memahami penggunaan regresi logistik dalam sebuah makalah. Makalah yang tersedia di sini menggunakan regresi logistik untuk memprediksi kemungkinan komplikasi selama operasi katarak. Yang membingungkan saya adalah bahwa makalah ini menyajikan model yang menetapkan rasio odds 1 terhadap baseline yang dijelaskan sebagai berikut: Seorang pasien yang profil …

20 logistic  odds-ratio 

Saya sudah memikirkan, menerapkan dan menggunakan paradigma Extreme Learning Machine (ELM) selama lebih dari satu tahun sekarang, dan semakin lama saya lakukan, semakin saya ragu bahwa itu benar-benar hal yang baik. Pendapat saya, bagaimanapun, tampaknya berbeda dengan komunitas ilmiah di mana - ketika menggunakan kutipan dan publikasi baru sebagai ukuran …

20 regression 

Saya ingin tahu apakah ada / beberapa keuntungan menggunakan pengambilan sampel bertingkat daripada pengambilan sampel acak, ketika membagi dataset asli ke dalam pelatihan dan set pengujian untuk klasifikasi. Juga, apakah pengambilan sampel bertingkat memperkenalkan bias lebih ke dalam pengklasifikasi daripada pengambilan sampel acak? Aplikasi, yang ingin saya gunakan pengambilan sampel …

20 classification  cross-validation  random-forest  train  stratification 

Pengaturan saya adalah sebagai berikut: Saya mengikuti garis pedoman dalam "Pemodelan Prediktif Terapan". Jadi saya telah memfilter fitur-fitur terkait dan berakhir dengan yang berikut: 4900 titik data di set latihan dan 1600 titik data di set tes. Saya memiliki 26 fitur dan targetnya adalah variabel kontinu. Saya menerapkan validasi silang …

20 machine-learning  boosting  overfitting 

Untuk suatu tugas, saya diminta untuk memberikan bukti bahwa k-means menyatu dalam sejumlah langkah yang terbatas. Inilah yang saya tulis: CCCE(C)=∑xmini=1k∥x−ci∥2E(C)=∑xmini=1k‖x−ci‖2E(C)=\sum_{\mathbf{x}}\min_{i=1}^{k}\left\Vert \mathbf{x}-\mathbf{c}_{i}\right\Vert ^{2}E(C)E(C)E(C) Langkah 2 mengacu pada langkah yang memberi label setiap titik data dengan pusat klaster terdekat, dan langkah 3 adalah langkah di mana pusat diperbarui dengan mengambil rata-rata. …

20 mathematical-statistics  k-means