Statistik dan Big Data

Saya sedang mengerjakan model regresi logistik. Saya memeriksa ringkasan model yang dibangun di atas 5 variabel independen yang mana tidak signifikan dengan nilai-P 0,74. Saya ingin tahu bahwa kita langsung menghapus variabel atau apakah ada cara lain untuk memeriksa signifikansi itu ? Seorang senior saya menyarankan untuk melakukan transformasi logaritmik …

9 r  regression  correlation 

Dalam komentar di bawah tulisan saya , Glen_b dan saya mendiskusikan bagaimana distribusi diskrit harus memiliki mean dan varian yang berbeda. Untuk distribusi normal masuk akal. Jika saya memberi tahu Andax¯x¯\bar{x}, kamu belum tahu apa s2s2s^2adalah, dan jika saya memberi tahu Anda , Anda tidak tahu apa itu. (Diedit untuk …

9 distributions  variance  mean  independence  moments 

Gambaran umum Apakah estimator yang efisien (yang memiliki varians sampel sama dengan batas Cramér-Rao) memaksimalkan probabilitas untuk menjadi dekat dengan parameter sebenarnya ?θθ\theta Katakanlah kita membandingkan perbedaan atau perbedaan absolut antara taksiran dan parameter sebenarnyaΔ^=θ^- θΔ^=θ^-θ\hat\Delta = \hat \theta - \theta Apakah distribusi untuk estimator efisien yang secara stokastik dominan …

9 mathematical-statistics  unbiased-estimator  sufficient-statistics  stochastic-ordering 

Biarkan menjadi ruang probabilitas, dan biarkan menjadi vektor acak. Biarkan P_X = X_ * P menjadi distribusi X , ukuran Borel pada \ mathbb {R} ^ n .(Ω,F,P)(Ω,F,P)(\Omega, \mathcal{F}, P)X:Ω→RnX:Ω→RnX : \Omega \to \mathbb{R}^nPX=X∗PPX=X∗PP_X = X_* PXXXRnRn\mathbb{R}^n The fungsi karakteristik dari XXX adalah fungsi φX(t)=E[eit⋅X]=∫Ωeit⋅XdP,φX(t)=E[eit⋅X]=∫Ωeit⋅XdP, \varphi_X(t) = E[e^{i t \cdot …

9 mgf  characteristic-function 

Pertanyaan saya adalah tentang klasifikasi biner, katakanlah memisahkan pelanggan yang baik dari pelanggan yang buruk, tetapi bukan regresi atau klasifikasi non-biner. Dalam konteks ini, hutan acak adalah ansambel pohon klasifikasi. Untuk setiap pengamatan, setiap pohon memilih "ya" atau "tidak", dan suara rata-rata dari semua pohon adalah probabilitas hutan akhir. Pertanyaan …

9 r  machine-learning  classification  random-forest 

Analisis Data Bayesian (hal. 64) mengatakan, mengenai model normal : kepadatan sebelumnya yang masuk akal untuk dan , dengan asumsi independensi sebelumnya dari parameter lokasi dan skala, adalah seragam pada , atau, yang setara,μμ\muσσ\sigma(μ,logσ)(μ,log⁡σ)(\mu, \log \sigma)p(μ,σ2)∝(σ2)−1.p(μ,σ2)∝(σ2)−1. p(\mu, \sigma^2) \propto (\sigma^2)^{-1}. Mengapa seragam lebih dari setara dengan ?p(μ,logσ)p(μ,log⁡σ)p(\mu, \log \sigma)p(μ,σ2)∝(σ2)−1p(μ,σ2)∝(σ2)−1p(\mu, \sigma^2) …

9 probability  bayesian 

Sebuah autoencoder variational (Vae) menyediakan cara belajar distribusi probabilitas yang berkaitan masukan representasi latennya . Secara khusus, encoder memetakan input ke distribusi pada . Encoder tipikal akan menampilkan parameter , mewakili distribusi Gaussian ; distribusi ini digunakan sebagai perkiraan kami untuk .p ( x , z)hal(x,z)p(x,z)xxxzzzeeexxxzzz( μ , σ) = …

9 neural-networks  deep-learning  autoencoders  variational-bayes 

Saya membaca Pembelajaran Mesin Langsung dengan Scikit-Learn dan TensorFlow: Konsep, Alat, dan Teknik untuk Membangun Sistem yang Cerdas . Maka saya tidak dapat menemukan perbedaan antara pemungutan suara keras dan pemungutan suara lunak dalam konteks untuk metode berbasis ansambel. Saya mengutip deskripsi mereka dari buku. Dua gambar pertama dari atas …

9 machine-learning  ensemble 

Pertanyaan : Saya telah memasang model probabilistik (jaringan bayesian) untuk memodelkan variabel hasil biner. Saya ingin membuat plot kalibrasi resolusi tinggi (misalnya spline) dikoreksi karena overfitting dengan bootstrap. Apakah ada prosedur standar untuk menghitung kurva seperti itu? Pertimbangan : Saya bisa melakukan ini dengan mudah dengan train / test split, …

9 bootstrap  splines  regression-strategies  calibration 

Saya membaca pembelajaran yang mendalam oleh Ian Goodfellow et al. Ini memperkenalkan bias sebagai B i a s ( θ ) = E(θ^) - θBsayaSebuahs(θ)=E(θ^)-θBias(\theta)=E(\hat\theta)-\theta dimana θ^θ^\hat\theta dan θθ\theta masing-masing adalah taksiran parameter dan parameter nyata yang mendasarinya. Konsistensi, di sisi lain, ditentukan oleh l i mm → ∞θ^m= θlsayamm→∞θ^m=θ\mathrm{lim}_{m\to\infty}\hat\theta_m=\theta …

9 estimation  bias  unbiased-estimator  consistency 

Ada sejumlah situs web yang menggambarkan penurunan gradien untuk menemukan parameter untuk regresi linier sederhana (di sini adalah salah satunya). Google juga menjelaskannya dalam kursus ML baru (untuk umum) mereka. Namun di Wikipedia , rumus berikut untuk menghitung parameter disediakan: α^β^=y¯−β^x¯,=∑ni=1(xi−x¯)(yi−y¯)∑ni=1(xi−x¯)2α^=y¯−β^x¯,β^=∑i=1n(xi−x¯)(yi−y¯)∑i=1n(xi−x¯)2 {\displaystyle {\begin{aligned}{\hat {\alpha }}&={\bar {y}}-{\hat {\beta }}\,{\bar {x}},\\{\hat {\beta …

9 regression  scikit-learn  gradient-descent 

Saat ini saya sedang mengerjakan tugas perkiraan permintaan, dengan data puluhan ribu produk di beberapa ribu toko. Lebih khusus lagi, saya memiliki data penjualan harian setiap tahun selama beberapa tahun di setiap toko, dan tujuan saya adalah meramalkan penjualan setiap item di setiap toko di masa depan, satu hari ke …

9 time-series  forecasting  predictive-models 

Judul mengatakan semuanya - berapa banyak parameter yang bisa dilatih yang ada di lapisan GRU? Pertanyaan semacam ini banyak muncul ketika mencoba membandingkan model dari tipe lapisan RNN yang berbeda, seperti unit memori jangka pendek (LSTM) vs GRU, dalam hal kinerja per-parameter. Karena sejumlah besar parameter yang dapat dilatih secara …

9 neural-networks  rnn  gru 

Saya membaca Thinking, Fast and Slow oleh Daniel Kahneman dan saya menemukan teks berikut Beberapa tahun yang lalu saya memiliki kesempatan yang tidak biasa untuk memeriksa ilusi keterampilan finansial dari dekat. Saya telah diundang untuk berbicara dengan sekelompok penasihat investasi di sebuah perusahaan yang memberikan nasihat keuangan dan layanan lain …

9 regression  time-series  correlation 

Situasi apa yang kita ketahui di mana gradient descent dapat ditunjukkan untuk menyatu (baik ke titik kritis atau ke minimum lokal / global) untuk fungsi non-cembung? Untuk SGD pada fungsi non-cembung, satu jenis bukti telah ditinjau di sini, http://www.cs.cornell.edu/courses/cs6787/2017fa/Lecture7.pdf

9 gradient-descent  gradient  sgd  non-convex