Statistik dan Big Data

Apakah biaya lintas-entropi masuk akal dalam konteks regresi (berlawanan dengan klasifikasi)? Jika demikian, dapatkah Anda memberikan contoh mainan melalui TensorFlow? Jika tidak, mengapa tidak? Saya membaca tentang cross-entropy di Neural Networks dan Deep Learning oleh Michael Nielsen dan sepertinya sesuatu yang secara alami dapat digunakan untuk regresi maupun klasifikasi, tetapi …

13 regression  entropy  tensorflow  cross-entropy 

Saya memahami bahwa salah satu alasan regresi logistik sering digunakan untuk memprediksi rasio klik-tayang di web adalah karena ia menghasilkan model yang terkalibrasi dengan baik. Apakah ada penjelasan matematis yang bagus untuk ini?

13 regression  logistic 

Pencocokan skor kecenderungan digunakan untuk membuat kesimpulan kausal dalam studi observasional (lihat makalah Rosenbaum / Rubin ). Apa intuisi sederhana di balik mengapa ia bekerja? Dengan kata lain, mengapa jika kita memastikan probabilitas untuk berpartisipasi dalam pengobatan adalah sama untuk kedua kelompok, efek perancu menghilang, dan kita dapat menggunakan hasilnya …

13 causality  regression-strategies  propensity-scores  confounding 

Saya menggunakan scikit-belajar untuk melakukan regresi logistik dengan crossvalidation pada set data (sekitar 14 parameter dengan> 7000 pengamatan normal). Saya juga memiliki target classifier yang memiliki nilai 1 atau 0. Masalah yang saya miliki adalah bahwa terlepas dari pemecah yang digunakan, saya terus mendapatkan peringatan konvergensi ... model1 = linear_model.LogisticRegressionCV(cv=10,verbose=1,n_jobs=-1,scoring='roc_auc',solver='newton-cg',penalty='l2') …

13 logistic  cross-validation  scikit-learn 

Saya ingin belajar bagaimana menghitung nilai yang diharapkan dari variabel acak kontinu. Tampaknya nilai yang diharapkan adalah di mana adalah fungsi kepadatan probabilitas .f ( x ) XE[X]=∫∞−∞xf(x)dxE[X]=∫−∞∞xf(x)dxE[X] = \int_{-\infty}^{\infty} xf(x)\mathrm{d}xf(x)f(x)f(x)XXX Misalkan fungsi kerapatan probabilitas adalah yang merupakan kepadatan dari distribusi normal standar.f ( x ) = 1XXXf(x)=12π−−√e−x22f(x)=12πe−x22f(x) = \frac{1}{\sqrt{2\pi}}e^{\frac{-x^{2}}{2}} …

13 random-variable  pdf  expected-value 

Benar-benar bingung tentang yang satu ini. Saya benar-benar ingin contoh atau situasi di mana penduga B akan konsisten dan bias.

13 mathematical-statistics  estimation  econometrics 

Saya bingung dengan asumsi linearitas terhadap logit untuk variabel prediktor kontinu dalam analisis regresi logistik. Apakah kita perlu memeriksa hubungan linier sambil menyaring prediktor potensial menggunakan analisis regresi logistik univariabel? Dalam kasus saya, saya menggunakan analisis regresi logistik ganda untuk mengidentifikasi faktor-faktor yang terkait dengan status gizi (hasil dikotomis) di …

13 regression  logistic  assumptions  splines  regression-strategies 

Saya mencoba untuk menyetel hyperparameter dari algoritma regresi proses gaussian yang telah saya terapkan. Saya hanya ingin memaksimalkan kemungkinan marginal log yang diberikan oleh rumus mana K adalah matriks kovarians dengan elemen K_ {ij} = k (x_i, x_j) = b ^ {- 1} \ exp (- \ frac {1} {2} …

13 regression  optimization  gaussian-process  hyperparameter 

Saya telah mempelajari arsitektur jaringan saraf siam yang diperkenalkan oleh Yann LeCun dan rekan-rekannya pada tahun 1994 untuk pengakuan tanda tangan ( “Verifikasi tanda tangan menggunakan waktu tunda jaringan saraf siamese” .pdf , NIPS 1994) Saya memahami ide umum arsitektur ini, tetapi saya benar-benar tidak dapat memahami cara kerja backpropagation …

13 neural-networks 

Saya tahu bahwa untuk variabel kontinu .P[X=x]=0P[X=x]=0P[X=x]=0 Tetapi saya tidak dapat memvisualisasikan bahwa jika , ada kemungkinan tak terhingga . Dan juga mengapa probabilitas mereka menjadi sangat kecil?xP[X=x]=0P[X=x]=0P[X=x]=0xxx

13 probability  self-study  references  continuous-data 

Kata susut banyak dilemparkan ke lingkaran tertentu. Tapi apa susutnya, sepertinya tidak ada definisi yang jelas. Jika saya memiliki deret waktu (atau kumpulan pengamatan dari suatu proses), apa sajakah cara saya dapat mengukur beberapa jenis penyusutan empiris pada deret tersebut? Apa saja jenis susut teoretis yang dapat saya bicarakan? Bagaimana …

13 estimation  predictive-models  shrinkage 

Misalkan sebuah game menawarkan acara yang setelah selesai, baik memberikan hadiah, atau tidak memberikan apa pun. Mekanisme yang tepat untuk menentukan apakah hadiah diberikan tidak diketahui, tetapi saya berasumsi generator nomor acak digunakan, dan jika hasilnya lebih besar dari nilai hard-coded, Anda mendapatkan hadiahnya. Jika pada dasarnya saya ingin merekayasa …

13 logistic  mathematical-statistics  sample-size  power-analysis  bernoulli-distribution 

Dalam pembelajaran mesin, kita dapat menggunakan area di bawah kurva ROC (sering disingkat AUC , atau AUROC) untuk merangkum seberapa baik suatu sistem dapat membedakan antara dua kategori. Dalam teori pendeteksian sinyal seringkali (indeks sensitivitas) digunakan untuk tujuan yang sama. Keduanya terhubung erat, dan saya percaya mereka setara satu sama …

13 machine-learning  roc  auc  signal-detection  d-prime 

Dapatkah seseorang memberikan intuisi tentang mengapa momen yang lebih tinggi dari distribusi probabilitas pXpXp_X , seperti momen ketiga dan keempat, masing-masing berhubungan dengan kemiringan dan kurtosis? Secara khusus, mengapa penyimpangan tentang rata-rata dinaikkan ke kekuatan ketiga atau keempat akhirnya diterjemahkan menjadi ukuran skewness dan kurtosis? Apakah ada cara untuk menghubungkan …

13 mathematical-statistics  skewness  moments  intuition  kurtosis 

Pertanyaan ini mungkin terlalu mendasar. Untuk tren sementara dari suatu data, saya ingin mengetahui titik di mana perubahan "mendadak" terjadi. Sebagai contoh, pada gambar pertama yang ditunjukkan di bawah ini, saya ingin mengetahui titik perubahan menggunakan beberapa metode statistik. Dan saya ingin menerapkan metode seperti itu di beberapa data lain …

13 time-series  trend  change-point