Statistik dan Big Data

Apakah istilah "kehilangan" identik dengan "kesalahan"? Apakah ada perbedaan definisi? Juga, apa asal dari istilah "kerugian"? NB: Fungsi kesalahan yang disebutkan di sini tidak menjadi bingung dengan kesalahan normal.

31 loss-functions 

Mengapa kita menggunakan rectified linear units (ReLU) dengan jaringan saraf? Bagaimana cara meningkatkan jaringan saraf? Mengapa kita mengatakan bahwa ReLU adalah fungsi aktivasi? Bukankah fungsi aktivasi softmax untuk jaringan saraf? Saya menduga bahwa kami menggunakan keduanya, ReLU dan softmax, seperti ini: neuron 1 dengan output softmax ----> ReLU pada output …

31 neural-networks 

Saya membaca tentang dua versi fungsi kerugian untuk regresi logistik, mana yang benar dan mengapa? Dari Machine Learning , Zhou ZH (dalam bahasa Cina), dengan :β= ( w , b ) dan βTx = wTx + bβ=(w,b) and βTx=wTx+b\beta = (w, b)\text{ and }\beta^Tx=w^Tx +b l ( β) = ∑i …

31 logistic  loss-functions 

Saya membaca halaman ini: http://neuralnetworksanddeeplearning.com/chap3.html dan dikatakan bahwa lapisan keluaran sigmoid dengan cross-entropy cukup mirip dengan lapisan keluaran softmax dengan kemungkinan log. apa yang terjadi jika saya menggunakan sigmoid dengan log-likelihood atau softmax dengan cross entropy pada layer output? itu baik? karena saya melihat hanya ada sedikit perbedaan dalam persamaan …

31 neural-networks  maximum-likelihood  softmax 

Di hampir semua pekerjaan analisis yang pernah saya lakukan, saya menggunakan: set.seed(42) Ini adalah penghormatan bagi Hitchhiker's Guide to the Galaxy . Tapi saya bertanya-tanya apakah saya membuat bias dengan menggunakan benih yang sama berulang-ulang.

31 random-generation 

Saya mengerti apa itu Posterior, tapi saya tidak yakin apa artinya yang terakhir? Bagaimana 2 yang berbeda? Kevin P Murphy ditunjukkan dalam buku pelajarannya, Machine Learning: a Probabilistic Perspective , bahwa itu adalah "keadaan kepercayaan internal". Apa maksudnya itu? Saya mendapat kesan bahwa Prior merupakan kepercayaan atau bias internal Anda, …

31 posterior  definition 

Saya menemukan R dapat membutuhkan waktu lama untuk menghasilkan plot ketika jutaan titik hadir - tidak mengherankan mengingat bahwa poin diplot secara individual. Selain itu, plot seperti itu seringkali terlalu berantakan dan padat untuk menjadi berguna. Banyak poin yang tumpang tindih dan membentuk massa hitam dan banyak waktu dihabiskan untuk …

31 r  data-visualization 

Jika probabilitas gabungan adalah persimpangan dari 2 peristiwa, maka bukankah probabilitas gabungan dari 2 peristiwa independen menjadi nol karena mereka tidak berpotongan sama sekali? Saya bingung.

30 probability  joint-distribution 

Maksud saya beberapa variabel tersebut sangat berkorelasi di antara mereka. Bagaimana / mengapa / dalam konteks apa kita mendefinisikannya sebagai variabel independen ?

30 regression  terminology  predictor 

Saya sering melihat orang membuat fitur baru berdasarkan fitur yang ada pada masalah pembelajaran mesin. Misalnya, di sini: https://triangleinequality.wordpress.com/2013/09/08/basic-feature-engineering-with-the-titanic-data/ orang telah menganggap ukuran keluarga seseorang sebagai fitur baru, berdasarkan pada jumlah saudara, saudari, dan orang tua, yang merupakan fitur yang ada. Tapi apa gunanya ini? Saya tidak mengerti mengapa pembuatan …

30 machine-learning  feature-engineering 

Jaring saraf mempelajari fitur-fitur kumpulan data sebagai sarana untuk mencapai beberapa tujuan. Ketika selesai, kita mungkin ingin tahu apa yang dipelajari jaringan saraf. Apa fitur-fiturnya dan mengapa itu peduli tentang itu. Dapatkah seseorang memberikan beberapa referensi pada tubuh kerja yang berkaitan dengan masalah ini?

30 neural-networks  deep-learning 

Saya mengerti bagaimana kita mendapatkan 3,5 sebagai nilai yang diharapkan untuk menggulung dadu 6 sisi yang adil. Namun secara intuitif, saya dapat mengharapkan setiap wajah dengan peluang yang sama 1/6. Jadi bukankah seharusnya nilai yang diharapkan dari menggulung dadu menjadi salah satu dari angka antara 1-6 dengan probabilitas yang sama? …

30 expected-value  terminology  history 

Saya tahu pertanyaan ini telah ditanyakan dengan case mean = median, tapi saya tidak menemukan apa pun yang berhubungan dengan mean = mode. Jika mode sama dengan mean, bisakah saya selalu menyimpulkan ini adalah distribusi simetris? Apakah saya akan dipaksa untuk mengetahui juga median untuk cara ini?

30 distributions  mean  skewness  mode  symmetry 

Pertanyaan saya mengalir dari komentar ini pada posting blog Andrew Gelman di mana ia menganjurkan penggunaan interval kepercayaan 50% alih-alih interval kepercayaan 95%, meskipun tidak dengan alasan bahwa perkiraan tersebut lebih kuat: Saya lebih suka interval 50% hingga 95% untuk 3 alasan: Stabilitas komputasi, Evaluasi yang lebih intuitif (setengah interval …

30 confidence-interval  assumptions  robust 

Saya telah banyak berpikir tentang "masalah ketidakseimbangan kelas" dalam pembelajaran mesin / statistik akhir-akhir ini, dan saya semakin dalam merasakan bahwa saya tidak mengerti apa yang sedang terjadi. Pertama, biarkan saya mendefinisikan (atau mencoba) mendefinisikan istilah saya: Masalah ketidakseimbangan kelas dalam pembelajaran mesin / statistik adalah pengamatan bahwa beberapa algoritma …

30 classification  predictive-models  unbalanced-classes  scoring-rules