Apa nilai yang benar untuk presisi dan mengingat dalam kasus tepi?


20

Presisi didefinisikan sebagai:

p = true positives / (true positives + false positives)

Apakah benar bahwa, sebagai true positivesdan false positivespendekatan 0, presisi mendekati 1?

Pertanyaan yang sama untuk diingat:

r = true positives / (true positives + false negatives)

Saat ini saya sedang menerapkan tes statistik di mana saya perlu menghitung nilai-nilai ini, dan kadang-kadang terjadi bahwa penyebutnya 0, dan saya bertanya-tanya nilai mana yang akan dikembalikan untuk kasus ini.

PS: Maafkan tag yang tidak pantas, saya ingin menggunakan recall, precisiondan limit, tapi saya belum bisa membuat Tag baru.

precision-recall  data-visualization  logarithm  references  r  networks  data-visualization  standard-deviation  probability  binomial  negative-binomial  r  categorical-data  aggregation  plyr  survival  python  regression  r  t-test  bayesian  logistic  data-transformation  confidence-interval  t-test  interpretation  distributions  data-visualization  pca  genetics  r  finance  maximum  probability  standard-deviation  probability  r  information-theory  references  computational-statistics  computing  references  engineering-statistics  t-test  hypothesis-testing  independence  definition  r  censoring  negative-binomial  poisson-distribution  variance  mixed-model  correlation  intraclass-correlation  aggregation  interpretation  effect-size  hypothesis-testing  goodness-of-fit  normality-assumption  small-sample  distributions  regression  normality-assumption  t-test  anova  confidence-interval  z-statistic  finance  hypothesis-testing  mean  model-selection  information-geometry  bayesian  frequentist  terminology  type-i-and-ii-errors  cross-validation  smoothing  splines  data-transformation  normality-assumption  variance-stabilizing  r  spss  stata  python  correlation  logistic  logit  link-function  regression  predictor  pca  factor-analysis  r  bayesian  maximum-likelihood  mcmc  conditional-probability  statistical-significance  chi-squared  proportion  estimation  error  shrinkage  application  steins-phenomenon 

Saya tidak berpikir kita perlu tag batas.

Agaknya Anda mencoba untuk mengukur kinerja beberapa prosedur diagnostik; apakah ada alasan Anda tidak menggunakan metrik teori deteksi sinyal yang tepat seperti d ', A', atau area di bawah kurva ROC?
Mike Lawrence

3
@ Mike, ketepatan dan penarikan adalah metrik evaluasi umum dalam, misalnya, pengambilan informasi di mana ROC, atau khususnya spesifisitas canggung untuk digunakan karena Anda sudah mengharapkan sejumlah besar positif palsu.
user979

Jawaban:


17

Diberikan matriks kebingungan:

            predicted
            (+)   (-)
            ---------
       (+) | TP | FN |
actual      ---------
       (-) | FP | TN |
            ---------

kami tahu bahwa:

Precision = TP / (TP + FP)
Recall = TP / (TP + FN)

Mari kita perhatikan kasus-kasus di mana penyebutnya nol:

  • TP + FN = 0: berarti tidak ada kasus positif dalam data input
  • TP + FP = 0: berarti semua instance diprediksi negatif

9
Memperluas jawaban Anda: Jika TP = 0 (seperti dalam kedua kasus), recall adalah 1, karena metode ini telah menemukan semua tidak ada yang benar-benar positif; presisi adalah 0 jika ada FP dan 1 jika tidak.

11

Jawabannya Ya. Kasus tepi yang tidak terdefinisi terjadi ketika true positive (TP) adalah 0 karena ini berada dalam penyebut P&R. Dalam kasus ini,

  • Ingat kembali = 1 ketika FN = 0, karena 100% TP ditemukan
  • Presisi = 1 ketika FP = 0, karena tidak ada hasil palsu

Ini adalah rumusan ulang dari komentar @ mbq.


3

Saya akrab dengan terminologi yang berbeda. Apa yang Anda sebut presisi saya akan nilai prediksi positif (PPV). Dan apa yang Anda panggil ingat saya sebut sensitivitas (Sens). :

http://en.wikipedia.org/wiki/Receiver_operating_characteristic

Dalam kasus sensitivitas (recall), jika penyebutnya nol (seperti yang ditunjukkan Amro), tidak ada kasus positif, sehingga klasifikasi tidak ada artinya. (Itu tidak berhenti baik TP atau FN menjadi nol, yang akan menghasilkan sensitivitas membatasi 1 atau 0. Poin ini masing-masing di sudut kanan atas dan kiri bawah kurva ROC - TPR = 1 dan TPR = 0. )

Batas PPV sangat berarti. Dimungkinkan untuk cut-off tes ditetapkan begitu tinggi (atau rendah) sehingga semua kasus diprediksi negatif. Ini adalah asal dari kurva ROC. Nilai pembatas dari PPV tepat sebelum cutoff mencapai titik asal dapat diperkirakan dengan mempertimbangkan segmen terakhir dari kurva ROC tepat sebelum titik asal. (Ini mungkin lebih baik untuk model karena kurva ROC terkenal berisik.)

Sebagai contoh jika ada 100 positif aktual dan 100 negatif aktual dan bagian akhir dari kurva ROC mendekati dari TPR = 0,08, FPR = 0,02, maka PPV pembatasnya adalah PPR ~ 0,08 * 100 / (0,08 * 100 + 0,02 * 100 ) = 8/10 = 0,8 yaitu 80% kemungkinan menjadi positif sejati.

Dalam praktiknya masing-masing sampel diwakili oleh segmen pada kurva ROC - horizontal untuk negatif aktual dan vertikal untuk positif aktual. Seseorang dapat memperkirakan PPV pembatas dengan segmen terakhir sebelum asal, tetapi itu akan memberikan perkiraan PPV pembatas 1, 0 atau 0,5, tergantung pada apakah sampel terakhir adalah benar positif, positif salah (negatif sebenarnya) atau dibuat dari TP dan FP yang sama. Pendekatan pemodelan akan lebih baik, mungkin dengan asumsi data adalah binormal - asumsi umum, misalnya: http://mdm.sagepub.com/content/8/3/197.short


1

Itu akan tergantung pada apa yang Anda maksud dengan "pendekatan 0". Jika positif palsu dan negatif palsu keduanya mendekati nol pada tingkat yang lebih cepat daripada positif sejati, maka ya untuk kedua pertanyaan. Namun sebaliknya, belum tentu.


Saya benar-benar tidak tahu angka. Sejujurnya yang saya tahu adalah program saya crash dengan pembagian-oleh-nol dan saya perlu menangani kasus itu entah bagaimana.
Björn Pollex
Dengan menggunakan situs kami, Anda mengakui telah membaca dan memahami Kebijakan Cookie dan Kebijakan Privasi kami.
Licensed under cc by-sa 3.0 with attribution required.