Apa itu koreksi bias? [Tutup]

Saya telah melihat banyak tempat di mana mereka memiliki dataset input / output di mana mereka pertama kali membuat garis regresi linier, memperbaiki bias, dan kemudian hanya menggunakan data itu untuk model mereka. Saya tidak mendapatkan apa koreksi bias ini?

Meskipun pernyataan masalah tidak cukup tepat untuk tahu persis apa jenis koreksi bias yang Anda maksudkan, saya pikir saya bisa membicarakannya secara umum. Terkadang penduga bisa menjadi bias. Ini hanya berarti bahwa meskipun mungkin merupakan penaksir yang baik, nilai yang diharapkan atau rata-rata tidak persis sama dengan parameter. Perbedaan antara rata-rata estimator dan nilai parameter sebenarnya disebut bias. Ketika estimator diketahui bias, kadang-kadang dimungkinkan, dengan cara lain, untuk memperkirakan bias dan kemudian memodifikasi estimator dengan mengurangi estimasi bias dari estimasi awal. Prosedur ini disebut koreksi bias. Ini dilakukan dengan maksud meningkatkan estimasi. Sementara itu akan mengurangi bias tetapi juga akan meningkatkan varians.

Contoh yang baik dari koreksi bias yang sukses adalah estimasi koreksi bias bootstrap dari tingkat kesalahan klasifikasi. Perkiraan tingkat penggantian kesalahan memiliki bias optimis besar ketika ukuran sampel kecil. Bootstrap digunakan untuk mengestimasi bias estimasi resubstitusi dan karena estimasi resubstitusi meremehkan tingkat kesalahan, estimasi bias ditambahkan ke estimasi penggantian untuk mendapatkan estimasi bootstrap yang diperbaiki dari tingkat kesalahan. Ketika ukuran sampel kecil 30 atau kurang menggabungkan kedua kelas dalam masalah dua kelas, bentuk-bentuk tertentu dari perkiraan bootstrap (khususnya estimasi 632) memberikan perkiraan tingkat kesalahan yang lebih akurat daripada validasi silang tinggalkan-satu-keluar (yang sangat perkiraan tingkat kesalahan yang hampir tidak bias).