Bagaimana cara menangani data yang tidak ada (tidak hilang)?

11

Saya tidak pernah benar-benar menemukan teks atau contoh yang bagus tentang bagaimana menangani data 'tidak ada' untuk input ke segala jenis classifier. Saya telah membaca banyak tentang data yang hilang tetapi apa yang dapat dilakukan tentang data yang tidak dapat atau tidak ada dalam kaitannya dengan input multivarian. Saya mengerti ini adalah pertanyaan yang sangat kompleks dan akan bervariasi tergantung pada metode pelatihan yang digunakan ...

Misalnya jika mencoba memprediksi waktu lap untuk beberapa pelari dengan data akurat yang baik. Di antara banyak input, variabel yang mungkin di antara banyak adalah:

Variabel Input - Pelari pertama kali (Y / T)
Variabel Input - Putaran sebelumnya (0 - 500 detik)
Variabel Input - Usia
Variabel Input - Tinggi. . . banyak lagi variabel Input, dll

& Output Predictor - Prediksi Laptime (0 - 500 detik)

'Variabel yang hilang' untuk '2.Previous laptime' dapat dihitung beberapa cara tetapi '1. Pelari pertama kali 'akan selalu sama dengan N. Tetapi untuk 'NON EXISTENT DATA' untuk pelari pertama kali (di mana '1. Pelari pertama kali' = Y) berapa nilai / perawatan yang harus saya berikan untuk '2. Laptime sebelumnya?

Misalnya menetapkan '2. Laptime sebelumnya 'sebagai -99 atau 0 dapat mengubah distribusi secara dramatis dan membuatnya tampak seperti pelari baru telah berkinerja baik.

Metode pelatihan saya saat ini telah menggunakan regresi logistik, SVM, NN & pohon Keputusan

missing-data

— osknows
sumber

Saya harus menambahkan bahwa saya telah membuang pelari baru dari data pelatihan dan prediksi karena ketidakpastian yang melekat tetapi akan menghargai metode yang lebih baik daripada 'Abaikan'

— osknows

6

Alih-alih menetapkan nilai khusus untuk putaran pertama kali pelari sebelumnya yang tidak ada, cukup gunakan istilah interaksi untuk waktu putaran sebelumnya dengan kebalikan dari dummy pelari pertama kali:

Y_{i} = β_{0} + β_{1} F T R_{i} + β_{2} (N F T R_{i}) \times P L T_{i} + . . .

$Y_i=\beta_0+\beta_1 FTR_i+\beta_2 (NFTR_i)\times PLT_i+...$

sini

$Y_i$ adalah variabel input Anda,
$...$ adalah variabel Anda yang lain,
$FTR_i$ adalah dummy untuk pelari pertama kalinya,
$PLT_i$ adalah waktu putaran sebelumnya dan
$NFTR_i$ adalah dummy untuk pelari pertama kali yang sama dengan 1, ketika dan 0 sebaliknya. $FTR_i=0$

Maka model untuk pelari pertama kali adalah:

Y_{i} = (β_{0} + β_{1}) + . . .

$Y_i=(\beta_0+\beta_1) + ...$

dan untuk pelari tidak pertama kali:

Y_{i} = β_{0} + β_{2} P L T_{i} + . . .

$Y_i=\beta_0+ \beta_2 PLT_i + ...$

— mpiktas
sumber

8

Untuk regresi logistik yang dipasang dengan kemungkinan maksimum, selama Anda memiliki keduanya (1) dan (2) dalam model, maka tidak peduli apa nilai "default" yang Anda berikan kepada pelari baru untuk (2), perkiraan untuk (1) akan menyesuaikan sesuai.

Misalnya, biarkan menjadi variabel indikator untuk "adalah pelari baru", dan menjadi variabel " sebelumnya dalam detik". Maka prediktor linier adalah: $X_1$ $X_2$

$\eta = \alpha + \beta_1 X_1 + \beta_2 X_2 + \ldots$

Jika default untuk adalah nol, maka prediktor linier untuk pelari baru adalah: $X_2$

$\eta = \alpha + \beta_1 + \ldots$

sedangkan untuk pelari yang ada, itu akan menjadi:

$\eta = \alpha + \beta_2 X_2 + \ldots$

Sekarang anggaplah Anda mengubah default untuk dari 0 ke -99. Maka prediktor linier untuk pelari baru sekarang: $X_2$

$\eta = \alpha + \beta'_1 - 99 \beta_2 + \ldots$

tetapi untuk pelari yang ada, itu akan tetap sama. Jadi semua yang Anda lakukan adalah reparameterise model, sehingga , dan karena kemungkinan maksimum invarian paremeterisasi, estimasi akan menyesuaikan sesuai. $\beta'_1 - 99 \beta_2 = \beta_1$

Tentu saja, jika Anda tidak menggunakan kemungkinan maksimum (yaitu Anda menggunakan semacam hukuman atau sebelumnya pada parameter), maka Anda akan mendapatkan nilai yang berbeda kecuali Anda menyesuaikan hukuman / sebelumnya sesuai. Dan jika modelnya non-linear (mis. SVM, NN & Pohon keputusan), maka argumen ini tidak berfungsi sama sekali.

— Simon Byrne
sumber