Dalam kasus memiliki kombinasi Atribut kategoris dan numerik, saya biasanya mengubah atribut kategorikal menjadi satu vektor panas. Pertanyaan saya adalah apakah saya meninggalkan vektor tersebut sebagaimana adanya dan skala atribut numerik melalui standarisasi / normalisasi, atau haruskah saya skala satu vektor panas bersama dengan atribut numerik?
Jawaban:
Setelah dikonversikan ke bentuk numerik, model tidak merespons secara berbeda terhadap kolom-kolom dengan satu kode panas daripada yang mereka lakukan terhadap data numerik lainnya. Jadi ada preseden yang jelas untuk menormalkan nilai {0,1} jika Anda melakukannya dengan alasan apa pun untuk menyiapkan kolom lain.
Efek melakukannya tergantung pada kelas model, dan jenis normalisasi yang Anda terapkan, tetapi saya perhatikan beberapa perbaikan (kecil) ketika penskalaan berarti 0, std 1 untuk data kategorikal satu-panas-disandikan, saat melatih jaringan saraf.
Ini mungkin membuat perbedaan juga untuk kelas model berdasarkan pada metrik jarak.
Sayangnya, seperti kebanyakan dari pilihan semacam ini, seringkali Anda harus mencoba kedua pendekatan dan mengambil satu dengan metrik terbaik.