Apa yang disebut pengkodean "satu panas" dalam literatur ilmiah?

10

Apa nama operator yang mengambil vektor kategorikal dan mengubahnya menjadi representasi biner menggunakan pengkodean satu-panas? Saya bertanya-tanya karena saya sedang menulis makalah ilmiah dan perlu nama yang tepat untuk itu.

terminology categorical-encoding

— fraktur
sumber

3

Pengkodean dummy adalah nama lain. Dalam pembelajaran mesin, semua orang hanya menggunakan satu tipe sederhana sehingga cukup jelas apa ini, tetapi ada jenis pengkodean kontras lainnya (nama lain) dengan yang minus dan gagasan lain, yang melakukan peran yang sama, digunakan dalam statistik, dan sebagainya. Anda bisa sedikit lebih spesifik.

— Gijs

7

Dalam statistik dan analisis data, jauh sebelum pembelajaran mesin, jenis pengkodean kategori ini telah dikenal sebagai variabel dummy alias variabel indikator jenis kontras.

— ttnphns

18

Ahli statistik menyebut pengkodean satu-panas sebagai pengkodean dummy . Seperti yang disarankan orang lain (termasuk Scortchi dalam komentar), ini bukan sinonim yang tepat, tetapi ini adalah istilah yang biasanya digunakan untuk variabel kategori 0-1 yang dikodekan.

Lihat juga: "Variabel dummy" versus "variabel indikator" untuk data nominal / kategorikal

— Tim
sumber

3

Duh !! Tidak percaya saya lupa itu. Saya juga menyebutnya sebagai indikator.

— Tim Atreides

2

Saya tidak berpikir "dummy coding" adalah sinonim yang baik. Ini digunakan baik dalam arti umum berarti mewakili variabel kategori dengan seperangkat variabel numerik, atau untuk "pengkodean level referensi" yang berbeda dari "pengodean satu-panas", misalnya dalam Masalah dengan pengodean satu-panas vs pengkodean dummy . "Level-means coding" (lihat Apakah ada sesuatu yang disebut "mean coding" (seperti dummy coding & effect coding) dalam model regresi? ) Menunjukkan pengkodean satu-panas, tetapi berkonotasi konteks model linear mungkin juga ...

— Scortchi - Reinstate Monica

2

... sangat untuk penggunaan umum.

— Scortchi

3

Saya belum pernah melihat definisi itu sendiri, tetapi bagi saya variabel dummy dalam statistik selalu menyiratkan pengkodean faktor N dengan variabel (N-1) sedangkan pengkodean satu-panas akan mengkodekan faktor N dengan variabel N. Perbedaan ini sangat penting dalam praktik. Jika seseorang menggunakan pengkodean satu-panas untuk regresi, ia akan mendapatkan omong kosong karena ketergantungan variabel!

— meh

2

@aginensky Meskipun orang tentu harus memperhatikan dengan tepat variabel apa yang mereka miliki, rutinitas regresi yang baik tidak akan menghasilkan omong kosong dalam keadaan itu: itu hanya akan menghilangkan satu prediktor dan memberitahu Anda begitu.

— Nick Cox

8

Itu tergantung pada audiens target Anda.

Seperti kata Tim , ahli statistik menyebutnya dummy coding, dan itulah yang saya harapkan untuk dilihat ketika menggambarkan sesuatu seperti model regresi. "Variabel kode Dummy dimasukkan untuk menyesuaikan lokasi toko." Saya pikir menyebutnya pengkodean satu panas akan terasa sedikit aneh di sini.

Namun, seperti yang dikatakan Tim lain , pengkodean satu-panas cukup umum dalam literatur pembelajaran mesin. Samar-samar menyiratkan keberadaan node (seperti dalam jaringan saraf), kabel fisik (dalam perangkat), atau sesuatu seperti itu, setidaknya bagi saya.

$\mathbb{I}_X$

— Matt Krause
sumber

6

Istilah ini berasal dari teknik elektronik. Pikirkan siapa yang akan menyebut 1 "panas"? Hanya mereka yang bekerja dengan listrik, di mana "panas" atau "hidup" berarti ada potensi listrik pada kabel . "One hot" mengacu pada desain sirkuit di mana level sinyal listrik diskrit pada satu kawat akan diterjemahkan menjadi panas / dingin pada satu set kabel. Saya kira beberapa orang belajar mesin dengan latar belakang EE menemukan analogi yang menarik.

Dalam ekonometrika dan statistik Anda mungkin menemukan dummyatau indicatorvariabel, yang sangat mirip karena ini digunakan untuk mewakili kategori yang berbeda dengan indikator yang berbeda. Ada perbedaan yang halus. Misalnya, Anda membuat boneka K-1 untuk kategori K, karena kategori dasar sesuai dengan semua boneka yang ditetapkan ke 0. Sebaliknya, saya pikir dalam satu pengkodean panas Anda memiliki kabel K, di mana kategori dasar akan memiliki kawat sendiri ( variabel).

— Aksakal
sumber

5

Saya terlatih secara statistik, dan baru-baru ini mendengar tentang "one-hot encoding" dalam pembelajaran mesin / komputer sci lit. Saya biasanya hanya merujuk ke matriks satu-hotted sebagai matriks desain / data matriks / bingkai desain.

— Tim Atreides
sumber

Apakah Anda memiliki referensi yang dapat saya kutip untuk itu? Saya menulis publikasi ilmiah dan ingin menjelaskan tentang metode ini untuk semua pembaca karena makalah ini bukan untuk komunitas ML tetapi lebih luas.

— Fraktur

Tidak bisa mengatakan saya pernah mendengar "satu-benci" sebagai kata kerja. Tapi saya juga datang ke ini dari arah matematika / statistik. (Hasil Google pada "one-hotted" menarik - saya mendapatkan campuran makna pembelajaran mesin dan orang-orang berbicara tentang "one hotted-up car".)

— Michael Lugo

3

Dalam ilmu fisika dan teknik, disebut delta Kronecker (umum) .

\begin{aligned} δ_{i, j} \equiv {\begin{cases} 1 & if & i = j \\ 0 & else \end{cases} \end{aligned},

$\begin{align*} {\delta}_{i,j} {\equiv} \begin{cases} 1 &\text{if} & i=j \\ 0 &\text{else} \end{cases} \end{align*},$

\begin{aligned} δ_{[condition]} \equiv {\begin{cases} 1 & if & [condition] \\ 0 & else \end{cases} \end{aligned} .

$\begin{align*} {\delta}_{\left[\text{condition}\right]} {\equiv} \begin{cases} 1 &\text{if} & \left[\text{condition}\right] \\ 0 &\text{else} \end{cases} \end{align*}.$

${\delta}_{i{\in}\text{category}}$

\begin{aligned} δ_{i \in category} \equiv {\begin{cases} 1 & if & i \in category \\ 0 & else \end{cases} \end{aligned},

$\begin{align*} {\delta}_{i{\in}\text{category}} {\equiv} \begin{cases} 1 &\text{if} & i{\in}\text{category} \\ 0 &\text{else} \end{cases} \end{align*},$

δ_{i}

${\delta}_{i}$

Delta Kronecker sangat berguna dalam Sigma / Pi / Einstein / etc. notasi karena memungkinkan untuk istilah yang ditentukan secara kondisional.

Hanya untuk menghubungkan ini dengan struktur pemrograman umum, yang Kronecker delta ini condition?1:0, di mana ?:adalah operator kondisional .

${\delta}_{i,j}$ ${\delta}_{i=j}$

— Nat
sumber

Saya tidak melihat tautannya di sini. Satu panas menerjemahkan satu variabel menjadi satu set untuk setiap keadaan variabel. Bagaimana delta Kronecker digunakan dalam aplikasi ini?

— Aksakal

{0, 1}

$\left\{0,1\right\}$

δ_{VW}

${\delta}_{\text{VW}}$

δ_{Acura}

${\delta}_{\text{Acura}}$

δ_{Honda}

${\delta}_{\text{Honda}}$

δ_{i, j}

${\delta}_{i,j}$

δ_{CompanyName, VW}

${\delta}_{\text{CompanyName},\text{VW}}$

V W

$VW$

A C U R A

$ACURA$

i = 1.. N

$i=1..N$

V W_{i}

$VW_i$

A C U R A_{i}

$ACURA_i$

i

$i$

C A R_{i}

$CAR_i$

V W_{i} = δ (C A R_{i}, V W)

$VW_i=\delta(CAR_i,VW)$

{V W}_{i}

${VW}_{i}$

{δ_{VW}}_{i}

${{\delta}_{\text{VW}}}_i$

δ_{i \in VW}

${\delta}_{i{\in}\text{VW}}$

i

$i$

1

$1$

0

$0$

2

$1$ $K$

Ini kutipan dari buku,

$K$ $1$ $K$ $K$ $\textbf{x}$ $x_k$ $1$ $0$ $K = 6$ $x_3 = 1$ $\textbf{x}$

$\textbf{x} = (0, 0, 1, 0, 0, 0)^{T}$

— kedarps
sumber