Regresi logistik untuk data dari distribusi Poisson

Dari beberapa catatan pembelajaran mesin yang berbicara tentang beberapa metode klasifikasi diskriminatif, khususnya regresi logistik, di mana y adalah label kelas (0 atau 1) dan x adalah datanya, dikatakan bahwa:

jika , dan , maka akan menjadi logistik.$x|y = 0 \sim \mathrm{Poisson}(λ_0)$$x|y = 1 \sim \mathrm{Poisson}(λ_1)$$p(y|x)$

Mengapa ini benar?

$Y$ memiliki dua nilai yang mungkin untuk setiap nilai diberikan . Menurut asumsi,$X$

$$\Pr(X=x|Y=0) = \exp(-\lambda_0) \frac{\lambda_0^x}{x!}$$

dan

$$\Pr(X=x|Y=1) = \exp(-\lambda_1) \frac{\lambda_1^x}{x!}.$$

Oleh karena itu (ini adalah kasus sepele dari Teorema Bayes) kemungkinan bahwa bersyarat pada adalah probabilitas relatif dari yang terakhir, yaitu$Y=1$$X=x$

$$\Pr(Y=1|X=x) = \frac{\exp(-\lambda_1) \frac{\lambda_1^x}{x!}}{\exp(-\lambda_1) \frac{\lambda_1^x}{x!} + \exp(-\lambda_0) \frac{\lambda_0^x}{x!}}= \frac{1}{1 + \exp(\beta_0 + \beta_1 x)}$$

dimana

$$\beta_0 = \lambda_1 - \lambda_0$$

dan

$$\beta_1 = -\log(\lambda_1/\lambda_0).$$

Itu memang adalah model regresi logistik standar.