Apakah masuk akal untuk menggunakan regresi logistik dengan hasil dan prediksi biner?

Saya memiliki variabel hasil biner {0,1} dan variabel prediktor {0,1}. Pikiran saya adalah bahwa tidak masuk akal untuk melakukan logistik kecuali saya memasukkan variabel lain dan menghitung rasio odds.

Dengan satu prediktor biner, bukankah perhitungan probabilitas akan cukup dengan rasio odds?

Dalam hal ini Anda dapat runtuh data ke di mana S i j adalah jumlah kasus untuk x = i dan y = j dengan i , j ∈ { 0 , 1 } . Misalkan ada n pengamatan secara keseluruhan.

$$\begin{array}{c|cc} X \backslash Y & 0 & 1 \\ \hline 0 & S_{00} & S_{01} \\ 1 & S_{10} & S_{11} \end{array}$$ $S_{ij}$$x = i$$y =j$$i,j \in \{0,1\}$$n$

Jika kita sesuai dengan model (di mana g adalah fungsi link kami) kita akan menemukan bahwa β 0 adalah yang logit proporsi keberhasilan ketika x i = 0 dan ß 0 + β 1 adalah logit proporsi keberhasilan saat$p_i = g^{-1}(x_i^T \beta) = g^{-1}(\beta_0 + \beta_1 1_{x_i = 1})$$g$$\hat \beta_0$$x_i = 0$$\hat \beta_0 + \hat \beta_1$ . Dengan kata lain, β 0 = g ( S $x_i = 1$ dan β 0+ β 1=g(S

$$\hat \beta_0 = g\left(\frac{S_{01}}{S_{00} + S_{01}}\right)$$ $$\hat \beta_0 + \hat \beta_1 = g\left(\frac{S_{11}}{S_{10} + S_{11}}\right).$$

Mari kita periksa ini R.

n <- 54
set.seed(123)
x <- rbinom(n, 1, .4)
y <- rbinom(n, 1, .6)

tbl <- table(x=x,y=y)

mod <- glm(y ~ x, family=binomial())

# all the same at 0.5757576
binomial()$linkinv( mod$coef[1])
mean(y[x == 0])
tbl[1,2] / sum(tbl[1,])

# all the same at 0.5714286
binomial()$linkinv( mod$coef[1] + mod$coef[2])
mean(y[x == 1])
tbl[2,2] / sum(tbl[2,])

Jadi koefisien regresi logistik adalah persis transformasi proporsi yang berasal dari tabel.

Hasilnya adalah kita tentu dapat menganalisis dataset ini dengan regresi logistik jika kita memiliki data yang berasal dari serangkaian variabel acak Bernoulli, tetapi ternyata tidak ada bedanya dengan langsung menganalisis tabel kontingensi yang dihasilkan.

---

$Y_i | x_i \stackrel{\perp}{\sim} \text{Bern}(p_i)$$x_i$$p_i = g^{-1}\left( \beta_0 + \beta_1 x_i\right)$$x_i$$p_i$$p_0$$p_1$

$$\sum \limits_{i : x_i = 0} Y_i = S_{01} \sim \text{Bin} \left(n_0, p_0\right)$$ $$\sum \limits_{i : x_i = 1} Y_i = S_{11} \sim \text{Bin} \left(n_1, p_1\right).$$ $x_i$$n_0$$n_1$

$$S_{01} / n_0 = \frac{S_{01}}{S_{00} + S_{01}} \to_p p_0 \hspace{2mm} \text{ and } \hspace{2mm} S_{11} / n_1 = \frac{S_{11}}{S_{10} + S_{11}} \to_p p_1.$$

$Y_i | x_i = j \sim \text{Bern}(p_j)$$S_{j1} \sim \text{Bin}(n_j, p_j)$

Ketika Anda memiliki lebih dari satu prediktor dan semua prediktor adalah variabel biner, Anda dapat memuat model menggunakan Regresi Logika [1] (perhatikan itu "Logika" bukan "Logistik"). Ini berguna ketika Anda percaya efek interaksi di antara para prediktor Anda menonjol. Ada implementasi di R ( LogicRegpaket).

[1] Ruczinski, I., Kooperberg, C., & LeBlanc, M. (2003). Regresi logika. Jurnal Statistik Komputasi dan grafis, 12 (3), 475-511.