Mengapa regresi logistik model linier?


24

Saya ingin tahu mengapa regresi logistik disebut model linier. Ini menggunakan fungsi sigmoid, yang tidak linier. Jadi mengapa regresi logistik model linier?


6
Logit (log odds) linear dalam parameter, tetapi orang tidak merujuk pada regresi logistik sejauh yang saya tahu. Bisakah Anda mengutip siapa yang mengatakan ini? π
gung - Pasang kembali Monica

@ gung-ReinstateMonica Misalnya, dalam buku Pembelajaran Mendalam di halaman 169 ( deeplearningbook.org/contents/mlp.html ). Dalam buku itu mereka mencatat "model linear, seperti regresi logistik dan regresi linier, menarik ....." Saya pikir itu berarti Generalized Linear Model untuk regresi logistik.
YOUNG

Jawaban:


33

Model regresi logistik dalam bentuk Ini disebutmodel linierumumbukan karena estimasi probabilitas peristiwa respons adalah linier, tetapi karena logit dari respons probabilitas perkiraan adalah fungsi linier dariparameterprediktor.

logit(pi)=ln(pi1pi)=β0+β1x1,i+β2x2,i++βpxp,i.

Lebih umum, Generalized Linear Model adalah dalam bentuk mana μ adalah nilai yang diharapkan dari respon yang diberikan kovariat.

g(μsaya)=β0+β1x1,saya+β2x2,saya++βhalxhal,saya,
μ

Sunting: Terima kasih whuber untuk koreksi.


7
Jika Anda menulis "generalisasi linier", bukan "linier" dan parameter bukannya prediktor, ini akan benar. (Banyak model regresi logistik tidak linier dalam prediktor. Misalnya, tidak ada regresi logistik dengan istilah interaksi yang linier dalam prdiktor.)
whuber

Anda benar, terima kasih. Saya telah memperbarui jawaban saya untuk mencerminkan ini.
P Schnell

apa yang Pi di sana?
Aerin

7

Y=b0+(bsayaXsaya)+ϵY

Y=1

P(Y=1)=11+e-(b0+(bsayaXsaya))

7

Linear berarti linier dalam betas (koefisien) tetapi tidak ada dalam x (variabel independen), jadi selama beta Anda tidak non-linier, model Anda linier.


3
Itu benar - tetapi sayangnya regresi logistik adalah model linier umum dan tidak linier dalam parameter.
whuber
Dengan menggunakan situs kami, Anda mengakui telah membaca dan memahami Kebijakan Cookie dan Kebijakan Privasi kami.
Licensed under cc by-sa 3.0 with attribution required.