Efek marginal dari model Probit dan Logit

12

Adakah yang bisa menjelaskan cara menghitung efek marginal dari model Probit dan Logit dalam istilah awam?

Saya baru dalam statistik dan saya bingung tentang dua model ini.

— Menandai
sumber

Perhatikan bahwa angka-angka yang keluar dari model Probit dan Logit terlihat seolah-olah mereka mengukur hal yang kira-kira sama, tetapi sering berbeda secara numerik. Ketika Anda menerjemahkannya kembali ke kehidupan nyata, perbedaan antara keduanya biasanya menjadi jauh lebih kecil.

— Henry

15

Saya pikir cara yang lebih baik untuk melihat efek marginal dari variabel yang diberikan, katakanlah , adalah untuk menghasilkan sebaran sebaran probabilitas yang diprediksi pada sumbu vertikal, dan memiliki pada sumbu horizontal. Ini adalah cara paling "awam" yang bisa saya pikirkan untuk menunjukkan seberapa berpengaruh variabel yang diberikan. Tidak ada matematika, hanya gambar. Jika Anda memiliki banyak titik data, maka boxplot, atau scatterplot lebih lancar dapat membantu melihat di mana sebagian besar data berada (bukan hanya awan titik). $X_j$ $X_j$

Tidak yakin bagaimana "orang awam" bagian berikutnya, tetapi Anda mungkin menemukan itu berguna.

Jika kita melihat efek marginal, sebut saja , perhatikan bahwa , kita dapatkan $m_j$ $g(p)=\sum_kX_k\beta_k$

m_{j} = \frac{\partial p}{\partial X_{j}} = \frac{β_{j}}{g^{'} [g^{- 1} (X^{T} β)]} = \frac{β_{j}}{g^{'} (p)}

$m_j=\frac{\partial p}{\partial X_j}=\frac{\beta_j}{g'\left[g^{-1}(X^T\beta)\right]}=\frac{\beta_j}{g'(p)}$

Jadi efek marginal tergantung pada probabilitas yang diperkirakan dan gradien dari fungsi tautan di samping beta. Pembagian dengan , berasal dari aturan rantai untuk diferensiasi, dan fakta bahwa . Ini dapat ditunjukkan dengan membedakan kedua sisi dari persamaan yang benar-benar benar . Kami juga memiliki menurut definisi. Untuk model logit, kita memiliki , dan efek marginalnya adalah: $g'(p)$ $\frac{\partial g^{-1}(z)}{\partial z}=\frac{1}{g'\left[g^{-1}(z)\right]}$ $z=g\left[g^{-1}(z)\right]$ $g^{-1}(X^T\beta)=p$ $g(p)=\log(p)-\log(1-p)\implies g'(p)=\frac{1}{p}+\frac{1}{1-p}=\frac{1}{p(1-p)}$

m_{j}^{l o g i t} = β_{j} p (1 - p)

$m_j^{logit}=\beta_jp(1-p)$

Apa artinya ini? well adalah nol pada dan pada , dan mencapai nilai maksimumnya pada . Jadi efek marginal paling besar ketika probabilitasnya dekat , dan terkecil ketika dekat atau dekat . Namun, masih tergantung pada , sehingga efek marginalnya rumit. Bahkan, karena itu tergantung pada , Anda akan mendapatkan efek marginal yang berbeda untuk berbeda $p(1-p)$ $p=0$ $p=1$ $0.25$ $p=0.5$ $0.5$ $p$ $0$ $1$ $p(1-p)$ $X_j$ $p$ $X_k,\;k\neq j$ nilai-nilai. Mungkin salah satu alasan bagus untuk melakukan plot pencar sederhana itu - tidak perlu memilih nilai kovariat mana yang akan digunakan.

Untuk model probit, kita memiliki mana adalah CDF normal standar, dan adalah pdf normal standar. Jadi kita dapatkan: $g(p)=\Phi^{-1}(p)\implies g'(p)=\frac{1}{\phi\left[\Phi^{-1}(p)\right]}$ $\Phi(.)$ $\phi(.)$

m_{j}^{p r o b i t} = β_{j} ϕ [Φ^{- 1} (p)]

$m_j^{probit}=\beta_j\phi\left[\Phi^{-1}(p)\right]$

Perhatikan bahwa ini memiliki sebagian besar properti yang efek marginal saya bahas sebelumnya, dan sama benarnya dengan semua fungsi tautan yang simetris sekitar (dan waras, tentu saja, misalnya ). Ketergantungan pada lebih rumit, tetapi masih memiliki bentuk umum "punuk" (titik tertinggi pada , terendah pada dan ). Fungsi tautan akan mengubah ukuran ketinggian maksimum (mis. Maksimum maksimum adalah , logit adalah ), dan seberapa cepat efek marginal diruncingkan ke nol. $m_j^{logit}$ $0.5$ $g(p)=tan(\frac{\pi}{2}[2p-1])$ $p$ $0.5$ $0$ $1$ $\frac{1}{\sqrt{2\pi}}\approx 0.4$ $0.25$

— probabilityislogic
sumber

The effectspaket di R dengan mudah dapat menghasilkan plot seperti probabilitas diprediksi pada sumbu vertikal vs X pada sumbu horisontal. Lihat socserv.socsci.mcmaster.ca/jfox/Misc/effects/index.html

— landroni

Lihat juga: stats.stackexchange.com/questions/18814/…

— landroni

5

Model logit dan probit biasanya digunakan untuk mengetahui probabilitas bahwa variabel dependen y adalah 0 atau 1 berdasarkan sejumlah variabel input.

Dalam bahasa Inggris: Misalkan Anda mencoba memprediksi nilai biner, seperti apakah seseorang akan terserang penyakit jantung atau tidak selama hidupnya. Anda memiliki sejumlah variabel input seperti tekanan darah, usia, apakah mereka perokok atau tidak, BMI mereka, di mana mereka tinggal, dll. Semua variabel tersebut dapat berkontribusi dalam beberapa cara terhadap kemungkinan seseorang terserang penyakit jantung.

Efek marginal dari satu variabel input adalah jika Anda menaikkan variabel itu sedikit, bagaimana hal itu memengaruhi kemungkinan memiliki penyakit jantung? Seandainya tekanan darah meningkat sedikit, bagaimana hal itu mengubah kemungkinan menderita penyakit jantung? Atau jika Anda menaikkan usia satu tahun?

Beberapa efek ini bisa juga non-linear: meningkatkan BMI dalam jumlah sedikit mungkin memiliki efek yang sangat berbeda untuk seseorang yang memiliki BMI yang sangat sehat dibandingkan dengan orang yang tidak.

— merampok
sumber

1

Anda masih ingin orang awam Anda tahu kalkulus, karena efek marginal adalah turunan dari probabilitas pas sehubungan dengan variabel bunga. Karena probabilitas pas adalah fungsi tautan (logit, probit atau apa pun) yang diterapkan pada nilai-nilai pas, Anda memerlukan aturan rantai untuk menghitungnya. Jadi, dalam model indeks linier (di mana parameter masuk sebagai sesuatu seperti X'b) itu sama dengan estimasi parameter dikalikan turunan dari fungsi tautan. Karena turunan berbeda pada nilai yang berbeda dari regressor (tidak seperti kasus model linier), Anda harus memutuskan, di mana untuk mengevaluasi efek marginal. Pilihan alami akan menjadi nilai rata-rata dari semua regressor. Pendekatan lain akan mengevaluasi efek untuk setiap pengamatan dan kemudian rata-rata atas mereka. Penafsirannya berbeda.

— Alex
sumber