Goodness of fit dan model mana untuk memilih regresi linier atau Poisson

Saya memerlukan beberapa saran mengenai dua dilema utama dalam penelitian saya, yang merupakan studi kasus dari 3 farmasi dan inovasi besar. Jumlah paten per tahun adalah variabel dependen.

Pertanyaan saya adalah

Apa kriteria paling penting untuk model yang baik? Apa yang lebih / kurang penting? Apakah sebagian besar atau semua variabel akan signifikan? Apakah ini masalah "F STATISTIK"? Apakah itu nilai "Adjusted R kuadrat"?
Kedua, bagaimana saya bisa memutuskan model yang paling tepat untuk penelitian? Selain paten yang merupakan variabel jumlah (jadi mungkin jumlah Poisson) Saya memiliki variabel penjelas seperti pengembalian aset, anggaran penelitian dan pengembangan, mitra berulang (% bukan variabel biner), ukuran perusahaan (karyawan), dan beberapa lagi. Haruskah saya melakukan regresi linier atau Poisson?

— Nitzan
sumber

Kjetil telah memberikan jawaban terperinci yang bagus. Pendapat yang lebih cepat dan singkat yang sesuai dengan argumennya adalah bahwa apa yang Anda beri label "kedua" adalah pertanyaan yang sangat penting. Apa yang Anda sebutkan pertama adalah insidental.

— Nick Cox

Paling penting adalah logika di balik model. Variabel "jumlah paten Anda per tahun" adalah variabel jumlah, jadi ditunjukkan regresi Poisson. Itu adalah GLM (model linier umum) dengan (biasanya) fungsi log link, sedangkan regresi linier yang biasa adalah GLM Gaussian dengan link identitas. Di sini, ini benar-benar fungsi tautan log yang paling penting, lebih penting daripada distribusi kesalahan (Poisson atau Gaussian).

Variabel "Paten" adalah variabel luas : lihat properti intensif dan ekstensif . Untuk variabel intensif , seperti suhu, model linier (dengan tautan identitas) seringkali sesuai. Tetapi dengan variabel yang luas itu berbeda. Pikirkan bahwa salah satu perusahaan farmasi Anda terbagi menjadi dua perusahaan yang berbeda. Kemudian paten harus dibagi di antara dua perusahaan baru. Apa yang terjadi dengan kovariabel, dalam regresi Anda? Variabel seperti jumlah karyawan dan anggaran RD harus dipisah juga. $x$

Secara luas, dalam konteks ini, variabel intensif adalah variabel yang independen terhadap ukuran perusahaan, sedangkan variabel luas tergantung (biasanya, linier) pada ukuran perusahaan. Jadi, dalam arti tertentu, jika kita memiliki banyak variabel luas yang berbeda dalam persamaan regresi, kita mengukur efek ukuran berulang kali . Itu tampak berlebihan, jadi kita harus mencoba, jika mungkin, mengekspresikan variabel dalam bentuk intensif , seperti anggaran RD per karyawan (atau dalam persen dari total anggaran), demikian juga pendapatan, dll. Variabel seperti jumlah karyawan harus dibiarkan sebagai luas. Lihat jawaban @ onestop untuk Berurusan dengan regresi berkorelasi untuk diskusi lain tentang masalah variabel ekstensif / intensif ini.

Mari kita lihat ini secara aljabar: adalah Paten, Anggaran (per karyawan), Karyawan di perusahaan asli, sementara dan adalah variabel yang sesuai setelah pemisahan. Asumsikan, seperti di atas, bahwa adalah satu-satunya kovariabel yang luas (dengan , tentu saja, juga luas). $P, B, E$ $P_1, B_1, E_1$ $P_2, B_2, E_2$ $E$ $P$

Kemudian, sebelum pemisahan, kita memiliki model, tautan identitas, dengan bagian acak yang ditinggalkan: Biarkan pecahan pecahan menjadi jadi untuk perusahaan 1 setelah pemisahan kita mendapatkan sejak tapi . Demikian juga untuk perusahaan dua. Jadi model tergantung pada cara yang cukup rumit pada ukuran perusahaan, hanya koefisien regresi pada

P = μ + β_{1} E + β_{2} B

$P= \mu+\beta_1 E + \beta_2 B$

α, 1 - α

$\alpha, 1-\alpha$

\begin{aligned} α P & = α μ + α β_{1} E + α β_{2} B \\ P_{1} & = α μ + β_{1} E_{1} + α β_{2} B_{1} \end{aligned}

$\begin{align} \alpha P &= \alpha \mu +\alpha\beta_1 E +\alpha\beta_2 B \\[5pt] P_1 &= \alpha\mu + \beta_1 E_1 + \alpha\beta_2 B_1 \end{align}$

P_{1} = α P, E_{1} = α E

$P_1=\alpha P, E_1=\alpha E$

B_{1} = B

$B_1=B$

E

$E$ independen dari ukuran perusahaan, ukuran mempengaruhi semua parameter lainnya. Itu membuat interpretasi hasil menjadi sulit, terutama jika dalam data Anda, Anda memiliki perusahaan dengan ukuran yang berbeda-beda, lalu bagaimana Anda akan menafsirkan koefisien tersebut? Perbandingan dengan penelitian lain berdasarkan data lain, dll., Menjadi sangat rumit.

Sekarang, mari kita lihat apakah menggunakan fungsi tautan log dapat membantu. Sekali lagi, kami menulis model ideal tanpa syarat gangguan. Variabelnya seperti di atas.

Pertama, model sebelum pemisahan: Setelah pemisahan, untuk perusahaan satu, kita mendapatkan: Ini terlihat hampir benar, kecuali untuk satu masalah, bagian dari ketergantungan pada tidak cukup berhasil. Jadi kita melihat bahwa jumlah karyawan, yang kovariabel dalam bentuk luas, harus digunakan pada skala log. Lalu, coba lagi, kita dapatkan:

P = \exp (μ + β_{1} E + β_{2} B)

$P = \exp\left(\mu+\beta_1 E + \beta_2 B\right)$

\begin{aligned} P_{1} & = \exp (\log α) \exp (μ + β_{1} E + β_{2} B) \\ P_{1} & = \exp (\log α + μ + β_{1} E + β_{2} B_{1}) \end{aligned}

$\begin{align} P_1 &= \exp(\log\alpha) \exp\left(\mu+\beta_1 E + \beta_2 B\right) \\[5pt] P_1 &= \exp\left(\log\alpha+\mu+\beta_1 E +\beta_2 B_1 \right) \end{align}$

E

$E$

Model sebelum pemisahan: Setelah pemisahan: mana adalah intersep baru. Sekarang, kami telah menempatkan model dalam bentuk di mana semua parameter (kecuali intersep) memiliki interpretasi yang independen dari ukuran perusahaan.

P = \exp (μ + β_{1} \log E + β_{2} B)

$P = \exp\left(\mu+\beta_1 \log E + \beta_2 B\right)$

\begin{aligned} P_{1} & = \exp (\log α) \exp (μ + β_{1} \log E + β_{2} B) \\ P_{1} & = \exp (\log α + μ + β_{1} \log E + β_{2} B_{1}) \\ P_{1} & = \exp ((1 - β) \log α + μ + β_{1} \log E_{1} + β_{2} B_{1}) \\ P_{1} & = \exp (μ^{'} + β_{1} \log E_{1} + β_{2} B_{1}) \end{aligned}

$\begin{align} P_1 &= \exp(\log\alpha) \exp\left(\hspace{9.5mm}\mu+\beta_1 \log E + \beta_2 B\right) \\[5pt] P_1 &= \exp\left(\log\alpha+\hspace{6mm}\hspace{9.5mm}\mu+\beta_1 \log E +\beta_2 B_1 \right) \\[5pt] P_1 &= \exp\left((1-\beta)\log\alpha+\mu+\beta_1 \log E_1 +\beta_2 B_1\right) \\[5pt] P_1 &= \exp\left(\hspace{31mm}\mu'+\beta_1 \log E_1 +\beta_2 B_1\right) \end{align}$

μ^{'}

$\mu'$

Itu membuat interpretasi hasil jauh lebih mudah, dan juga perbandingan dengan studi menggunakan data lain, tren dengan waktu, dan sebagainya. Anda tidak dapat mencapai formulir ini dengan parameter dengan interpretasi independen ukuran dengan tautan identitas.

Kesimpulan: Gunakan GLM dengan fungsi tautan log, mungkin regresi Poisson, atau negatif-binomial, atau ... Fungsi tautan adalah urutan yang lebih penting!

Singkatnya, ketika membangun model regresi untuk variabel respon yang luas , seperti variabel jumlah.

Cobalah untuk mengekspresikan kovariabel dalam bentuk intensif.
Kovariabel yang harus dibiarkan luas: catat (aljabar di atas tergantung pada paling tidak ada satu kovariabel yang luas).
Gunakan fungsi tautan log.

Kemudian, kriteria lain, seperti yang didasarkan pada kesesuaian, dapat digunakan untuk keputusan sekunder, seperti distribusi istilah gangguan.

— kjetil b halvorsen
sumber

Saya pikir regresi Poisson adalah regresi GLS dengan fungsi tautan log?

— Sonton Bob

Biasanya, ya, tetapi Anda juga dapat mempertimbangkan tautan Poisson dengan identitas (atau lainnya, seperti akar kuadrat). Tetapi argumen saya di sini menunjukkan bahwa biasanya, Anda menginginkan tautan log.

— kjetil b halvorsen

@ kjetil b halvorsen, apa itu dalam koreksi istilah ?

(1 - β)

$(1-\beta)$

μ

$\mu$

— garej