Apa sifat berguna yang dimiliki fungsi tautan kanonik?

8

Jadi di sini saya sedang mempelajari model linear umum. Saya tahu pertanyaan ini cukup naif dan sederhana, tetapi saya tidak tahu persis mengapa fungsi tautan kanonik sangat berguna. Bisakah seseorang memberi saya intuisi tentang masalah ini?

— pengguna1337
sumber

9

Saya tahu pertanyaan ini cukup naif dan sederhana, tetapi saya tidak tahu persis mengapa fungsi tautan kanonik sangat berguna

Apakah ini sangat berguna? Fungsi tautan menjadi kanonik sebagian besar merupakan properti matematika. Ini agak menyederhanakan matematika, tetapi dalam pemodelan Anda harus menggunakan fungsi tautan yang secara ilmiah bermakna.

Jadi, sifat tambahan apa yang dimiliki fungsi tautan kanonik?

Ini mengarah pada adanya statistik yang cukup. Itu mungkin menyiratkan estimasi yang lebih efisien, mungkin, tetapi perangkat lunak modern (seperti glmdalam R) tampaknya tidak memperlakukan tautan kanonik secara berbeda dari tautan lain.
Ini menyederhanakan beberapa formula, sehingga perkembangan teoritis mereda. Banyak properti matematika yang bagus, lihat Apa perbedaan antara "fungsi tautan" dan "fungsi tautan kanonik" untuk GLM .

Jadi keuntungan tampaknya sebagian besar matematis dan algoritmik, tidak terlalu statistik.

Beberapa perincian lebih lanjut: Misalkan menjadi pengamatan independen dari model keluarga dispersi eksponensial dengan harapan dan prediktor linier dengan kovariat vektor . Fungsi tautan adalah kanonik jika . Dalam kasus ini, fungsi likelihood dapat ditulis sebagai dan dengan teorema faktorisasi kita dapat menyimpulkan bahwa $Y_1, \dotsc, Y_n$

f_{Y} (y; θ, ϕ) = \exp {(y θ - b (θ)) / a (ϕ) + c (y, ϕ)}

$f_Y(y;\theta,\phi)=\exp\left\{(y\theta-b(\theta))/a(\phi) + c(y,\phi)\right\}$

E Y_{i} = μ_{i}

$\DeclareMathOperator{\E}{\mathbb{E}} \E Y_i=\mu_i$

η_{i} = x_{i}^{T} β

$\eta_i = x_i^T \beta$

x_{i}

$x_i$

η_{i} = θ_{i}

$\eta_i=\theta_i$

L (β; ϕ) = \exp {\sum_{i} \frac{y_{i} x_{i}^{T} β - b (x_{i}^{T} β)}{a (ϕ)} + \sum_{i} c (y_{i}, ϕ)}

$\mathcal{L}(\beta; \phi)=\exp\left\{ \sum_i \frac{y_i x_i^T \beta -b(x_i^T \beta)}{a(\phi)}+\sum_i c(y_i,\phi)\right\}$

\sum_{i} x_{i} y_{i}

$\sum_i x_i y_i$ sudah cukup untuk .

β

$\beta$

Tanpa merinci, persamaan yang dibutuhkan untuk IRLS akan disederhanakan. Demikian juga, pencarian google ini sebagian besar tampaknya menemukan tautan kanonik yang disebutkan dalam konteks penyederhanaan, dan tidak ada lagi alasan statistik.

— kjetil b halvorsen
sumber

1

Mungkin bermanfaat secara matematis .

— AdamO

Ya, ini yang saya coba katakan!

— kjetil b halvorsen

8

Fungsi tautan kanonik menggambarkan hubungan mean-variance dalam GLM. Misalnya, variabel acak binomial memiliki fungsi tautan mana adalah prediktor linier . Perhatikan bahwa yang merupakan hubungan mean-variance yang sesuai untuk variabel acak Bernoulli. Hal yang sama berlaku untuk variabel acak Poisson, di mana fungsi tautan terbalik adalah dan di mana dalam variabel acak Poisson, variabel varians adalah rata-rata. $\mu = \exp( \nu) /(1-\exp(\nu))$ $\nu$ $\mathbf{X}^T\beta$ $\frac{\partial }{\partial \nu} \mu = \mu(1-\mu)$ $\mu = \exp(\nu)$ $\frac{\partial }{\partial \nu} \mu = \mu$

Model linier umum memecahkan persamaan estimasi bentuk:

S (β) = D V^{- 1} (Y - g (X^{T} β))

$S(\beta) = D V^{-1} (Y - g(\mathbf{X}^T\beta))$

di mana dan . Ketika tautannya kanonik, oleh karena itu, dan fungsi estimasi adalah: $D = \frac{\partial}{\partial \beta} g(\mathbf{X}^T\beta)$ $V=\text{var}(Y)$ $D = V$

S (β) = X^{T} (Y - g (X^{T} β))

$S(\beta) = \mathbf{X}^{T}(Y - g(\mathbf{X}^T\beta))$

Sebagaimana dicatat dalam makalah Wedderburn 1976 tentang quasilikelihood, tautan kanonik memiliki keunggulan bahwa informasi yang diharapkan dan diamati adalah sama dan bahwa kuadrat terkecil yang berulang secara berulang setara dengan Newton-Raphson, jadi ini menyederhanakan prosedur estimasi dan estimasi varians.

— AdamO
sumber