Matriks Model untuk Model Efek Campuran

Dalam lmerfungsi di lme4dalam Rada panggilan untuk membangun model matriks efek acak, , seperti yang dijelaskan di sini , halaman 7 - 9. $Z$

Menghitung mensyaratkan KhatriRao dan / atau produk Kronecker dari dua matriks, dan . $Z$ $J_i$ $X_i$

Matriks $J_i$ adalah suap: "Matriks indikator indeks faktor pengelompokan", tetapi tampaknya matriks jarang dengan pengkodean dummy untuk memilih unit mana (misalnya, subjek dalam pengukuran berulang) yang sesuai dengan tingkat hirarki yang lebih tinggi "on" untuk observasi apa pun. The $X_i$ matriks tampaknya bertindak sebagai pemilih pengukuran di tingkat hirarki yang lebih rendah, sehingga kombinasi keduanya "selektor" akan menghasilkan sebuah matriks, $Z_i$ dari bentuk digambarkan di koran melalui contoh berikut:

(f<-gl(3,2))

[1] 1 1 2 2 3 3
Levels: 1 2 3

(Ji<-t(as(f,Class="sparseMatrix")))

6 x 3 sparse Matrix of class "dgCMatrix"
     1 2 3
[1,] 1 . .
[2,] 1 . .
[3,] . 1 .
[4,] . 1 .
[5,] . . 1
[6,] . . 1

(Xi<-cbind(1,rep.int(c(-1,1),3L)))
     [,1] [,2]
[1,]    1   -1
[2,]    1    1
[3,]    1   -1
[4,]    1    1
[5,]    1   -1
[6,]    1    1

Transposing masing-masing matriks ini, dan melakukan perkalian Khatri-Rao:

$\left[\begin{smallmatrix}1 & 1 &. &. &. &.\\.&.&1&1&.&.\\.&.&.&.&1&1 \end{smallmatrix}\right]\ast \left[\begin{smallmatrix}\,\,\,\,1 & 1 &\,\,\,\,1 &1 &\,\,\,\,1 &1\\-1&1&-1&1&-1&1 \end{smallmatrix}\right]= \left[\begin{smallmatrix}\,\,1 & 1 &.&.&.&.\\\,\,\,\,-1 &1&.&.&.&.\\ .&.&\,\,\,\,\,1 &1&.&.\\.&.&\,\,-1&1&.&.\\.&.&.&.&\,\,\,1&1\\.&.&.&.&-1&1 \end{smallmatrix}\right]$

Tapi adalah transposnya: $Z_i$

(Zi<-t(KhatriRao(t(Ji),t(Xi))))

6 x 6 sparse Matrix of class "dgCMatrix"

[1,] 1 -1 .  . .  .
[2,] 1  1 .  . .  .
[3,] .  . 1 -1 .  .
[4,] .  . 1  1 .  .
[5,] .  . .  . 1 -1
[6,] .  . .  . 1  1

Ternyata penulis menggunakan database sleepstudydi lme4, tetapi tidak benar-benar menguraikan matriks desain sebagai mereka berlaku untuk studi tertentu. Jadi saya mencoba memahami bagaimana kode yang dibuat dalam kertas yang direproduksi di atas akan diterjemahkan menjadi contoh yang lebih bermakna sleepstudy.

Untuk kesederhanaan visual saya telah mengurangi set data menjadi hanya tiga mata pelajaran - "309", "330" dan "371":

require(lme4)
sleepstudy <- sleepstudy[sleepstudy$Subject %in% c(309, 330, 371), ]
rownames(sleepstudy) <- NULL

Setiap individu akan menunjukkan intersep dan kemiringan yang sangat berbeda jika regresi OLS sederhana dipertimbangkan secara individual, menunjukkan perlunya model efek-campuran dengan hierarki yang lebih tinggi atau tingkat unit yang sesuai dengan subjek:

    par(bg = 'peachpuff')
    plot(1,type="n", xlim=c(0, 12), ylim=c(200, 360),
             xlab='Days', ylab='Reaction')
    for (i in sleepstudy$Subject){
            fit<-lm(Reaction ~ Days, sleepstudy[sleepstudy$Subject==i,])
            lines(predict(fit), col=i, lwd=3)
            text(x=11, y=predict(fit, data.frame(Days=9)), cex=0.6,labels=i)
        }

masukkan deskripsi gambar di sini

Panggilan regresi efek campuran adalah:

fm1<-lmer(Reaction~Days+(Days|Subject), sleepstudy)

Dan matriks yang diekstrak dari fungsi menghasilkan yang berikut:

parsedFormula<-lFormula(formula= Reaction~Days+(Days|Subject),data= sleepstudy)
parsedFormula$reTrms

$Ztlist
$Ztlist$`Days | Subject`
6 x 12 sparse Matrix of class "dgCMatrix"

309 1 1 1 1 1 1 1 1 1 1 . . . . . . . . . . . . . . . . . . . .
309 0 1 2 3 4 5 6 7 8 9 . . . . . . . . . . . . . . . . . . . .
330 . . . . . . . . . . 1 1 1 1 1 1 1 1 1 1 . . . . . . . . . .
330 . . . . . . . . . . 0 1 2 3 4 5 6 7 8 9 . . . . . . . . . .
371 . . . . . . . . . . . . . . . . . . . . 1 1 1 1 1 1 1 1 1 1
371 . . . . . . . . . . . . . . . . . . . . 0 1 2 3 4 5 6 7 8 9

Ini kelihatannya benar, tetapi jika ya, apa aljabar linier di belakangnya? Saya mengerti barisan yang 1menjadi seleksi individu suka. Misalnya, subjek 309aktif untuk baseline + sembilan pengamatan, sehingga mendapat empat 1dan seterusnya. Bagian kedua jelas merupakan pengukuran aktual: 0untuk baseline, 1untuk hari pertama kurang tidur, dll.

Tapi apa matriks dan aktual dan yang sesuai atau , mana pun Apakah relevan? $J_i$ $X_i$ $Z_i= (J_i^{T}∗X_i^{T})^⊤$ $Z_i= (J_i^{T}\otimes X_i^{T})^⊤$

Di sini ada kemungkinan,

$\left[\begin{smallmatrix}1 & 1 & 1 & 1 & 1 & 1 & 1 & 1 &1&1&. &. &. &. &.& . &. &. &. &. &. &.&. & . &. &. &. &. &. &.\\ .&.&.&.&. & . &. &. &. &. &1 & 1 & 1 & 1 & 1 & 1 & 1 & 1 &1&1&.& . &. &. &. &. &. &.&.&.\\&. & . &. &. &. &. &. &.&. & . &. &. &. &. &.&.&.&.&.&1 & 1 & 1 & 1 & 1 & 1 & 1 & 1 &1&1\end{smallmatrix}\right]\ast \left[\begin{smallmatrix}1 & 1 & 1 & 1&1&1&1 & 1 & 1 & 1\\0&1&2&3&4&5&6&7&8&9 \end{smallmatrix}\right]=$

$\left[\begin{smallmatrix}1 & 1 & 1 &1&1&1&1&1&1&1&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.\\0 & 1 & 2 &3&4&5&6&7&8&9&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.\\.&.&.&.&&.&.&.&.&.&1 &1&1&1&1&1&1&1&1&1&.&.&.&.&.&.&.&.&.&.\\ &.&.&.&.&.&.&.&.&.&0 &1&2&3&4&5&6&7&8&9&.&.&.&.&.&.&.&.&.&.\\.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&1&1&1&1&1&1&1&1&1&1\\&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&.&0&1&2&3&4&5&6&7&8&9 \end{smallmatrix}\right]$

Masalahnya adalah bahwa itu bukan ditranskripsikan sebagai lmerfungsi tampaknya untuk memanggil, dan masih tidak jelas apa aturan untuk membuat . $X_i$

r mixed-model lme4-nlme matrix

— Antoni Parellada
sumber

Ini jauh lebih mudah daripada yang Anda lakukan. The matriks sini adalah hanya (transpose dari) produk Kronecker dari matriks identitas dengan matriks desain.

Z

$Z$

— Donnie

Terima kasih atas petunjuknya. Saya akan terus berusaha memahami semua sub-indeces dalam kerangka aljabar linier dari fungsi ini. Jika klik di tempat, saya akan melanjutkan dan menjawab pertanyaan saya sendiri, tetapi meskipun saya tahu itu sederhana, korespondensi antara nomenklatur scaffolding matematika dan aplikasi untuk contoh apa pun membingungkan.

— Antoni Parellada

Sumber lain yang bagus untuk Anda mungkin adalah implementasi lme4pureR mereka , yang mengikuti bersama dengan sketsa di atas dan ditulis seluruhnya dalam R. Mungkin mkZt()(mencarinya di sini ) adalah awal yang baik?

— alexforrence

Membuat matriks mencakup menghasilkan 3 level ( , dan ) masing-masing dengan 10 pengamatan atau pengukuran ( ). Mengikuti kode di tautan asli di OP: $J_i$ 309330371nrow(sleepstudy[sleepstudy$Subject==309,]) [1] 10

f <- gl(3,10) Ji<-t(as(f,Class="sparseMatrix"))

masukkan deskripsi gambar di sini

Membangun matriks dapat dibantu dengan menggunakan fungsi sebagai referensi: $X_i$ getME

library(lme4) sleepstudy <- sleepstudy[sleepstudy$Subject %in% c(309, 330, 371), ] rownames(sleepstudy) <- NULL fm1<-lmer(Reaction~Days+(Days|Subject), sleepstudy)

Xi <- getME(fm1,"mmList")

masukkan deskripsi gambar di sini

Karena kita akan membutuhkan transpos, dan objek Xibukan matriks, maka t(Xi)dapat dibangun sebagai:

t_Xi <- rbind(c(rep(1,30)),c(rep(0:9,3)))

$Z_i$ dihitung sebagai : $Z_i= (J_i^{T}∗X_i^{T})^⊤$

Zi<-t(KhatriRao(t_Ji,t_Xi)):

masukkan deskripsi gambar di sini

Ini sesuai dengan persamaan (6) dalam makalah asli :

Z_{i} = (J_{i}^{T} * X_{i}^{T})^{T} = [\begin{matrix} J_{i 1}^{T} \otimes X_{i 1}^{T} \\ J_{i 2}^{T} \otimes X_{i 2}^{T} \\ ⋮ \\ J_{i n}^{T} \otimes X_{i n}^{T} \end{matrix}]

$Z_i = (J_i^T*X_i^T)^T=\begin{bmatrix}J_{i1}^T\otimes X_{i1}^T\\J_{i2}^T\otimes X_{i2}^T\\\vdots\\J_{in}^T\otimes X_{in}^T\end{bmatrix}$

Dan untuk melihat ini, kita bisa bermain dengan dan terpotong dengan membayangkan bahwa alih-alih 9 pengukuran dan garis dasar (0), hanya ada 1 pengukuran (dan garis dasar). Matriks yang dihasilkan adalah: $J_i^T$ $X_i^T$

$J_i^T=\left[\begin{smallmatrix}1&1&0&0&0&0\\0&0&1&1&0&0\\0&0&0&0&1&1\end{smallmatrix}\right]$ dan . $X_i^T=\left[\begin{smallmatrix}1&1&1&1&1&1\\0&1&0&1&0&1\end{smallmatrix}\right]$

Dan

$J_i^T*X_i^T=\left[ \begin{smallmatrix} \left(\begin{smallmatrix}1\\0\\0\end{smallmatrix}\right)\otimes\left(\begin{smallmatrix}1\\0\end{smallmatrix}\right)&& \left(\begin{smallmatrix}1\\0\\0\end{smallmatrix}\right)\otimes\left(\begin{smallmatrix}1\\1\end{smallmatrix}\right)&& \left(\begin{smallmatrix}0\\1\\0\end{smallmatrix}\right)\otimes\left(\begin{smallmatrix}1\\0\end{smallmatrix}\right)&& \left(\begin{smallmatrix}0\\1\\0\end{smallmatrix}\right)\otimes\left(\begin{smallmatrix}1\\1\end{smallmatrix}\right)&& \left(\begin{smallmatrix}0\\0\\1\end{smallmatrix}\right)\otimes\left(\begin{smallmatrix}1\\0\end{smallmatrix}\right)&& \left(\begin{smallmatrix}0\\0\\1\end{smallmatrix}\right)\otimes\left(\begin{smallmatrix}1\\1\end{smallmatrix}\right) \end{smallmatrix} \right]$

$\small= \begin{bmatrix}J_{i1}^T\otimes X_{i1}^T && J_{i2}^T \otimes X_{i2}^T && J_{i3}^T\otimes X_{i3}^T && J_{i4}^T\otimes X_{i4}^T && J_{i5}^T\otimes X_{i5}^T && J_{i6}^T\otimes X_{i6}^T\end{bmatrix}$

$=\left[\begin{smallmatrix}1&1&0&0&0&0\\0&1&0&0&0&0\\0&0&1&1&0&0\\0&0&0&1&0&0\\0&0&0&0&1&1\\0&0&0&0&0&1\end{smallmatrix}\right]$ . Yang dialihkan dan diperluas akan menghasilkan . $Z_i=\left[\begin{smallmatrix}1&0&0&0&0&0\\1&1&0&0&0&0\\1&2&0&0&0&0\\\vdots\\\\0&0&1&0&0&0\\0&0&1&1&0&0\\0&0&1&2&0&0\\\vdots\\\\0&0&0&0&1&0\\0&0&0&0&1&1\\0&0&0&0&1&2\\\\\vdots\end{smallmatrix}\right]$

Mengekstrak vektor dari koefisien efek acak dapat dilakukan dengan fungsi: $b$

b <- getME(fm1,"b")

[1,] -44.1573839
[2,]  -2.4118590
[3,]  32.8633489
[4,]  -0.3998801
[5,]  11.2940350
[6,]   2.8117392

Jika kami menambahkan nilai-nilai ini ke efek-tetap panggilan fm1<-lmer(Reaction~Days+(Days|Subject), sleepstudy)kami mendapatkan intersep:

205.3016 for 309; 282.3223 for 330; and 260.7530 for 371

dan lereng:

2.407141 for 309; 4.419120 for 330; and 7.630739 for 371

nilai yang konsisten dengan:

library(lattice)
xyplot(Reaction ~ Days | Subject, groups = Subject, data = sleepstudy, 
       pch=19, lwd=2, type=c('p','r'))

masukkan deskripsi gambar di sini

$Zb$ dapat dihitung sebagai as.matrix(Zi)%*%b.

— Antoni Parellada
sumber