Bagaimana saya bisa mempercepat perhitungan efek tetap dalam GLMM?

Saya sedang melakukan studi simulasi yang memerlukan perkiraan bootstrap yang diperoleh dari model campuran linier umum (sebenarnya, produk dari dua perkiraan untuk efek tetap, satu dari GLMM dan satu dari LMM). Untuk melakukan penelitian dengan baik akan membutuhkan sekitar 1000 simulasi dengan 1000 atau 1500 replikasi bootstrap setiap kali. Ini membutuhkan banyak waktu di komputer saya (berhari-hari).

How can I speed up the computation of these fixed effects?

Untuk lebih spesifik, saya memiliki subjek yang diukur berulang kali dalam tiga cara, sehingga memunculkan variabel X, M, dan Y, di mana X dan M adalah kontinu dan Y adalah biner. Kami memiliki dua persamaan regresi mana Y adalah variabel laten yang mendasari berkelanjutan untuk dan kesalahan tidak iid. Statistik yang ingin kita bootstrap adalah . Jadi, setiap replikasi bootstrap membutuhkan pemasangan LMM dan GLMM. Kode R saya adalah (menggunakan lme4)

M = α_{0} + α_{1} X + ϵ_{1}

$M=\alpha_0+\alpha_1X+\epsilon_1$

Y^{*} = β_{0} + β_{1} X + β_{2} M + ϵ_{2}

$Y^*=\beta_0+\beta_1X+\beta_2M+\epsilon_2$

^{*}

$^*$

Y

$Y$

α_{1} β_{2}

$\alpha_1\beta_2$

    stat=function(dat){
        a=fixef(lmer(M~X+(X|person),data=dat))["X"]
        b=fixef(glmer(Y~X+M+(X+M|person),data=dat,family="binomial"))["M"]
        return(a*b)
    }

Saya menyadari bahwa saya mendapatkan taksiran yang sama untuk jika saya pas sebagai model linier, sehingga menghemat waktu, tetapi trik yang sama tidak berhasil untuk . $\alpha_1$ $\beta_2$

Apakah saya hanya perlu membeli komputer yang lebih cepat? :)

r mixed-model

— BR
sumber

@BR apa leher botolnya di sini? Pada dasarnya apa yang menyita waktu Rprof.

— suncoolsu

Salah satu caranya adalah dengan mengabaikan bagian "campuran" dari GLMM. Sesuai dengan GLM biasa, perkiraan tidak akan banyak berubah, tetapi kesalahan standar mereka mungkin akan

— probabilityislogic

@probabilityislogic. Selain komentar Anda, saya juga berpikir, apakah jawaban akan berbeda banyak tergantung pada ukuran kelompok dan perilaku individu dalam kelompok. Seperti yang dikatakan Gelman dan Hill: hasil model efek campuran akan antara pooling dan no pooling. (Obv. Ini untuk model hierarki Bayesian, tetapi model campuran adalah cara klasik untuk melakukan hal yang sama.)

— suncoolsu

@probabilityislogic: Itu bekerja untuk LMM, tetapi tampaknya gagal untuk GLMM (artinya saya menjalankan model dengan dan tanpa M ekstra pada data yang sama dan berakhir dengan hasil yang sangat berbeda). Kecuali, tentu saja, ada kesalahan dalam implementasi glmer.

— BR

@suncoolsu: bottleneck adalah estimasi GLMM, yang mungkin beberapa detik (terutama dengan beberapa efek acak). Tapi lakukan itu 1000 * 1000 kali, dan itu 280 jam perhitungan. Pemasangan GLM membutuhkan waktu sekitar 1/100 waktu.

— BR

Jawaban:

Seharusnya membantu menentukan nilai awal, meskipun sulit untuk mengetahui berapa banyak. Saat Anda melakukan simulasi dan bootstrap, Anda harus mengetahui nilai 'true' atau perkiraan un-bootstrap atau keduanya. Coba gunakan yang ada di start =opsi glmer.

Anda juga dapat mempertimbangkan untuk melihat apakah toleransi untuk menyatakan konvergensi lebih ketat dari yang Anda butuhkan. Saya tidak jelas bagaimana cara mengubahnya dari lme4dokumentasi.

— onestop
sumber

Dua kemungkinan lain juga dipertimbangkan, sebelum membeli komputer baru.

Komputasi paralel - bootstrap mudah dijalankan secara paralel. Jika komputer Anda cukup baru, Anda mungkin memiliki empat inti. Lihatlah perpustakaan multicore di R.
Komputasi awan juga kemungkinan dan cukup murah. Saya memiliki kolega yang telah menggunakan cloud amazon untuk menjalankan skrip R. Mereka mendapati bahwa itu cukup hemat biaya.

— csgillespie
sumber

Terima kasih atas jawabannya. Entah bagaimana, saya telah mengabaikan fakta bahwa saya memiliki dua core (komputer saya tidak terlalu baru). Saya seharusnya sudah melihat multicore sejak lama.

— BR

Ini mungkin komputer yang lebih cepat. Tapi di sini ada satu trik yang mungkin berhasil.

Menghasilkan simultation dari , tetapi hanya tergantung pada , kemudian hanya melakukan OLS atau LMM pada simulasi nilai. $Y^*$ $Y$ $Y^*$

Andaikan fungsi tautan Anda adalah . ini mengatakan bagaimana Anda dapatkan dari probabilitas ke nilai, dan kemungkinan besar logistik fungsi $g(.)$ $Y=1$ $Y^*$ . $g(z)=log \Big(\frac{z}{1-z}\Big)$

Jadi jika Anda mengasumsikan distribusi sampel bernouli untuk , dan kemudian menggunakan jeffrey sebelum probabilitas, Anda mendapatkan beta posterior untuk $Y\rightarrow Y\sim Bernoulli(p)$ . Simulasi dari ini harus seperti pencahayaan, dan jika tidak, maka Anda memerlukan komputer yang lebih cepat. Selanjutnya, sampel independen, jadi tidak perlu memeriksa diagnostik "konvergensi" seperti di MCMC, dan Anda mungkin tidak perlu sampel sebanyak - 100 dapat bekerja dengan baik untuk kasus Anda. Jika Anda memiliki binomial, maka ganti saja angkadi posterior di atas dengan, jumlah percobaan binomial untuk setiap. $p\sim Beta(Y_{obs}+\frac{1}{2},1-Y_{obs}+\frac{1}{2})$ $Y's$ $1$ $n_i$ $Y_i$

$p_{sim}$ $Y_{sim}=g(p_{sim})$ $Y_{sim}$ $N\times S$ $N$ $S$

$gmler()$ $lmer()$ $Y$ $lmer()$ $b$

Sebuah = ...

$a=\dots$

b = 0

$b=0$

d Hai s = 1, ..., S

$do \ s=1,\dots,S$

b_{e s t} = l m e r (Y_{s} ...)

$b_{est}=lmer(Y_s\dots)$

b = b + \frac{1}{s} (b_{e s t} - b)

$b=b+\frac{1}{s}(b_{est}-b)$

e n d

$end$

r e t kamu r n (Sebuah * b)

$return(a*b)$

Beri tahu saya jika saya perlu menjelaskan sesuatu yang sedikit lebih jelas

— probabilityislogic
sumber

Terima kasih atas jawabannya, saya butuh sedikit waktu untuk mencernanya (dan saya sudah punya rencana untuk Sabtu malam). Cukup berbeda sehingga tidak jelas bagi saya jika memberikan jawaban yang sama dengan pendekatan GLMM, tetapi saya harus lebih memikirkannya.

— BR