Partisi partisi dan perubahan longitudinal dalam korelasi dengan data biner

Saya menganalisis data pada 300.000 siswa di 175 sekolah dengan model efek linear campuran logistik (penyadapan acak). Setiap murid terjadi tepat sekali dan datanya merentang 6 tahun.

Bagaimana cara memisahkan varians antara tingkat sekolah dan murid, dengan cara yang mirip dengan VPC / ICC untuk hasil yang berkelanjutan? Saya telah melihat artikel ini yang mengusulkan 4 metode, dimana A dan B tampak menarik bagi saya, tetapi saya ingin tahu apa kelebihan / kekurangan yang mungkin ada dalam menggunakan salah satu dari ini, dan tentu saja jika ada cara lain untuk melakukan Itu.
Bagaimana saya bisa membandingkan varian residual tingkat sekolah dari tahun ke tahun (atau periode waktu lainnya)? Sejauh ini saya telah melakukan ini dengan membagi data berdasarkan tahun dan menjalankan model terhadap setiap tahun data tetapi saya pikir ini cacat karena: i) tidak ada alasan yang jelas mengapa saya harus dibagi dengan tahun ; dan ii) karena perkiraan efek tetap berbeda untuk setiap tahun, membandingkan efek acak dari tahun ke tahun mungkin tidak masuk akal (ini hanya intuisi saya akan lebih baik jika seseorang dapat menjelaskan ini secara lebih formal, jika itu benar).

CATATAN: Saya menulis kembali pertanyaan ini setelah diskusi dalam meta dengan whuber dan Macro

mixed-model binary-data

— Joe King
sumber

Saya pikir ini adalah peningkatan besar. Pertanyaannya sekarang sangat jelas. Saat ini saya tidak punya waktu untuk memberikan respons yang terorganisir dengan baik tetapi saya akan mengirim jawaban nanti.

— Makro

Model efek campuran logistik sepertinya merupakan topik yang sangat canggih untuk sekolah menengah. Apakah mereka bagian dari silabus sekolah menengah Anda atau apakah Anda belajar secara mandiri?

— mark999

@ mark999 Saya belajar secara mandiri. Sebenarnya saya mencoba membuktikan saudara saya salah yang mengatakan "tidak mungkin kamu bisa mengerti ini" . Dia melakukan gelar dalam statistik sehingga saya memiliki akses ke semua bukunya dll (ketika dia bersikap baik).

— Joe King

Misalkan menunjukkan respons dan vektor prediktor (masing-masing) siswa di sekolah $y_{ij}, {\boldsymbol x}_{ij}$ $i$ $j$ .

(1) Untuk data biner, saya pikir cara standar untuk melakukan dekomposisi varians analog dengan yang dilakukan untuk data kontinu adalah apa yang penulis sebut Metode D (saya akan mengomentari metode lain di bawah ini) di tautan Anda - membayangkan data biner sebagai timbul dari variabel kontinu yang mendasarinya yang diatur oleh model linear dan menguraikan varians pada skala laten itu. Alasannya adalah bahwa model logistik (dan GLM lainnya) secara alami muncul dengan cara ini -

Untuk melihat ini, tentukan $y^{\star}_{ij}$ sedemikian rupa sehingga diatur oleh model campuran linier:

y_{saya j}^{⋆} = α + x_{saya j} β + η_{j} + ε_{saya j}

$y^{\star}_{ij} = \alpha + {\boldsymbol x}_{ij} {\boldsymbol \beta} + \eta_j + \varepsilon_{ij}$

di mana adalah koefisien regresi, adalah efek acak tingkat sekolah dan $\alpha,\beta$ $\eta_j \sim N(0,\sigma^2)$ adalah istilah varians residual dan memilikidistribusi logistikstandar $\varepsilon_{ij}$ . Sekarang mari

y_{i j} = {\begin{cases} 1 & if y_{i j}^{⋆} \geq 0 \\ 0 & if y_{i j}^{⋆} < 0 \end{cases}

$y_{ij} = \begin{cases} 1 & \text{if} \ \ \ y^{\star}_{ij}≥0\\ \\ 0 &\text{if} \ \ \ y^{\star}_{ij}<0 \end{cases}$

biarkan $p_{ij} = P(y_{ij} = 1|{\boldsymbol x}_{ij},\eta_j)$ sekarang, cukup menggunakan CDF logistik yang kita miliki

p_{i j} = 1 - P (y_{i j}^{⋆} < 0 | x_{i j}, η_{j}) = \frac{\exp {- (α + x_{i j} β + η_{j})}}{1 + \exp {- (α + x_{i j} β + η_{j})}}

$p_{ij} = 1-P(y^{\star}_{ij}<0|{\boldsymbol x}_{ij},\eta_j) = \frac{ \exp \{-(\alpha + {\boldsymbol x}_{ij} {\boldsymbol \beta} + \eta_j) \} }{1+ \exp \{-(\alpha + {\boldsymbol x}_{ij} {\boldsymbol \beta} + \eta_j) \}}$

sekarang mengambil transformasi logit dari kedua belah pihak, Anda miliki

\log (\frac{p_{i j}}{1 - p_{i j}}) = α + x_{i j} β + η_{j}

$\log \left( \frac{ p_{ij} }{1 - p_{ij}} \right) = \alpha + {\boldsymbol x}_{ij} {\boldsymbol \beta} + \eta_j$

yang persis model efek campuran logistik. Jadi, model logistik setara dengan model variabel laten yang ditentukan di atas. Satu catatan penting:

Skala tidak diidentifikasi karena, jika Anda adalah untuk skala itu turun tapi konstan , itu hanya akan mengubah atas untuk $\varepsilon_{ij}$ $s$

\frac{\exp {- (α + x_{i j} β + η_{j}) / s}}{1 + \exp {- (α + x_{i j} β + η_{j}) / s}}

$\frac{ \exp \{-(\alpha + {\boldsymbol x}_{ij} {\boldsymbol \beta} + \eta_j)/s \} }{1+ \exp \{-(\alpha + {\boldsymbol x}_{ij} {\boldsymbol \beta} + \eta_j)/s \}}$

$\ \ \ \ \ \ \$
$\ \ \ \ \ \$ $s=1$ ${\rm var}(\varepsilon_{ij}) = \pi^2/3$

Sekarang, jika Anda menggunakan model ini dan kemudian kuantitasnya

\frac{{\hat{σ}}_{η}^{2}}{{\hat{σ}}_{η}^{2} + π^{2} / 3}

$\frac{ \hat{\sigma}^{2}_{\eta} }{\hat{\sigma}^{2}_{\eta} + \pi^2/3 }$

memperkirakan korelasi intraclass dari variabel laten yang mendasarinya . Catatan penting lainnya:

$\varepsilon_{ij}$ $\frac{{\hat{σ}}_{η}^{2}}{{\hat{σ}}_{η}^{2} + 1}$ $\frac{ \hat{\sigma}^{2}_{\eta} }{\hat{\sigma}^{2}_{\eta} + 1 }$ estimates the tetrachoric correlation between two randomly selected pupils in the same school, which were shown by Pearson (around 1900 I think) to be statistically identified when the underlying continuous data was normally distributed (this work actually showed these correlations were identified beyond the binary case to the multiple category case, where these correlations are termed polychoric correlations). For this reason, it may be preferable (and would be my recommenation) to use a probit model when the primary interest is in estimating the (tetrachoric) intraclass correlation of binary data.

Regarding the other methods mentioned in the paper you linked:

(A) I've never seen the linearization method, but one drawback I can see is that there's no indication of the approximation error incurred by this. In addition, if you're going to linearize the model (through a potentially crude approximation), why not just use a linear model in the first place (e.g. option (C), which I'll get to in a minute)? It would also be more complicated to present since the ICC would depend on ${\boldsymbol x}_{ij}$ .
(B) The simulation method is intuitively appealing to a statistician since it would give you an estimated variance decomposition on the original scale of the data but, depending on the audience, it may (i) be complicated to describe this in your "methods" section and (ii) may turn off a reviewer who was looking for something "more standard"
(C) Pretending the data is continuous is probably not a great idea, although it won't perform terribly if most of the probabilities are not too close to 0 or 1. But, doing this would almost certainly raise a red flag to a reviewer so I'd stay away.

Now finally,

(2) Jika efek tetap sangat berbeda di seluruh tahun, maka Anda benar untuk berpikir bahwa itu bisa sulit untuk membandingkan varians efek acak di seluruh tahun, karena mereka berpotensi pada skala yang berbeda (ini terkait dengan non-pengidentifikasian masalah penskalaan yang disebutkan di atas).

Jika Anda ingin menjaga efek tetap dari waktu ke waktu (namun, jika Anda melihat mereka berubah banyak dari waktu ke waktu, Anda mungkin tidak ingin melakukan itu) tetapi melihat perubahan dalam varian efek acak, Anda dapat menjelajahi efek ini menggunakan beberapa acak variabel slope dan dummy. Misalnya, jika Anda ingin melihat apakah ICC berbeda di tahun yang berbeda, Anda bisa membiarkannya $I_k = 1$ jika observasi dilakukan tahun $k$ dan 0 sebaliknya dan kemudian modelkan prediktor linier Anda sebagai

α + x_{i j} β + η_{1 j} I_{1} + η_{2 j} I_{2} + η_{3 j} I_{3} + η_{4 j} I_{4} + η_{5 j} I_{5} + η_{6 j} I_{6}

$\alpha + {\boldsymbol x}_{ij} {\boldsymbol \beta} + \eta_{1j} I_1 + \eta_{2j} I_2 + \eta_{3j} I_3 + \eta_{4j} I_4 + \eta_{5j} I_5+ \eta_{6j} I_6$

this will give you a different ICCs each year but the same fixed effects. It may be tempting to just use a random slope in time, making your linear predictor

α + x_{i j} β + η_{1} + η_{2} t

$\alpha + {\boldsymbol x}_{ij} {\boldsymbol \beta} + \eta_{1} + \eta_{2} t$

but I don't recommend this, since that will only allow your associations to increase over time, not decrease.

— Macro
sumber

Please would you give me your comment to address the point in the linked article about this variance partitioning technique that says "This approach may be reasonable where the (0, 1) response is, say, derived from a truncation of an underlying continuum such as a pass/fail response based upon a continuous mark scale, but would seem to have less justification when the response is truly discrete, such as mortality or voting". In my case I am dealing with the incidence of bullying, which falls into the latter category, I think...

— Joe King

@JoeKing, I would say that logistic/probit (and similar) regression models already assume that the data are generated from an underlying continuum, since the model can be shown to be equivalent to that. Therefore, if one is even using such models, then they must find that assumption to be defensible :)

— Macro

@JoeKing, if you consider this answer definitive please consider accepting :)

— Macro

I will indeed. At the moment I'm a bit uncertain about a few points and I'd like to come back to you after I've had a little time (couple of days) to read around a little, and look at the data some more, if you don't mind ?

— Joe King

@JoeKing Of course - some new members are unaware, so I thought I'd point that out - it wasn't meant to place pressure you at all

— Macro