Tindakan berulang ANOVA vs. ANOVA faktorial dengan faktor subjek: memahami "kesalahan strata" dan istilah Kesalahan () dalam aov

Pertimbangkan tindakan berulang ANOVA (RM-ANOVA) dengan satu faktor dalam subjek Adan beberapa pengukuran per subjek untuk setiap level A.

Ini terkait erat dengan ANOVA dua arah dengan dua faktor: Adan subject. Mereka menggunakan dekomposisi identik jumlah kuadrat menjadi empat bagian: A, subject, A⋅subject, dan residual. Namun, ANOVA dua arah menguji efek A dengan membandingkan SS A dengan SS residual, sedangkan RM-ANOVA menguji efek A dengan membandingkan SS A dengan A interaksi subjek SS.$\cdot$

Kenapa bedanya?

1. Apakah perbedaan ini secara otomatis mengikuti dari struktur ukuran data yang diulang, atau apakah itu suatu konvensi?
2. Apakah perbedaan antara ANOVA dua arah dan RM-ANOVA sesuai dengan pengujian dua null berbeda? Jika demikian, apa sebenarnya mereka dan mengapa kami menggunakan null yang berbeda dalam dua kasus ini?
3. Tes ANOVA dua arah dapat dipahami sebagai uji F antara dua model bersarang: model lengkap, dan model tanpa A. Bisakah RM-ANOVA dipahami dengan cara yang sama?

(Jika hanya ada satu pengukuran per subjek untuk setiap level A, maka perbedaannya menghilang karena subjek A dan variasi residu tidak dapat dipisahkan: Apakah pengulangan satu arah mengukur ANOVA setara dengan ANOVA dua arah? )$\cdot$

---

Demonstrasi

Saya akan menggunakan data mainan yang d2dihasilkan di http://dwoll.de/rexrepos/posts/anovaMixed.html . Halaman web yang sama menunjukkan sintaks yang benar untuk RM-ANOVA.

# Discarding between-subject factors and leaving only one within-subject factor
d = d2[d2$Xb1=='CG' & d2$Xb2 == 'f', c(1,4,6)]

(Lihat versi yang dapat direproduksi di sini di pastebin .) Data terlihat seperti itu:

     id Xw1     Y
1    s1   A  28.6
2    s1   A  96.6
3    s1   A  64.8
4    s1   B 107.5
5    s1   B  77.3
6    s1   B 120.9
7    s1   C 141.2
8    s1   C 124.1
9    s1   C  88.0
10   s2   A  86.7
...

Inilah ANOVA dua arah: summary(aov(Y ~ Xw1*id, d))

             Df Sum Sq Mean Sq F value   Pr(>F)    
Xw1           2  95274   47637  16.789 3.73e-07 ***
id           19  31359    1650   0.582    0.913    
Xw1:id       38  71151    1872   0.660    0.929    
Residuals   120 340490    2837                 

Inilah RM-ANOVA: summary(aov(Y ~ Xw1 + Error(id/Xw1), d))

Error: id
          Df Sum Sq Mean Sq F value Pr(>F)
Residuals 19  31359    1650               

Error: id:Xw1
          Df Sum Sq Mean Sq F value   Pr(>F)    
Xw1        2  95274   47637   25.44 9.73e-08 ***
Residuals 38  71151    1872                     

Error: Within
           Df Sum Sq Mean Sq F value Pr(>F)
Residuals 120 340490    2837            

Perhatikan SS dekomposisi identik, tapi dua arah tes ANOVA Xw1terhadap sisa, sementara tes RM-ANOVA Xw1terhadap Xw1:idinteraksi.

Mengapa?

Pertanyaan ini terkait dengan Cara menulis istilah kesalahan dalam tindakan berulang ANOVA di R: Kesalahan (subjek) vs Kesalahan (subjek / waktu) . Jika kita mencoba menggunakan Error(id)alih-alih Error(id/Xw1)dalam contoh di atas, maka Xw1akan diuji terhadap Xw1:idinteraksi yang disatukan dengan variasi residu.

(Masalah yang sama muncul dalam faktorial RM-ANOVA dengan beberapa faktor dalam-subjek, di mana setiap faktor atau interaksi diuji terhadap "istilah kesalahan" sendiri alias "strata kesalahan". Strata kesalahan ini selalu diberikan oleh interaksi yang sesuai dengan blok tersebut) / plot / variabel subjek id.)

... ANOVA dua arah menguji efek A dengan membandingkan SS A dengan SS residual, sedangkan RM-ANOVA menguji efek A dengan membandingkan SS A dengan SS interaksi subjek.

1) Apakah perbedaan ini secara otomatis mengikuti dari struktur ukuran data yang diulang, atau apakah itu suatu konvensi?

Ini mengikuti dari struktur ukuran data yang diulang. Prinsip dasar analisis ragam adalah bahwa kami membandingkan variasi antara tingkat perawatan dengan variasi antara unit yang menerima perlakuan itu. Apa yang membuat ukuran kasus yang diulang agak rumit adalah memperkirakan variasi kedua ini.

Dalam kasus paling sederhana ini, hal yang kami minati adalah perbedaan antara level A. Jadi, berapa unit yang telah kami ukur perbedaannya? Ini jumlah mata pelajaran, bukan jumlah pengamatan. Artinya, setiap subjek memberi kita informasi independen tambahan tentang perbedaan, bukan setiap pengamatan. Menambahkan lebih banyak tindakan berulang meningkatkan akurasi informasi kami tentang setiap subjek, tetapi tidak memberi kami lebih banyak subjek.

Apa yang dilakukan oleh RM-Anova saat menggunakan interaksi subjek-A sebagai istilah kesalahan adalah dengan menggunakan variasi dalam perbedaan di antara level A di antara subjek sebagai variasi untuk menguji efek level A. Menggunakan kesalahan observasi sebagai gantinya menggunakan variasi dalam tindakan yang diulang pada setiap individu, yang tidak benar.

Pertimbangkan kasus di mana Anda mengambil lebih banyak dan lebih banyak data hanya pada beberapa individu. Jika menggunakan kesalahan tingkat observasi, Anda pada akhirnya akan mencapai signifikansi statistik, meskipun Anda hanya memiliki beberapa individu. Anda membutuhkan lebih banyak orang, bukan lebih banyak data pada mereka, untuk benar-benar meningkatkan kekuatan.

2) Apakah perbedaan antara ANOVA dua arah dan RM-ANOVA sesuai dengan pengujian dua null berbeda? Jika demikian, apa sebenarnya mereka dan mengapa kami menggunakan null yang berbeda dalam dua kasus ini?

Tidak, hipotesis nol yang sama. Yang berbeda adalah bagaimana kami memperkirakan statistik pengujian dan distribusi nolnya.

3) Uji ANOVA dua arah dapat dipahami sebagai uji F antara dua model bersarang: model penuh, dan model tanpa A. Bisakah RM-ANOVA dipahami dengan cara yang sama?

Ya, tapi tidak dengan cara yang Anda harapkan. Seperti yang Anda lihat dalam output dari aov, satu cara berpikir tentang model-model ini adalah mereka benar-benar beberapa model dalam satu, dengan satu model untuk setiap level.

Seseorang dapat menyesuaikan model untuk level yang lebih tinggi secara individual dengan rata-rata data pada level yang lebih rendah. Artinya, tes RM-Anova untuk A setara dengan standar Anova pada data rata-rata. Maka kita dapat membandingkan model dengan cara biasa.

> library(plyr)
> d2 <- ddply(d, ~Xw1 + id, summarize, Y=mean(Y))
> a1 <- aov(Y ~ id, d2)
> a2 <- aov(Y ~ Xw1+id, d2)
> anova(a1, a2)
Analysis of Variance Table

Model 1: Y ~ id
Model 2: Y ~ Xw1 + id
  Res.Df   RSS Df Sum of Sq      F    Pr(>F)    
1     40 55475                                  
2     38 23717  2     31758 25.442 9.734e-08 ***
---
Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

Atau, seseorang dapat mencocokkan penuh aovdengan semua data tetapi tanpa persyaratan bunga, dan kemudian membandingkan kecocokan dengan data penuh aov, tetapi kemudian untuk membandingkan model, Anda perlu memilih tingkat model yang telah Anda pilih. berubah (di sini id:Xw1level) dan kemudian Anda dapat membandingkan kedua model.

> summary(aov(Y ~ 1 + Error(id/Xw1), d))

Error: id
          Df Sum Sq Mean Sq F value Pr(>F)
Residuals 19  31359    1650               

Error: id:Xw1
          Df Sum Sq Mean Sq F value Pr(>F)
Residuals 40 166426    4161               

Error: Within
           Df Sum Sq Mean Sq F value Pr(>F)
Residuals 120 340490    2837               
> (F <- ((166426 - 71151)/2) / (71151/38))
[1] 25.44202
> pf(F, 2, 38, lower=FALSE)
[1] 9.732778e-08

Catatan ini tergantung pada hasil yang terkandung dalam Moser's Linear Models: A Mean Model Approach . Saya akan mengutip beberapa hasil dari buku ini sebagai berikut. Ketika saya melihat pertanyaan Anda, saya mulai melihat-lihat buku: catatan ini adalah cara pikiran saya diorganisir setelah itu.

Membiarkan $y \sim \mathcal{N}_n(\mu, \Sigma)$ menjadi respons, dengan $\mu$ mengandung efek tetap dan $\Sigma$ mengandung efek acak.

Mengambil $y^T A_i y$untuk menjadi jumlah kuadrat yang sesuai dengan setiap istilah (kovariat dan interaksi) dalam model. Perhatikan bahwa jumlah kuadrat ini tidak sama dengan apakah ketentuannya tetap atau acak. Asumsikan masing-masing$A_i$ simetris dan idempoten, yang akan berlaku di sebagian besar model minat.

Ketika itu memegang itu

$$I = \sum_i A_i,$$ yang berjumlah jumlah kuadrat sesuai dengan dekomposisi menjadi subruang ortogonal sejak kita mengasumsikan $A_i$ adalah proyektor, dan $$\Sigma = \sum_i c_i A_i,$$ oleh teorema Cochran (lemma 3.4.1), $$\begin{equation} y^T A_i y \sim c_i \chi^2_{d_i} (\mu^T A_i \mu/c_i), \end{equation}$$ untuk $d_i = tr(A_i)$, dan $y^T A_j y$ independen dari $y^T A_k y$ untuk $j \ne k$.

Syarat

$$\tilde{F} = \frac{y^T A_j y / d_j}{y^T A_k y / d_k} \sim \frac{c_j \chi_{d_j}^2(\mu^T A_j \mu / c_j)/d_j}{c_k \chi_{d_k}^2(\mu^T A_k \mu / c_k)/d_k}$$ memang (pusat) $F$ statistik jika dan hanya jika $$\begin{align*} \frac{c_j}{c_k} & = 1 , \tag{1} \\ \mu^T A_j \mu & = 0 , \tag{2} \\ \mu^T A_k \mu & = 0 , \textrm{ and }\tag{3} \end{align*}$$ Ketika ketiga kondisi ini terpenuhi, kita dapat menghitung $p$-nilai yang sesuai dengan statistik $\tilde{F}$. Istilah-istilah ini pada dasarnya hanya membantu dalam perhitungan sejak$c_i$Tergantung pada komponen varians dan parameter noncentrality tergantung pada rata-rata $\mu$. Kondisi kedua memastikan itu$\tilde{F}$ akan memiliki (setidaknya) noncentral $F$distribusi. Di bawah kondisi kedua, kondisi ketiga memberikan itu$\tilde{F}$ memiliki pusat $F$ distribusi.

Kuadrat rata-rata yang diharapkan ($\mathrm{EMS}$) sesuai dengan $i^\mathrm{th}$ jumlah kotak $y^T A_i y$ adalah

$$\mathrm{EMS}_i := \frac{1}{tr(A_i)} \mathbb{E} [y^T A_i y] = \frac{tr(A_i \Sigma) + \mu^T A_i \mu}{tr(A_i)} = c_i + \frac{\mu^T A_i \mu}{tr(A_i)},$$ dimana $tr(A_i\Sigma) = c_i \, tr(A_i)$karena cor 3.1.2. Rasio $$\frac{\mathrm{EMS}_j}{\mathrm{EMS}_k} = \frac{c_j + \frac{\mu^T A_j \mu}{tr(A_j)}}{c_k + \frac{\mu^T A_k \mu}{tr(A_k)}} = 1$$ jika kondisinya $(1)$, $(2)$, dan $(3)$memegang. Inilah sebabnya mengapa orang memeriksa rasio$\mathrm{EMS}$ saat menentukan jumlah kuadrat mana yang harus dibagi untuk membentuk a $F$ statistik untuk menguji hipotesis nol tertentu.

Kami menggunakan kondisi $(1), (2)$, dan $(3)$untuk menentukan hipotesis nol. Dalam pengalaman saya, ketika istilah (sesuai dengan$j$) bahwa kami tertarik untuk menguji secara acak, kami membuat hipotesis nol menjadi $c_j/c_k = 1$, dan, ketika sudah diperbaiki, kami membuat hipotesis nol menjadi $y^T A_j y = 0$. Khususnya, jumlah ini yang dapat kita pilih$k$ sehingga sisa kondisinya $(1), (2)$ dan $(3)$puas. Pilihan seperti itu$k$tidak selalu mungkin, yang mengarah pada kesulitan seperti Behrens-Fisher .

Ini tidak menjelaskan apa-apa terutama terkait dengan masalah yang dihadapi, tetapi itu hanya berarti komputasi $\mu$ dan $\Sigma$. Saya harap ini dipandang sebagai cara berpikir yang berguna tentang masalah ini. Perhatikan bahwa contoh 4.4.1 menghitung semua jumlah di atas dalam contoh ANOVA dua arah.

Perbedaannya adalah karena struktur masalah dan bukan karena konvensi. Berbagai pendekatan yang berbeda ini (perubahan dua arah vs berulang) berubah$\mu$ dan $\Sigma$, yang mengubah EMS, yang mengubah mana $k$ kami memilih untuk membuat tes.

---

Mari kita perhatikan modelnya

$$\begin{equation} y_{ijk} = \mu_0 + \mathrm{id}_i + \mathrm{Xw1}_{j} + \mathrm{id * Xw1}_{ij} + \mathrm{R(id * Xw1)}_{k(ij)}, \end{equation}$$ dimana $i$ menunjukkan tingkat $\mathrm{id}$, dll. Di sini $k$ menunjukkan mana dari 3 ulangan yang dipertimbangkan.

Kami sekarang memperkenalkan beberapa notasi vektor yang bermanfaat: tulis $y = (y_{111}, y_{112}, y_{113}, y_{121}, \dots y_{20,3,3})$. Karena data ini seimbang, kita dapat membuat kita dari notasi produk kronecker . (Sebagai tambahan, saya diberi tahu bahwa Charlie Van Loan pernah menyebut produk Kroner "operasi tahun 2000-an!") Tentukan$\bar{J} \in \mathbb{R}^{m \times m}$ menjadi matriks dengan semua entri sama dengan $\frac{1}{m}$ dan $C=I-\bar{J}$menjadi matriks keterpusatan. (Matriks centering dinamai karena, misalnya,$\|C x \|_2^2 = \sum_i (x_i - \bar{x})^2$ untuk vektor $x$.)

Dengan notasi produk kronecker ini di bawah sabuk, kita dapat menemukan matriks $A_i$disebutkan di atas. Jumlah kuadrat sesuai dengan$\mu_0$ adalah

$$\begin{equation} SS(\mu_0) = n (\bar{y}_{\cdot\cdot\cdot})^2 = \|(\bar{J} \otimes \bar{J} \otimes \bar{J}) y\|_2^2 = y^T (\bar{J} \otimes \bar{J} \otimes \bar{J}) y, \end{equation}$$ dimana komponen pertama $\bar{J} \in \mathbb{R}^{20 \times 20}$, yang kedua adalah $\mathbb{R}^{3 \times 3}$, dan yang ketiga adalah di $\mathbb{R}^{3 \times 3}$. Secara umum, matriks dalam komponen tersebut akan selalu sebesar itu. Juga, jumlah kotak karena$\mathrm{id}$ adalah $$\begin{equation} SS(\mathrm{id}) = \sum_{ijk} (\bar{y}_{i\cdot\cdot} - \bar{y}_{\cdot \cdot \cdot})^2 = \|(C \otimes \bar{J} \otimes \bar{J}) y\|_2^2 = y^T (C \otimes \bar{J} \otimes \bar{J}) y. \end{equation}$$ Perhatikan itu $SS(\mathrm{id})$ memang mengukur variasi antar tingkat $\mathrm{id}$. Demikian pula, matriks lainnya adalah$A_{Xw1} = \bar{J} \otimes C \otimes \bar{J}$, $A_{id * Xw1} = C \otimes C \otimes \bar{J}$, dan $A_{R()} = I \otimes I \otimes C$.

Ini terbukti konsisten dengan aovmenjalankan kode untuk memberikan, misalnya, jumlah sisa kuadrat$SS(\mathrm{R(id * Xw1)}) = y^T A_{R()} y$:

mY <- c()
for(j in 1:(nrow(d)/3)) {
  mY <- c(mY, rep(mean(d$Y[3*(j-1)+(1:3)]), 3))
}
sum((d$Y - mY)^2) #this is the residual sum of squares

Pada titik ini, kita harus membuat beberapa pilihan pemodelan. Secara khusus, kita harus memutuskan apakah$\mathrm{id}$adalah efek acak. Pertama mari kita anggap itu bukan efek acak, sehingga semua efek selain replikasi tetap. Kemudian

$$\begin{equation} \mathbb{E} [y_{ijk}] = \mu_{ij} = \mu_0 + \mathrm{id}_i + \mathrm{Xw1}_{jk} + \mathrm{id * Xw1}_{ij} \end{equation}$$ dan $R(\mathrm{id * Xw1})_{k(ij)} \sim_{iid} \mathcal{N}(0, \sigma^2)$. Perhatikan bahwa tidak ada ketergantungan antara pengamatan yang berbeda. Dalam notasi vektor, kita dapat menulis $$y \sim \mathcal{N} (\mu, \Sigma)$$ untuk $\mu = \mathbb{E} [y] = (\mu_{11}, \mu_{12}, \dots, \mu_{20,3}) \otimes \mathbf{1}_{3}$ dan $\Sigma = \sigma^2 (I \otimes I \otimes I)$.

Memperhatikan itu semua $5$ dari $A$Yang didefinisikan di atas adalah identitas, kita tahu dengan teorema cochran bahwa, antara lain,

$$SS(\mathrm{Xw1}) = y^T A_{Xw1} y \sim \sigma^2 \chi^2_{(19)(1)(1)} (\mu^T A_{Xw1} \mu / \sigma^2)$$ dan $$SS(\mathrm{R(id * Xw1)}) = y^T A_{R()} y \sim \sigma^2 \chi^2_{(20)(3)(2)} (\mu^T A_{R()} \mu / \sigma^2)$$ dan jumlah kotak ini independen.

Sekarang, sesuai dengan apa yang kita diskusikan di atas, kami menginginkan kondisi $(1), (2),$ dan $(3)$untuk menahan. Perhatikan kondisi itu$(1)$ memegang (karena tidak ada komponen varian lain untuk memperumit hal.) Apa yang benar-benar keren untuk diperhatikan sekarang adalah $\mu^T A_{R()} \mu = 0$, since $\mu$ is constant along this third "component" that is being centered by $A_{R()}$. This means that $(3)$ is behind us. Therefore we only have to fret about condition $(2)$: if we assume it (as a null hypothesis) then we're assuming that $0 = \mu^T A_{Xw1} \mu = \sum_{ijk} (\mu_{ij} - \bar{\mu}_{i \cdot})^2$, which is the same as $\mu_{ij} = \bar{\mu}_{i \cdot}$ for all $i,j$, which is the same as $\mathrm{Xw1}_j = 0$ and $\mathrm{id * Xw1}_{ij} = 0$ for all $i,j$ (since the mean level is in the other terms.)

In summary, the null hypothesis can be seen to just be testing whether a noncentrality parameter is zero, which is equivalent to effects concerning the covariate being zero. The repeated measures case follows a similar line of reasoning, where we instead make the modeling choice that the $\mathrm{id}$ effect is random. There, condition $(1)$ will become the null hypothesis.

Related to the R command, like you mention in the comments to the original post, this error term just specifies which terms are to be considered as random effects. (Note that all terms that are to be included in the model should be plainly input or input inside the Error() term. This is why there's a difference between id/Xw1 = id + id:Xw1 and id being in the Error term. Non-included terms are lumped in with the error in the sense that $A_{R()} + A_{id * Xw1}$ is relabeled as $A_{R()}$.)

---

Here's the explicit details related to the repeated measures case where the terms related to $\mathrm{id}$ (which are $\mathrm{id}$ and $\mathrm{id * Xw1}$) are random. We'll see that this is the more interesting case.

There we have the same sum of squares matrices (since they don't depend on whether a factor is fixed or random.) The covariance matrix there is

$$\begin{align*} \Sigma & \stackrel{(a)}{=} \sigma^2_{id} (I \otimes J \otimes J) + \sigma^2_{id * Xw1} (I \otimes C \otimes J) + \sigma^2_{R()} (I \otimes I \otimes I) \\ & = \sigma^2_{id} (3)(3) (A_{\mu_0} + A_{id}) + \sigma^2_{id * Xw1} (3) (A_{Xw1} + A_{id * Xw1}) + \sigma^2_{R()} (A_{\mu_0} + A_{id} + A_{Xw1} + A_{id * Xw1} + A_{R()}) \\ & = ((3)(3)\sigma^2_{id} + \sigma^2_{R()})A_{\mu_0} + ((3)(3)\sigma^2_{id} + \sigma^2_{R()}) A_{id} + ((3)\sigma^2_{id * Xw1} + \sigma^2_{R()}) A_{Xw1} + ((3)\sigma^2_{id * Xw1} + \sigma^2_{R()}) A_{id * Xw1} + \sigma^2_{R()} A_{R()}, \end{align*}$$ where $J$ is the matrix of all ones. The first and last summand on the right hand side of equality (a) offer intuitive explanations: the first summand shows that there's an additional source of correlation among observations with the same $\mathrm{id}$, and the third summand shows, as in the two-way example, the base source of variation. This second summand is less intuitive, but among observations with the same \mathrm{id}, it can be seen as increasing variation between observations with same $\mathrm{Xw1}$ while decreasing variation between observations with different $\mathrm{Xw1}$, due to the shape of $I \otimes C \otimes J$.

Also, since all of the terms related to $\mathrm{id}$ are random, the mean is just due to $\mathrm{Xw1}$, so that $\mathbb{E} [y_{ijk}] = \mu_{j} = \mu_0 + \mathrm{Xw1}_j$, or $\mu = \mathbf{1} \otimes (\mu_1, \mu_2, \mu_3) \otimes \mathbf{1}$.

Notice that, related to condition $(1)$: we have

$$\frac{c_{Xw1} }{c_{id * Xw1}} = \frac{(3)\sigma^2_{id*Xw1} + \sigma^2_{R()}}{(3)\sigma^2_{id*Xw1} + \sigma^2_{R()}} = 1,$$ while $$\frac{c_{Xw1}}{c_{R()}} = \frac{(3)\sigma^2_{id*Xw1} + \sigma^2_{R()}}{\sigma^2_{R()}} \neq 1.$$ Further, related to condition $(3)$ both $\mu^T A_{Xw1*id} \mu = 0$ and $\mu^T A_{R()} \mu = 0$. Also, related to condition $(2)$: we see that $$\begin{align*} \mu^T A_{Xw1} \mu & = \|A_{Xw1} \mu\|_2^2 \\ & = \|(\bar{J} \otimes C \otimes \bar{J}) (\mathbf{1} \otimes (\mu_1, \mu_2 \mu_3)' \otimes \mathbf{1}) \|_2^2 \\ & = (20)(3) \|C (\mu_1, \mu_2 \mu_3)'\|_2^2 \\ & = (20)(3) \sum_j (Xw1_j)^2. \end{align*}$$

Therefore, if the denominator sum of squares was the residual $\mathrm{R(id * Xw1)}$ like before, there would be both conditions $(1)$ and $(2)$ in the null hypothesis---since those are the two conditions that aren't satisfied without assumptions. However, if we were to use denominator sum of squares as the interaction, since condition $(1)$ is already satisfied, the null hypothesis would just be condition $(2)$. So, as you mention in your question, these different denominators just amount to different null hypotheses.

This analysis technique we use allows the choice of which null hypothesis is being tested to be transparent. Indeed, we can see this by writing out the conditions mentioned in the previous paragraph more explicitly. Using the denominator as the residual sum of squares forces us to test $Xw1_j = 0$ for all $j$ and $\sigma^2_{id * Xw1} = 0$, while using the denominator as the interaction sum of squares allows us to simply test $Xw1_j = 0$ for all $j$.