Apa hipotesis nol dari MANOVA?

Latar Belakang

Untuk menganalisis perbedaan dalam beberapa variabel kontinu antara kelompok yang berbeda (diberikan oleh variabel kategorikal), seseorang dapat melakukan ANOVA satu arah. Jika ada beberapa variabel penjelas (kategorikal), seseorang dapat melakukan ANOVA faktorial. Jika seseorang ingin menganalisis perbedaan antara kelompok dalam beberapa variabel kontinu (yaitu, beberapa variabel respon), kita harus melakukan ANOVA multivariat (MANOVA).

Pertanyaan

Saya hampir tidak mengerti bagaimana seseorang dapat melakukan tes seperti ANOVA pada beberapa variabel respon dan yang lebih penting, saya tidak mengerti apa yang bisa menjadi hipotesis nol. Apakah hipotesis nol:

"Untuk setiap variabel respons, berarti semua kelompok sama",

atau itu

"Untuk setidaknya satu variabel respon, berarti semua kelompok sama",

atau apakah sesuatu yang lain? $H_0$

hypothesis-testing anova manova

— Remi.b
sumber

Saya tidak tahu, apakah Anda juga bertanya bagaimana cara kerja ANOVA? Dalam konteks membahas apa kesalahan standar, saya pada dasarnya menjelaskan ide dasar di balik ANOVA di sini: Bagaimana cara kerja kesalahan standar?

— gung - Reinstate Monica

Tak satu pun dari dua pernyataan Anda. H0MANOVA adalah bahwa tidak ada perbedaan dalam ruang multivarian . Kasus multivariat jauh lebih kompleks daripada univariat karena kita harus berurusan dengan kovarian, bukan hanya varian. Ada beberapa cara untuk merumuskan H0-H1hipotesis dalam MANOVA. Baca Wikipedia.

— ttnphns

@ttnphns: Mengapa tidak? The

dari ANOVA adalah bahwa cara semua kelompok adalah sama. The

dari MANOVA adalah bahwa sarana multivariat dari semua kelompok adalah sama. Ini persis alternatif 1 di OP. Kovarian dll memasukkan asumsi dan perhitungan MANOVA, bukan hipotesis nol.

H_{0}

$H_0$

H_{0}

$H_0$

— Amuba kata Reinstate Monica

@amoeba, saya tidak suka For each response variable. Bagi saya kedengarannya seperti (atau saya membacanya sebagai) "pengujian dilakukan secara univariet pada masing-masing" (dan kemudian dikombinasikan).

— ttnphns

Jawaban:

Hipotesis nol dari ANOVA satu arah adalah bahwa rata-rata semua kelompok adalah sama: Hipotesis nol dari MANOVA satu arah adalah bahwa rata-rata [multivariat] dari semua kelompok adalah sama: Ini sama dengan mengatakan bahwa rata-rata sama untuk setiap variabel respon, yaitu $H_0$

H_{0} : μ_{1} = μ_{2} = . . . = μ_{k} .

$H_0: \mu_1 = \mu_2 = ... = \mu_k.$

H_{0}

$H_0$

H_{0} : μ_{1} = μ_{2} = . . . = μ_{k} .

$H_0: \boldsymbol \mu_1 = \boldsymbol \mu_2 = ... = \boldsymbol \mu_k.$ Opsi pertama Anda sudah benar .

$H_1$

Perbedaan antara MANOVA dan ANOVA

Ini mungkin tampak sedikit membingungkan: hipotesis nol MANOVA persis sama dengan kombinasi hipotesis nol untuk koleksi ANOVA univariat, tetapi pada saat yang sama kita tahu bahwa melakukan MANOVA tidak setara dengan melakukan ANOVA univariat dan kemudian entah bagaimana " menggabungkan "hasilnya (orang bisa datang dengan berbagai cara menggabungkan). Kenapa tidak?

Jawabannya adalah menjalankan semua ANOVA univariat, meskipun akan menguji hipotesis nol yang sama, akan memiliki kekuatan lebih kecil. Lihat jawaban saya di sini untuk ilustrasi: Bagaimana MANOVA dapat melaporkan perbedaan yang signifikan ketika tidak ada ANOVA univariat yang mencapai signifikansi? Metode naif "menggabungkan" (tolak null global jika setidaknya satu ANOVA menolak nol) juga akan menyebabkan inflasi besar tingkat kesalahan tipe I; tetapi bahkan jika seseorang memilih cara pintar "menggabungkan" untuk mempertahankan tingkat kesalahan yang benar, ia akan kehilangan kekuatan.

Cara kerja pengujian

$T$ $B$ $W$ $T=B+W$ $B/W$ $1$ $n$ $B/W$

$\mathbf T$ $\mathbf B$ $\mathbf W$ $\mathbf T = \mathbf B + \mathbf W$ $\mathbf W^{-1} \mathbf B$ $\mathbf{I}$ $\lambda_i$ $1$ $\sum \lambda_i$ $\max\{\lambda_i\}$

Pilihan yang berbeda dari statistik uji mengarah ke nilai p yang sedikit berbeda, tetapi penting untuk menyadari bahwa dalam setiap kasus hipotesis nol yang sama sedang diuji.

— amuba kata Reinstate Monica
sumber

Juga, jika Anda tidak memperbaiki beberapa pengujian, pendekatan all-univariat-ANOVA akan menghasilkan inflasi kesalahan tipe I juga.

— gung - Reinstate Monica

@ungung: Ya, itu benar juga. Namun, orang bisa lebih pintar dalam "menggabungkan" daripada hanya menolak nol segera setelah setidaknya salah satu ANOVA menolak nol. Maksud saya adalah bahwa bagaimanapun cerdas seseorang mencoba untuk "menggabungkan", seseorang masih akan kehilangan kekuatan dibandingkan dengan MANOVA (bahkan jika seseorang berhasil mempertahankan ukuran tes tanpa menggembungkan tingkat kesalahan).

— Amuba kata Reinstate Monica

Tetapi bukankah sekarang "kekuatan" itu secara langsung berkaitan dengan gagasan kovarian? Moralnya adalah bahwa dengan (serangkaian) uji univariat, kami menguji hanya untuk efek marginal yang SSdifference/SSerrorskalar. Dalam MANOVA, efek multivariat adalah SSCPerror^(-1)SSCPdifferencematriks (total kovarian dan di dalam kelompok diperhitungkan). Tetapi karena ada beberapa nilai eigen di dalamnya yang dapat "digabungkan" tidak secara tunggal dalam statistik uji, ada beberapa hipotesis alternatif yang mungkin ada. Lebih banyak kekuatan - lebih banyak kompleksitas teoretis.

— ttnphns

@ttnphns, ya, ini semua benar, tapi saya pikir tidak mengubah fakta bahwa hipotesis nol adalah apa yang saya tulis itu (dan itulah pertanyaannya). Apa pun statistik uji yang digunakan (Wilks / Roy / Pillai-Bartlett / Lawley-Hotelling), mereka mencoba menguji hipotesis nol yang sama. Saya mungkin memperluas jawaban saya nanti untuk membahas hal ini secara lebih rinci.

— Amuba kata Reinstate Monica

H_{1}

$H_1$

H_{0} : μ_{group 1} = \dots = μ_{group k}

$H_0: \mu_{\mbox{group }1} = \ldots = \mu_{\mbox{group }k}$

p

$p$

k p

$kp$

p

$p$

Itu adalah yang pertama.

Namun, caranya tidak secara harfiah membandingkan rata-rata masing-masing variabel asli. Sebagai gantinya, variabel-variabel respons secara linear ditransformasikan sedemikian rupa sehingga sangat mirip dengan analisis komponen utama . (Ada utas bagus tentang PCA di sini: Memahami analisis komponen utama, vektor eigen & nilai eigen .) Perbedaannya adalah bahwa PCA mengarahkan sumbu Anda agar sejajar dengan arah variasi maksimal, sedangkan MANOVA memutar sumbu Anda ke arah yang memaksimalkan pemisahan grup Anda.

Agar lebih jelas, tidak ada tes yang terkait dengan MANOVA yang menguji semua cara satu demi satu dalam arti langsung, baik dengan cara di ruang asli atau di ruang yang diubah. Ada beberapa statistik uji berbeda yang masing-masing bekerja dengan cara yang sedikit berbeda, namun mereka cenderung beroperasi di atas nilai eigen dari dekomposisi yang mengubah ruang. Tetapi sejauh sifat dari hipotesis nol berjalan, itu adalah bahwa semua sarana dari semua kelompok adalah sama pada setiap variabel respon, bukan bahwa mereka dapat berbeda pada beberapa variabel tetapi sama pada setidaknya satu.

— gung - Pasang kembali Monica
sumber

H o

$Ho$

Ada beberapa tes yang berbeda. Menguji hanya sumbu pertama pada dasarnya menggunakan akar terbesar Roy sebagai pengujian Anda. Ini akan sering menjadi tes yang paling kuat, tetapi juga lebih terbatas. Saya mengumpulkan ada diskusi yang sedang berlangsung mengenai tes mana yang 'terbaik'.

— gung - Reinstate Monica

Saya kira kita menggunakan MANOVA daripada beberapa ANOVA untuk menghindari beberapa masalah pengujian. Tetapi jika, dengan melakukan MANOVA kita hanya membuat ANOVA pada PC1 dari LDR , maka kita masih memiliki beberapa masalah pengujian untuk dipertimbangkan ketika melihat nilai Pv. Apakah ini benar? (Harapan itu lebih masuk akal. Saya menghapus komentar saya yang sebelumnya tidak jelas)

— Remi.b

Itu adalah titik wawasan, tetapi ada dua masalah: 1) sumbu sekarang ortogonal, & yang dapat mengubah masalah dengan beberapa pengujian; 2) distribusi sampling dari statistik uji MANOVA memperhitungkan beberapa sumbu.

— gung - Reinstate Monica

@ Remi.b: Ini adalah pertanyaan bagus, tetapi hanya untuk memperjelas: MANOVA tidak setara dengan ANOVA pada sumbu diskriminan pertama LDA! Lihat di sini untuk hubungan antara MANOVA dan LDA: Bagaimana hubungan MANOVA dengan LDA?

— Amuba mengatakan Reinstate Monica