Bagaimana Karl Pearson menghasilkan statistik chi-squared?

Bagaimana Pearson menghasilkan statistik chi-square Pearson berikut pada tahun 1900?

bahwa

K = \sum \frac{(O_{i j} - E_{i j})^{2}}{E_{i j}}

$K = \sum \frac{(O_{ij} -E_{ij})^2}{E_{ij}}$

K \sim χ^{2}

$K \sim \chi^2$

Apakah dia memiliki chi-squared dalam pikiran dan menyusun metrik (pendekatan bottom-up), atau apakah dia menyusun statistik dan kemudian membuktikan bahwa itu mengikuti distribusi chi-squared (top-down)? $K$

Saya ingin tahu mengapa ia memilih bahwa bentuk tertentu dan bukan yang lain seperti atau , dan juga mengapa dia membagi kotak dengan penyebut. $\sum(O_{ij} -E_{ij})^2$ $\sum|O_{ij} -E_{ij}|$

chi-squared descriptive-statistics history

— Alby
sumber

Anda mungkin menemukan ini menarik: Mengapa kuadratkan perbedaan daripada mengambil nilai absolut dalam standar deviasi?

— gung - Reinstate Monica

Tentu saja dimungkinkan untuk memiliki sejumlah statistik yang dapat Anda gunakan. Alternatif Anda baik-baik saja, meskipun Anda harus menghitung distribusi sampel untuk mereka, yang akan berbeda berdasarkan jumlah sel. Satu hal yang sesuai dengan formulir ini adalah bahwa ia memiliki hubungan tertentu dengan distribusi lain, misalnya distribusi jumlah k kuadrat standar normal varian acak.

— gung - Reinstate Monica

Kertas Pearson 1900 tidak memiliki hak cipta, sehingga kami dapat membacanya secara online .

Anda harus mulai dengan mencatat bahwa makalah ini adalah tentang uji goodness of fit, bukan tes independensi atau homogenitas.

Dia melanjutkan dengan bekerja dengan normal multivariat, dan chi-square muncul sebagai jumlah dari kuadrat normal standar kuadrat.

Anda dapat melihat dari diskusi pada halaman 160-161 dia jelas sedang membahas penerapan tes untuk data terdistribusi multinomial (saya tidak berpikir dia menggunakan istilah itu di mana saja). Dia tampaknya memahami perkiraan normal multivariat multinomial (tentu saja dia tahu margin sekitar normal - itu adalah hasil yang sangat lama - dan tahu cara, varian dan kovarian, karena mereka dinyatakan di koran); Dugaan saya adalah bahwa sebagian besar dari barang-barang itu sudah tua pada tahun 1900. (Perhatikan bahwa distribusi chi-squared sendiri kembali bekerja oleh Helmert pada pertengahan 1870-an.)

Kemudian pada bagian bawah p163 ia memperoleh statistik chi-square sebagai "ukuran goodness of fit" (statistik itu sendiri muncul dalam eksponen perkiraan normal multivariat).

$\chi^2_{12}$

* (perhatikan bahwa baik paradigma pengujian Fisherian maupun Neyman-Pearson tidak ada, namun kami melihatnya dengan jelas menerapkan konsep nilai-p.)

$(O_i-E_i)^2/E_i$ $m_1$ $m_2$ $m'_1$ $e = m-m'$ $e^2/m$

Sebagian besar cara pemahaman uji chi-square saat ini belum ada, tetapi di sisi lain, sudah cukup banyak (setidaknya jika Anda tahu apa yang harus dicari). Banyak yang terjadi pada 1920-an (dan seterusnya) yang mengubah cara kita memandang hal-hal ini.

$E_i$ $E_i$ $E_i$

Ditambahkan di edit:

Makalah 1983 oleh Plackett memberikan banyak konteks sejarah, dan sesuatu panduan untuk kertas. Saya sangat merekomendasikan melihatnya. Sepertinya ini online gratis melalui JStor (jika Anda masuk), jadi Anda bahkan tidak perlu akses melalui institusi untuk membacanya.

Plackett, RL (1983),
"Karl Pearson dan Tes Chi-Squared,"
Tinjauan Statistik Internasional ,
Vol. 51, No. 1 (Apr), hlm. 59-72

— Glen_b -Reinstate Monica
sumber

Saya baru saja membaca ulang posting ini dan saya setiap kali melakukannya, saya mendapatkan wawasan tambahan. @ Glen_b Saya ingin mengucapkan terima kasih atas jawaban luar biasa Anda, yang seharusnya saya lakukan sebelumnya. Jika saya dapat mengajukan pertanyaan tambahan, dalam penjelasan Anda tentang bagaimana pembagian oleh E menyesuaikan kovarians, dapatkah Anda menjelaskan lebih lanjut tentang hal itu atau mengarahkan saya ke sumber yang membahas poin ini? Secara intuitif saya dapat memahami mengapa "normalisasi" diperlukan, tetapi saya ingin mendukung intuisi saya dengan bukti matematika.

— Alby

E_{i}

$E_i$

X_{i}

$X_i$

C o v (X_{i}, X_{j}) = E (X_{i} X_{j}) - E (X_{i}) E (X_{j}) = - E (X_{i}) E (X_{j})

$Cov(X_i,X_j)=E(X_iX_j)-E(X_i)E(X_j)=-E(X_i)E(X_j)$

X_{i}, X_{j}

$X_i,X_j$

> 0

$>0$

Cov (O_{i}, O_{j})

$\text{Cov}(O_i,O_j)$

Terima kasih atas tautannya @Glen_b. Setelah membaca posting, itu jauh lebih jelas sekarang! Saya naif berpikir bahwa penyebut ada untuk menyesuaikan perbedaan awal untuk setiap sel, sehingga istilah "normalisasi", tetapi membaca posting Anda, saya menyadari saya benar-benar keluar dari sasaran.

— Alby

Sayangnya, kata 'normalisasi' setidaknya memiliki tiga pengertian berbeda yang relevan dalam statistik. Tanpa hiasan, saya biasanya hanya menggunakannya untuk berarti "standar untuk berarti 0 dan standar deviasi 1" tetapi orang lain menggunakannya untuk berarti 'menormalkan' dalam arti menormalkan vektor sesuai dengan beberapa norma, atau bahkan untuk mengubah ke perkiraan normalitas. Karena ini adalah momok di sini, saya harus tahu sekarang untuk menghindarinya.

— Glen_b -Reinstate Monica