Pearson korelasi set data dengan mungkin nol standar deviasi?

Saya mengalami masalah menghitung koefisien korelasi pearson dari kumpulan data dengan kemungkinan nol standar deviasi (yaitu semua data memiliki nilai yang sama).

Misalkan saya memiliki dua set data berikut:

float x[] = {2, 2, 2, 3, 2};
float y[] = {2, 2, 2, 2, 2};

Koefisien korelasi "r", akan dihitung menggunakan persamaan berikut:

float r = covariance(x, y) / (std_dev(x) * std_dev(y));

Namun, karena semua data dalam kumpulan data "y" memiliki nilai yang sama, std_dev standar deviasi (y) akan menjadi nol dan "r" akan tidak ditentukan.

Apakah ada solusi untuk masalah ini? Atau haruskah saya menggunakan metode lain untuk mengukur hubungan data dalam kasus ini?

"Teori sampel" orang akan memberi tahu Anda bahwa tidak ada perkiraan seperti itu. Tapi Anda bisa mendapatkannya, Anda hanya perlu masuk akal tentang informasi sebelumnya, dan melakukan pekerjaan matematika yang lebih sulit.

Jika Anda menentukan metode estimasi Bayesian, dan posterior sama dengan sebelumnya, maka Anda dapat mengatakan data tidak mengatakan apa pun tentang parameter. Karena hal-hal mungkin menjadi "tunggal" pada kita, maka kita tidak dapat menggunakan spasi parameter tak terbatas. Saya berasumsi bahwa karena Anda menggunakan korelasi Pearson, Anda memiliki kemungkinan normal bivariat:

$$p(D|\mu_x,\mu_y,\sigma_x,\sigma_y,\rho)=\left(\sigma_x\sigma_y\sqrt{2\pi(1-\rho^2)}\right)^{-N}exp\left(-\frac{\sum_{i}Q_i}{2(1-\rho^2)}\right)$$ mana $$Q_i=\frac{(x_i-\mu_x)^2}{\sigma_x^2}+\frac{(y_i-\mu_y)^2}{\sigma_y^2}-2\rho\frac{(x_i-\mu_x)(y_i-\mu_y)}{\sigma_x\sigma_y}$$

Sekarang untuk menunjukkan bahwa satu set data mungkin memiliki nilai yang sama, tulis , dan kemudian kita dapatkan:$y_i=y$

s2x=

$$\sum_{i}Q_i=N\left[\frac{(y-\mu_y)^2}{\sigma_y^2}+\frac{s_x^2 + (\overline{x}-\mu_x)^2}{\sigma_x^2}-2\rho\frac{(\overline{x}-\mu_x)(y-\mu_y)}{\sigma_x\sigma_y}\right]$$ mana $$s_x^2=\frac{1}{N}\sum_{i}(x_i-\overline{x})^2$$

Dan kemungkinan Anda tergantung pada empat nomor, . Jadi Anda menginginkan perkiraan , jadi Anda perlu mengalikannya dengan sebelumnya, dan mengintegrasikan parameter gangguan . Sekarang untuk mempersiapkan integrasi, kita "menyelesaikan kotak" $s_x^2,y,\overline{x},N$$\rho$$\mu_x,\mu_y,\sigma_x,\sigma_y$

$$\frac{\sum_{i}Q_i}{1-\rho^2}=N\left[\frac{\left(\mu_y-\left[y-(\overline{x}-\mu_x)\frac{\rho\sigma_y}{\sigma_x}\right]\right)^2}{\sigma_y^2(1-\rho^{2})}+\frac{s_x^2}{\sigma_{x}^{2}(1-\rho^{2})} + \frac{(\overline{x}-\mu_x)^2}{\sigma_x^2}\right]$$

Sekarang kita harus berbuat salah di sisi kehati-hatian dan memastikan probabilitas dinormalisasi dengan benar. Dengan begitu kita tidak bisa mendapat masalah. Salah satu opsi tersebut adalah dengan menggunakan prior informatif yang lemah, yang hanya menempatkan batasan pada kisaran masing-masing. Jadi kita memiliki untuk sarana dengan flat sebelum dan untuk standar deviasi dengan jeffreys sebelumnya. Batasan ini mudah diatur dengan sedikit "akal sehat" untuk memikirkan masalahnya. Saya akan mengambil yang tidak ditentukan sebelumnya untuk , dan jadi kami mendapatkan (seragam harus bekerja ok, jika tidak memotong singularitas ):$L_{\mu}<\mu_x,\mu_y<U_{\mu}$$L_{\sigma}<\sigma_x,\sigma_y<U_{\sigma}$$\rho$$\pm 1$

$$p(\rho,\mu_x,\mu_y,\sigma_x,\sigma_y)=\frac{p(\rho)}{A\sigma_x\sigma_y}$$

Di mana . Ini memberikan posterior dari:$A=2(U_{\mu}-L_{\mu})^{2}[log(U_{\sigma})-log(L_{\sigma})]^{2}$

$$p(\rho|D)=\int p(\rho,\mu_x,\mu_y,\sigma_x,\sigma_y)p(D|\mu_x,\mu_y,\sigma_x,\sigma_y,\rho)d\mu_y d\mu_x d\sigma_x d\sigma_y$$

$$=\frac{p(\rho)}{A[2\pi(1-\rho^2)]^{\frac{N}{2}}}\int_{L_{\sigma}}^{U_{\sigma}}\int_{L_{\sigma}}^{U_{\sigma}}\left(\sigma_x\sigma_y\right)^{-N-1}exp\left(-\frac{N s_x^2}{2\sigma_{x}^{2}(1-\rho^{2})}\right) \times$$ $$\int_{L_{\mu}}^{U_{\mu}}exp\left(-\frac{N(\overline{x}-\mu_x)^2}{2\sigma_x^2}\right)\int_{L_{\mu}}^{U_{\mu}}exp\left(-\frac{N\left(\mu_y-\left[y-(\overline{x}-\mu_x)\frac{\rho\sigma_y}{\sigma_x}\right]\right)^2}{2\sigma_y^2(1-\rho^{2})}\right)d\mu_y d\mu_x d\sigma_x d\sigma_y$$

Sekarang integrasi pertama di atas dapat dilakukan dengan membuat perubahan variabel dan integral pertama lebih dari menjadi:$\mu_y$$z=\sqrt{N}\frac{\mu_y-\left[y-(\overline{x}-\mu_x)\frac{\rho\sigma_y}{\sigma_x}\right]}{\sigma_y\sqrt{1-\rho^{2}}}\implies dz=\frac{\sqrt{N}}{\sigma_y\sqrt{1-\rho^{2}}}d\mu_y$$\mu_y$

$$\frac{\sigma_y\sqrt{2\pi(1-\rho^{2})}}{\sqrt{N}}\left[\Phi\left( \frac{U_{\mu}-\left[y-(\overline{x}-\mu_x)\frac{\rho\sigma_y}{\sigma_x}\right]}{\frac{\sigma_y}{\sqrt{N}}\sqrt{1-\rho^{2}}} \right)-\Phi\left( \frac{L_{\mu}-\left[y-(\overline{x}-\mu_x)\frac{\rho\sigma_y}{\sigma_x}\right]}{\frac{\sigma_y}{\sqrt{N}}\sqrt{1-\rho^{2}}} \right)\right]$$

Dan Anda dapat melihat dari sini, tidak ada solusi analitik yang mungkin. Namun, perlu juga dicatat bahwa nilai belum keluar dari persamaan. Ini berarti bahwa data dan informasi sebelumnya masih memiliki sesuatu untuk dikatakan tentang korelasi yang sebenarnya. Jika data tidak mengatakan apa pun tentang korelasinya, maka kita hanya akan dibiarkan dengan sebagai satu-satunya fungsi dalam persamaan ini.$\rho$$p(\rho)$$\rho$

Ini juga menunjukkan bagaimana itu melewati batas batas tak terbatas untuk "membuang" beberapa informasi tentang , yang terkandung dalam fungsi CDF normal yang tampak rumit . Sekarang jika Anda memiliki banyak data, maka melewati batas itu baik-baik saja, Anda tidak kehilangan banyak, tetapi jika Anda memiliki informasi yang sangat langka, seperti dalam kasus Anda - penting untuk menyimpan setiap memo yang Anda miliki. Ini berarti matematika jelek, tetapi contoh ini tidak terlalu sulit untuk dilakukan secara numerik. Jadi kita dapat mengevaluasi kemungkinan terintegrasi untuk pada nilai-nilai katakanlah cukup mudah. Cukup ganti integral dengan penjumlahan dalam interval yang cukup kecil - sehingga Anda memiliki penjumlahan tiga kali lipat$\mu_y$$\rho$$\Phi(.)$$\rho$$-0.99,-0.98,\dots,0.98,0.99$

Saya setuju dengan sesqu bahwa korelasinya tidak ditentukan dalam kasus ini. Bergantung pada jenis aplikasi Anda, misalnya Anda dapat menghitung Kesamaan Gower antara kedua vektor, yaitu: mana mewakili kronecker-delta , diterapkan sebagai fungsi pada . δv1,v$gower(v1,v2)=\frac{\sum_{i=1}^{n}\delta(v1_i,v2_i)}{n}$$\delta$$v1,v2$

Jadi misalnya jika semua nilai sama, gower (.,.) = 1. Jika di sisi lain mereka hanya berbeda dalam satu dimensi, gower (.,.) = 0,9. Jika mereka berbeda di setiap dimensi, gower (.,.) = 0 dan seterusnya.

Tentu saja ini bukan ukuran untuk korelasi, tetapi memungkinkan Anda untuk menghitung seberapa dekat vektor dengan s> 0 dengan yang dengan s = 0. Tentu saja Anda dapat menerapkan metrik lain juga, jika metrik tersebut melayani tujuan Anda dengan lebih baik.

Korelasi tidak ditentukan dalam kasus itu. Jika Anda harus mendefinisikannya, saya akan mendefinisikannya sebagai 0, tetapi pertimbangkan perbedaan mutlak rata-rata sederhana sebagai gantinya.

Pertanyaan ini datang dari programmer, jadi saya sarankan memasukkan nol. Tidak ada bukti korelasi, dan hipotesis nol akan menjadi nol (tidak ada korelasi). Mungkin ada pengetahuan konteks lain yang akan memberikan korelasi "khas" dalam satu konteks, tetapi kode tersebut mungkin digunakan kembali dalam konteks lain.