Nilai maksimum koefisien variasi untuk kumpulan data terbatas

17

Dalam diskusi mengikuti pertanyaan terbaru tentang apakah standar deviasi dapat melebihi rata-rata, satu pertanyaan diajukan secara singkat tetapi tidak pernah dijawab sepenuhnya. Jadi saya bertanya di sini.

Pertimbangkan satu set $n$ angka negatif $x_i$ mana $0 \leq x_i \leq c$ untuk $1 \leq i \leq n$ . Tidak diperlukan berbeda, yaitu set dapat berupa multiset. Mean dan varians dari himpunan didefinisikan sebagai dan standar deviasi adalah . Perhatikan bahwa himpunan angka tidak $x_i$

\bar{x} = \frac{1}{n} \sum_{i = 1}^{n} x_{i}, σ_{x}^{2} = \frac{1}{n} \sum_{i = 1}^{n} (x_{i} - \bar{x})^{2} = (\frac{1}{n} \sum_{i = 1}^{n} x_{i}^{2}) - {\bar{x}}^{2}

$\bar{x} = \frac{1}{n}\sum_{i=1}^n x_i, ~~ \sigma_x^2 = \frac{1}{n}\sum_{i=1}^n (x_i - \bar{x})^2 = \left(\frac{1}{n}\sum_{i=1}^n x_i^2\right) - \bar{x}^2$

σ_{x}

$\sigma_x$ sampel dari suatu populasi dan kami tidak memperkirakan rata-rata populasi atau varians populasi. Pertanyaannya kemudian adalah:

Berapa nilai maksimum dari , koefisien variasi, di atas semua pilihan dalam interval ? $\dfrac{\sigma_x}{\bar{x}}$ $x_i$ $[0,c]$

Nilai maksimum yang dapat saya temukan untuk adalah yang dicapai ketika dari memiliki nilai dan sisanya (outlier) memiliki nilai , memberi Tetapi ini tidak bergantung pada sama sekali, dan saya bertanya-tanya apakah nilai yang lebih besar, mungkin bergantung pada dan , dapat dicapai. $\frac{\sigma_x}{\bar{x}}$ $\sqrt{n-1}$ $n-1$ $x_i$ $0$ $x_i$ $c$

\bar{x} = \frac{c}{n}, \frac{1}{n} \sum x_{i}^{2} = \frac{c^{2}}{n} \Rightarrow σ_{x} = \sqrt{\frac{c^{2}}{n} - \frac{c^{2}}{n^{2}}} = \frac{c}{n} \sqrt{n - 1} .

$\bar{x} = \frac{c}{n},~~ \frac{1}{n}\sum x_i^2 = \frac{c^2}{n} \Rightarrow \sigma_x = \sqrt{\frac{c^2}{n} - \frac{c^2}{n^2}} = \frac{c}{n}\sqrt{n-1}.$

c

$c$

n

$n$

c

$c$

Ada ide? Saya yakin bahwa pertanyaan ini telah dipelajari dalam literatur statistik sebelumnya, sehingga referensi, jika bukan hasil yang sebenarnya, akan sangat dihargai.

— Dilip Sarwate
sumber

Saya pikir Anda benar tentang hal itu menjadi nilai terbesar yang mungkin, dan saya juga terkejut bahwa tidak masalah. Keren.

c

$c$

— Peter Flom - Pasang kembali Monica

7

c

$c$ seharusnya tidak mempengaruhi hasil sebagai

\frac{σ_{x}}{\bar{x}}

$\frac{\sigma_x}{\bar{x}}$ tidak berubah jika semua nilai dikalikan dengan konstanta positif

k

$k$ .

— Henry

15

Geometri memberikan wawasan dan ketidaksetaraan klasik yang memberi akses mudah ke ketelitian.

Solusi geometris

Kita tahu, dari geometri kuadrat terkecil , bahwa $\mathbf{\bar{x}} = (\bar{x}, \bar{x}, \ldots, \bar{x})$ adalah proyeksi orthogonal dari vektor data $\mathbf{x}=(x_1, x_2, \ldots, x_n)$ ke subruang linier yang dihasilkan oleh vektor konstan $(1,1,\ldots,1)$ dan $\sigma_x$ berbanding lurus dengan jarak (Euclidean) antara $\mathbf{x}$ dan $\mathbf{\bar{x}}.$ Batasan non-negatif adalah linear dan jarak adalah fungsi cembung, di mana jarak ekstrem harus dicapai di tepi kerucut yang ditentukan oleh kendala. Kerucut ini adalah ortant positif dalam $\mathbb{R}^n$ dan ujung-ujungnya adalah sumbu koordinat, yang segera mengikuti bahwa semua kecuali satu dari $x_i$ harus nol pada jarak maksimum. Untuk sekumpulan data seperti itu, perhitungan langsung (sederhana) menunjukkan $\sigma_x/\bar{x}=\sqrt{n}.$

Solusi mengeksploitasi ketidaksetaraan klasik

$\sigma_x/\bar{x}$ dioptimalkan secara bersamaan dengan transformasi monotoniknya. Mengingat hal ini, mari kita maksimalkan

\frac{x_{1}^{2} + x_{2}^{2} + \dots + x_{n}^{2}}{(x_{1} + x_{2} + \dots + x_{n})^{2}} = \frac{1}{n} (\frac{n - 1}{n} {(\frac{σ_{x}}{\bar{x}})}^{2} + 1) = f (\frac{σ_{x}}{\bar{x}}) .

$\frac{x_1^2+x_2^2+\ldots+x_n^2}{(x_1+x_2+\ldots+x_n)^2} = \frac{1}{n}\left(\frac{n-1}{n}\left(\frac{\sigma_x}{\bar{x}}\right)^2+1\right) = f\left(\frac{\sigma_x}{\bar{x}}\right).$

(Rumus untuk $f$ mungkin terlihat misterius sampai Anda menyadarinya hanya merekam langkah-langkah yang akan diambil seseorang dalam memanipulasi aljabar $\sigma_x/\bar{x}$ untuk membuatnya menjadi bentuk yang tampak sederhana, yang merupakan sisi kiri.)

Cara mudah dimulai dengan Ketimpangan Pemegang ,

x_{1}^{2} + x_{2}^{2} + \dots + x_{n}^{2} \leq (x_{1} + x_{2} + \dots + x_{n}) max ({x_{i}}) .

$x_1^2+x_2^2+\ldots+x_n^2 \le \left(x_1+x_2+\ldots+x_n\right)\max(\{x_i\}).$

(Ini tidak memerlukan bukti khusus dalam konteks sederhana ini: hanya ganti satu faktor dari setiap istilah dengan maksimum komponen : jelas jumlah kuadrat tidak akan berkurang. istilah umum menghasilkan sisi kanan ketidaksetaraan.) $x_i^2 = x_i \times x_i$ $\max(\{x_i\})$ $\max(\{x_i\})$

Karena tidak semua (yang akan meninggalkan terdefinisi), pembagian dengan kuadrat dari jumlah mereka adalah valid dan memberikan setara ketimpangan $x_i$ $0$ $\sigma_x/\bar{x}$

\frac{x_{1}^{2} + x_{2}^{2} + \dots + x_{n}^{2}}{(x_{1} + x_{2} + \dots + x_{n})^{2}} \leq \frac{max ({x_{i}})}{x_{1} + x_{2} + \dots + x_{n}} .

$\frac{x_1^2+x_2^2+\ldots+x_n^2}{(x_1+x_2+\ldots+x_n)^2} \le \frac{\max(\{x_i\})}{x_1+x_2+\ldots+x_n}.$

Karena penyebut tidak boleh kurang dari pembilang (yang itu sendiri hanya salah satu istilah dalam penyebut), sisi kanan didominasi oleh nilai , yang dicapai hanya ketika semua kecuali satu dari sama dengan . Dari mana $1$ $x_i$ $0$

\frac{σ_{x}}{\bar{x}} \leq f^{- 1} (1) = \sqrt{(1 \times (n - 1)) \frac{n}{n - 1}} = \sqrt{n} .

$\frac{\sigma_x}{\bar{x}} \le f^{-1}\left(1\right) = \sqrt{\left(1 \times (n - 1)\right)\frac{n}{n-1}}=\sqrt{n}.$

Pendekatan alternatif

Karena adalah nonnegatif dan tidak bisa berjumlah , nilai-nilai menentukan distribusi probabilitas pada . Menulis untuk jumlah dari , kita mengenali $x_i$ $0$ $p(i) = x_i/(x_1+x_2+\ldots+x_n)$ $F$ $\{1,2,\ldots,n\}$ $s$ $x_i$

\begin{aligned} \frac{x_{1}^{2} + x_{2}^{2} + \dots + x_{n}^{2}}{(x_{1} + x_{2} + \dots + x_{n})^{2}} & = \frac{x_{1}^{2} + x_{2}^{2} + \dots + x_{n}^{2}}{s^{2}} \\ = (\frac{x_{1}}{s}) (\frac{x_{1}}{s}) + (\frac{x_{2}}{s}) (\frac{x_{2}}{s}) + \dots + (\frac{x_{n}}{s}) (\frac{x_{n}}{s}) \\ = p_{1} p_{1} + p_{2} p_{2} + \dots + p_{n} p_{n} \\ = E_{F} [p] . \end{aligned}

$\eqalign{ \frac{x_1^2+x_2^2+\ldots+x_n^2}{(x_1+x_2+\ldots+x_n)^2} &= \frac{x_1^2+x_2^2+\ldots+x_n^2}{s^2} \\ &= \left(\frac{x_1}{s}\right)\left(\frac{x_1}{s}\right)+\left(\frac{x_2}{s}\right)\left(\frac{x_2}{s}\right) + \ldots + \left(\frac{x_n}{s}\right)\left(\frac{x_n}{s}\right)\\ &= p_1 p_1 + p_2 p_2 + \ldots + p_n p_n\\ &= \mathbb{E}_F[p]. }$

The axiomatic fact that no probability can exceed $1$ implies this expectation cannot exceed $1$ , either, but it's easy to make it equal to $1$ by setting all but one of the $p_i$ equal to $0$ and therefore exactly one of the $x_i$ is nonzero. Compute the coefficient of variation as in the last line of the geometric solution above.

— whuber
sumber

\sqrt{n}

$\sqrt{n}$

\sqrt{n - 1}

$\sqrt{n-1}$

σ_{x} = \sqrt{\frac{1}{n - 1} \sum_{i = 1}^{n} (x_{i} - \bar{x})^{2}}

$\sigma_x = \sqrt{\frac{1}{n-1}\sum_{i=1}^n(x_i-\bar{x})^2}$ as the definition of

σ_{x}

$\sigma_x$ while I used

σ_{x} = \sqrt{\frac{1}{n} \sum_{i = 1}^{n} (x_{i} - \bar{x})^{2}} ?

$\sigma_x = \sqrt{\frac{1}{n}\sum_{i=1}^n(x_i-\bar{x})^2}?$

— Dilip Sarwate

1

Yes Dilip, that's right. Sorry about the discrepancy with the question; I should have checked first and I should have defined

σ_{x}

$\sigma_x$ (which I intended to do but forgot).

— whuber

10

Some references, as small candles on the cakes of others:

Katsnelson and Kotz (1957) proved that so long as all $x_i \ge 0$ , then the coeﬃcient of variation cannot exceed $\sqrt{n − 1}$ . This result was mentioned earlier by Longley (1952). Cramér (1946, p.357) proved a less sharp result, and Kirby (1974) proved a less general result.

Cramér, H. 1946. Mathematical methods of statistics. Princeton, NJ: Princeton University Press.

Katsnelson, J., and S. Kotz. 1957. On the upper limits of some measures of variability. Archiv für Meteorologie, Geophysik und Bioklimatologie, Series B 8: 103–107.

Kirby, W. 1974. Algebraic boundedness of sample statistics. Water Resources Research 10: 220–222.

Longley, R. W. 1952. Measures of the variability of precipitation. Monthly Weather Review 80: 111–117.

I came across these papers in working on

Cox, N.J. 2010. The limits of sample skewness and kurtosis. Stata Journal 10: 482-495.

which discusses broadly similar bounds on moment-based skewness and kurtosis.

— Nick Cox
sumber

8

With two numbers $x_i \ge x_j$ , some $\delta \gt 0$ and any $\mu$ :

(x_{i} + δ - μ)^{2} + (x_{j} - δ - μ)^{2} - (x_{i} - μ)^{2} - (x_{j} - μ)^{2} = 2 δ (x_{i} - x_{j} + δ) > 0.

$(x_i+\delta - \mu)^2 + (x_j - \delta - \mu)^2 - (x_i - \mu)^2 - (x_j - \mu)^2 = 2\delta(x_i - x_j +\delta) \gt 0.$

Applying this to $n$ non-negative datapoints, this means that unless all but one of the $n$ numbers are zero and so cannot be reduced further, it is possible to increase the variance and standard deviation by widening the gap between any pair of the data points while retaining the same mean, thus increasing the coefficient of variation. So the maximum coefficient of variation for the data set is as you suggest: $\sqrt{n-1}$ .

$c$ should not affect the result as $\frac{\sigma_x}{\bar{x}}$ does not change if all the values are multiplied by any positive constant $k$ (as I said in my comment).

— Henry
sumber