Mengapa kita menggunakan rumus standar deviasi yang bias dan menyesatkan untuk distribusi normal?

Itu sedikit mengejutkan bagi saya ketika pertama kali saya melakukan simulasi distribusi normal Monte Carlo dan menemukan bahwa rata-rata standar deviasi dari sampel, semuanya memiliki ukuran sampel hanya , terbukti jauh lebih sedikit. dari, yaitu rata-rata kali, digunakan untuk menghasilkan populasi. Namun, ini terkenal, jika jarang diingat, dan saya agak tahu, atau saya tidak akan melakukan simulasi. Berikut ini simulasi.$100$$100$$n=2$$\sqrt{\frac{2}{\pi }}$$\sigma$

Berikut adalah contoh untuk memprediksi interval kepercayaan 95% dari menggunakan 100, , perkiraan , dan .$N(0,1)$$n=2$$\text{SD}$$\text{E}(s_{n=2})=\sqrt\frac{\pi}{2}\text{SD}$

 RAND()   RAND()    Calc    Calc    
 N(0,1)   N(0,1)    SD      E(s)    
-1.1171  -0.0627    0.7455  0.9344  
 1.7278  -0.8016    1.7886  2.2417  
 1.3705  -1.3710    1.9385  2.4295  
 1.5648  -0.7156    1.6125  2.0209  
 1.2379   0.4896    0.5291  0.6632  
-1.8354   1.0531    2.0425  2.5599  
 1.0320  -0.3531    0.9794  1.2275  
 1.2021  -0.3631    1.1067  1.3871  
 1.3201  -1.1058    1.7154  2.1499  
-0.4946  -1.1428    0.4583  0.5744  
 0.9504  -1.0300    1.4003  1.7551  
-1.6001   0.5811    1.5423  1.9330  
-0.5153   0.8008    0.9306  1.1663  
-0.7106  -0.5577    0.1081  0.1354  
 0.1864   0.2581    0.0507  0.0635  
-0.8702  -0.1520    0.5078  0.6365  
-0.3862   0.4528    0.5933  0.7436  
-0.8531   0.1371    0.7002  0.8775  
-0.8786   0.2086    0.7687  0.9635  
 0.6431   0.7323    0.0631  0.0791  
 1.0368   0.3354    0.4959  0.6216  
-1.0619  -1.2663    0.1445  0.1811  
 0.0600  -0.2569    0.2241  0.2808  
-0.6840  -0.4787    0.1452  0.1820  
 0.2507   0.6593    0.2889  0.3620  
 0.1328  -0.1339    0.1886  0.2364  
-0.2118  -0.0100    0.1427  0.1788  
-0.7496  -1.1437    0.2786  0.3492  
 0.9017   0.0022    0.6361  0.7972  
 0.5560   0.8943    0.2393  0.2999  
-0.1483  -1.1324    0.6959  0.8721  
-1.3194  -0.3915    0.6562  0.8224  
-0.8098  -2.0478    0.8754  1.0971  
-0.3052  -1.1937    0.6282  0.7873  
 0.5170  -0.6323    0.8127  1.0186  
 0.6333  -1.3720    1.4180  1.7772  
-1.5503   0.7194    1.6049  2.0115  
 1.8986  -0.7427    1.8677  2.3408  
 2.3656  -0.3820    1.9428  2.4350  
-1.4987   0.4368    1.3686  1.7153  
-0.5064   1.3950    1.3444  1.6850  
 1.2508   0.6081    0.4545  0.5696  
-0.1696  -0.5459    0.2661  0.3335  
-0.3834  -0.8872    0.3562  0.4465  
 0.0300  -0.8531    0.6244  0.7826  
 0.4210   0.3356    0.0604  0.0757  
 0.0165   2.0690    1.4514  1.8190  
-0.2689   1.5595    1.2929  1.6204  
 1.3385   0.5087    0.5868  0.7354  
 1.1067   0.3987    0.5006  0.6275  
 2.0015  -0.6360    1.8650  2.3374  
-0.4504   0.6166    0.7545  0.9456  
 0.3197  -0.6227    0.6664  0.8352  
-1.2794  -0.9927    0.2027  0.2541  
 1.6603  -0.0543    1.2124  1.5195  
 0.9649  -1.2625    1.5750  1.9739  
-0.3380  -0.2459    0.0652  0.0817  
-0.8612   2.1456    2.1261  2.6647  
 0.4976  -1.0538    1.0970  1.3749  
-0.2007  -1.3870    0.8388  1.0513  
-0.9597   0.6327    1.1260  1.4112  
-2.6118  -0.1505    1.7404  2.1813  
 0.7155  -0.1909    0.6409  0.8033  
 0.0548  -0.2159    0.1914  0.2399  
-0.2775   0.4864    0.5402  0.6770  
-1.2364  -0.0736    0.8222  1.0305  
-0.8868  -0.6960    0.1349  0.1691  
 1.2804  -0.2276    1.0664  1.3365  
 0.5560  -0.9552    1.0686  1.3393  
 0.4643  -0.6173    0.7648  0.9585  
 0.4884  -0.6474    0.8031  1.0066  
 1.3860   0.5479    0.5926  0.7427  
-0.9313   0.5375    1.0386  1.3018  
-0.3466  -0.3809    0.0243  0.0304  
 0.7211  -0.1546    0.6192  0.7760  
-1.4551  -0.1350    0.9334  1.1699  
 0.0673   0.4291    0.2559  0.3207  
 0.3190  -0.1510    0.3323  0.4165  
-1.6514  -0.3824    0.8973  1.1246  
-1.0128  -1.5745    0.3972  0.4978  
-1.2337  -0.7164    0.3658  0.4585  
-1.7677  -1.9776    0.1484  0.1860  
-0.9519  -0.1155    0.5914  0.7412  
 1.1165  -0.6071    1.2188  1.5275  
-1.7772   0.7592    1.7935  2.2478  
 0.1343  -0.0458    0.1273  0.1596  
 0.2270   0.9698    0.5253  0.6583  
-0.1697  -0.5589    0.2752  0.3450  
 2.1011   0.2483    1.3101  1.6420  
-0.0374   0.2988    0.2377  0.2980  
-0.4209   0.5742    0.7037  0.8819  
 1.6728  -0.2046    1.3275  1.6638  
 1.4985  -1.6225    2.2069  2.7659  
 0.5342  -0.5074    0.7365  0.9231  
 0.7119   0.8128    0.0713  0.0894  
 1.0165  -1.2300    1.5885  1.9909  
-0.2646  -0.5301    0.1878  0.2353  
-1.1488  -0.2888    0.6081  0.7621  
-0.4225   0.8703    0.9141  1.1457  
 0.7990  -1.1515    1.3792  1.7286  

 0.0344  -0.1892    0.8188  1.0263  mean E(.)
                    SD pred E(s) pred   
-1.9600  -1.9600   -1.6049 -2.0114    2.5%  theor, est
 1.9600   1.9600    1.6049  2.0114   97.5%  theor, est
                    0.3551 -0.0515    2.5% err
                   -0.3551  0.0515   97.5% err

Seret slider ke bawah untuk melihat jumlah total. Sekarang, saya menggunakan estimator SD biasa untuk menghitung interval kepercayaan 95% di sekitar rata-rata nol, dan mereka mati dengan 0,3551 unit standar deviasi. Estimator E dimatikan oleh hanya 0,01515 unit standar deviasi. Jika seseorang memperkirakan standar deviasi, kesalahan standar rata-rata, atau t-statistik, mungkin ada masalah.

Alasan saya adalah sebagai berikut, mean populasi, , dari dua nilai dapat berada di mana saja sehubungan dengan dan jelas tidak terletak di , yang terakhir menghasilkan jumlah minimum absolut yang mungkin. kuadrat sehingga kita meremehkan secara substansial, sebagai berikutx 1 x 1 + x $\mu$$x_1$$\frac{x_1+x_2}{2}$$\sigma$

wlog, biarkan , lalu adalah , hasil yang paling tidak mungkin.Σ n i = 1 ( x i - ˉ x ) 2 2 ( $x_2-x_1=d$$\Sigma_{i=1}^{n}(x_i-\bar{x})^2$$2 (\frac{d}{2})^2=\frac{d^2}{2}$

Itu berarti standar deviasi dihitung sebagai

$\text{SD}=\sqrt{\frac{\Sigma_{i=1}^{n}(x_i-\bar{x})^2}{n-1}}$ ,

adalah penaksir yang bias dari standar deviasi populasi ( ). Perhatikan, dalam formula itu kita mengurangi derajat kebebasan oleh 1 dan membaginya dengan , yaitu, kita melakukan beberapa koreksi, tetapi hanya asimtotik yang benar, dan akan menjadi aturan praktis yang lebih baik . Untuk contoh, rumus akan memberi kita , nilai minimum yang tidak masuk akal secara statistik sebagai , di mana nilai yang lebih baik diharapkan ( ) akann n - 1 n - 3 / 2 x 2 - x 1 = d SD S D = $\sigma$$n$$n-1$$n-3/2$$x_2-x_1=d$$\text{SD}$μ≠ˉxsE(s)=$SD=\frac{d}{\sqrt 2}\approx 0.707d$$\mu\neq \bar{x}$$s$n<10SDσn25n<25n=$E(s)=\sqrt{\frac{\pi }{2}}\frac{d}{\sqrt 2}=\frac{\sqrt\pi }{2}d\approx0.886d$. Untuk kalkulasi biasa, untuk , s menderita underestimasi yang sangat signifikan yang disebut bias angka kecil , yang hanya mendekati 1% terlalu rendah dari ketika kira-kira . Karena banyak percobaan biologi memiliki , ini memang masalah. Untuk , kesalahannya sekitar 25 bagian dalam 100.000. Secara umum, koreksi bias jumlah kecil menyiratkan bahwa estimator tidak bias dari standar deviasi populasi dari distribusi normal adalah$n<10$$\text{SD}$$\sigma$$n$$25$$n<25$$n=1000$

$\text{E}(s)\,=\,\,\frac{\Gamma\left(\frac{n-1}{2}\right)}{\Gamma\left(\frac{n}{2}\right)}\sqrt{\frac{\Sigma_{i=1}^{n}(x_i-\bar{x})^2}{2}}>\text{SD}=\sqrt{\frac{\Sigma_{i=1}^{n}(x_i-\bar{x})^2}{n-1}}\; .$

Dari Wikipedia di bawah lisensi creative commons, seseorang memiliki plot perkiraan SD yang terlalu rendah dari$\sigma$

Karena SD adalah penaksir yang bias dari standar deviasi populasi, ia tidak bisa menjadi penaksir tidak bias varians minimum MVUE dari deviasi standar populasi kecuali jika kami senang mengatakan bahwa itu adalah MVUE sebagai , yang saya, salah satunya, tidak.$n\rightarrow \infty$

Mengenai distribusi non-normal dan sekitar bias baca ini .$SD$

Sekarang muncul pertanyaan Q1

Bisakah dibuktikan bahwa atas adalah MVUE untuk dari distribusi normal ukuran sampel , di mana adalah bilangan bulat positif lebih besar dari satu?σ n $\text{E}(s)$$\sigma$$n$$n$

Petunjuk: (Tapi bukan jawabannya) lihat Bagaimana saya bisa menemukan standar deviasi dari standar sampel deviasi dari distribusi normal? .

Pertanyaan selanjutnya, Q2

Bisakah seseorang tolong jelaskan kepada saya mengapa kami menggunakan karena biasnya jelas dan menyesatkan? Artinya, mengapa tidak menggunakan untuk sebagian besar segalanya? $\text{SD}$$\text{E}(s)$Tambahan, telah menjadi jelas dalam jawaban di bawah ini bahwa varians tidak bias, tetapi akar kuadratnya bias. Saya akan meminta jawaban menjawab pertanyaan kapan standar deviasi harus digunakan.

Ternyata, jawaban parsial adalah bahwa untuk menghindari bias dalam simulasi di atas, varians bisa lebih rata-rata daripada nilai-SD. Untuk melihat efeknya, jika kita kuadratkan kolom SD di atas, dan rata-rata nilai-nilai itu kita dapatkan 0,9994, akar kuadrat yang merupakan perkiraan standar deviasi 0,9996915 dan kesalahan yang hanya 0,0006 untuk ekor 2,5% dan -0.0006 untuk ekor 95%. Perhatikan bahwa ini karena varians bersifat aditif, jadi rata-rata variasinya adalah prosedur kesalahan rendah. Namun, penyimpangan standar bias, dan dalam kasus-kasus di mana kita tidak memiliki kemewahan menggunakan varians sebagai perantara, kita masih perlu koreksi sejumlah kecil. Bahkan jika kita dapat menggunakan varians sebagai perantara, dalam hal ini untuk$n=100$, koreksi sampel kecil menyarankan mengalikan akar kuadrat dari varians tidak bias 0,9996915 dengan 1,002528401 untuk memberikan 1,002219148 sebagai perkiraan standar deviasi yang tidak bias. Jadi, ya, kita bisa menunda menggunakan koreksi jumlah kecil tetapi karena itu haruskah kita mengabaikannya sepenuhnya?

Pertanyaannya di sini adalah kapan kita harus menggunakan koreksi jumlah kecil, sebagai lawan mengabaikan penggunaannya, dan sebagian besar, kita telah menghindari penggunaannya.

Berikut adalah contoh lain, jumlah minimum poin dalam ruang untuk membangun tren linier yang memiliki kesalahan adalah tiga. Jika kita cocok dengan titik-titik ini dengan kuadrat terkecil biasa hasilnya untuk banyak kecocokan tersebut adalah pola residual normal terlipat jika ada non-linearitas dan setengah normal jika ada linearitas. Dalam kasus setengah normal, rata-rata distribusi kami memerlukan sedikit koreksi. Jika kita mencoba trik yang sama dengan 4 atau lebih poin, distribusi umumnya tidak akan terkait normal atau mudah dikarakterisasi. Bisakah kita menggunakan varians entah bagaimana menggabungkan hasil 3-point itu? Mungkin, mungkin juga tidak. Namun, lebih mudah untuk memahami masalah dalam hal jarak dan vektor.

Untuk pertanyaan yang lebih terbatas

Mengapa rumus standar deviasi bias biasanya digunakan?

jawaban sederhana

Karena penduga varians terkait tidak bias. Tidak ada pembenaran matematika / statistik yang nyata.

mungkin akurat dalam banyak kasus.

Namun, ini tidak selalu selalu demikian. Setidaknya ada dua aspek penting dari masalah ini yang harus dipahami.

Pertama, varians sampel tidak hanya tidak bias untuk variabel acak Gaussian. Ini tidak bias untuk distribusi apa pun dengan varian hingga σ 2 (seperti yang dibahas di bawah, dalam jawaban asli saya). Pertanyaannya mencatat bahwa s tidak bias untuk σ , dan menyarankan alternatif yang tidak bias untuk variabel acak Gaussian. Namun penting untuk dicatat bahwa tidak seperti varians, untuk deviasi standar tidak mungkin untuk memiliki estimator yang tidak bias "bebas distribusi" (* lihat catatan di bawah).$s^2$$\sigma^2$$s$$\sigma$

Kedua, sebagaimana disebutkan dalam komentar oleh whuber fakta bahwa bias tidak memengaruhi standar "uji t". Perhatikan pertama bahwa, untuk variabel Gaussian x , jika kita memperkirakan skor-z dari sampel { x i } sebagai z i = x i - $s$$x$$\{x_i\}$ maka ini akan menjadi bias.

$$z_i=\frac{x_i-\mu}{\sigma}\approx\frac{x_i-\bar{x}}{s}$$

Namun t statistik biasanya digunakan dalam konteks distribusi sampling dari . Dalam hal ini skor- z adalah z ˉ x = ˉ x - $\bar{x}$ meskipun kita tidak dapat menghitungzataut, karena kita tidak tahuμ. Meskipun demikian, jikastatistikz ˉ x akan normal, makastatistiktakan mengikuti distribusi Student-t. Ini bukan-besarnpendekatan. Satu-satunya asumsi adalah bahwaxsampel adalah iid Gaussian.

$$z_{\bar{x}}=\frac{\bar{x}-\mu}{\sigma_{\bar{x}}}\approx\frac{\bar{x}-\mu}{s/\sqrt{n}}=t$$ $z$$t$$\mu$$z_{\bar{x}}$$t$$n$$x$

(Umumnya uji-t diterapkan lebih luas untuk kemungkinan non-Gaussian . Hal ini bergantung pada besar- n , yang menurut teorema batas pusat memastikan bahwa ˉ x masih akan menjadi Gaussian.)$x$$n$$\bar{x}$

---

* Klarifikasi tentang "penaksir tidak bias bebas distribusi"

Dengan "bebas distribusi", maksud saya bahwa penaksir tidak dapat bergantung pada informasi tentang populasi selain dari sampel { x 1 , ... , x n } . Dengan "berisi" Maksudku bahwa kesalahan diharapkan E [ θ n ] - θ adalah seragam nol, independen dari ukuran sampel n . (Berbeda dengan penduga yang hanya tidak bias asimptot , alias " konsisten ", yang biasnya menghilang sebagai n → ∞ .)$x$$\{x_1,\ldots,x_n\}$$\mathbb{E}[\hat{\theta}_n]-\theta$$n$$n\to\infty$

Dalam komentar ini diberikan sebagai contoh yang memungkinkan dari "penaksir tidak bias bebas distribusi". Abstrak sedikit, estimator ini adalah dari bentuk σ = f [ s , n , κ x ] , di mana κ x adalah kelebihan kurtosis dari x . Estimator ini bukan "bebas distribusi", karena κ x tergantung pada distribusi x . Estimator dikatakan memuaskan E [ σ ] - σ x = O [ 1$\hat{\sigma}=f[s,n,\kappa_x]$$\kappa_x$$x$$\kappa_x$$x$, di manaσ 2 x adalah varian darix. Oleh karena itu estimator konsisten, tetapi tidak (mutlak) "tidak bias", sepertiO[$\mathbb{E}[\hat{\sigma}]-\sigma_x=\mathrm{O}[\frac{1}{n}]$$\sigma_x^2$$x$dapat besar secara sewenang-wenang untuk keciln.$\mathrm{O}[\frac{1}{n}]$$n$

---

Catatan: Di bawah ini adalah "jawaban" asli saya. Dari sini, komentarnya adalah tentang rata-rata "sampel" rata-rata dan varians, yang merupakan penaksir tidak bias "bebas distribusi" (yaitu populasi tidak dianggap sebagai Gaussian).

Ini bukan jawaban yang lengkap, tetapi lebih merupakan klarifikasi mengapa rumus varians sampel umumnya digunakan.

Diberikan sampel acak , selama variabel memiliki rata-rata yang sama, estimator ˉ x = $\{x_1,\ldots,x_n\}$akan tidakbias, yaitu E[xi]=$\bar{x}=\frac{1}{n}\sum_ix_i$

$$\mathbb{E}[x_i]=\mu \implies \mathbb{E}[\bar{x}]=\mu$$

Jika variabel juga memiliki varians terbatas yang umum, dan mereka tidak berkorelasi , maka estimator akanjugamenjadi berisi, yaitu E[xixj]-μ2={ σ 2 i = j 0 i ≠ $s^2=\frac{1}{n-1}\sum_i(x_i-\bar{x})^2$ Perhatikan bahwa ketidakberpihakan penaksir inihanyabergantungpada asumsi di atas (danlinearitasharapan; buktinya hanya aljabar). Hasilnyatidaktergantung pada distribusi tertentu, seperti Gaussian. Variabel x i dotidakharus memiliki distribusi yang sama, dan mereka bahkan tidak harusindependen(yaitu sampel tidak harusiid).

$$\mathbb{E}[x_ix_j]-\mu^2=\begin{cases}\sigma^2&i=j\\0&i\neq{j}\end{cases} \implies \mathbb{E}[s^2]=\sigma^2$$ $x_i$

The "deviasi standar sampel" adalah bukan merupakan berisi estimator, s ≠ σ , tapi tetap saja itu umumnya digunakan. Dugaan saya adalah bahwa ini hanya karena itu adalah akar kuadrat dari varians sampel yang tidak bias. (Tanpa pembenaran yang lebih canggih.)$s$$\mathbb{s}\neq\sigma$

Dalam kasus sampel Gaussian iid, yang estimasi maksimum likelihood (MLE) dari parameter yang μ M L E = ˉ x dan ( σ 2 ) M L E = n - 1$\hat{\mu}_\mathrm{MLE}=\bar{x}$, yaitu varians membaginya denganndaripadan2. Selain itu, dalam kasus Iid Gaussian, standar deviasi MLE hanyalah akar kuadrat dari varian MLE. Namun formula ini, serta yang diisyaratkan dalam pertanyaan Anda, bergantung pada asumsi Gaussian iid.$(\hat{\sigma}^2)_\mathrm{MLE}=\frac{n-1}{n}s^2$$n$$n^2$

---

Pembaruan: Klarifikasi tambahan tentang "bias" vs. "tidak bias".

Pertimbangkan sampel elemen seperti di atas, X = { x 1 , ... , x n } , dengan penjumlahan kuadrat δ 2 n = ∑ i ( x i - ˉ x ) 2 Dengan asumsi yang diuraikan pada bagian pertama di atas , kita tentu memiliki E [ δ 2 n ] = ( n - 1 ) σ 2 sehingga penaksir (Gaussian-) MLE menjadi bias ^ σ $n$$X=\{x_1,\ldots,x_n\}$

$$\delta^2_n=\sum_i(x_i-\bar{x})^2$$ $$\mathbb{E}[\delta^2_n]=(n-1)\sigma^2$$ sedangkan estimator "varians sampel" tidak bias s 2 n = $$\widehat{\sigma^2_n}=\tfrac{1}{n}\delta^2_n \implies \mathbb{E}[\widehat{\sigma^2_n}]=\tfrac{n-1}{n}\sigma^2$$ $$s^2_n=\tfrac{1}{n-1}\delta^2_n \implies \mathbb{E}[s^2_n]=\sigma^2$$

Sekarang benar bahwa menjadi kurang bias karena ukuran sampel n meningkat. Namun s 2 n memiliki bias nol tidak peduli ukuran sampel (asalkan n > 1 ). Untuk kedua penduga, varians dari distribusi pengambilan sampel mereka akan menjadi nol, dan tergantung pada n .$\widehat{\sigma^2_n}$$n$$s^2_n$$n>1$$n$

Sebagai contoh, kode Matlab di bawah ini menganggap percobaan dengan sampel dari populasi standar-normal z . Untuk memperkirakan distribusi sampling untuk ˉ x , ^ σ 2 , s 2 , percobaan diulangi N = 10 6 kali. (Anda dapat memotong & menempelkan kode di sini untuk mencobanya sendiri.)$n=2$$z$$\bar{x},\widehat{\sigma^2},s^2$$N=10^6$

% n=sample size, N=number of samples
n=2; N=1e6;
% generate standard-normal random #'s
z=randn(n,N); % i.e. mu=0, sigma=1
% compute sample stats (Gaussian MLE)
zbar=sum(z)/n; zvar_mle=sum((z-zbar).^2)/n;
% compute ensemble stats (sampling-pdf means)
zbar_avg=sum(zbar)/N, zvar_mle_avg=sum(zvar_mle)/N
% compute unbiased variance
zvar_avg=zvar_mle_avg*n/(n-1)

Output khasnya seperti

zbar_avg     =  1.4442e-04
zvar_mle_avg =  0.49988
zvar_avg     =  0.99977

mengkonfirmasikan bahwa

$$\begin{align} \mathbb{E}[\bar{z}]&\approx\overline{(\bar{z})}\approx\mu=0 \\ \mathbb{E}[s^2]&\approx\overline{(s^2)}\approx\sigma^2=1 \\ \mathbb{E}[\widehat{\sigma^2}]&\approx\overline{(\widehat{\sigma^2})}\approx\frac{n-1}{n}\sigma^2=\frac{1}{2} \end{align}$$

---

Pembaruan 2: Catatan tentang sifat "aljabar" fundamental yang tidak memihak.

Dalam demonstrasi numerik di atas, kode tersebut mendekati perkiraan sebenarnya menggunakan rata-rata ensemble dengan N = 10 6 ulangan percobaan (yaitu masing-masing adalah sampel ukuran n = 2 ). Bahkan dengan jumlah yang besar ini, hasil tipikal yang dikutip di atas masih jauh dari tepat.$\mathbb{E}[\,]$$N=10^6$$n=2$

Untuk menunjukkan secara numerik bahwa estimator benar - benar tidak bias, kita dapat menggunakan trik sederhana untuk memperkirakan kasus : cukup tambahkan baris berikut ke kode$N\to\infty$

% optional: "whiten" data (ensure exact ensemble stats)
[U,S,V]=svd(z-mean(z,2),'econ'); z=sqrt(N)*U*V';

(menempatkan setelah "menghasilkan standar-normal acak #" dan sebelum "menghitung statistik sampel")

Dengan perubahan sederhana ini, bahkan menjalankan kode dengan memberikan hasil seperti$N=10$

zbar_avg     =  1.1102e-17
zvar_mle_avg =  0.50000
zvar_avg     =  1.00000

The sample standard deviation $S=\sqrt{\frac{\sum (X - \bar{X})^2}{n-1}}$ is complete and sufficient for $\sigma$ so the set of unbiased estimators of $\sigma^k$ given by

$$\frac{(n-1)^\frac{k}{2}}{2^\frac{k}{2}} \cdot \frac{\Gamma\left(\frac{n-1}{2}\right)}{\Gamma\left(\frac{n+k-1}{2}\right)} \cdot S^k = \frac{S^k}{c_k}$$

(See Why is sample standard deviation a biased estimator of $\sigma$?) are, by the Lehmann–Scheffé theorem, UMVUE. Consistent, though biased, estimators of $\sigma^k$ can also be formed as

$$\tilde{\sigma}^k_j= \left(\frac{S^j}{c_j}\right)^\frac{k}{j}$$

(the unbiased estimators being specified when $j=k$). The bias of each is given by

$$\operatorname{E}\tilde{\sigma}^k_j - \sigma^k =\left( \frac{c_k}{c_j^\frac{k}{j}} -1 \right) \sigma^k$$

& its variance by

$$\operatorname{Var}\tilde{\sigma}^{k}_j=\operatorname{E}\tilde{\sigma}^{2k}_j - \left(\operatorname{E}\tilde{\sigma}^k_j\right)^2=\frac{c_{2k}-c_k^2}{c_j^\frac{2k}{j}} \sigma^{2k}$$

For the two estimators of $\sigma$ you've considered, $\tilde{\sigma}^1_1=\frac{S}{c_1}$ & $\tilde{\sigma}^1_2=S$, the lack of bias of $\tilde{\sigma}_1$ is more than offset by its larger variance when compared to $\tilde{\sigma}_2$:

$$\begin{align} \operatorname{E}\tilde{\sigma}_1 - \sigma &= 0 \\ \operatorname{E}\tilde{\sigma}_2 - \sigma &=(c_1 -1) \sigma \\ \operatorname{Var}\tilde{\sigma}_1 =\operatorname{E}\tilde{\sigma}^{2}_1 - \left(\operatorname{E}\tilde{\sigma}^1_1\right)^2 &=\frac{c_{2}-c_1^2}{c_1^2} \sigma^{2} = \left(\frac{1}{c_1^2}-1\right) \sigma^2 \\ \operatorname{Var}\tilde{\sigma}_2 =\operatorname{E}\tilde{\sigma}^{2}_1 - \left(\operatorname{E}\tilde{\sigma}_2\right)^2 &=\frac{c_{2}-c_1^2}{c_2} \sigma^{2}=(1-c_1^2)\sigma^2 \end{align}$$ (Note that $c_2=1$, as $S^2$ is already an unbiased estimator of $\sigma^2$.)

The mean square error of $a_k S^k$ as an estimator of $\sigma^2$ is given by

$$\begin{align} (\operatorname{E} a_k S^k - \sigma^k)^2 + \operatorname{E} (a_k S^k)^2 - (\operatorname{E} a_k S^k)^2 &= [ (a_k c_k -1)^2 + a_k^2 c_{2k} - a_k^2 c_k^2 ] \sigma^{2k}\\ &= ( a_k^2 c_{2k} -2 a_k c_k + 1 ) \sigma^{2k} \end{align}$$

& therefore minimized when

$$a_k = \frac{c_k}{c_{2k}}$$

, allowing the definition of another set of estimators of potential interest:

$$\hat{\sigma}^k_j= \left(\frac{c_j S^j}{c_{2j}}\right)^\frac{k}{j}$$

Curiously, $\hat{\sigma}^1_1=c_1S$, so the same constant that divides $S$ to remove bias multiplies $S$ to reduce MSE. Anyway, these are the uniformly minimum variance location-invariant & scale-equivariant estimators of $\sigma^k$ (you don't want your estimate to change at all if you measure in kelvins rather than degrees Celsius, & you want it to change by a factor of $\left(\frac{9}{5}\right)^k$ if you measure in Fahrenheit).

None of the above has any bearing on the construction of hypothesis tests or confidence intervals (see e.g. Why does this excerpt say that unbiased estimation of standard deviation usually isn't relevant?). And $\tilde{\sigma}^k_j$ & $\hat{\sigma}^k_j$ exhaust neither estimators nor parameter scales of potential interest—consider the maximum-likelihood estimator^† $\sqrt{\frac{n-1}{n}}S$, or the median-unbiased estimator $\sqrt{\frac{n-1}{\chi^2_{n-1}(0.5)}}S$; or the geometric standard deviation of a lognormal distribution $\mathrm{e}^\sigma$. It may be worth showing a few more-or-less popular estimates made from a small sample ($n=2$) together with the upper & lower bounds, $\sqrt{\frac{(n-1)s^2}{\chi^2_{n-1}(\alpha)}}$ & $\sqrt{\frac{(n-1)s^2}{\chi^2_{n-1}(1-\alpha)}}$, of the equal-tailed confidence interval having coverage $1-\alpha$:

The span between the most divergent estimates is negligible in comparison with the width of any confidence interval having decent coverage. (The 95% C.I., for instance, is $(0.45s,31.9s)$.) There's no sense in being finicky about the properties of a point estimator unless you're prepared to be fairly explicit about what you want you want to use it for—most explicitly you can define a custom loss function for a particular application. A reason you might prefer an exactly (or almost) unbiased estimator is that you're going to use it in subsequent calculations during which you don't want bias to accumulate: your illustration of averaging biased estimates of standard deviation is a simple example of such (a more complex example might be using them as a response in a linear regression). In principle an all-encompassing model should obviate the need for unbiased estimates as an intermediate step, but might be considerably more tricky to specify & fit.

† The value of $\sigma$ that makes the observed data most probable has an appeal as an estimate independent of consideration of its sampling distribution.

Q2: Would someone please explain to me why we are using SD anyway as it is clearly biased and misleading?

This came up as an aside in comments, but I think it bears repeating because it's the crux of the answer:

The sample variance formula is unbiased, and variances are additive. So if you expect to do any (affine) transformations, this is a serious statistical reason why you should insist on a "nice" variance estimator over a "nice" SD estimator.

In an ideal world, they'd be equivalent. But that's not true in this universe. You have to choose one, so you might as well choose the one that lets you combine information down the road.

Comparing two sample means? The variance of their difference is sum of their variances.
Doing a linear contrast with several terms? Get its variance by taking a linear combination of their variances.
Looking at regression line fits? Get their variance using the variance-covariance matrix of your estimated beta coefficients.
Using F-tests, or t-tests, or t-based confidence intervals? The F-test calls for variances directly; and the t-test is exactly equivalent to the square root of an F-test.

In each of these common scenarios, if you start with unbiased variances, you'll remain unbiased all the way (unless your final step converts to SDs for reporting).
Meanwhile, if you'd started with unbiased SDs, neither your intermediate steps nor the final outcome would be unbiased anyway.

This post is in outline form.

(1) Taking a square root is not an affine transformation (Credit @Scortchi.)

(2) ${\rm var}(s) = {\rm E} (s^2) - {\rm E}(s)^2$, thus ${\rm E}(s) = \sqrt{{\rm E}(s^2) -{\rm var}(s)}\neq{\sqrt{\rm var(s)}}$

(3) ${\rm var}(s)=\frac{\Sigma_{i=1}^{n}(x_i-\bar{x})^2}{n-1}$, whereas $\text{E}(s)\,=\,\,\frac{\Gamma\left(\frac{n-1}{2}\right)}{\Gamma\left(\frac{n}{2}\right)}\sqrt{\frac{\Sigma_{i=1}^{n}(x_i-\bar{x})^2}{2}}$$\neq\sqrt{\frac{\Sigma_{i=1}^{n}(x_i-\bar{x})^2}{n-1}}={\sqrt{\rm var(s)}}$

(4) Thus, we cannot substitute ${\sqrt{\rm var(s)}}$ for $\text{E}(s)$, for $n$ small, as square root is not affine.

(5) ${\rm var}(s)$ and $\text{E}(s)$ are unbiased (Credit @GeoMatt22 and @Macro, respectively).

(6) For non-normal distributions $\bar{x}$ is sometimes (a) undefined (e.g., Cauchy, Pareto with small $\alpha$) and (b) not UMVUE (e.g., Cauchy ($\rightarrow$ Student's-$t$ with $df=1$), Pareto, Uniform, beta). Even more commonly, variance may be undefined, e.g. Student's-$t$ with $1\leq df\leq2$. Then one can state that $\text{var}(s)$ is not UMVUE for the general case distribution. Thus, there is then no special onus to introducing an approximate small number correction for standard deviation, which likely has similar limitations to $\sqrt{\text{var}(s)}$, but is additionally less biased, $\hat\sigma = \sqrt{ \frac{1}{n - 1.5 - \tfrac14 \gamma_2} \sum_{i=1}^n (x_i - \bar{x})^2 }$ ,

where $\gamma_2$ is excess kurtosis. In a similar vein, when examining a normal squared distribution (a Chi-squared with $df=1$ transform), we might be tempted to take its square root and use the resulting normal distribution properties. That is, in general, the normal distribution can result from transformations of other distributions and it may be expedient to examine the properties of that normal distribution such that the limitation of small number correction to the normal case is not so severe a restriction as one might at first assume.

For the normal distribution case:

A1: By Lehmann-Scheffe theorem ${\rm var}(s)$ and $\text{E}(s)$ are UMVUE (Credit @Scortchi).

A2: (Edited to adjust for comments below.) For $n\leq 25$, we should use $\text{E}(s)$ for standard deviation, standard error, confidence intervals of the mean and of the distribution, and optionally for z-statistics. For $t$-testing we would not use the unbiased estimator as $\frac{ \bar X - \mu} {\sqrt{\text{var}(n)/n}}$ itself is Student's-$t$ distributed with $n-1$ degrees of freedom (Credit @whuber and @GeoMatt22). For z-statistics, $\sigma$ is usually approximated using $n$ large for which $\text{E}(s)-\sqrt{\text{var}(n)}$ is small, but for which $\text{E}(s)$ appears to be more mathematically appropriate (Credit @whuber and @GeoMatt22).

I want to add the Bayesian answer to this discussion. Just because your assumption is that the data is generated according to some normal with unknown mean and variance, that doesn't mean that you should summarize your data using a mean and a variance. This whole problem can be avoided if you draw the model, which will have a posterior predictive that is a three parameter noncentral scaled student's T distribution. The three parameters are the total of the samples, total of the squared samples, and the number of samples. (Or any bijective map of these.)

Incidentally, I like civilstat's answer because it highlights our desire to combine information. The three sufficient statistics above are even better than the two given in the question (or by civilstat's answer). Two sets of these statistics can easily be combined, and they give the best posterior predictive given the assumption of normality.