Haruskah interval kepercayaan untuk koefisien regresi linier didasarkan pada distribusi normal atau

Mari kita memiliki beberapa model linier, misalnya ANOVA hanya sederhana:

# data generation
set.seed(1.234)                      
Ng <- c(41, 37, 42)                    
data <- rnorm(sum(Ng), mean = rep(c(-1, 0, 1), Ng), sd = 1)      
fact <- as.factor(rep(LETTERS[1:3], Ng)) 

m1 = lm(data ~ 0 + fact)
summary(m1)

Hasilnya adalah sebagai berikut:

Call:
lm(formula = data ~ 0 + fact)

Residuals:
     Min       1Q   Median       3Q      Max 
-2.30047 -0.60414 -0.04078  0.54316  2.25323 

Coefficients:
      Estimate Std. Error t value Pr(>|t|)    
factA  -0.9142     0.1388  -6.588 1.34e-09 ***
factB   0.1484     0.1461   1.016    0.312    
factC   1.0990     0.1371   8.015 9.25e-13 ***
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1 

Residual standard error: 0.8886 on 117 degrees of freedom
Multiple R-squared: 0.4816,     Adjusted R-squared: 0.4683 
F-statistic: 36.23 on 3 and 117 DF,  p-value: < 2.2e-16

Sekarang saya mencoba dua metode berbeda untuk memperkirakan interval kepercayaan parameter ini

c = coef(summary(m1))

# 1st method: CI limits from SE, assuming normal distribution
cbind(low = c[,1] - qnorm(p = 0.975) * c[,2], 
    high = c[,1] + qnorm(p = 0.975) * c[,2])

# 2nd method
confint(m1)

Pertanyaan:

Apa distribusi estimasi koefisien regresi linier? Normal atau $t$ ?
Mengapa kedua metode menghasilkan hasil yang berbeda? Dengan asumsi distribusi normal dan SE yang benar, saya berharap kedua metode memiliki hasil yang sama.

Terima kasih banyak!

data ~ 0 + fakta

Sunting setelah jawaban :

Jawabannya tepat, ini akan memberikan hasil yang persis sama confint(m1)!

# 3rd method
cbind(low = c[,1] - qt(p = 0.975, df = sum(Ng) - 3) * c[,2], 
    high = c[,1] + qt(p = 0.975, df = sum(Ng) - 3) * c[,2])

r regression confidence-interval

— Ingin tahu
sumber

terkait: stats.stackexchange.com/questions/111559/...

— Curious

(1) Ketika kesalahan biasanya didistribusikan dan varians mereka tidak diketahui, maka memiliki-Distribusi bawah hipotesis nol bahwaadalah koefisien regresi yang benar. Default diadalah untuk menguji, sehingga-statistics dilaporkan hanya ada

\frac{\hat{β} - β_{0}}{s e (\hat{β})}

$\frac{\hat{\beta} - \beta_0}{{\rm se}(\hat{\beta})}$

t

$t$

β_{0}

$\beta_0$ R

β_{0} = 0

$\beta_0 = 0$

t

$t$

\frac{\hat{β}}{s e (\hat{β})}

$\frac{\hat{\beta}}{{\rm se}(\hat{\beta})}$

Perhatikan bahwa, dalam beberapa kondisi keteraturan, statistik di atas selalu berdistribusi normal asimptot , terlepas dari apakah kesalahannya normal atau apakah varians kesalahan diketahui.

(2) Alasan Anda mendapatkan hasil yang berbeda adalah bahwa persentil dari distribusi normal berbeda dari persentil dari distribusi- . Oleh karena itu, pengganda yang Anda gunakan di depan kesalahan standar berbeda, yang, pada gilirannya, memberikan interval kepercayaan yang berbeda. $t$

Secara khusus, ingat bahwa interval kepercayaan menggunakan distribusi normal

\hat{β} \pm z_{α / 2} \cdot s e (\hat{β})

$\hat{\beta} \pm z_{\alpha/2} \cdot {\rm se}(\hat{\beta})$

di mana adalah kuantil dari distribusi normal. Dalam kasus standar interval kepercayaan , dan . Interval kepercayaan berdasarkan distribusi- adalah $z_{\alpha/2}$ $\alpha/2$ $95\%$ $\alpha = .05$ $z_{\alpha/2} \approx 1.96$ $t$

\hat{β} \pm t_{α / 2, n - p} \cdot s e (\hat{β})

$\hat{\beta} \pm t_{\alpha/2,n-p} \cdot {\rm se}(\hat{\beta})$

$t_{\alpha/2,n-p}$ $t$ $n-p$ $n$ $p$ $n$ $t_{\alpha/2,n-p}$ $z_{\alpha/2}$

$t$ $5$ $300$ $p=1$ $t$ $z$

masukkan deskripsi gambar di sini

— Makro
sumber

Ya!! Sepotong kerja bagus !! (+1)

— gui11aume

Makro, terima kasih atas jawabannya. Tetapi: Anda berbicara tentang distribusi statistik T, sedangkan saya bertanya tentang distribusi koefisien regresi. Pemahaman saya adalah bahwa koefisien regresi adalah distribusi yang ditandai dengan rata-rata (estimasi koefisien) dan kesalahan standarnya. Saya bertanya tentang distribusi ini, bukan uji statistik distribusi. Saya mungkin kehilangan sesuatu jadi tolong coba jelaskan dengan cara yang lebih jelas :) Terima kasih

— Curious

\frac{\hat{β} - β_{0}}{s e (\hat{β})}

$\frac{ {\hat \beta}−β_{0}}{{\rm se}(\hat β)}$

t

$t$

\hat{β}

$\hat β$

t

$t$

β_{0}

$β_0$

s e (\hat{β})

${\rm se}(\hat β)$

\hat{β}

$\hat β$

Anda benar sekali! Ini akan memberikan hasil yang sama persisconfint(m1) , bahkan untuk ukuran sampel kecil! cbind(low = c[,1] - qt(p = 0.975, df = sum(Ng) - 3) * c[,2], high = c[,1] + qt(p = 0.975, df = sum(Ng) - 3) * c[,2])

— Penasaran

\hat{β}

$\hat{\beta}$

\hat{β} - β_{0}

$\hat{\beta}-\beta_0$

β_{0}

$\beta_0$

t

$t$