Saya telah membaca deskripsi regresi ridge dalam Model Statistik Terapan Linier , edisi ke 5 bab 11. Regresi ridge dilakukan pada data lemak tubuh yang tersedia di sini .
Buku teks cocok dengan output dalam SAS, di mana koefisien ditransformasikan kembali diberikan dalam model pas sebagai:
Ini ditunjukkan dari SAS sebagai:
proc reg data = ch7tab1a outest = temp outstb noprint;
model y = x1-x3 / ridge = 0.02;
run;
quit;
proc print data = temp;
where _ridge_ = 0.02 and y = -1;
var y intercept x1 x2 x3;
run;
Obs Y Intercept X1 X2 X3
2 -1 -7.40343 0.55535 0.36814 -0.19163
3 -1 0.00000 0.54633 0.37740 -0.13687Tetapi R memberikan koefisien yang sangat berbeda:
data <- read.table("http://www.cst.cmich.edu/users/lee1c/spss/V16_materials/DataSets_v16/BodyFat-TxtFormat.txt",
sep=" ", header=FALSE)
data <- data[,c(1,3,5,7)]
colnames(data)<-c("x1","x2","x3","y")
ridge<-lm.ridge(y ~ ., data, lambda=0.02)
ridge$coef
coef(ridge)
> ridge$coef
x1 x2 x3
10.126984 -4.682273 -3.527010
> coef(ridge)
x1 x2 x3
42.2181995 2.0683914 -0.9177207 -0.9921824
> Adakah yang bisa membantu saya memahami mengapa?
Saya telah menggunakan kumpulan data yang sama dan menganalisisnya di SPSS. Hasilnya mirip dengan SAS. Namun jika kita dapat menstandardisasi data seperti dalam buku, nilai pertama pada c = 0 serupa dalam R dan SPSS (menjalankan regresi linier berganda). Namun hasilnya sangat berbeda ketika kita bergerak lebih jauh seperti yang ditunjukkan di atas. Saya juga tidak menemukan petunjuk perbedaan antara output untuk data yang sama.
—
asad