Ini berarti matriks desain Anda tidak dapat dibalik dan karenanya tidak dapat digunakan untuk mengembangkan model regresi. Ini hasil dari kolom dependen linier, yaitu variabel yang sangat berkorelasi. Periksa kovarians berpasangan (atau korelasi) variabel Anda untuk menyelidiki apakah ada variabel yang berpotensi dihapus. Anda sedang mencari kovarian (atau korelasi) >> 0. Atau, Anda mungkin dapat mengotomatiskan pemilihan variabel ini dengan menggunakan regresi bertahap maju.
Ini juga dapat dihasilkan dari memiliki lebih banyak variabel daripada pengamatan, dalam hal ini matriks desain Anda mungkin tidak peringkat penuh. Ini agak sulit untuk diperbaiki, tetapi ada beberapa cara. Saya percaya regresi laso seharusnya bekerja dengan baik ketika data "lebih luas" daripada "panjang".
Perlu diingat: jika Anda memutuskan untuk mencoba laso atau seleksi bertahap, Anda melakukan lebih banyak (dalam hal pemilihan variabel) daripada hanya menangani multikolinearitas.