Saya setuju dengan Glen_b. Dalam masalah regresi, fokus utama adalah pada parameter dan bukan pada variabel independen atau prediktor, x. Dan kemudian seseorang dapat memutuskan apakah seseorang ingin linearisasi masalah menggunakan transformasi sederhana atau melanjutkannya.
Masalah linear: hitung jumlah parameter dalam masalah Anda dan periksa apakah semuanya memiliki kekuatan 1. Misalnya, . Fungsi ini nonlinier dalam . Tetapi untuk masalah regresi, nonlinier dalam tidak menjadi masalah. Kita harus memeriksa apakah parameternya linier atau linier. Dalam hal ini, , , , .. semua memiliki kekuatan 1. Jadi, mereka linear.y= a x + b x2+ c x3+ dx2 / 3+ e / x + fx- 4 / 7xxabcf
Perhatikan bahwa, dalam , meskipun a sepertinya memiliki kekuatan 1, tetapi ketika diperluas
. Anda dapat dengan jelas melihat bahwa ini adalah parameter nonlinier karena a memiliki kekuatan lebih dari 1. Tetapi, masalah ini dapat linear dengan menerapkan transformasi logaritmik. Artinya, masalah regresi nonlinier dikonversi menjadi masalah regresi linier.y=exp(ax)exp(ax)=1+ax/1!+(ax)2/2!+…
Demikian pula, adalah fungsi logistik. Ia memiliki tiga parameter, yaitu , dan . Parameter dan memiliki kekuatan lebih dari 1, dan ketika diperluas mereka mengalikan masing-masing yang lain membawa nonlinier. Jadi, mereka tidak linier. Tetapi, mereka juga dapat linierisasi dengan menggunakan substitusi yang tepat dengan mengatur terlebih dahulu dan kemudian menjalankan fungsi logaritmik pada kedua sisi untuk linierisasi.y=a/(1+bexp(cx)abcbc(a/y)−1=Y
Sekarang anggaplah . Sekali lagi ini nonlinier berkenaan dengan parameter. Tapi, itu tidak bisa linear. Orang perlu menggunakan regresi nonlinear.y=a1/(1+b1exp(c1x))+a2/(1+b2exp(c2x))
Pada prinsipnya, menggunakan strategi linier untuk menyelesaikan masalah regresi nonlinier bukanlah ide yang baik. Jadi, atasi masalah linier (ketika semua parameter memiliki kekuatan 1) menggunakan regresi linier dan mengadopsi regresi nonlinear jika parameter Anda nonlinear.
Dalam kasus Anda, gantikan fungsi pembobotan kembali ke fungsi utama. Parameter akan menjadi satu-satunya parameter dengan daya 1. Semua parameter lainnya adalah nonlinear ( akhirnya dikalikan dengan dan (keduanya adalah parameter nonlinear) sehingga juga nonlinear. Oleh karena itu, ini merupakan masalah regresi nonlinear. .β 1 θ 1 θ 2β0β1θ1θ2
Mengadopsi teknik kuadrat terkecil nonlinier untuk menyelesaikannya. Pilih nilai awal secara cerdik dan gunakan pendekatan multistart untuk menemukan minimum global.
Vide ini akan sangat membantu (meskipun tidak berbicara tentang solusi global): http://www.youtube.com/watch?v=3Fd4ukzkxps
Menggunakan GRG nonlinear solver dalam lembar kerja Excel (instal toolpack solver dengan masuk ke opsi - Add-Ins - Add-In Excel dan kemudian pilih Solver Add-In) dan gunakan multistart dalam daftar opsi dengan menentukan interval pada parameter dan menuntut presisi kendala dan konvergensi menjadi kecil, solusi global dapat diperoleh.
Jika Anda menggunakan Matlab, gunakan kotak optimisasi global. Ini memiliki opsi multistart dan pencarian global. Kode tertentu tersedia di sini untuk solusi global, di sini
dan di
sini .
Jika Anda menggunakan Mathematica, lihat di sini .
Jika Anda menggunakan R, coba di sini .