Memperkirakan regresi linier dengan OLS vs ML

Asumsikan bahwa saya akan memperkirakan regresi linier di mana saya berasumsi $u\sim N(0,\sigma^2)$. Apa manfaat OLS terhadap estimasi ML? Saya tahu bahwa kita perlu tahu distribusi$u$ ketika kita menggunakan Metode ML, tapi karena saya berasumsi $u\sim N(0,\sigma^2)$apakah saya menggunakan ML atau OLS, poin ini tampaknya tidak relevan. Dengan demikian satu-satunya keuntungan OLS harus dalam fitur asimptotik dari$\beta$penduga. Atau apakah kita memiliki kelebihan lain dari metode OLS?

Menggunakan notasi biasa, log-kemungkinan metode ML adalah

$l(\beta_0, \beta_1 ; y_1, \ldots, y_n) = \sum_{i=1}^n \left\{ -\frac{1}{2} \log (2\pi\sigma^2) - \frac{(y_{i} - (\beta_0 + \beta_1 x_{i}))^{2}}{2 \sigma^2} \right\}$.

Itu harus dimaksimalkan sehubungan dengan $\beta_0$ dan $\beta_1$.

Tapi, mudah untuk melihat bahwa ini setara dengan meminimalkan

$\sum_{i=1}^{n} (y_{i} - (\beta_0 + \beta_1 x_{i}))^{2}$.

Oleh karena itu, ML dan OLS mengarah ke solusi yang sama.

Rincian lebih lanjut disediakan dalam catatan kuliah yang bagus ini .

Anda berfokus pada bagian konsep yang salah dalam pertanyaan Anda. Keindahan dari kuadrat terkecil adalah bahwa ia memberikan jawaban yang mudah dan menyenangkan tanpa distribusi, dan jika distribusi yang sebenarnya adalah normal, maka itu adalah jawaban kemungkinan maiximum juga (saya pikir ini adalah Gauss-Markov). Ketika Anda memiliki distribusi selain yang normal maka ML dan OLS akan memberikan jawaban yang berbeda (tetapi jika distribusi yang sebenarnya mendekati normal maka jawabannya akan serupa).

satu-satunya perbedaan untuk sampel hingga adalah, bahwa estimator ML untuk varians residual bias. Itu tidak menjelaskan jumlah regresi yang digunakan dalam model.