Buku Pelajaran tentang Matrix Calculus?

20

Cerpen: Saya membaca Elemen Pembelajaran Statistik dan merasa frustrasi ketika saya mencoba memverifikasi beberapa hasil, misalnya, diberikan lalu

RSS (β) = {(y - X β)}^{T} (y - X β),

$\text{RSS}(\beta) = \left(\mathbf{y}-\mathbf{X}\beta\right)^{T}\left(\mathbf{y}-\mathbf{X}\beta\right)\text{,}$

Saya mencari buku kalkulus matriks yang ditulis seperti buku kalkulus tradisional Anda (yaitu, bukti teorema, contoh, latihan perhitungan, dll.). Saya sudah melihatpertanyaan inidan merasa bahwa teks oleh Magnus dan Neudecker terlalu banyak berfokus pada teori, dan teks yang saya miliki denganGentleterlalu sedikit berfokus pada teori dan terlalu banyak pada sisi perhitungan.

\begin{aligned} \frac{\partial RSS}{\partial β} = - 2 X^{T} (y - X β) \\ \frac{\partial^{2} RSS}{\partial β \partial β^{T}} = 2 X^{T} X . \end{aligned}

$\begin{align}&\dfrac{\partial\text{RSS}}{\partial \beta} = -2\mathbf{X}^{T}\left(\mathbf{y}-\mathbf{X}\beta\right) \\ &\dfrac{\partial^2\text{RSS}}{\partial \beta\text{ }\partial \beta^{T}} = 2\mathbf{X}^{T}\mathbf{X}\text{.} \end{align}$

Apakah ada media senang di luar sana yang dapat diakses oleh seseorang dengan latar belakang analisis sarjana?

references matrix matrix-calculus

— Clarinetist
sumber

4

Sudahkah Anda mempertimbangkan Harville's, Matrix Algebra dari perspektif ahli statistik ? Bab-bab pertama harus relatif dasar tetapi kemudian diambil.

— usεr11852 mengatakan Reinstate Monic

2

amazon.com/Matrix-Algebra-Econometric-Exercises-Vol/dp/…

— Khashaa

1

Saya sering menggunakan entri Wikipedia ini untuk menemukan identitas masalah kalkulus matriks: en.wikipedia.org/wiki/Matrix_calculus

— Tommy L

9

Untuk sebagian besar pertanyaan matriks, saya selalu merujuk pada "The Matrix Cookbook" (lihat sini ).

Ini secara teratur diperbarui karena umpan balik dari berbagai sumber. Ada bukti yang terkandung di dalamnya, namun sebagian besar dimaksudkan sebagai buku pegangan.

— Laurens van de Wiel
sumber

3

Jika Anda menemukan terlalu banyak teori dalam buku Magnus dan Neudecker, saya merekomendasikan yang ini, yang juga ditulis oleh Magnus:

Abadir, KM dan Magnus, Aljabar Matriks JR Cambridge University Press, 2005

yang lebih menekankan pada aplikasi kalkulus matriks.

— Arrigo Benedetti
sumber

2

Seorang pengguna menghapus sendiri jawaban yang bermanfaat berikut ini, yang saya ulangi di sini secara penuh sehingga informasinya tidak hilang:

Anda tidak benar-benar membutuhkan banyak hasil pada turunan vektor dan matriks untuk ML, dan makalah Tom Minka mencakup sebagian besar darinya, tetapi pengobatan definitifnya adalah Kalkulus Diferensial Matriks Magnus & Neudecker dengan Aplikasi dalam Statistik dan Ekonometrika .

Memang, Magnus & Neudecker memiliki ulasan yang sangat baik di kertas Amazon dan Tom Minka ( Aljabar Matriks Lama dan Baru yang Berguna untuk Statistik , 2000) mengandung banyak formula yang berguna, meskipun ia memperingatkan "ini bahan canggih."

— whuber
sumber

1

Saya akan sangat merekomendasikan makalah 26 halaman ini dari Stanford University:

" Ulasan dan Referensi Aljabar Linier " oleh Zico Kolter

Ini benar-benar fokus pada perhitungan Sum yang khas dengan banyak i dan j di mana-mana dan memberi tahu Anda perhitungan matriks yang sesuai (yaitu menggunakan implementasi "vektorisasi").

Ini membantu Anda segera mengenali jenis rumus matriks apa yang harus Anda tulis untuk melakukan perhitungan Anda.

— tmangin
sumber