Perkirakan koefisien deret Taylor dari sampel suatu fungsi

10

Katakanlah saya memiliki pengukuran fungsi , disampel di dengan beberapa noise, yang dapat diperkirakan oleh ekspansi deret Taylor. Apakah ada cara yang diterima untuk memperkirakan koefisien untuk ekspansi dari pengukuran saya? $y = y(x)$ $x_i$

Saya bisa memasukkan data ke polinomial, tapi itu tidak benar, karena untuk seri Taylor aproksimasi akan menjadi lebih baik semakin dekat Anda ke titik pusat, katakanlah x = 0. Hanya pas polinomial memperlakukan setiap titik secara merata.

Saya juga bisa memperkirakan berbagai urutan turunan pada titik ekspansi saya, tetapi kemudian saya perlu membuat keputusan tentang apa yang membedakan filter yang akan digunakan dan berapa banyak koefisien filter untuk masing-masing. Apakah filter untuk turunan yang berbeda harus saling cocok?

Jadi, adakah yang tahu metode yang sudah ada untuk ini? Penjelasan atau referensi ke makalah akan dihargai.

KLARIFIKASI

Menanggapi komentar di bawah ini, pengambilan sampel saya adalah jendela persegi panjang dari fungsi tak terbatas, yang tidak selalu terbatas pada band tetapi tidak memiliki komponen frekuensi tinggi yang kuat. Untuk lebih spesifik, saya mengukur varians dari estimator (mengukur perpindahan dalam sinyal USG medis) sebagai fungsi dari parameter estimator (tingkat deformasi atau strain dari jaringan yang mendasarinya). Saya memiliki seri Taylor teoritis untuk varians sebagai fungsi deformasi, dan ingin membandingkannya dengan apa yang saya dapatkan dari simulasi.

Contoh mainan serupa mungkin: katakanlah Anda memiliki fungsi seperti ln (x), disampel pada interval dalam x dengan beberapa noise ditambahkan. Anda tidak tahu apa fungsinya sebenarnya dan Anda ingin memperkirakan seri Taylor-nya sekitar x = 5. Jadi fungsinya halus dan perlahan bervariasi untuk suatu wilayah di sekitar titik Anda tertarik (katakanlah 2 <x <8), tetapi tidak selalu bagus di luar wilayah tersebut.

Jawabannya sangat membantu, dan beberapa jenis polinomial kuadrat-kuadrat mungkin adalah rute yang harus diambil. Apa yang akan membuat seri Taylor yang diperkirakan berbeda dari kecocokan polinomial normal, adalah bahwa Anda harus dapat mengurangi persyaratan tingkat tinggi, dan memiliki polinomial yang masih mendekati fungsi asli, hanya dalam kisaran yang lebih kecil tentang titik awal Anda.

Jadi mungkin pendekatannya adalah melakukan fit polinomial linier dengan hanya menggunakan data yang dekat dengan titik awal, diikuti oleh kuadratatik dengan sedikit lebih banyak data, kubik menggunakan sedikit lebih dari itu, dll.

noise estimators approximation

— Mat
sumber

Beberapa pertanyaan (yang mungkin atau mungkin tidak relevan): Dengan sampel, apakah maksud Anda fungsi ini dibatasi pita di bawah beberapa frekuensi Fs / 2? Apakah sampel Anda merupakan jendela persegi panjang dari fungsi tak terbatas, fungsi berulang, atau fungsi lengkap?

— hotpaw2

Seperti Dilip tunjukkan dalam jawabannya, menggunakan ekspansi seri Taylor mengharuskan Anda memiliki pengetahuan tentang turunan fungsi pada semua titik sampel. Saya kira Anda dapat menggunakan ekspresi teoretis Anda untuk turunan dari , tetapi itu agak mengurangi kegunaan menggunakan simulasi independen untuk mengkonfirmasi teori Anda. Untuk meniru yang terbaik dari seri Taylor behaivor sehubungan dengan persyaratan tingkat tinggi, pendekatan seperti yang Anda sarankan, menggunakan urutan berbeda dari polinomial, mungkin berguna.

y (x)

$y(x)$

— Jason R

8

Alih-alih pemasangan polinomial yang tepat, Anda bisa menggunakan kuadrat-terkecil , yang akan menemukan polinomial dari urutan tertentu yang meminimalkan kesalahan kuadrat total antara fit dan yang diukur $(x_i,y_i)$ berpasangan. Ini dapat membantu mengurangi efek noise pada fit.

Pengukuran yang diberikan $y_i$ dari suatu fungsi $y = f(x)$ pada nilai domain $x_i$ ( $i = 0, 1, \ldots , N$ ), pilih urutan polinomial $M \le N$ (jika $M = N$ , maka Anda turun untuk pemasangan polinomial yang tepat, seperti $N$ poin secara unik menentukan $M$ urutan polinomial). Kemudian, atur sistem persamaan yang linear dalam koefisien polinomial yang diinginkan $p_k$ :

y_{saya} = {hal}_{M.} x_{saya}^{M.} + {hal}_{M. - 1} x_{saya}^{M. - 1} + ... + {hal}_{1} x_{saya} + {hal}_{0}, saya = 0, 1, ..., N

$y_i = p_Mx_i^M + p_{M-1}x_i^{M-1} + \ldots + p_1x_i + p_0, \;\;\;\;\;i = 0, 1, \ldots , N$

Masalah kuadrat-terkecil dapat diselesaikan dengan mengatur pengukuran ke dalam bentuk matriks-vektor:

SEBUAH = [\begin{array}{cc} x_{0}^{M.} & x_{0}^{M. - 1} & \dots & x_{0} & 1 \\ x_{1}^{M.} & x_{1}^{M. - 1} & \dots & x_{1} & 1 \\ ⋮ & ⋮ & ⋮ & ⋮ & ⋮ \\ x_{N}^{M.} & x_{N}^{M. - 1} & \dots & x_{N} & 1 \end{array}], y = [\begin{array}{cc} y_{0} \\ y_{1} \\ ⋮ \\ y_{N} \end{array}]

$\mathbf{A} = \left [ {\begin{array}{cc} x_0^M & x_0^{M-1} & \cdots & x_0 & 1 \\ x_1^M & x_1^{M-1} & \cdots & x_1 & 1 \\ \vdots & \vdots & \vdots & \vdots & \vdots \\ x_N^M & x_N^{M-1} & \cdots & x_N & 1 \end{array} } \right ], \;\;\mathbf{y}= \left [ {\begin{array}{cc} y_0 \\ y_1 \\ \vdots \\ y_N \end{array} } \right ]$

Solusi kuadrat-terkecil menghasilkan vektor koefisien polinomial $\left[p_M, p_{M-1}, \ldots , p_0\right]$ yang meminimalkan kesalahan kuadrat total dalam sistem linear di atas. Solusinya dapat dihitung sebagai:

\tilde{hal} = ({SEBUAH}^{T} SEBUAH)^{- 1} {SEBUAH}^{T} y

$\mathbf{\tilde p} = (\mathbf{A^TA})^{-1} \mathbf{A^Ty}$

Perlu dicatat bahwa matriks $(\mathbf{A^TA})^{-1} \mathbf{A^T}$ juga dikenal sebagai pseudoinverse dari matriks $\mathbf{A}$ . Anda kemudian dapat menggunakan vektor koefisien polinomial kuadrat-terkecil $\mathbf{\tilde p}$ untuk mengevaluasi polinomial yang lain $x$ nilai yang Anda inginkan.

— Jason R
sumber

1

Dalam kasus abscaus equispaced, ini tidak berbeda dari menerapkan penghalusan Savitzky-Golay pada data Anda.

Plus 1 untuk jawaban yang bagus. LSE memang sangat ada di mana-mana.

— Tarin Ziyaee

6

Abaikan kebisingan untuk saat ini.

Diberikan $n+1$ poin $(x_i,y_i)$ Dimana $x_i$ adalah angka yang berbeda, Anda dapat, seperti yang Anda katakan, sesuai dengan jumlahnya banyak $f(x)$ gelar paling banyak $n$ melalui poin-poin ini. Interpolasi lagrange, misalnya, adalah metode standar untuk ini. Namun, diyakini bahwa titik-titik tersebut sebenarnya berada pada kurva $y=g(x)$ dimana $g(x)$ belum tentu polinomial (misalnya, mungkin $e^x$ atau $(x+a)/(x+b)$ dll.) dan Anda ingin mencari seri Taylor untuk fungsi ini $g(x)$ . Nah, untuk mengembangkan seri Taylor $g(x)$ di sekitar $x=0$ , katakanlah, membutuhkan pengetahuan tentang nilai $g(0)$ serta nilai-nilai derivatif $g^{(k)}(x) = \frac{\mathrm d^kg(x)}{\mathrm dx^k}, k=1,2,\ldots$ di $x=0$ , sedangkan semua yang diketahui adalah nilai $g(x)$ di $n+1$ poin $x_i$ . Bahkan jika $x_i = 0$ untuk beberapa $i$ maka $g(0)$ diketahui, masih perlu untuk memperkirakan $g^{(k)}(0)$ untuk $k=1, 2, \ldots$

Memperkirakan nilai turunan dari suatu fungsi $g(x)$ di $x=0$ dari nilainya $g(x_i)$ pada titik-titik yang dipilih adalah masalah yang dipelajari dengan baik dalam analisis numerik, dan formula yang digunakan sudah tersedia. Apa yang tidak dijelaskan secara rinci, atau lebih umum, tidak disebutkan sama sekali di sekitar formula ini, adalah bahwa formula ini diperoleh dengan memasang polinomial $h(x)=\sum_k h_kx^k$ ke poin yang diketahui dan memperkirakan $g^{(k)}(0)$ sebagai $h^{(k)}(0) = k!h_k$ . Ambil jalan lain,

Dari $n+1$ poin $(x_i,g(x_i))$ dari $g(x)$ , kita dapat mengembangkan seri Taylor untuk $g(x)$ hanya sampai batas derajat $n$ , dan seri Taylor yang terpotong hanya $h(x)$ , polinomial yang dipasang pada $n+1$ poin.

Jadi, apa yang cocok dengan polinomial? Kesesuaian standar adalah interpolasi Lagrange yang berfungsi dengan baik ketika tidak ada noise, titik $x_i$ ditempatkan secara merata, dan $0$ adalah nilai median dari $x_i$ . Jika ada noise, kuadrat-terkecil cocok dengan polinomial derajat $m < n$ (lihat jawaban oleh JasonR untuk detail) seringkali lebih baik, dan jika kita ingin menekankan akurasi di sekitar $x=0$ , fit kuadrat tertimbang dapat digunakan. Menimbang istilah kesalahan dari titik di sekitar $0$ lebih dari istilah kesalahan dari jauh memaksa algoritma minimisasi untuk menghasilkan yang lebih dekat $0$ dengan mengorbankan akurasi yang lebih buruk jauh dari $0$ . Tentu saja, seseorang juga harus mempertahankan pilihan fungsi pembobotan terhadap penentang yang lebih memilih pembobotan yang berbeda (atau tanpa pembobotan).

Contoh: Diberikan $3$ poin $(-1,y_{-1}), (0,y_0), (1,y_1)$ , rumus interpolasi Lagrange memberi

\begin{aligned} f (x) & = y_{- 1} \frac{x (x - 1)}{2} - y_{0} (x^{2} - 1) + y_{1} \frac{x (x + 1)}{2} \\ = y_{0} + \frac{y_{1} - y_{- 1}}{2} x + \frac{y_{1} - 2 y_{0} + y_{- 1}}{2} x^{2} \end{aligned}

$\begin{align*} f(x) &= y_{-1}\frac{x(x-1)}{2} -y_0(x^2-1) + y_{1}\frac{x(x+1)}{2}\\ &= y_0 + \frac{y_1-y_{-1}}{2}x + \frac{y_1-2y_0 + y_{-1}}{2}x^2 \end{align*}$ dimana koefisien dari

x

$x$ dan

x^{2}

$x^2$ adalah rumus "tiga titik" untuk turunan pertama dan kedua seperti yang diberikan dalam Tabel 25.2 dari Abramowitz dan Stegun's Handbook of Mathematical Functions, yaitu rumus interpolasi Lagrange adalah deret Taylor terpotong untuk suatu fungsi.

g (x)

$g(x)$ seperti yang

g (- 1) = y_{- 1}, g (0) = y_{0}, g (1) = y_{1}

$g(-1) = y_{-1}, g(0) = y_0, g(1)=y_1$ .

— Dilip Sarwate
sumber