Pertanyaan yang diberi tag «floating-point»

Saya memiliki model yang cukup besar (~ 5000 baris) ditulis dalam C. Ini adalah program serial, tanpa generasi nomor acak di mana pun. Itu menggunakan perpustakaan FFTW untuk fungsi menggunakan FFT - Saya tidak tahu detail implementasi FFTW, tapi saya menganggap fungsi di dalamnya juga deterministik (koreksi saya jika saya …

10 floating-point  precision  computer-arithmetic 

Saya sudah membaca itu (1) Operasi yang terkondisi harus dilakukan sebelum yang terkondisi dengan baik. Sebagai contoh, seseorang harus menghitung xz−yzxz−yzxz-yz sebagai(x−y)z(x−y)z(x-y)z karena pengurangan tidak dikondisikan sedangkan multiplikasi tidak. Namun, analisis kesalahan orde pertama dari kedua algoritma mengungkapkan bahwa mereka hanya berbeda oleh faktor tiga (*), dan saya tidak melihat …

10 stability  floating-point 

Saya melihat sangat sedikit perpustakaan / paket komputasi non-floating point. Mengingat berbagai ketidakakuratan representasi floating point, muncul pertanyaan mengapa tidak ada beberapa bidang di mana akurasi yang meningkat ini sebanding dengan seluk-beluk bekerja dengan fixed-point. Apakah ada kesulitan besar dalam menggunakan, katakanlah, pemecah nilai eigen titik tetap? Seberapa lambat / …

10 floating-point  numerics 

Saya memiliki fungsi numerik yang f(x, y)mengembalikan angka floating point ganda yang mengimplementasikan beberapa rumus dan saya ingin memeriksa apakah itu benar terhadap ekspresi analitik untuk semua kombinasi parameter xdan ysaya tertarik. Apa cara yang tepat untuk membandingkan yang dihitung dan dihitung angka floating point analitik? Katakanlah dua angka itu …

10 floating-point 

Baru-baru ini, saya mengalami masalah aneh dengan FORTRAN95. Saya menginisialisasi variabel X dan Y sebagai berikut: X=1.0 Y=0.1 Kemudian saya menambahkannya bersama dan mencetak hasilnya: 1.10000000149012 Setelah memeriksa variabel, sepertinya 0,1 tidak terwakili dalam presisi ganda dengan akurasi penuh. Apakah ada cara untuk menghindari hal ini?

10 fortran  floating-point