Pertanyaan yang diberi tag «numeric-precision»

Saya menyadari bahwa aritmatika floating point memiliki masalah presisi. Saya biasanya mengatasinya dengan beralih ke representasi angka desimal tetap, atau hanya dengan mengabaikan kesalahan. Namun, saya tidak tahu apa penyebab ketidaktepatan ini. Mengapa ada begitu banyak masalah pembulatan dengan angka float?

62 floating-point  numeric-precision 

Bahasa pemrograman seperti Skema (R5RS) dan Python ( lihat Pertanyaan ini ) berputar menuju bilangan bulat genap terdekat saat nilainya tepat di antara bilangan bulat di sekitarnya. Apa alasan di balik ini? Apakah ada ide matematika yang membuat perhitungan berikut lebih mudah untuk dipikirkan? (R5RS merujuk standar titik mengambang IEEE …

44 scheme  numbers  numeric-precision  python-3.x 

Saat menyelidiki keakuratan angka floating point, saya pernah melihat di beberapa tempat pernyataan yang mirip " float dan double adalah ( dirancang untuk / sering digunakan dalam ) perhitungan teknik dan ilmiah " Dari pemahaman saya, kekuatan float dan double adalah jumlah memori yang mereka gunakan untuk presisi (baik, tetapi …

33 floating-point  numeric-precision 

Komputer memiliki masalah dalam menyimpan bilangan pecahan di mana penyebutnya adalah sesuatu selain solusi untuk 2 ^ x. Ini karena digit pertama setelah desimal bernilai 1/2, 1/4 kedua (atau 1 / (2 ^ 1) dan 1 / (2 ^ 2)) dll. Mengapa berurusan dengan segala macam kesalahan pembulatan ketika komputer …

24 numbers  numeric-precision 

Dalam membangun aplikasi yang berhubungan dengan banyak perhitungan matematis, saya telah menemui masalah bahwa angka-angka tertentu menyebabkan kesalahan pembulatan. Meskipun saya mengerti bahwa floating point tidak tepat , masalahnya adalah bagaimana cara saya menangani angka yang tepat untuk memastikan bahwa ketika perhitungan dilakukan pada mereka, floating point rounding tidak menyebabkan …

18 floating-point  numeric-precision 

Dalam numerik, sangat penting untuk dapat mengidentifikasi skema yang tidak stabil dan meningkatkan stabilitasnya. Bagaimana cara mengidentifikasi perhitungan floating point yang tidak stabil? Saya sedang mengerjakan simulasi yang sangat kompleks di mana banyak skema numerik bekerja bersama dan saya mencari metode untuk mengidentifikasi bagian-bagian yang lemah. Saya sedang mengerjakan model …

15 numbers  numeric-precision 

Saya mencoba untuk berpikir tentang bagaimana saya akan melakukan perhitungan pada angka yang sangat besar (hingga tak terhingga - intergers no floats) jika konstruk bahasa tidak mampu menangani angka yang lebih besar dari nilai tertentu. Saya yakin saya bukan yang pertama atau terakhir yang mengajukan pertanyaan ini, tetapi istilah pencarian …

15 math  variables  numeric-precision 

Ketika meninjau implementasi programmer lain dari fungsi untuk menghitung distribusi CDF normal , saya membuat saran untuk mengganti seluruh implementasi dengan fungsi bawaan Python atau menggunakan SciPy, perpustakaan ilmiah umum. Programmer lain menunjukkan bahwa keduanya math.erfc()tidak scipy.stats.norm.cdf()memberikan jaminan presisi dalam dokumentasi mereka. Oleh karena itu, saya harus lebih berhati-hati dalam …

9 documentation  math  floating-point  numeric-precision