Pertanyaan yang diberi tag «floating-accuracy»

Sebelumnya, klik di atas Stack Overflow pada saat ini : Вычислеjo Pertimbangkan kode berikut: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Mengapa ketidakakuratan ini terjadi?

2983 math  language-agnostic  floating-point  floating-accuracy 

Saya tahu UIKitpenggunaan CGFloatkarena sistem koordinat independen resolusi. Tapi setiap kali saya ingin memeriksa apakah misalnya frame.origin.xadalah 0itu membuat saya merasa sakit: if (theView.frame.origin.x == 0) { // do important operation } Tidak CGFloatrentan terhadap positif palsu ketika membandingkan dengan ==, <=, >=, <, >? Ini adalah titik mengambang dan …

391 objective-c  ios  c  floating-point  floating-accuracy 

Kode berikut jelas salah. Apa masalahnya? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal 0.15

273 r  floating-point  floating-accuracy  r-faq 

Menurut halaman java.sun ini == adalah operator perbandingan kesetaraan untuk angka floating point di Jawa. Namun, ketika saya mengetikkan kode ini: if(sectionID == currentSectionID) ke editor saya dan menjalankan analisis statis, saya mendapatkan: "Nilai titik mengambang JAVA0078 dibandingkan dengan ==" Apa yang salah dengan menggunakan ==untuk membandingkan nilai floating point? …

177 java  equality  floating-accuracy 

Saya tahu bahwa sebagian besar desimal tidak memiliki representasi floating point yang tepat ( Apakah matematika floating point rusak? ). Tapi saya tidak melihat mengapa 4*0.1dicetak dengan baik 0.4, tetapi 3*0.1tidak, ketika kedua nilai sebenarnya memiliki representasi desimal jelek: >>> 3*0.1 0.30000000000000004 >>> 4*0.1 0.4 >>> from decimal import Decimal …

158 python  floating-point  rounding  floating-accuracy  ieee-754 

Apakah mungkin mendapatkan pembagian dengan 0 (atau tak terhingga) dalam contoh berikut? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } } Dalam kasus normal, tentu saja tidak. Tetapi bagaimana jika adan bsangat dekat, dapat …

131 floating-point  double  floating-accuracy  ieee-754 

Saya mencoba memotong angka desimal menjadi tempat desimal. Sesuatu seperti ini: 5.467 -> 5.46 985.943 -> 985.94 toFixed(2)tidak hanya tentang hal yang benar tetapi membulatkan nilainya. Saya tidak ingin nilainya dibulatkan. Semoga ini mungkin dalam javascript.

93 javascript  floating-point  floating-accuracy 

Apakah ada cara untuk secara terprogram mendapatkan penggandaan yang paling dekat dengan 1.0, tetapi sebenarnya bukan 1.0? Salah satu cara hacky untuk melakukan ini adalah dengan memcpy double menjadi integer berukuran sama, lalu kurangi satu. Cara kerja format floating-point IEEE754, ini akan berakhir dengan penurunan eksponen satu kali saat mengubah …

88 c++  floating-point  floating-accuracy