Pertanyaan yang diberi tag «ieee-754»

Sudah diketahui umum bahwa NaN menyebar dalam aritmatika, tetapi saya tidak dapat menemukan demonstrasi, jadi saya menulis tes kecil: #include <limits> #include <cstdio> int main(int argc, char* argv[]) { float qNaN = std::numeric_limits<float>::quiet_NaN(); float neg = -qNaN; float sub1 = 6.0f - qNaN; float sub2 = qNaN - 6.0f; float …

300 c++  c  floating-point  ieee-754  icc 

Mengapa perbandingan nilai NaN berperilaku berbeda dari semua nilai lainnya? Artinya, semua perbandingan dengan operator ==, <=,> =, <,> di mana satu atau kedua nilai adalah NaN mengembalikan false, bertentangan dengan perilaku semua nilai lainnya. Saya kira ini menyederhanakan perhitungan numerik dalam beberapa cara, tapi saya tidak bisa menemukan alasan …

267 floating-point  comparison  nan  ieee-754  iec10967 

Apa integer "no-floating" terbesar yang dapat disimpan dalam tipe ganda IEEE 754 tanpa kehilangan presisi?

225 types  floating-point  double  ieee-754 

Tipe data float adalah floating point IEEE 754 32-bit presisi tunggal dan tipe data ganda adalah floating point IEEE 754 64-bit presisi ganda. Apa artinya? Dan kapan saya harus menggunakan float bukan double atau sebaliknya?

220 java  floating-point  double  ieee-754 

Untuk kejelasan, jika saya menggunakan bahasa yang mengimplementasikan IEE 754 floats dan saya menyatakan: float f0 = 0.f; float f1 = 1.f; ... dan kemudian mencetaknya kembali, saya akan mendapatkan 0,0000 dan 1,0000 - tepatnya. Tetapi IEEE 754 tidak mampu mewakili semua angka di sepanjang garis nyata. Mendekati nol, celahnya …

162 types  floating-point  ieee-754 

Saya tahu bahwa sebagian besar desimal tidak memiliki representasi floating point yang tepat ( Apakah matematika floating point rusak? ). Tapi saya tidak melihat mengapa 4*0.1dicetak dengan baik 0.4, tetapi 3*0.1tidak, ketika kedua nilai sebenarnya memiliki representasi desimal jelek: >>> 3*0.1 0.30000000000000004 >>> 4*0.1 0.4 >>> from decimal import Decimal …

158 python  floating-point  rounding  floating-accuracy  ieee-754 

Tidak, ini bukan pertanyaan "Kenapa (1 / 3.0) * 3! = 1" . Saya telah membaca tentang floating-point akhir-akhir ini; khususnya, bagaimana perhitungan yang sama dapat memberikan hasil yang berbeda pada arsitektur yang berbeda atau pengaturan optimasi. Ini adalah masalah untuk gim video yang menyimpan replay, atau jaringan peer-to-peer (bukan …

155 c#  .net  floating-point  precision  ieee-754 

Apakah mungkin mendapatkan pembagian dengan 0 (atau tak terhingga) dalam contoh berikut? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } } Dalam kasus normal, tentu saja tidak. Tetapi bagaimana jika adan bsangat dekat, dapat …

131 floating-point  double  floating-accuracy  ieee-754 

PHP terkenal dengan tipenya yang juggling. Saya harus mengakuinya membuat saya bingung, dan saya mengalami kesulitan untuk menemukan hal-hal dasar logis / fundamental dalam perbandingan. Sebagai contoh: Jika $a > $bbenar dan $b > $cbenar, harus itu berarti bahwa $a > $cadalah selalu benar juga? Mengikuti logika dasar, saya akan …

115 php  if-statement  comparison  logic  ieee-754 

Saya telah membaca tentang floating-point dan saya memahami bahwa NaN dapat dihasilkan dari operasi. Tapi saya tidak bisa mengerti apa sebenarnya konsep ini. Apa perbedaan di antara keduanya? Manakah yang dapat diproduksi selama pemrograman C ++? Sebagai seorang programmer, dapatkah saya menulis program yang menyebabkan sNaN?

98 floating-point  nan  ieee-754 

>>> (float('inf')+0j)*1 (inf+nanj) Mengapa? Ini menyebabkan bug buruk dalam kode saya. Mengapa bukan 1identitas multiplikatif, memberi(inf + 0j) ?

97 python  nan  ieee-754 

Dalam JavaScript, nilai NaN dapat diwakili oleh berbagai macam 64-bit ganda secara internal. Secara khusus, sembarang ganda dengan representasi bitwise berikut: x111 1111 1111 xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx Ditafsirkan sebagai NaN. Pertanyaan saya adalah: seandainya saya melemparkan dua uint 32-bit ke …

12 javascript  ieee-754