Pemrograman floating-point

18

Memformat mengapung tanpa membuntuti nol

Bagaimana saya bisa memformat float sehingga tidak mengandung nol tambahan? Dengan kata lain, saya ingin string yang dihasilkan sesingkat mungkin. Sebagai contoh: 3 -> "3" 3. -> "3" 3.0 -> "3" 3.1 -> "3.1" 3.14 -> "3.14" 3.140 -> "3.14"

181 python formatting floating-point pretty-print

13

Bagaimana Anda membulatkan angka floating point di Perl?

Bagaimana saya bisa membulatkan angka desimal (titik mengambang) ke bilangan bulat terdekat? misalnya 1.2 = 1 1.7 = 2

174 perl floating-point rounding

1

Metode cepat untuk membulatkan dobel ke int 32-bit dijelaskan

Ketika membaca kode sumber Lua , saya perhatikan bahwa Lua menggunakan a macrountuk membulatkan a doubleke 32-bit int. Saya mengekstraknya macro, dan terlihat seperti ini: union i_cast {double d; int i[2]}; #define double2int(i, d, t) \ {volatile union i_cast u; u.d = (d) + 6755399441055744.0; \ (i) = (t)u.i[ENDIANLOC];} Di …

169 c++ c performance floating-point

11

Apa perbedaan antara operasi floating point presisi tunggal dan presisi ganda?

Apa perbedaan antara operasi floating point presisi tunggal dan operasi floating presisi ganda? Saya terutama tertarik pada istilah praktis terkait dengan konsol video game. Sebagai contoh, apakah Nintendo 64 memiliki prosesor 64 bit dan jika itu terjadi maka apakah itu berarti mampu melakukan operasi floating point presisi ganda? Dapatkah PS3 …

169 floating-point precision processor operations

6

Jika saya menyalin pelampung ke variabel lain, apakah mereka akan sama?

Saya tahu bahwa menggunakan ==untuk memeriksa persamaan variabel floating-point bukanlah cara yang baik. Tapi saya hanya ingin tahu itu dengan pernyataan berikut: float x = ... float y = x; assert(y == x) Sejak ydisalin dari x, akankah pernyataan itu benar?

167 c++ floating-point

2

Yang merupakan bilangan bulat pertama yang pelampung IEEE 754 tidak mampu mewakili tepatnya?

Untuk kejelasan, jika saya menggunakan bahasa yang mengimplementasikan IEE 754 floats dan saya menyatakan: float f0 = 0.f; float f1 = 1.f; ... dan kemudian mencetaknya kembali, saya akan mendapatkan 0,0000 dan 1,0000 - tepatnya. Tetapi IEEE 754 tidak mampu mewakili semua angka di sepanjang garis nyata. Mendekati nol, celahnya …

162 types floating-point ieee-754

5

Format / Menekan Notasi Ilmiah dari Hasil Agregasi Python Pandas

Bagaimana kita bisa memodifikasi format untuk output dari operasi grup dengan panda yang menghasilkan notasi ilmiah untuk jumlah yang sangat besar? Saya tahu bagaimana melakukan pemformatan string dalam python tapi saya bingung ketika harus menerapkannya di sini. df1.groupby('dept')['data1'].sum() dept value1 1.192433e+08 value2 1.293066e+08 value3 1.077142e+08 Ini menekan notasi ilmiah jika …

162 python pandas floating-point scientific-notation number-formatting

4

Mengapa nilai floating-point 4 * 0,1 terlihat bagus di Python 3 tetapi 3 * 0,1 tidak?

Saya tahu bahwa sebagian besar desimal tidak memiliki representasi floating point yang tepat ( Apakah matematika floating point rusak? ). Tapi saya tidak melihat mengapa 4*0.1dicetak dengan baik 0.4, tetapi 3*0.1tidak, ketika kedua nilai sebenarnya memiliki representasi desimal jelek: >>> 3*0.1 0.30000000000000004 >>> 4*0.1 0.4 >>> from decimal import Decimal …

158 python floating-point rounding floating-accuracy ieee-754

6

Mengapa Double.MIN_VALUE tidak negatif

Adakah yang bisa menjelaskan mengapa Double.MIN_VALUEsebenarnya bukan nilai minimum yang dapat diambil oleh Doubles? Ini adalah nilai positif, dan Double tentu saja bisa negatif. Saya mengerti mengapa ini nomor yang berguna, tetapi sepertinya nama yang sangat tidak intuitif, terutama jika dibandingkan dengan Integer.MIN_VALUE. Menyebutnya Double.SMALLEST_POSITIVEatau MIN_INCREMENTatau serupa akan memiliki semantik …

157 java numbers floating-point

16

Bandingkan mengapung di php

Saya ingin membandingkan dua float di PHP, seperti dalam kode contoh ini: $a = 0.17; $b = 1 - 0.83; //0.17 if($a == $b ){ echo 'a and b are same'; } else { echo 'a and b are not same'; } Dalam kode ini ia mengembalikan hasil elsekondisi bukannya …

157 php floating-point

17

Bagaimana cara membandingkan dua angka floating point di Bash?

Saya berusaha keras untuk membandingkan dua angka floating point dalam skrip bash. Saya harus variabel, misalnya let num1=3.17648e-22 let num2=1.5 Sekarang, saya hanya ingin melakukan perbandingan sederhana dari dua angka ini: st=`echo "$num1 < $num2" | bc` if [ $st -eq 1]; then echo -e "$num1 < $num2" else echo …

156 bash floating-point comparison numbers

9

Mengapa Double.NaN == Double.NaN menghasilkan false?

Saya baru saja mempelajari pertanyaan OCPJP dan saya menemukan kode aneh ini: public static void main(String a[]) { System.out.println(Double.NaN==Double.NaN); System.out.println(Double.NaN!=Double.NaN); } Ketika saya menjalankan kode, saya mendapat: false true Bagaimana hasilnya falseketika kita membandingkan dua hal yang terlihat sama satu sama lain? Apa NaNartinya

155 java floating-point nan scjp ocpjp

10

Apakah matematika titik-mengambang konsisten dalam C #? Bisakah?

Tidak, ini bukan pertanyaan "Kenapa (1 / 3.0) * 3! = 1" . Saya telah membaca tentang floating-point akhir-akhir ini; khususnya, bagaimana perhitungan yang sama dapat memberikan hasil yang berbeda pada arsitektur yang berbeda atau pengaturan optimasi. Ini adalah masalah untuk gim video yang menyimpan replay, atau jaringan peer-to-peer (bukan …

155 c# .net floating-point precision ieee-754

7

presisi 'float' vs 'double'

Kode float x = 3.141592653589793238; double z = 3.141592653589793238; printf("x=%f\n", x); printf("z=%f\n", z); printf("x=%20.18f\n", x); printf("z=%20.18f\n", z); akan memberi Anda output x=3.141593 z=3.141593 x=3.141592741012573242 z=3.141592653589793116 dimana pada baris ketiga 741012573242adalah sampah dan pada baris keempat 116adalah sampah. Apakah ganda selalu memiliki 16 angka signifikan sedangkan float selalu memiliki 7 angka …

155 c floating-point

3

Mengapa menambahkan 0,1 beberapa kali tetap tanpa kerugian?

Saya tahu angka 0.1desimal tidak dapat diwakili secara tepat dengan angka biner yang terbatas ( penjelasan ), sehingga double n = 0.1akan kehilangan presisi dan tidak akan persis 0.1. Di sisi lain 0.5dapat diwakili tepat karena itu 0.5 = 1/2 = 0.1b. Setelah mengatakan bahwa dapat dimengerti bahwa menambahkan 0.1 …

152 java floating-point double precision

Pertanyaan yang diberi tag «floating-point»