Pemrograman floating-point

3

Mengapa NaN - NaN == 0,0 dengan Intel C ++ Compiler?

Sudah diketahui umum bahwa NaN menyebar dalam aritmatika, tetapi saya tidak dapat menemukan demonstrasi, jadi saya menulis tes kecil: #include <limits> #include <cstdio> int main(int argc, char* argv[]) { float qNaN = std::numeric_limits<float>::quiet_NaN(); float neg = -qNaN; float sub1 = 6.0f - qNaN; float sub2 = qNaN - 6.0f; float …

300 c++ c floating-point ieee-754 icc

13

Buat float hanya menampilkan dua tempat desimal

Saya memiliki nilai 25.00dalam a float, tetapi ketika saya mencetaknya di layar itu 25.0000000. Bagaimana saya bisa menampilkan nilai hanya dengan dua tempat desimal?

296 objective-c formatting floating-point

6

Mengapa mengubah jumlah pesanan mengembalikan hasil yang berbeda?

Mengapa mengubah jumlah pesanan mengembalikan hasil yang berbeda? 23.53 + 5.88 + 17.64 = 47.05 23.53 + 17.64 + 5.88 = 47.050000000000004 Kedua Java dan JavaScript mengembalikan hasil yang sama. Saya mengerti bahwa, karena cara angka floating point direpresentasikan dalam biner, beberapa bilangan rasional ( seperti 1/3 - 0,333333 ... …

294 java javascript floating-point

2

Mengapa beberapa perbandingan float <integer empat kali lebih lambat dari yang lain?

Ketika membandingkan pelampung dengan bilangan bulat, beberapa pasang nilai membutuhkan waktu lebih lama untuk dievaluasi daripada nilai lain dengan besaran yang sama. Sebagai contoh: >>> import timeit >>> timeit.timeit("562949953420000.7 < 562949953421000") # run 1 million times 0.5387085462592742 Tetapi jika float atau integer dibuat lebih kecil atau lebih besar dengan jumlah …

284 python performance floating-point cpython python-internals

19

Mengapa angka desimal tidak dapat direpresentasikan secara tepat dalam biner?

Ada beberapa pertanyaan yang diposting ke SO tentang representasi floating-point. Misalnya, angka desimal 0,1 tidak memiliki representasi biner yang tepat, sehingga berbahaya untuk menggunakan operator == untuk membandingkannya dengan angka titik-mengambang lainnya. Saya mengerti prinsip di balik representasi floating-point. Yang tidak saya mengerti adalah mengapa, dari sudut pandang matematika, apakah …

284 math floating-point

3

Mengambang vs Desimal di ActiveRecord

Terkadang, tipe data Activerecord membingungkan saya. Err, sering. Salah satu pertanyaan abadi saya adalah, untuk kasus tertentu, Haruskah saya menggunakan :decimalatau :float? Saya sering menemukan tautan ini, ActiveRecord:: desimal vs: float? , tetapi jawabannya tidak cukup jelas bagi saya untuk memastikan: Saya telah melihat banyak utas di mana orang merekomendasikan …

283 ruby-on-rails types floating-point decimal rails-activerecord

6

Mengapa angka-angka ini tidak sama?

Kode berikut jelas salah. Apa masalahnya? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal 0.15

273 r floating-point floating-accuracy r-faq

14

Pembuatan angka float acak

Bagaimana cara menghasilkan float acak di C ++? Saya pikir saya bisa mengambil bilangan bulat rand dan membaginya dengan sesuatu, apakah itu cukup?

271 c++ random floating-point

12

Apa alasan untuk semua perbandingan yang kembali salah untuk nilai IEEE754 NaN?

Mengapa perbandingan nilai NaN berperilaku berbeda dari semua nilai lainnya? Artinya, semua perbandingan dengan operator ==, <=,> =, <,> di mana satu atau kedua nilai adalah NaN mengembalikan false, bertentangan dengan perilaku semua nilai lainnya. Saya kira ini menyederhanakan perhitungan numerik dalam beberapa cara, tapi saya tidak bisa menemukan alasan …

267 floating-point comparison nan ieee-754 iec10967

12

Kapan saya harus menggunakan ganda daripada desimal?

Saya dapat menyebutkan tiga keuntungan menggunakan double(atau float) alih-alih decimal: Menggunakan lebih sedikit memori. Lebih cepat karena operasi matematika floating point secara asli didukung oleh prosesor. Dapat mewakili rentang angka yang lebih besar. Tetapi keuntungan ini tampaknya hanya berlaku untuk operasi perhitungan yang intensif, seperti yang ditemukan dalam perangkat lunak …

265 c# types floating-point double decimal

9

Kapan saya harus menggunakan kata kunci “strictfp” di java?

Saya sudah mencari tahu apa artinya ini, tetapi apakah ada yang benar-benar memiliki contoh kapan Anda akan menggunakan strictfpkata kunci di Jawa? Adakah yang benar-benar menemukan kegunaan untuk ini? Apakah akan ada efek samping dari hanya meletakkannya di semua operasi floating point saya?

258 java floating-point strictfp

9

Jenis data MySQL apa yang harus digunakan untuk Latitude / Longitude dengan 8 tempat desimal?

Saya bekerja dengan data peta, dan Latitude/Longitudemeluas ke 8 tempat desimal. Sebagai contoh: Latitude 40.71727401 Longitude -74.00898606 Saya melihat di dokumen Google yang menggunakan: lat FLOAT( 10, 6 ) NOT NULL, lng FLOAT( 10, 6 ) NOT NULL namun, tempat desimalnya hanya menuju 6. Haruskah saya menggunakan FLOAT(10, 8)atau apakah …

257 mysql types floating-point

7

Mengapa pembagian di Ruby mengembalikan bilangan bulat bukan nilai desimal?

Sebagai contoh: 9 / 5 #=> 1 tapi saya harapkan 1.8. Bagaimana saya bisa mendapatkan hasil desimal (non-integer) yang benar? Mengapa itu kembali 1sama sekali?

256 ruby math floating-point division integer-division

8

Bagaimana cara mengubah string menjadi float di JavaScript?

Saya mencoba mengurai dua nilai dari datagrid. Kolom adalah numerik, dan ketika mereka memiliki koma (mis. 554,20), saya tidak bisa mendapatkan angka setelah koma. Saya sudah mencoba parseIntdan parseFloat. Bagaimana saya bisa melakukan ini?

255 javascript parsing floating-point

11

Adakah yang bisa menjelaskan perilaku aneh ini dengan floats yang ditandatangani di C #?

Ini adalah contoh dengan komentar: class Program { // first version of structure public struct D1 { public double d; public int f; } // during some changes in code then we got D2 from D1 // Field f type became double while it was int before public struct D2 …

247 c# .net floating-point

Pertanyaan yang diberi tag «floating-point»