Pemrograman floating-point

30

Sebelumnya, klik di atas Stack Overflow pada saat ini : Вычислеjo Pertimbangkan kode berikut: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Mengapa ketidakakuratan ini terjadi?

2983 math language-agnostic floating-point floating-accuracy

27

Bagaimana cara mengurai string ke float atau int?

Dengan Python, bagaimana saya bisa mengurai string numerik seperti "545.2222"nilai float yang sesuai 545.2222,? Atau parsing string "31"ke integer 31,? Saya hanya ingin tahu cara mengurai float str ke float, dan (secara terpisah) int str ke int.

2252 python parsing floating-point type-conversion integer

12

Mengapa GCC tidak mengoptimalkan a * a * a * a * a * a to (a * a * a) * (a * a * a)?

Saya melakukan beberapa optimasi numerik pada aplikasi ilmiah. Satu hal yang saya perhatikan adalah bahwa GCC akan mengoptimalkan panggilan pow(a,2)dengan mengkompilasinya a*a, tetapi panggilan pow(a,6)tersebut tidak dioptimalkan dan benar-benar akan memanggil fungsi perpustakaan pow, yang sangat memperlambat kinerja. (Sebaliknya, Intel C ++ Compiler , dapat dieksekusi icc, akan menghilangkan panggilan …

2120 gcc assembly floating-point compiler-optimization fast-math

18

Perbedaan antara desimal, float, dan gandakan .NET?

Apa perbedaan antara decimal, floatdan double. NET? Kapan seseorang akan menggunakan salah satunya?

2086 .net floating-point double decimal

25

Membatasi mengapung ke dua titik desimal

Saya ingin adibulatkan ke 13,95 . >>> a 13.949999999999999 >>> round(a, 2) 13.949999999999999 The roundfungsi tidak bekerja seperti yang saya harapkan.

1691 python floating-point rounding precision

30

Bagaimana cara memeriksa apakah string adalah angka (float)?

Apa cara terbaik untuk memeriksa apakah string dapat direpresentasikan sebagai angka dengan Python? Fungsi yang saya miliki saat ini adalah: def is_number(s): try: float(s) return True except ValueError: return False Yang, tidak hanya jelek dan lambat, tampaknya kikuk. Namun saya belum menemukan metode yang lebih baik karena memanggil floatfungsi utama …

1609 python casting floating-point type-conversion

5

Mengapa mengubah 0.1f ke 0 memperlambat kinerja sebesar 10x?

Mengapa ini sedikit kode, const float x[16] = { 1.1, 1.2, 1.3, 1.4, 1.5, 1.6, 1.7, 1.8, 1.9, 2.0, 2.1, 2.2, 2.3, 2.4, 2.5, 2.6}; const float z[16] = {1.123, 1.234, 1.345, 156.467, 1.578, 1.689, 1.790, 1.812, 1.923, 2.034, 2.145, 2.256, 2.367, 2.478, 2.589, 2.690}; float y[16]; for (int i …

1527 c++ performance visual-studio-2010 compilation floating-point

15

Mengapa tidak menggunakan Double atau Float untuk mewakili mata uang?

Saya selalu diberitahu untuk tidak mewakili uang dengan doubleatau floatjenis, dan kali ini saya mengajukan pertanyaan kepada Anda: mengapa? Saya yakin ada alasan yang sangat bagus, saya hanya tidak tahu apa itu.

939 floating-point currency

7

Apakah ada tipe input mengambang di HTML5?

Menurut html5.org , atribut nilai "number" input type ", jika ditentukan dan tidak kosong, harus memiliki nilai yang merupakan angka floating point yang valid." Namun itu sederhana (dalam versi terbaru Chrome), kontrol "pembaruan" dengan bilangan bulat, bukan mengapung: <input type="number" id="totalAmt"></input> Jalankan cuplikan kodeSembunyikan hasilLuaskan cuplikan Apakah ada elemen input …

819 html input floating-point

30

Memformat angka untuk selalu menampilkan 2 tempat desimal

Saya ingin memformat nomor saya untuk selalu menampilkan 2 tempat desimal, pembulatan jika berlaku. Contoh: number display ------ ------- 1 1.00 1.341 1.34 1.345 1.35 Saya telah menggunakan ini: parseFloat(num).toFixed(2); Tapi itu ditampilkan 1sebagai 1, bukan 1.00.

783 javascript floating-point number-formatting

30

Bagaimana cara menggunakan nilai langkah rentang desimal ()?

Apakah ada cara untuk melangkah antara 0 dan 1 dengan 0,1? Saya pikir saya bisa melakukannya seperti berikut, tetapi gagal: for i in range(0, 1, 0.1): print i Sebaliknya, ia mengatakan bahwa argumen langkah tidak boleh nol, yang tidak saya harapkan.

744 python floating-point range

11

Bagaimana saya bisa memaksa pembagian menjadi titik mengambang? Divisi terus membulatkan ke 0?

Saya memiliki dua nilai integer adan b, tetapi saya perlu rasio mereka di floating point. Saya tahu itu a < bdan saya ingin menghitung a / b, jadi jika saya menggunakan divisi integer saya akan selalu mendapatkan 0 dengan sisa a. Bagaimana saya bisa memaksa cuntuk menjadi nomor floating point …

721 python floating-point integer division python-2.x

15

Ubah Desimal menjadi Dua

Saya ingin menggunakan a Track-Baruntuk mengubah Formopacity. Ini kode saya: decimal trans = trackBar1.Value / 5000; this.Opacity = trans; Ketika saya membangun aplikasi, itu memberikan kesalahan berikut: Tidak dapat secara implisit mengkonversi tipe decimalmenjadidouble Saya sudah mencoba menggunakan transdan doublekemudian Controltidak berhasil. Kode ini berfungsi dengan baik di proyek VB.NET …

672 c# floating-point type-conversion double decimal

30

Bagaimana cara menangani presisi angka floating point dalam JavaScript?

Saya memiliki skrip tes dummy berikut: function test() { var x = 0.1 * 0.2; document.write(x); } test(); Jalankan cuplikan kodeSembunyikan hasilLuaskan cuplikan Ini akan mencetak hasil 0.020000000000000004sementara itu hanya harus mencetak 0.02(jika Anda menggunakan kalkulator Anda). Sejauh yang saya mengerti ini adalah karena kesalahan dalam presisi multiplikasi floating point. …

620 javascript floating-point

5

Mengapa Math.round (0.49999999999999994)) mengembalikan 1?

Dalam program berikut ini Anda dapat melihat bahwa setiap nilai sedikit kurang dari .5dibulatkan, kecuali untuk 0.5. for (int i = 10; i >= 0; i--) { long l = Double.doubleToLongBits(i + 0.5); double x; do { x = Double.longBitsToDouble(l); System.out.println(x + " rounded is " + Math.round(x)); l--; } …

567 java floating-point double rounding

Pertanyaan yang diberi tag «floating-point»