Pertanyaan yang diberi tag «floating-point»

Angka floating point adalah perkiraan bilangan real yang dapat mewakili rentang yang lebih besar daripada bilangan bulat tetapi menggunakan jumlah memori yang sama, dengan biaya presisi yang lebih rendah. Jika pertanyaan Anda adalah tentang kesalahan aritmatika kecil (mis. Mengapa 0,2 + 0,1 sama dengan 0,300000001?) Atau kesalahan konversi desimal, harap baca halaman "info" yang ditautkan di bawah sebelum memposting.

Apa cara paling efektif untuk perbandingan mengambang dan ganda?

Apa cara yang paling efisien untuk membandingkan dua doubleatau dua floatnilai? Melakukan hal ini tidak benar: bool CompareDoubles1 (double A, double B) { return A == B; } Tetapi sesuatu seperti: bool CompareDoubles2 (double A, double B) { diff = A - B; return (diff < EPSILON) && (-diff < …

524 c++ algorithm optimization floating-point

Bagaimana memformat angka mengambang menjadi String tanpa desimal 0 yang tidak perlu?

Double 64-bit dapat mewakili integer +/- 2 53 dengan tepat Mengingat fakta ini saya memilih untuk menggunakan tipe ganda sebagai tipe tunggal untuk semua tipe saya, karena integer terbesar saya tidak bertanda 32-bit. Tapi sekarang saya harus mencetak bilangan bulat semu ini, tetapi masalahnya adalah mereka juga bercampur dengan ganda …

496 java string floating-point format double

Bagaimana Anda mengumpulkan angka dengan Python?

Masalah ini membunuhku. Bagaimana cara mengumpulkan angka UP di Python? Saya mencoba putaran (angka) tetapi membulatkan angka ke bawah. Contoh: round(2.3) = 2.0 and not 3, what I would like Saya mencoba int (angka + .5) tetapi membulatkan angka ke bawah lagi! Contoh: int(2.3 + .5) = 2 Kemudian saya …

487 python floating-point integer rounding python-2.x

Penentu format yang benar untuk mencetak dua kali dalamf

Untuk apa specifier format yang benar doubledalam printf? Apakah itu %fatau tidak %lf? Saya percaya itu %f, tapi saya tidak yakin. Contoh kode #include <stdio.h> int main() { double d = 1.4; printf("%lf", d); // Is this wrong? }

482 c floating-point printf double format-specifiers

Bagaimana cara memformat float di javascript?

Dalam JavaScript, ketika mengkonversi dari float ke string, bagaimana saya bisa mendapatkan hanya 2 digit setelah titik desimal? Misalnya, 0,34 bukannya 0,3445434.

427 javascript floating-point

Apa perbedaan antara float dan double?

Saya telah membaca tentang perbedaan antara presisi ganda dan presisi tunggal. Namun, dalam banyak kasus, floatdan doubletampaknya dapat dipertukarkan, yaitu menggunakan satu atau yang lain tampaknya tidak mempengaruhi hasil. Benarkah ini masalahnya? Kapan mengapung dan ganda dipertukarkan? Apa perbedaan di antara mereka?

420 c++ c floating-point precision

Bagaimana cara mendapatkan nomor acak antara rentang float?

randrange(start, stop)hanya membutuhkan argumen integer. Jadi bagaimana saya mendapatkan angka acak antara dua nilai float?

414 python random floating-point

Bagaimana cara mem-parsing float dengan dua tempat desimal di javascript?

Saya memiliki kode berikut. Saya ingin memilikinya sehingga jika price_result sama dengan integer, katakanlah 10, maka saya ingin menambahkan dua tempat desimal. Jadi 10 akan menjadi 10.00. Atau jika sama dengan 10,6 akan menjadi 10,60. Tidak yakin bagaimana melakukan ini. price_result = parseFloat(test_var.split('$')[1].slice(0,-1));

411 javascript floating-point

Seberapa berbahaya membandingkan nilai floating point?

Saya tahu UIKitpenggunaan CGFloatkarena sistem koordinat independen resolusi. Tapi setiap kali saya ingin memeriksa apakah misalnya frame.origin.xadalah 0itu membuat saya merasa sakit: if (theView.frame.origin.x == 0) { // do important operation } Tidak CGFloatrentan terhadap positif palsu ketika membandingkan dengan ==, <=, >=, <, >? Ini adalah titik mengambang dan …

391 objective-c ios c floating-point floating-accuracy

Bagaimana mengkonversi float ke int dengan Java

Saya menggunakan baris berikut untuk mengonversi float ke int, tetapi tidak seakurat yang saya inginkan: float a=8.61f; int b; b=(int)a; Hasilnya adalah: 8(Seharusnya 9) Kapan a = -7.65f, hasilnya adalah: -7(Seharusnya -8) Apa cara terbaik untuk melakukannya?

342 java floating-point int

Apa cara terbaik untuk membandingkan pelampung untuk hampir-kesetaraan dalam Python?

Sudah diketahui bahwa membandingkan floats untuk persamaan adalah sedikit rumit karena masalah pembulatan dan ketepatan. Misalnya: https://randomascii.wordpress.com/2012/02/25/comparing-floating-point-numbers-2012-edition/ Apa cara yang disarankan untuk menangani hal ini dengan Python? Tentunya ada fungsi perpustakaan standar untuk ini di suatu tempat?

333 python floating-point

Bagaimana cara mencetak nilai ganda dengan presisi penuh menggunakan cout?

Jadi saya mendapatkan jawaban untuk pertanyaan terakhir saya (saya tidak tahu mengapa saya tidak memikirkan itu). Saya mencetak doublemenggunakan coutyang bulat ketika saya tidak mengharapkannya. Bagaimana saya bisa membuat coutcetakan doublemenggunakan presisi penuh?

332 c++ floating-point precision iostream cout

JavaScript menampilkan float ke 2 tempat desimal

Saya ingin menampilkan angka ke 2 tempat desimal. Saya pikir saya bisa menggunakan toPrecision(2)JavaScript. Namun, jika angkanya 0.05, saya dapatkan 0.0500. Saya lebih suka tetap sama. Lihat di JSbin . Apa cara terbaik untuk melakukan ini? Saya bisa memikirkan pengkodean beberapa solusi, tetapi saya membayangkan (saya harap) sesuatu seperti ini …

316 javascript floating-point precision

Apa yang diwakili oleh konstanta 0,0039215689?

Saya terus melihat ini muncul dalam berbagai file header grafis 0.0039215689 Sepertinya ada hubungannya dengan warna mungkin? Inilah hit pertama di Google : void RDP_G_SETFOGCOLOR(void) { Gfx.FogColor.R = _SHIFTR(w1, 24, 8) * 0.0039215689f; Gfx.FogColor.G = _SHIFTR(w1, 16, 8) * 0.0039215689f; Gfx.FogColor.B = _SHIFTR(w1, 8, 8) * 0.0039215689f; Gfx.FogColor.A = _SHIFTR(w1, …

310 c floating-point constants magic-numbers

Gandakan vs BigDecimal?

Saya harus menghitung beberapa variabel floating point dan kolega saya menyarankan saya untuk menggunakan BigDecimalalih-alih doublekarena akan lebih tepat. Tapi saya ingin tahu apa itu dan bagaimana memanfaatkannya BigDecimal?

303 java floating-point double bigdecimal

Dengan menggunakan situs kami, Anda mengakui telah membaca dan memahami Kebijakan Cookie dan Kebijakan Privasi kami.

Licensed under cc by-sa 3.0 with attribution required.