Pertanyaan yang diberi tag «floating-point»

Angka floating point adalah perkiraan bilangan real yang dapat mewakili rentang yang lebih besar daripada bilangan bulat tetapi menggunakan jumlah memori yang sama, dengan biaya presisi yang lebih rendah. Jika pertanyaan Anda adalah tentang kesalahan aritmatika kecil (mis. Mengapa 0,2 + 0,1 sama dengan 0,300000001?) Atau kesalahan konversi desimal, harap baca halaman "info" yang ditautkan di bawah sebelum memposting.

10
Tambahkan nilai floating point ke sumber daya / nilai android
Saya mencoba menambahkan sedikit ruang di antara baris ke TextViews saya menggunakan android:lineSpacingMultiplier dari dokumentasi : Spasi ekstra antara baris teks, sebagai pengganda. Harus berupa nilai floating point, seperti "1.2". Karena saya menggunakan ini di beberapa TextViews yang berbeda, saya ingin menambahkan dimensi / nilai global ke sumber daya saya, …
16
Python JSON membuat serial objek desimal
Saya memiliki Decimal('3.9')sebagai bagian dari objek, dan ingin menyandikan ini ke string JSON yang seharusnya terlihat {'x': 3.9}. Saya tidak peduli tentang presisi di sisi klien, jadi float baik-baik saja. Apakah ada cara yang baik untuk membuat cerita bersambung ini? JSONDecoder tidak menerima objek Desimal, dan mengkonversi ke float sebelumnya …
21
round () untuk float di C ++
Saya membutuhkan fungsi pembulatan titik mengambang sederhana, dengan demikian: double round(double); round(0.1) = 0 round(-0.1) = 0 round(-0.9) = -1 Saya dapat menemukan ceil()dan floor()dalam math.h - tetapi tidak round(). Apakah ada di pustaka C ++ standar dengan nama lain, atau hilang?
10
Konversi float ke ints di Pandas?
Saya telah bekerja dengan data yang diimpor dari CSV. Panda mengubah beberapa kolom menjadi mengambang, jadi sekarang angka-angka dalam kolom ini ditampilkan sebagai titik mengambang! Namun, saya ingin mereka ditampilkan sebagai bilangan bulat, atau, tanpa koma. Apakah ada cara untuk mengubahnya menjadi bilangan bulat atau tidak menampilkan koma?
10
Format Float ke n tempat desimal
Saya perlu memformat float ke tempat desimal "n". sedang mencoba ke BigDecimal, tetapi nilai kembali tidak benar ... public static float Redondear(float pNumero, int pCantidadDecimales) { // the function is call with the values Redondear(625.3f, 2) BigDecimal value = new BigDecimal(pNumero); value = value.setScale(pCantidadDecimales, RoundingMode.HALF_EVEN); // here the value is …
7
Memformat float ke 2 tempat desimal
Saat ini saya sedang membangun modul penjualan untuk situs web klien. Sejauh ini saya sudah mendapatkan harga jual untuk menghitung dengan sempurna tetapi di mana saya terjebak adalah memformat output ke 2 tempat desimal. Saya saat ini memanggil ini dalam variabel sehingga saya dapat data mengikat hasil ke tampilan daftar. …
13
Cara memeriksa apakah nilai float adalah bilangan bulat
Saya mencoba menemukan akar pangkat tiga terbesar yang merupakan bilangan bulat, yaitu kurang dari 12.000. processing = True n = 12000 while processing: n -= 1 if n ** (1/3) == #checks to see if this has decimals or not Saya tidak yakin bagaimana memeriksa apakah itu bilangan bulat atau …
6
Mengapa angka floating point tidak akurat?
Mengapa beberapa angka kehilangan akurasi ketika disimpan sebagai angka floating point? Sebagai contoh, angka desimal 9.2dapat dinyatakan dengan tepat sebagai rasio dua bilangan bulat desimal ( 92/10), yang keduanya dapat dinyatakan secara tepat dalam biner ( 0b1011100/0b1010). Namun, rasio yang sama disimpan sebagai angka floating point tidak pernah sama persis …
6
Menggunakan bitwise ATAU 0 untuk membuat angka
Seorang kolega saya menemukan metode untuk meratakan angka float menggunakan bitwise atau: var a = 13.6 | 0; //a == 13 Kami membicarakannya dan bertanya-tanya beberapa hal. Bagaimana cara kerjanya? Teori kami adalah bahwa menggunakan operator seperti itu melemparkan angka ke bilangan bulat, sehingga menghilangkan bagian fraksional Apakah ada kelebihan …
Dengan menggunakan situs kami, Anda mengakui telah membaca dan memahami Kebijakan Cookie dan Kebijakan Privasi kami.
Licensed under cc by-sa 3.0 with attribution required.