Pertanyaan yang diberi tag «floating-point»

Seringkali dalam pengalaman pemrograman saya, saya perlu membuat keputusan apakah saya harus menggunakan float atau double untuk bilangan real saya. Terkadang saya mencoba float, terkadang saya double, tapi sebenarnya ini terasa lebih subyektif. Jika saya akan dihadapkan untuk membela keputusan saya, saya mungkin tidak akan memberikan alasan yang masuk akal. …

194 c++  c  floating-point  numbers 

Di setiap tempat yang saya lihat, dikatakan doublelebih unggul floatdalam hampir semua hal. floattelah dibuat usang oleh doubledi Jawa, jadi mengapa masih digunakan? Saya banyak memprogram dengan Libgdx, dan mereka memaksa Anda untuk menggunakan float(deltaTime, dll.), Tetapi bagi saya sepertinya doublelebih mudah untuk dikerjakan dalam hal penyimpanan dan memori. Saya …

84 java  memory  floating-point  numbers 

Saya bingung mengapa kita peduli dengan representasi yang berbeda untuk nol positif dan negatif. Samar-samar saya ingat membaca klaim bahwa memiliki representasi nol negatif sangat penting dalam pemrograman yang melibatkan bilangan kompleks. Saya tidak pernah memiliki kesempatan untuk menulis kode yang melibatkan bilangan kompleks, jadi saya sedikit bingung mengapa ini …

64 math  floating-point 

Saya menyadari bahwa aritmatika floating point memiliki masalah presisi. Saya biasanya mengatasinya dengan beralih ke representasi angka desimal tetap, atau hanya dengan mengabaikan kesalahan. Namun, saya tidak tahu apa penyebab ketidaktepatan ini. Mengapa ada begitu banyak masalah pembulatan dengan angka float?

62 floating-point  numeric-precision 

C#memiliki decimaltipe yang digunakan untuk angka-angka yang membutuhkan representasi tepat dalam basis 10. Misalnya, 0.1tidak dapat direpresentasikan dalam basis 2 (misalnya floatdan double) dan akan selalu menjadi perkiraan ketika disimpan dalam variabel yang merupakan tipe ini. Saya bertanya-tanya apakah fakta yang terbalik juga mungkin terjadi. Apakah ada angka yang tidak …

42 c#  numbers  floating-point 

Apakah ada alternatif untuk bit sebagai unit data terkecil? Sesuatu yang tidak hanya 0 atau 1, tetapi sebenarnya memiliki banyak kemungkinan kondisi di antaranya? Bukankah lebih alami menyimpan float seperti itu?

42 data  binary  floating-point  byte  bit 

Saat menyelidiki keakuratan angka floating point, saya pernah melihat di beberapa tempat pernyataan yang mirip " float dan double adalah ( dirancang untuk / sering digunakan dalam ) perhitungan teknik dan ilmiah " Dari pemahaman saya, kekuatan float dan double adalah jumlah memori yang mereka gunakan untuk presisi (baik, tetapi …

33 floating-point  numeric-precision 

Misalnya, saya ingin menampilkan daftar tombol mulai 0,0,5, ... 5, yang melompat untuk setiap 0,5. Saya menggunakan loop for untuk melakukan itu, dan memiliki warna berbeda di tombol STANDARD_LINE: var MAX=5.0; var DIFF=0.5 var STANDARD_LINE=1.5; for(var i=0;i<=MAX;i=i+DIFF){ button.text=i+''; if(i==STANDARD_LINE){ button.color='red'; } } Pada kasus ini seharusnya tidak ada kesalahan pembulatan …

31 javascript  coding-style  floating-point 

Saya sedang menonton http://www.joelonsoftware.com/items/2011/06/27.html dan menertawakan lelucon Jon Skeet tentang 0,3 tidak menjadi 0,3. Saya pribadi tidak pernah memiliki masalah dengan float / desimal / ganda tetapi kemudian saya ingat saya belajar 6502 sangat awal dan tidak pernah membutuhkan float di sebagian besar program saya. Satu-satunya waktu saya menggunakannya untuk …

29 floating-point 

Saya sedang membaca artikel dari Microsoft tentang Pelebaran Konversi dan Opsi Ketat Aktif ketika saya sampai di bagian tersebut Konversi berikut mungkin kehilangan presisi: Integer ke Tunggal Panjang ke Tunggal atau Ganda Desimal ke Satu atau Ganda Namun, konversi ini tidak kehilangan informasi atau besarnya. .. tetapi menurut artikel lain …

27 vb.net  floating-point 

Ini bukan pertanyaan rangkap karena saya membaca pertanyaan sebelumnya. Adakah yang bisa membantu saya dalam memahami how float values are stored in the memory. Keraguan saya di sini adalah nilai float berisi ' .'( for example 3.45) bagaimana '.'akan diwakili dalam memori? Adakah yang bisa menjelaskan saya dengan diagram?

20 c  memory  floating-point 

Dalam membangun aplikasi yang berhubungan dengan banyak perhitungan matematis, saya telah menemui masalah bahwa angka-angka tertentu menyebabkan kesalahan pembulatan. Meskipun saya mengerti bahwa floating point tidak tepat , masalahnya adalah bagaimana cara saya menangani angka yang tepat untuk memastikan bahwa ketika perhitungan dilakukan pada mereka, floating point rounding tidak menyebabkan …

18 floating-point  numeric-precision 

Katakanlah kita memiliki kelas Python berikut (masalahnya ada di Jawa sama dengan equalsdan hashCode) class Temperature: def __init__(self, degrees): self.degrees = degrees di mana degreessuhu di Kelvin sebagai pelampung. Sekarang, saya ingin menerapkan pengujian kesetaraan dan hashing Temperaturedengan cara itu membandingkan mengapung hingga perbedaan epsilon alih-alih pengujian kesetaraan langsung, dan …

15 java  python  hashing  floating-point 

Sejauh yang saya ingat pada diri saya sendiri pemrograman saya diajarkan untuk tidak membandingkan angka floating point untuk kesetaraan. Sekarang, ketika membaca Pemrograman di Lua tentang numbertipe Lua , saya menemukan berikut: Jenis angka mewakili angka nyata (titik presisi mengambang-ganda). Lua tidak memiliki tipe integer, karena tidak memerlukannya. Ada kesalahpahaman …

11 lua  floating-point 

Ketika meninjau implementasi programmer lain dari fungsi untuk menghitung distribusi CDF normal , saya membuat saran untuk mengganti seluruh implementasi dengan fungsi bawaan Python atau menggunakan SciPy, perpustakaan ilmiah umum. Programmer lain menunjukkan bahwa keduanya math.erfc()tidak scipy.stats.norm.cdf()memberikan jaminan presisi dalam dokumentasi mereka. Oleh karena itu, saya harus lebih berhati-hati dalam …

9 documentation  math  floating-point  numeric-precision