Pertanyaan yang diberi tag «dc»


3
Kehilangan presisi dengan dc
Saya ingin menggunakan dcuntuk menangani beberapa angka dasar 16 dengan poin heksadesimal tapi saya mengalami masalah presisi. Sebagai contoh, di bawah ini saya mengalikan F423F.FDdengan 100, keduanya hex. Jawaban yang diharapkan adalah F423FFD, sebaliknya memberi F423FFA.E1, menutup tetapi tidak cukup akurat bahkan setelah pembulatan. $ dc 16 d i o …
12 dc 
Dengan menggunakan situs kami, Anda mengakui telah membaca dan memahami Kebijakan Cookie dan Kebijakan Privasi kami.
Licensed under cc by-sa 3.0 with attribution required.