Pertanyaan yang diberi tag «arithmetic»

Kita semua tahu 0/0adalah Undefineddan kembali kesalahan jika saya harus memasukkannya ke dalam kalkulator, dan jika saya harus membuat sebuah program (dalam C setidaknya) OS akan menghentikannya ketika saya mencoba untuk membagi dengan nol. Tetapi yang saya bertanya-tanya adalah apakah komputer bahkan mencoba untuk membaginya dengan nol , atau apakah …

59 math  error-handling  arithmetic 

2¹⁶-1 & 2⁵ = 2⁵ (atau? Jelas?) Seorang pengembang bertanya kepada saya hari ini apakah bitwise 65535 & 32 yaitu 2¹⁶-1 & 2⁵ =? Mula-mula saya berpikir secara spontan 32 tetapi tampaknya mudah ketika saya berpikir selama beberapa menit dan kemudian menjawab 32. 32 tampaknya merupakan jawaban yang benar tetapi …

11 numbers  binary  bitwise-operators  32-bit  arithmetic 

Untuk yang non-Inggris di antara hadirin, ada segmen acara permainan siang hari di mana para kontestan memiliki 6 angka dan angka target yang dibuat secara acak. Mereka harus mencapai nomor target menggunakan salah satu (tetapi tidak harus semua) dari 6 angka hanya menggunakan operator aritmatika. Semua perhitungan harus menghasilkan bilangan …

10 algorithms  arithmetic 

Akan melalui Modulo operasi (jalan saya masuk sambil menjelajahi perbedaan antara remdanmod ) saya datang di: Dalam matematika hasil operasi modulo adalah sisa dari divisi Euclidean. Namun, konvensi lain dimungkinkan. Komputer dan kalkulator memiliki berbagai cara untuk menyimpan dan mewakili angka; sehingga definisi mereka tentang operasi modulo tergantung pada bahasa …

9 programming-languages  language-design  math  arithmetic  design-decisions