Pertanyaan yang diberi tag «precision»

Ini adalah pertanyaan yang saya tanyakan pada wawancara saya baru-baru ini dan saya ingin tahu (saya sebenarnya tidak ingat teori analisis numerik, jadi tolong bantu saya :) Jika kita memiliki beberapa fungsi, yang mengakumulasi bilangan floating-point: std::accumulate(v.begin(), v.end(), 0.0); vadalah std::vector<float>, misalnya. Apakah lebih baik mengurutkan angka-angka ini sebelum mengumpulkannya? …

105 c++  floating-point  precision 

Saya tahu Anda tidak dapat mengandalkan persamaan antara nilai tipe ganda atau desimal secara normal, tetapi saya bertanya-tanya apakah 0 adalah kasus khusus. Meskipun saya dapat memahami ketidaktepatan antara 0,000000000001 dan 0,0000000000000002, 0 sendiri tampaknya cukup sulit untuk dikacaukan karena tidak ada artinya. Jika Anda tidak tepat dalam hal apa …

100 c#  .net  floating-point  precision  zero 

Saya baru saja mengalami beberapa perilaku tak terduga dengan DateTime.UtcNow saat melakukan beberapa pengujian unit. Tampaknya saat Anda memanggil DateTime.Now/UtcNow secara berurutan, tampaknya memberikan Anda nilai yang sama untuk interval waktu yang lebih lama dari yang diharapkan, daripada menangkap kenaikan milidetik yang lebih tepat. Saya tahu ada kelas Stopwatch yang …

97 c#  .net  datetime  precision  time-precision 

Ini adalah sesuatu yang ada di pikiran saya selama bertahun-tahun, tetapi saya tidak pernah meluangkan waktu untuk bertanya sebelumnya. Banyak (pseudo) generator nomor acak menghasilkan nomor acak antara 0,0 dan 1,0. Secara matematis ada bilangan tak hingga dalam rentang ini, tetapi doublemerupakan bilangan floating point, dan oleh karena itu memiliki …

95 random  floating-point  double  precision 

Ini bukan pertanyaan karena lebih merupakan kewaspadaan. Saya memperbarui aplikasi yang menggunakan json_encode()PHP7.1.1 dan saya melihat masalah dengan float yang diubah terkadang melebihi 17 digit. Menurut dokumentasi, PHP 7.1.x mulai digunakan serialize_precisionsebagai pengganti presisi saat mengenkode nilai ganda. Saya menduga ini menyebabkan nilai contoh 472.185 untuk menjadi 472.18500000000006 setelah nilai …

93 php  json  precision  php-7.1 

Saya sering berakhir dalam situasi di mana perlu untuk memeriksa apakah perbedaan yang diperoleh di atas presisi mesin. Sepertinya untuk tujuan ini R memiliki variabel berguna: .Machine$double.eps. Namun ketika saya beralih ke kode sumber R untuk panduan tentang menggunakan nilai ini saya melihat beberapa pola yang berbeda. Contohnya Berikut beberapa …

36 r  floating-point  rounding  precision 

Misalkan kita mengambil np.dotdua 'float32'array 2D: res = np.dot(a, b) # see CASE 1 print(list(res[0])) # list shows more digits [-0.90448684, -1.1708503, 0.907136, 3.5594249, 1.1374011, -1.3826287] Angka Kecuali, mereka dapat berubah: KASUS 1 : irisana np.random.seed(1) a = np.random.randn(9, 6).astype('float32') b = np.random.randn(6, 6).astype('float32') for i in range(1, len(a)): print(list(np.dot(a[:i], …

15 python  c  arrays  numpy  precision 

Saya memiliki daftar angka positif floating point yang cukup panjang ( std::vector<float>, ukuran ~ 1000). Angka-angka diurutkan dalam mengurangi pemesanan. Jika saya menjumlahkan mereka mengikuti pesanan: for (auto v : vec) { sum += v; } Saya kira saya dapat memiliki beberapa masalah stabilitas numerik, karena mendekati akhir vektor sumakan …

12 c++  floating-point  precision