Pertanyaan yang diberi tag «floating-point»

Saya telah mencoba untuk memeriksa filter saya pada DEM raster untuk pengenalan pola dan selalu menghasilkan baris dan kolom terakhir yang hilang (seperti..20) . Saya sudah mencoba dengan PIL library, memuat gambar. Lalu dengan numpy. Outputnya sama. Saya pikir, ada yang salah dengan loop saya, ketika memeriksa nilai dalam array …

26 python  raster  gdal  numpy  floating-point 

Apakah ada studi dasar atau pengantar yang meneliti dan membandingkan ketepatan data spasial ketika bekerja dengan berbagai masukan data input, seperti memiliki 1, 2, ... tempat desimal? dengan beragam implementasi floating point (float, double)? dengan data di dekat khatulistiwa dibandingkan dengan data di dekat kutub? dengan jarak geografis dihitung dengan …

22 gps  distance  wgs84  accuracy  floating-point 

Saya kebetulan menemukan bagaimana ArcMap menampilkan nilai floating point khusus kepada pengguna. + ∞ (positif tanpa batas) ditampilkan sebagai 1.#INF –∞ (infinity negatif) seharusnya akan ditampilkan sebagai -1.#INF- Saya belum memverifikasi yang ini. NaN (bukan angka) ditampilkan sebagai rata-rata <Null>- jangan dikacaukan dengan rata kiri <Null>, yang menunjukkan NULL (nilai …

10 arcgis-desktop  arcmap  arcobjects  definition-query  floating-point