Menggunakan rumus Pythagoras pada posisi yang diberikan dalam lintang dan bujur masuk akal sesederhana, katakanlah, menghitung luas lingkaran menggunakan rumus untuk persegi: meskipun menghasilkan angka, tidak ada alasan untuk menganggap itu harus bekerja.
Meskipun pada skala kecil setiap permukaan terlihat halus seperti pesawat, keakuratan rumus Pythagoras tergantung pada koordinat yang digunakan. Ketika koordinat itu adalah garis lintang dan bujur pada sebuah bola (atau ellipsoid), kita dapat mengharapkan itu
Jarak sepanjang garis bujur akan cukup akurat.
Jarak di sepanjang Khatulistiwa akan cukup akurat.
Semua jarak lain akan keliru, dalam proporsi kasar dengan perbedaan dalam lintang dan bujur.
Kesalahan tergantung pada titik awal dan akhir perhitungan jarak. Namun, karena baik bola dan ellipsoid memiliki simetri melingkar di sekitar sumbu, kesalahan hanya bergantung pada perbedaan garis bujur, jadi untuk mempelajari kesalahan ini kita mungkin juga mengambil titik asal berada di Prime Meridian. Karena baik bola dan ellipsoid simetris di bawah refleksi utara-selatan, kita hanya perlu mempelajari titik-titik asal di belahan bumi selatan. Untuk setiap titik seperti itu kita dapat menggambar peta kontur kesalahan relatif, sama dengan [perhitungan Pythagoras] / [True distance].
Rumus Pythagoras, menggunakan jari-jari rata-rata bumi, adalah
Pythagorean distance = 6371000. * Sqrt[dx^2 + dy^2]] * pi / 180 meters
di mana dx adalah perbedaan dalam bujur dan dy adalah perbedaan dalam lintang, keduanya dalam derajat. (Perbedaan dalam nilai bujur dikurangi modulo 360 untuk memberikan nilai dx yang tepat ketika melintasi antimeridian; jika tidak melakukan hal itu akan menimbulkan kesalahan artifisial besar yang tidak memberi tahu kita apa pun tentang rumus Pythagoras itu sendiri.)
Plot berikut menunjukkan kesalahan relatif dibandingkan dengan jarak yang benar pada ellipsoid WGS 84 untuk garis lintang dari -70 ke 0 dalam peningkatan 10 derajat. Koordinat horizontal adalah perbedaan dalam bujur dan koordinat vertikal adalah garis lintang dari tujuan. Wilayah cahaya memiliki kesalahan yang relatif kecil: garis kontur berada pada 1, 1.01, 1.02, 1.05, 1.1, 1.2, 1.5, 2, dll. (Area putih murni di sudut adalah tempat di mana kesalahan melampaui jangkauan kontur ini .) Titik-titik merah menunjukkan titik asal.
Pita putih vertikal bersaksi tentang kebenaran harapan (1): Jarak Pythagoras akurat ketika ada perbedaan kecil dalam bujur. Pita putih horizontal pada garis lintang rendah mengkonfirmasi harapan (2): dekat Khatulistiwa, jarak horizontal cukup akurat. Kalau tidak, seperti yang disaksikan oleh daerah gelap yang luas, di semua jarak lain rumus Pythagoras buruk.
Kita dapat membuat estimasi kuantitatif secara maksimalkesalahan diperoleh untuk pasang titik terdekat (dalam, katakanlah, beberapa ratus kilometer dari satu sama lain). Skala - menggunakan nilai yang sesuai untuk jari-jari - benar di sepanjang meridian tetapi di sepanjang lingkaran garis lintang keliru kira-kira oleh garis potong garis lintang. Misalnya, pada garis lintang 40 derajat garis potong adalah 1,31, menyiratkan rumus Pythagoras akan memberikan jarak sekitar 31% terlalu besar ke arah timur-barat. (Ini terlihat jelas pada plot kontur kanan atas, untuk titik asal pada garis lintang -40 derajat, di mana wilayah segera timur-barat dari titik merah terletak di antara kontur 1,2 dan 1,5.) Jarak pendek di semua arah lain akan menjadi terlalu besar dengan jumlah antara 0% dan 31%; jarak yang lebih jauh mungkin keliru lebih banyak lagi (seperti yang ditunjukkan oleh kontur).