Ada beberapa modifikasi pada divergensi KL yang membuatnya memperoleh beberapa properti metrik (meskipun tidak semua).
Sebagai contoh, divergensi Jeffrey memodifikasi divergensi KL untuk menjadikannya simetris.
Ada beberapa kasus khusus lihat [1]: "Sayangnya, langkah-langkah tradisional berdasarkan divergensi Kullback-Leibler (KL) dan jarak Bhattacharyya tidak memenuhi semua aksioma metrik yang diperlukan untuk banyak algoritma. Dalam makalah ini kami mengusulkan modifikasi untuk KL divergensi dan jarak Bhattacharyya, untuk kepadatan Gaussian multivariat, yang mengubah dua ukuran menjadi metrik jarak. "
[1] K. Abou-Moustafa dan F. Ferrie, "Catatan tentang Properti Metrik untuk Beberapa Tindakan Perbedaan: Kasus Gaussian," JMLR: Prosiding Lokakarya dan Konferensi 25: 1–15, 2012.