Memahami penggunaan logaritma dalam logaritma TF-IDF

Saya sedang membaca:

https://en.wikipedia.org/wiki/Tf%E2%80%93idf#Definition

Tapi sepertinya saya tidak bisa mengerti persis mengapa formula itu dibuat seperti itu.

Apa yang saya Pahami:

iDF pada tingkat tertentu harus mengukur seberapa sering suatu istilah S muncul di setiap dokumen, menurun nilainya ketika istilah itu muncul lebih sering.

Dari perspektif itu

$$iDF(S) = \frac{\# \text{ of Documents}}{\# \text{ of Documents containing S}}$$

Selanjutnya frekuensi istilah dapat dengan tepat digambarkan sebagai

$$tf(S,D) = \frac{\# \ \text{of Occurrences of S in document D}}{\# \ \text{maximum number of occurrences for any string Q in document D}}$$

Jadi ukurannya

$$iDF(S) \times tf(S,D)$$

dalam beberapa cara proporsional dengan seberapa sering suatu istilah muncul dalam dokumen yang diberikan, dan seberapa unik istilah itu di atas kumpulan dokumen.

Apa yang tidak saya mengerti

Tetapi formula yang diberikan menggambarkannya sebagai

$$\left( \log(iDF(S)) \right) \left( \frac{1}{2} + \log(\frac{1}{2} tf(S,D)) \right)$$

Saya ingin memahami perlunya logaritma yang dijelaskan dalam definisi. Seperti, mengapa mereka ada di sana? Aspek apa yang mereka tekankan?

Aspek yang ditekankan adalah bahwa relevansi suatu istilah atau dokumen tidak meningkat secara proporsional dengan frekuensi istilah (atau dokumen). Oleh karena itu, menggunakan fungsi sub-linear membantu membuang efek ini. Untuk itu memperluas pengaruh nilai yang sangat besar atau sangat kecil (misalnya kata yang sangat langka) juga diamortisasi. Akhirnya karena kebanyakan orang secara intuitif menganggap fungsi pemberian skor agak aditif dengan menggunakan logaritma akan membuat probabilitas istilah independen yang berbeda dari agar lebih mirip dengan .log ( P ( A , B ) ) = log ( P ( A ) ) + log ( P ( B ) $P(A, B) = P(A) \, P(B)$$\log(P(A,B)) = \log(P(A)) + \log(P(B))$

Sebagai artikel Wikipedia yang Anda tautkan mencatat pembenaran TF-IDF masih belum mapan; ini adalah heuristik yang ingin kita buat secara ketat, bukan konsep yang keras yang ingin kita transfer ke dunia nyata. Seperti yang disebutkan oleh @ Anony-Mousse sebagai bacaan yang sangat baik tentang masalah ini adalah Frekuensi Dokumen Pembalikan Robertson yang Memahami: Pada argumen teoretis untuk IDF . Ini memberikan gambaran luas dari keseluruhan kerangka kerja dan upaya untuk membumikan metodologi TF-IDF dengan pembobotan relevansi istilah pencarian.