Alat Webmaster Google dapat melihatnya, tetapi saya tidak dapat menemukannya. Adakah ide tentang bagaimana itu dihasilkan atau di mana itu adalah struktur file? Saya tidak melihat file di root saya. Situs web saya ada di http://mikewills.me dan URL file robots.txt adalah http://mikewills.me/robots.txt .
Pada akhirnya, Google tidak mengindeks situs saya dan saya mencoba mencari cara mengedit robots.txt sehingga pengindeksan diizinkan. Saya telah mengubah opsi privasi untuk memungkinkan pengindeksan, tetapi itu belum memperbarui robots.txt.