谷歌不會始終以相同的頻率抓取所有的網(wǎng)址。谷歌會每天抓取一些網(wǎng)址,但有些網(wǎng)址可能每周抓取一次,還有一些網(wǎng)址每隔幾個月抓取一次,有的甚至可能半年左右才抓取一次。之所以這樣做是為了避免服務(wù)器過載。
此外,如果你在網(wǎng)站上進行了重大更改,那么可能大部分更改很快就會被發(fā)現(xiàn),但一般是會有遺留一些更改未被及時發(fā)現(xiàn)。
因此,特別當(dāng)你執(zhí)行網(wǎng)站查詢等操作時,很有可能會看到那些每半年才被抓取一次的網(wǎng)址。幾個月了,他們還是老樣子。
這是谷歌重新處理、抓取網(wǎng)頁的正常時間。因此,這并不一定表明某些事情在技術(shù)上有漏洞。如果你仍然認為這些網(wǎng)址根本不應(yīng)該被編入索引,或許你可以給谷歌提交一個最后修改過站點地圖的文件,以便Google能夠以其他方式加快檢索的速度。
Google URL檢查工具
使用谷歌的URL檢查工具,這一點John Mueller沒有提到。通過Google站長工具重新提交索引,提交過程可能需要一到兩周的時間。URL檢查工具適用于需要重新抓取的個別網(wǎng)址,如果有大量網(wǎng)頁,Google建議改為提交站點地圖。
通過Site Map觸發(fā)蜘蛛進行新的爬行和抓取
建議更新站點地圖,讓Googlebot發(fā)現(xiàn)最近修改日期并將給予提示,以便移除舊網(wǎng)頁、觸發(fā)新的抓取。