蜘蛛是如何抓取頁面的?

2016-11-04 分類：網站建設

搜索引擎的蜘蛛抓取頁面的一般過程是這樣的。

首先，收集待索引網頁的url。

搜索引擎的蜘蛛一般分為兩類，這一類的主要工作就是收集網頁的中有效的URL。它們的任務是一刻不停地掃描Internet資源，以隨時更新其搜索引擎龐大的url列表以供它的第二類蜘蛛使用。也就是說，當這一類蜘蛛訪問我們網頁的時候，并不在于索引我們的網頁，而是在尋找網頁中的所有有效鏈接。

關于有的站長在自己的訪問日志中發現多個蜘蛛IP爬自己站的情況。

我們常用的搜索引擎每天要處理數以億計的信息，沒有一個大型的搜索引擎公司（GOOGLE或百度之類）不配備上萬臺服務器來共同執行這個工作，因此搜索引擎都擁有不同的數據中心，也就是說有多個robots來檢索你的站是很正常的事情。

不過這也僅限于一類蜘蛛，在索引頁面的時候，搜索引擎會限制某個特定的數據中心來讓專門索引頁面的蜘蛛檢索你的站。

因此朋友們從服務器訪問日志中時常可以看到源自不同IP的蜘蛛，在很短的時間內頻繁訪問網站。不過千萬不要高興得太早，也許其根本不是在索引你的網頁而只是在掃描url。

聲明：本網站發布的內容（圖片、視頻和文字）以用戶投稿、用戶轉載內容為主，如果涉及侵權請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網站立場，如需處理請聯系客服。電話：028-86922220；郵箱：631063699@qq.com。內容未經允許不得轉載，或轉載時需注明來源：創新互聯

猜你還喜歡下面的內容