警惕一些能限制蜘蛛爬行的網(wǎng)

事出必有因，蜘蛛只是一個(gè)機(jī)器人，它由程序代碼構(gòu)成，必須遵循其規(guī)定去爬行網(wǎng)站，如果網(wǎng)站存在一些網(wǎng)站陷阱，則會(huì)讓蜘蛛爬行變得不順暢，從而引致一系列的問題。到底哪些網(wǎng)站陷阱成為了蜘蛛爬行的絆腳石?

陷阱一：網(wǎng)站地圖不正確

網(wǎng)站地圖是一個(gè)非常有用的網(wǎng)站工具，對于用戶和蜘蛛來說，一副完整、正確的網(wǎng)站地圖都能很好地識別整個(gè)網(wǎng)站的架構(gòu)，從而更好地瀏覽和爬行網(wǎng)站。由于一些站長對于代碼的不熟悉，以及對網(wǎng)站的架構(gòu)不熟悉，就隨便選了一個(gè)權(quán)威性不好的工具來制作了一副不完整或不正確的網(wǎng)站地圖，Z后的結(jié)果就是讓蜘蛛爬行時(shí)陷入其中，Z終“迷路”了。

選擇一個(gè)權(quán)威性好的工具來制作網(wǎng)站地圖，比如站長工具、百度站長平臺(tái)工具等，如果自己對網(wǎng)站比較熟悉，Z好能夠自己手工制作，并親身多次測試，保證好網(wǎng)站地圖的正確性和完整性。

陷阱二：網(wǎng)站的死鏈接數(shù)量巨大

所謂的死鏈接就是就是返回代碼為404的錯(cuò)誤頁面鏈接，這類鏈接通常產(chǎn)生于網(wǎng)站改版后、或者網(wǎng)站更換域名后。死鏈接的存在對于用戶體驗(yàn)和蜘蛛爬行來說都是非常不好的。死鏈接無疑就是阻擋著蜘蛛的爬行，當(dāng)蜘蛛接二連三地碰到這些不該出現(xiàn)的死鏈接時(shí)，就會(huì)產(chǎn)生對網(wǎng)站的不信任，Z終會(huì)放棄爬行網(wǎng)站。

(1)提交死鏈接。利用百度站長平臺(tái)的“死鏈提交”工具來提交網(wǎng)站死鏈，具體說明請參考百度站長工具。

(2)對死鏈接進(jìn)行重定向或者刪除，如果死鏈接的位置不是很重要，可以把其重定向到首頁，如果位置比較重要，數(shù)量也比較多，就可以選擇刪除死鏈接，可以使用工具來刪除。

陷阱三：網(wǎng)址包含參數(shù)過多

盡管百度優(yōu)化指南官方表明，目前百度搜索機(jī)器人也能像谷歌機(jī)器人一樣收錄動(dòng)態(tài)參數(shù)網(wǎng)站，但是靜態(tài)化url的網(wǎng)站永遠(yuǎn)要比動(dòng)態(tài)化url收錄更有優(yōu)勢。因此，如果你的網(wǎng)站像下面的網(wǎng)址一樣，那就可能會(huì)導(dǎo)致蜘蛛爬行不順暢了：

在選擇做站程序前，一定要考慮該程序是否支持網(wǎng)站url靜態(tài)化，并且在日后維護(hù)中也要注意網(wǎng)站url是否真正做到靜態(tài)化，盡量舍棄包含參數(shù)的動(dòng)態(tài)網(wǎng)址的做法。

陷阱四：網(wǎng)站過多錨文本

網(wǎng)站錨文本過多，造成內(nèi)鏈鏈輪。外部鏈輪相信大家都會(huì)認(rèn)識，但是其實(shí)內(nèi)部鏈接也是可以產(chǎn)生鏈輪的。很多站長為了提升關(guān)鍵詞排名，不惜使用過多的錨文本，然后造成頁面之間的鏈接輪回效應(yīng)，Z后也讓蜘蛛走進(jìn)了無底洞，無法走出來了。

清除過往的，帶有鏈接交叉性的錨文本，并且盡量做到需要時(shí)才添加錨文本，濫用錨文本只會(huì)讓百度蜘蛛更一步不認(rèn)可你的網(wǎng)站。

百度搜索引擎蜘蛛永遠(yuǎn)只是一個(gè)程序機(jī)器人，它的智力永遠(yuǎn)比不上我們，但是我們還是應(yīng)該尊重它，為它提供一個(gè)爬行順暢的網(wǎng)站環(huán)境，這樣才能確保我們的網(wǎng)站能夠持續(xù)、健康地發(fā)展下去。