蜘蛛耗盡服務器資源分析

2015-06-04 分類：網站建設

當我們成都網站建設的網站剛上線后，都希望網站被盡快收錄，于是會去吸引蜘蛛的到來，蜘蛛到來的頻率過高有時候會導致iis資源耗盡，網站中時常數出現service unavoidable的提示，這個詞的出現可以直接表現為訪問量很小。

是蜘蛛的到來引起我們網站資源的缺乏，是蜘蛛耗盡服務器資源的，所以我們的解決辦法就針對蜘蛛進行。利用robots.txt中的disallow屏蔽部分沒有實際意義的內容。

格式如下：

user-agent:*
disallow:/search.html
disallow:/index.php?
disallow:/tempweb/

說明：

user-agent:*： *代表允許所有的搜索引擎來抓取數據。
disallow:/search.html：不允許收錄/search.html這個文件的數據。
disallow:/index.php?：不允許收錄以/index.php?為前綴的鏈接。
disallow:/tempweb/：不允許收錄/tempweb/里所有的文件，但可以收錄如：/tempwebtaim.html的鏈接。

當前標題：蜘蛛耗盡服務器資源分析
文章分享：http://m.kartarina.com/news42/19142.html

成都網站建設公司_創新互聯，為您提供移動網站建設、網站維護、手機網站建設、小程序開發、網站建設、靜態網站

聲明：本網站發布的內容（圖片、視頻和文字）以用戶投稿、用戶轉載內容為主，如果涉及侵權請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網站立場，如需處理請聯系客服。電話：028-86922220；郵箱：631063699@qq.com。內容未經允許不得轉載，或轉載時需注明來源：創新互聯

猜你還喜歡下面的內容