robots.txt使用時的注意事項

robots.txt文件同時也有一定的風險，里面的隱私文檔最好不要寫在里面，否則的話容易給攻擊者指明了網站的目錄結構和私密數據所在的位置。設置訪問權限，對您的隱私內容實施密碼保護，這樣，攻擊者便無從進入。

　　1)robots.txt必須放置在站點的根目錄下，而且文件名必須全部小寫。

　　2)不要在robots.txt文件中設置所有的文件都可以被搜索蜘蛛抓取。

　　3)為安全考慮，建議很重要的文件夾不要寫在robots.txt文件中。

　　常見搜索引擎蜘蛛Robots名字：

　　百度Baiduspider ：http://www.baidu.com

　　360搜索360Spider：https://www.so.com/

　　SOSOSosospider：https://www.sogou.com/

　　有道YoudaoBot/YodaoBot：http://www.yodao.com/

　　搜狗Sogou News Spider：https://www.sogou.com/

　　MSNmsnbot/msnbot-media：http://www.msn.com/zh-cn

　　谷歌Googlebot ：http://www.google.com

　　雅虎Inktomi Slurp ：http://www.yahoo.com

　　必應MSNBOT ：http://search.msn.com

網站題目：robots.txt使用時的注意事項
網站鏈接：http://m.kartarina.com/news7/162557.html

成都網站建設公司_創新互聯，為您提供虛擬主機、動態網站、品牌網站制作、營銷型網站建設、Google、網站制作

廣告

聲明：本網站發布的內容（圖片、視頻和文字）以用戶投稿、用戶轉載內容為主，如果涉及侵權請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網站立場，如需處理請聯系客服。電話：028-86922220；郵箱：631063699@qq.com。內容未經允許不得轉載，或轉載時需注明來源： 創新互聯