SEO網站優(yōu)化robots.txt使用中常見的誤區(qū)
來源：尚品中國|
類型：網站百科|
時間：2012-04-28
網站制作公司尚品中國(www.yangsheng234.com)：誤區(qū)1.Allow包含的范圍超過Disallow，并且位置在Disallow前面。
比如有很多人這樣寫：
User-agent: *
Allow: /
Disallow: /mulu/
想讓所有蜘蛛抓取本站除/mulu/下面的url之外的所有頁面，禁止抓取/mulu/下面的所有url。
SEO網站優(yōu)化搜索引擎蜘蛛執(zhí)行的規(guī)則是從上到下，這樣會造成第二句命令失效。也就是說禁止抓取/mulu/目錄這條規(guī)則是無效的。正確的是Disallow應該在Allow之上，這樣才會生效。
誤區(qū)2.Disallow命令和Allow命令之后沒有以斜杠”/”開頭。
這個也很容易被忽視，比如有人這樣寫Disallow: 123.html ，這種是沒有效果的。斜杠”/”表示的是文件對于根目錄的位置，如果不帶的話，自然無法判斷url是哪個，所以是錯誤的。
正確的應該是Disallow: /123.html，這樣才能屏蔽/123.html這個文件，這條規(guī)則才能生效。
誤區(qū)3.屏蔽的目錄后沒有帶斜杠”/”。
也就是比如想屏蔽抓取/mulu/這個目錄，有些人這樣寫Disallow: /mulu。那么這樣是否正確呢?
首先這樣寫(Disallow: /mulu)確實可以屏蔽/mulu/下面的所有url，不過同時也屏蔽了類似/mulu123.html這種開頭為/mulu的所有頁面，效果等同于Disallow: /mulu*。
正確的做法是，如果只想屏蔽目錄，那么必須在結尾帶上斜杠”/”。
本文發(fā)布于北京網站制作公司尚品中國http://www.yangsheng234.com/
比如有很多人這樣寫：
User-agent: *
Allow: /
Disallow: /mulu/
想讓所有蜘蛛抓取本站除/mulu/下面的url之外的所有頁面，禁止抓取/mulu/下面的所有url。
SEO網站優(yōu)化搜索引擎蜘蛛執(zhí)行的規(guī)則是從上到下，這樣會造成第二句命令失效。也就是說禁止抓取/mulu/目錄這條規(guī)則是無效的。正確的是Disallow應該在Allow之上，這樣才會生效。
誤區(qū)2.Disallow命令和Allow命令之后沒有以斜杠”/”開頭。
這個也很容易被忽視，比如有人這樣寫Disallow: 123.html ，這種是沒有效果的。斜杠”/”表示的是文件對于根目錄的位置，如果不帶的話，自然無法判斷url是哪個，所以是錯誤的。
正確的應該是Disallow: /123.html，這樣才能屏蔽/123.html這個文件，這條規(guī)則才能生效。
誤區(qū)3.屏蔽的目錄后沒有帶斜杠”/”。
也就是比如想屏蔽抓取/mulu/這個目錄，有些人這樣寫Disallow: /mulu。那么這樣是否正確呢?
首先這樣寫(Disallow: /mulu)確實可以屏蔽/mulu/下面的所有url，不過同時也屏蔽了類似/mulu123.html這種開頭為/mulu的所有頁面，效果等同于Disallow: /mulu*。
正確的做法是，如果只想屏蔽目錄，那么必須在結尾帶上斜杠”/”。
本文發(fā)布于北京網站制作公司尚品中國http://www.yangsheng234.com/
來源聲明：本文章系尚品中國編輯原創(chuàng)或采編整理，如需轉載請注明來自尚品中國。以上內容部分(包含圖片、文字)來源于網絡，如有侵權，請及時與本站聯(lián)系（010-60259772）。
推薦新聞
更多行業(yè)-
用戶體驗之網站界面布局
北京網站建設公司尚品中國：網站頁面的布局方式、展示形式直接影響用戶使用...
2012-08-14 -
SEO外鏈之博客如何發(fā)外鏈
大家都知道，SEO網站優(yōu)化大概分為站內優(yōu)化與站外優(yōu)化，說到站外優(yōu)化，想...
2014-02-27 -
網站建設公司如何設計一個動漫網站？
說到動漫，相信很多小朋友都不陌生。那么，你一般從哪里獲取動漫信息呢？答...
2022-06-13 -
建設的網站怎樣設計可以提高網站打開的速度？
如何快速打開網站？這個問題似乎還沒有被淘寶和JD.com徹底解決，因為...
2020-04-27 -
H標簽對SEO優(yōu)化有哪些好處？怎么使用？
很多朋友都疑惑這個問題，什么是H標簽？H標簽對于網站重要嗎？做網站優(yōu)化...
2019-07-26 -
網站設計—如何蹭熱度寫出文案?
蹭熱點是為了什么呢？很多人會說，蹭熱點為了傳播，獲得更多閱讀量、轉發(fā)率...
2019-03-08
如果您的網站可以增加轉化次數并提高客戶滿意度，該怎么辦？
預約專業(yè)咨詢顧問溝通！
Copyright ? 2025 恒久尚品 版權所有 | 京ICP備09066521號
| 公安機關備案號:11011502003910
免責聲明
誠信企業(yè)
尚品專注高端網站建設，系統(tǒng)平臺開發(fā)，微信小程序及APP開發(fā)服務
尚品專注高端網站建設，系統(tǒng)平臺開發(fā)，微信小程序及APP開發(fā)服務
免責聲明
非常感謝您訪問我們的網站。在您使用本網站之前，請您仔細閱讀本聲明的所有條款。
1、本站部分內容來源自網絡，涉及到的部分文章和圖片版權屬于原作者，本站轉載僅供大家學習和交流，切勿用于任何商業(yè)活動。
2、本站不承擔用戶因使用這些資源對自己和他人造成任何形式的損失或傷害。
3、本聲明未涉及的問題參見國家有關法律法規(guī)，當本聲明與國家法律法規(guī)沖突時，以國家法律法規(guī)為準。
4、如果侵害了您的合法權益，請您及時與我們,我們會在第一時間刪除相關內容!
聯(lián)系方式：010-60259772
電子郵件：394588593@qq.com
