顺时澳门皇冠
澳门皇冠 澳门皇冠服务公司,公司使命助力中小企业在各大搜索引擎实现澳门皇冠营销!
当前位置: 首页 > 百度澳门皇冠 >

【baiduspider】百度蜘蛛叫Baiduspider不是baidubot

时间:2018年07月16日 17:17:03 来源:网络整理 作者:采集侠 点击:
【baiduspider】百度蜘蛛叫Baiduspider不是baidubot 今天又遇到有同学问我关于ROBOTS该如何去写的问题,这里整理下给大家,其实也都是来源于网路上,注意百度的蜘蛛叫做Baiduspider而不是baidubot,谷

 

  【baiduspider】百度蜘蛛叫Baiduspider不是baidubot

  今天又遇到有同学问我关于ROBOTS该如何去写的问题,这里整理下给大家,其实也都是来源于网路上,注意百度的蜘蛛叫做Baiduspider而不是baidubot,谷歌的叫做googlebot。


  1、禁止所有搜索引擎访问网站的任何部分


  User-agent:*


  Disallow:/


  2、允许所有的robot访问(或者也可以建一个空文件"/robots.txt")


  User-agent:*


  Allow:/


  另一种写法是


  User-agent:*


  Disallow:


  3、仅禁止Baiduspider访问您的网站


  User-agent:Baiduspider


  Disallow:/


  4、仅允许Baiduspider访问您的网站


  User-agent:Baiduspider


  Allow:/


  5、禁止spider访问特定目录


  在这个例子中,该网站有三个目录对搜索引擎的访问做了限制,即robot不会访问这三个目录。需要注意的是对每一个目录必须


  分开声明,而不能写成"Disallow:/cgi-bin//tmp/"。


  User-agent:*


  Disallow:/cgi-bin/


  Disallow:/tmp/


  Disallow:/~joe/


  6、允许访问特定目录中的部分url


  User-agent:*


  Allow:/cgi-bin/see


  Allow:/tmp/hi


  Allow:/~joe/look


  7、使用"*"限制访问url


  禁止访问/cgi-bin/目录下的所有以".htm"为后缀的URL(包含子目录)。


  User-agent:*


  Disallow:/cgi-bin/*.htm


  8、使用"$"限制访问url


  仅允许访问以".htm"为后缀的URL。


  User-agent:*


  Allow:/.htm$


  9、禁止访问网站中所有的动态页面


  User-agent:*


  Disallow:/*?*


  10、禁止Baiduspider抓取网站上所有图片


  仅允许抓取网页,禁止抓取任何图片。


  User-agent:Baiduspider


  Disallow:/*.jpg$


  Disallow:/*.jpeg$


  Disallow:/*.gif$


  Disallow:/*.png$


  Disallow:/*.bmp$


  11、仅允许Baiduspider抓取网页和gif格式图片


  允许抓取网页和gif格式图片,不允许抓取其他格式图片


  User-agent:Baiduspider


  Allow:.gif$


  Disallow:/.jpg$


  Disallow:/.jpeg$


  Disallow:/.png$


  Disallow:/.bmp$


  12、仅禁止Baiduspider抓取jpg格式图片


  User-agent:Baiduspider


  Disallow:/.jpg$

文章标题:【baiduspider】百度蜘蛛叫Baiduspider不是baidubot

本文地址:/top/5346.html

扫一扫关注澳门皇冠公众号

扫一扫关注澳门皇冠公众号

责任编辑:采集侠

顶一下
(0)
0%
踩一下
(0)
0%
------分隔线----------------------------
栏目列表

客户QQ服务热线:

QQ:1251192082

QQ:3185893314

QQ:40467028

在线客服