关于robots.txt的使用

作者: 丢丢 分类: 站内 发布时间: 2017-04-21 17:05

最近跟朋友在讨论robots.txt 的使用问题,有几个朋友给我发了下他们在使用robots.txt过程中出现的问题。发现这些朋友的robots.txt里面居然有个相似的共同点如图:

没错,他们都把网站地图sitemap放到了robots.txt文件里面!如果他们使用了网站站长工具,无一例外会在sitemap提交栏里收到一条警告提示, URL blocked by robots.txt,sitemap被robots.txt屏蔽了!看完我只想对他们说四个字:no zuo no die! 把sitemap放进robots里面,不是作死是什么。他们都很疑惑,为什么会这样,网上很多大神的教程里不是说了,在robots.txt里面放入sitemap有助于google抓取和收录嘛?事实真的是这样的嘛?刚好相反,放了sitemap到robots文件里面的网站,收录都差!首先,我们来看看,google官方对robots.txt文件的定义:

robots.txt 文件位于您网站的根目录下,用于表明您不希望搜索引擎抓取工具访问您网站上的哪些内容。

一般会用到 disallow指令,表明不希望被搜索引擎索引的资源及文件。看到这里,相信有朋友会说了,哎哟,那我用allow不是表示我允许访问了嘛?事实真的如此吗?我们再看看官方介绍的另外一句话:

最简单的robots.txt文件会用到两个关键字:User-agentDisallow。User-agent(用户代理)是指搜索引擎漫游器(即网页抓取工具软件);Web Robots Database 中列出了大多数用户代理。Disallow 是针对用户代理的命令,指示它不要访问某个特定网址。反之,如果要允许 Google 访问某个特定网址,而该网址是已禁止访问的父级目录中的子目录,则可以使用第三个关键字 Allow

使用上述关键字时应遵循以下语法:

User-agent: [the name of the robot the following rule applies to]

Disallow: [the URL path you want to block]

Allow: [the URL path in of a subdirectory, within a blocked parent directory, that you want to unblock] 参考官方解析

好了,看到这里大家都清楚了,allow命令是在允许google访问某个特定网址,而该网址是已被禁止访问的父级目录中的子目录,才使用的。况且,上面两个朋友发给我的robots文件的写法,都是错误的!除了sitemap的问题,其他指令也有误。建议不懂的朋友还是不要乱用吧!

如果觉得我的文章对您有用,请随意打赏。您的支持将鼓励我继续创作!

4条评论
  • www.yihuanghou.com

    2017年4月22日 下午1:50

    时间飞快,转眼年中就要到来,祝你天天愉快!

  • xuan

    2017年4月26日 下午1:52

    我只想默默的拜读您的博客!

  • 我赚啦

    2017年4月30日 上午8:14

    闲着没事,随便逛逛,心静自然凉。

  • 莆田大神

    2017年5月7日 下午10:56

    不说不知道,还有这些规则,差点我也这么干了

发表评论

电子邮件地址不会被公开。 必填项已用*标注