专注SEO、SEM、百度排名、快速提升权重、关键字优化、网络推广，seo莫然可以分享移动手机端SEO知识!免费提供网站优化诊断。 
 莫然博客是山东省最主流，最具人气的莫然seo博客频道。专注SEO、SEM、百度排名、快速提升权重、关键字优化、网络推广，seo莫然可以分享移动手机端SEO知识!免费提供网站优化诊断。

搜索引擎的Robots规则

作者：seo , 分类：SEO资讯 , 浏览：220 , 评论：0
正文 点这评论（220 人参与）
robots.txt是一种存放于 网站根目录下的文本文件，用于告诉的爬虫(spider)，此网站中的哪些内容是不应被搜索引擎的索引，哪些是可以被索引。通常认为，robots.txt文件用来搜索引擎对目标网页的抓取。,robots.txt协议并不是一个规范，而只是约定俗成的，通常搜索引擎会识别这个文件，但也有一些特殊情况。,对于 Google来说，使用robots也未必能阻止Google将网址编入索引，如果有其他网站链接到该网页的话，Google依然有可能会对其进行索引。按照，要想彻底阻止网页的内容在Google网页索引中(即使有其他网站链接到该网页)出现，需要使用noindex元标记或x-robots-tag。例如将下面的一行加入到网页的header部分。,<meta name=\"googlebot\" content=\"noindex\">,如果Google看到某一页上有noindex的元标记，就会将此页从Google的搜索结果中完全丢弃，而不管是否还有其他页链接到此页。,,对于 百度来说，情况和Google类似，如果有其他网站链接目标网页，也有可能会被百度收录，从上看，百度并不支持像Google那样通过noindex完全将网页从索引上删除，只支持使用noarchive元标记来禁止百度显示网页快照。具体的语句如下。, <meta name=\"Baiduspider\" content=\"noarchive\">,上面这个标记只是禁止百度显示该网页的快照，百度会继续为网页建索引，并在搜索结果中显示网页摘要。,本文来源：,,本文地址：
莫然博客是山东省最主流，最具人气的莫然seo博客频道。专注SEO、SEM、百度排名、快速提升权重、关键字优化、网络推广，seo莫然可以分享移动手机端SEO知识!免费提供网站优化诊断。