大连列举网 > 商务服务 > 网站/软件服务 > 详细分析搜索引擎Robots规则
大连
[切换城市]

详细分析搜索引擎Robots规则

更新时间:2013-08-29 14:13:06 浏览次数:165次
区域: 大连 > 甘井子 > 华南
类别:网站制作
地址:辽宁省大连市甘井子区华南国际公寓B座1202室
  robots.txt是一种存放于网站根目录下的文本文件,用于告诉搜索引擎的爬虫(spider),此网站中的哪些内容是不应被搜索引擎的索引,哪些是可以被索引。通常认为,robots.txt文件用来搜索引擎对目标网页的抓取

  robots.txt协议并不是一个规范,而只是约定俗成的,通常搜索引擎会识别这个文件,但也有一些特殊情况。www.***

  对于google来说,使用robots也未必能阻止google将网址编入索引,如果有其他网站链接到该网页的话,google依然有可能会对其进行索引。按照google的说法,要想彻底阻止网页的内容在google网页索引中(即使有其他网站链接到该网页)出现,需要使用noindex元标记或x-robots-tag。例如将下面的一行加入到网页的header部分乐芬科技 http://www.52***。

  如果google看到某一页上有noindex的元标记,就会将此页从google的搜索结果中完全丢弃,而不管是否还有其他页链接到此页。

  对于百度来说,情况和google类似,如果有其他网站链接目标网页,也有可能会被百度收录,从百度的说明页面上看,百度并不支持像google那样通过noindex完全将网页从索引上删除,只支持使用noarchive元标记来禁止百度显示网页快照。具体的语句如下。

  上面这个标记只是禁止百度显示该网页的快照,百度会继续为网页建索引,并在搜索结果中显示网页摘要。

  例如,淘宝网目前就通过robots.txt来屏蔽百度爬虫,但百度依旧收录了淘宝网的内容,百度搜索“淘宝网”,个结果也是淘宝网首页地址,只是该页面没有网页快照,因此看来,网站只能禁止百度的快照,而无法禁止百度为网页建索引ww
大连网站/软件服务相关信息
2023-09-15
大连全网营销
中山-人民路
2023-09-14
大连AI新媒体运营
中山-人民路
2023-09-13
大连AI数字化营销
中山-人民路
2023-09-12
全网渠道精准营销
中山-人民路
2023-09-09
2023-09-08
大连全网搜索首页
中山-人民路
2023-09-07
大连全网精准营销
中山-人民路
2023-09-06
大连数字化营销
中山-人民路
2023-09-04
注册时间:2013年01月08日
UID:48238
---------- 认证信息 ----------

查看用户主页