ads

网站建设

阻止了yodao的搜索蜘蛛抓取网页

发布:酋长 时间:2008年6月8日 浏览: 1人回应

今天把yodao的蜘蛛给阻止了,因为有道的搜索引擎几乎没有给我这个博客带来多少流量,而他的蜘蛛又每天都在博客上爬,从feed上的统计可以看出yodao的蜘蛛是最勤快的,但没有任何意义,除了可能增加流量负担之外。

我在robots.txt文件里面增加了下面一段代码

User-agent:  YodaoBot
Disallow: /

添加好之后去这个地方验证了下 http://tool.motoricerca.info/robots-checker.phtml

哎,上面的代码还是从有道搜索的“帮助”页面抄来的,等到什么时候有道的影响力上去了,再解除这个限制吧!


相关内容

tags:搜索引擎  蜘蛛  robots文件  

填写我的回应:

欢迎参与讨论!

闽ICP备08002798号 
Copyright © 2008 kogoo部落格All Rights Reserved.