<< 博客在百度上的更新记录ggad的bt统计 >>

阻止了yodao的搜索蜘蛛抓取网页

今天把yodao的蜘蛛给阻止了,因为有道的搜索引擎几乎没有给我这个博客带来多少流量,而他的蜘蛛又每天都在博客上爬,从feed上的统计可以看出yodao的蜘蛛是最勤快的,但没有任何意义,除了可能增加流量负担之外。

我在robots.txt文件里面增加了下面一段代码

User-agent:  YodaoBot
Disallow: /

添加好之后去这个地方验证了下 http://tool.motoricerca.info/robots-checker.phtml

哎,上面的代码还是从有道搜索的“帮助”页面抄来的,等到什么时候有道的影响力上去了,再解除这个限制吧!

添加书签:

发表评论:

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。

最新评论及回复

Search

最近发表

Auto Publisher ©2008 kogoo  闽ICP备08002798号 当前在线:
Powered By Z-Blog  toopower