今天把yodao的蜘蛛给阻止了,因为有道的搜索引擎几乎没有给我这个博客带来多少流量,而他的蜘蛛又每天都在博客上爬,从feed上的统计可以看出yodao的蜘蛛是最勤快的,但没有任何意义,除了可能增加流量负担之外。
我在robots.txt文件里面增加了下面一段代码
User-agent: YodaoBot
Disallow: /
添加好之后去这个地方验证了下 http://tool.motoricerca.info/robots-checker.phtml
哎,上面的代码还是从有道搜索的“帮助”页面抄来的,等到什么时候有道的影响力上去了,再解除这个限制吧!