现在的百度蜘蛛机器人决非以前的机器人了，貌似更聪明，爬行也更灵活多变，今天我们就用实例给大家谈谈。

　　一、爆发式爬行

　　不知百度蜘蛛是不是喜欢高效率的爬行，有时百度蜘蛛能在一两分钟内爬行几百次。德州比如我的站，每天基本上百度蜘蛛都会爆发式爬行几次，早上6点钟有一次大约爬行300次;上午9点钟的时候有一次也是爬行300多次;13点的时候也有一次，不过要少一点，只有200多次;18点的时候也有一次，大约会爬行400多次，23点的时候也有一次，大约只有250次。有时候，我查看详细爬行记录时，这些爆发式爬行基本上不会超过五分钟。有一次，我的站不知是哪个会事，百度蜘蛛在两分钟内...

Read more