垃圾蜘蛛对网站优化起不到半点作用,反而因过度抓取,还容易导致CPU、带宽占用过度,对于我们认可的蜘蛛反而会造成一定的影响,那么,我们在这里分一期栏目来讲述一下如何屏蔽掉这些垃圾蜘蛛。
垃圾蜘蛛留下的日志信息:
54.36.148.196 Mozilla/5.0+(compatible;+AhrefsBot/7.0;++http://ahrefs.com/robot/)
通过分析,我们不难看出此垃圾蜘蛛的IP段为 54.36.148.0
因此,我们只要将此IP段地址添加到IIS中的IP地址和域限制就可以了。
至此,我们已经通过IP地址和域限制的设置对垃圾蜘蛛 AhrefsBot 进行了限制访问。
网站无须三方授权 · 安全稳定、维护方便