我的知识记录

虚拟主机屏蔽扫描器 UA指南_不误封百度蜘蛛的写法

屏蔽扫描器 UA 是应对内容采集、恶意扫描的常用手段。阿里云虚拟主机上配置 UA 黑名单后,访问日志里对应 UA 的请求返回 403,带宽和 CPU 占用下降。注意不要误封百度、Google、Bing 等正常搜索引擎,否则收录会掉。

IIS web.config 用 URL Rewrite 屏蔽 UA:rule name="Block UA",match url="(.*)",conditions 加 input="{HTTP_USER_AGENT}" pattern="badbot|scrapy|python-requests" ignoreCase="true",action type="CustomResponse" statusCode="403"。ignoreCase=true 不区分大小写。

配置参考(web.config 屏蔽空 UA): ``` ```

UA 屏蔽配合 IP 屏蔽效果更好。采集器换 UA 也换 IP,但总有特征重合。UA 规则挡住固定特征的采集器,IP 规则挡住高频攻击 IP,两层拦截能把恶意流量降到 5% 以下。规则都写在根目录配置文件,维护方便。

UA 屏蔽的进阶做法是结合行为分析。单个 IP 1 分钟内请求超过 60 次且 UA 固定,大概率是采集器,自动加入临时黑名单 24 小时。虚拟主机不支持自动脚本,可以每天用 awk 统计访问日志,把高频异常 UA 的 IP 手动加入黑名单,持续 1 周后采集器会换目标,流量明显下降。

虚拟主机屏蔽扫描器 UA指南_不误封百度蜘蛛的写法

标签:

更新时间:2026-08-26 20:39:12

上一篇:Struts2 S2-062漏洞S2-061变种预警与升级修复方案_网站安全运维实战指南

下一篇:DNS切换后旧主机保留运行7天_虚拟主机实用教程