我的知识记录

新网虚拟主机屏蔽批量注册 UA_web.config与.htaccess规则对照

屏蔽批量注册 UA 是应对内容采集、恶意扫描的常用手段。新网虚拟主机上配置 UA 黑名单后,访问日志里对应 UA 的请求返回 403,带宽和 CPU 占用下降。注意不要误封百度、Google、Bing 等正常搜索引擎,否则收录会掉。

UA 白名单模式适合只允许搜索引擎抓取的场景:RewriteCond %{HTTP_USER_AGENT} !^(.*Baiduspider.*|.*Googlebot.*|.*Bingbot.*)$ [NC],RewriteRule .* - [F,L]。除了指定搜索引擎,其余 UA 全部 403。注意白名单要把主流搜索引擎都列全,漏掉会导致该引擎不收录。

配置参考(.htaccess UA 白名单只允许搜索引擎): ``` RewriteEngine On RewriteCond %{HTTP_USER_AGENT} !^(.*Baiduspider.*|.*Googlebot.*|.*Bingbot.*|.*Sogou.*)$ [NC] RewriteRule .* - [F,L] ```

UA 大小写匹配错误是常见坑。UA 匹配一定要加 [NC] 或 ignoreCase=true,否则 BadBot 和 badbot 会被当成两个 UA。正则里的点号要转义成 .,否则 . 匹配任意字符导致误杀。写规则前用在线正则测试工具验证匹配范围。

UA 屏蔽对 SEO 的直接影响很小,因为正常搜索引擎 UA 不在黑名单里。间接影响是屏蔽采集器后内容不被镜像,原创内容排名更集中。屏蔽无用 SEO 蜘蛛(Ahrefs、Semrush 等)能省流量,但这些蜘蛛不影响百度排名,封不封看流量紧张程度。

UA 屏蔽对 SEO 的直接影响很小,因为正常搜索引擎 UA 不在黑名单里。间接影响是屏蔽采集器后内容不被镜像,原创内容排名更集中。屏蔽无用 SEO 蜘蛛(Ahrefs、Semrush 等)能省流量,但这些蜘蛛不影响百度排名,封不封看流量紧张程度。

新网虚拟主机屏蔽批量注册 UA_web.config与.htaccess规则对照

标签:

更新时间:2026-08-27 00:48:42

上一篇:文档时间修改4招_投标合同档案场景全覆盖_实用指南

下一篇:FrontPage扩展的计数器功能怎么实现?_访问统计替代方案推荐_排查处理方法