robots.txt 禁止蜘蛛抓取_Disallow与Allow规则优先级
robots.txt 禁止蜘蛛抓取的标准写法：User-agent: Baiduspider 针对百度蜘蛛，User-agent: * 针对所有蜘蛛。Disallow: /admin/ 禁止抓取后台目录，Disallow: /? 禁止抓取带问号的动态 URL，Allow: / 允许抓取全站。规则按顺序匹配，先匹配到的先生效。
robots.txt 完整示例：User-agent: * 下 Disallow: /admin/、Disallow: /install/、Disallow: /?、Disallow: /*?*、Disallow: /temp/、Allow: /。Sitemap: http://域名/sitemap.xml。禁止后台、安装目录、动态参数 URL、临时目录，允许其余内容，末尾提交 sitemap 地址。
配置参考（robots.txt 禁止指定蜘蛛）： ``` User-agent: AhrefsBot Disallow: /
User-agent: SemrushBot Disallow: /
User-agent: * Allow: / ```
robots.txt 不要禁止 CSS、JS、图片文件。百度蜘蛛需要渲染页面，禁止 CSS/JS 会导致抓取异常、排名下降。Disallow 只针对动态页面和敏感目录，静态资源不要禁。如果蜘蛛抓取图片流量大，可以在站长平台调整抓取频率，而不是 robots 禁止图片。
百度蜘蛛流量大但收录少，通常是抓取了大量低价值页面。优化方向：robots.txt 禁止搜索结果页、筛选页、分页参数、标签云；页面加 canonical 指向主版本；sitemap 只提交高质量页面。蜘蛛抓取配额集中到正文页后，收录量和排名都会提升，流量反而下降。
robots.txt 的高级用法：Crawl-delay 参数限制抓取间隔（部分蜘蛛支持，百度不支持），Disallow 配合通配符禁止参数页，Allow 单独放开重要目录。复杂规则写完必须用百度站长平台的 robots 检测工具逐条验证，输入典型 URL 看是否被允许，避免误封整站。
更新时间：2026-08-26 21:04:31