如何在 WordPress 站点中精准屏蔽爬虫对特定目录的访问

本文介绍如何通过 `.htaccess` 文件中的 `rewriterule` 规则，仅对指定子目录（如 `/tbd_templates/` 和 `/custom_post/`）返回 403 禁止访问响应，同时不影响 wordpress 正常路由和其他站点功能。

要在 wordPress 环境中精准限制爬虫（如 googlebot、Bingbot、Baiduspider）访问特定目录（例如 /tbd_templates/ 和 /custom_post/），不能将泛匹配规则（如 .*）直接放在根目录 .htaccess 中——否则会错误拦截所有请求（包括首页）。正确做法是：将路径限定逻辑写入 RewriteRule 的正则模式中，并置于 wordpress 重写规则之前。

以下是推荐配置（请插入到 # BEGIN WordPress 注释行之前）：

# Block specific bots from accessing sensitive directories RewriteCond %{http_USER_AGENT} (googlebot|bingbot|Baiduspider) [NC] RewriteRule ^(tbd_templates|custom_post)($|/) - [F]

✅ 关键说明：

• ^(tbd_templates|custom_post)($|/): 正则精确匹配 URL 路径（不带域名和协议），支持两种形式：
  • /tbd_templates（无尾斜杠）
  • /tbd_templates/ 或 /tbd_templates/some-file.php（有尾斜杠或子路径）
• [F] 标志等价于 [R=403]，返回标准 HTTP 403 Forbidden 响应，语义清晰且被主流爬虫正确识别。
• RewriteEngine On 无需重复声明——WordPress 区块中已启用，且 apache 指令按顺序执行，前置规则优先生效。
• 此规则仅作用于符合条件的 User-Agent + 特定路径组合，普通用户、其他爬虫（如 RSS 阅读器）、API 请求等均不受影响。

⚠️ 注意事项：

• 若后续新增受保护目录（如 /staging/），只需扩展正则：^(tbd_templates|custom_post|staging)($|/)
• 确保该规则位于 # BEGIN WordPress 上方；若放错位置，会被 WordPress 的 RewriteRule . /index.php [L] 拦截并绕过防护。
• 测试时建议使用 curl -A “Googlebot” 模拟请求验证效果，例如：

  curl -I -A "Googlebot" https://example.com/tbd_templates/ # 应返回 HTTP/1.1 403 Forbidden curl -I -A "Mozilla/5.0" https://example.com/tbd_templates/ # 应返回 HTTP/1.1 200 OK（正常访问）

• 如需屏蔽全部爬虫（不限 UA），可简化条件为 RewriteCond %{HTTP_USER_AGENT} .+，但需谨慎评估 seo 影响。

综上，该方案兼顾安全性、可维护性与兼容性，是 WordPress 站点中实现细粒度爬虫访问控制的标准实践。