AI 搜索

AI 爬虫可访问性

检查 GPTBot、Google-Extended、CCBot 等 AI 爬虫在 robots.txt 中的允许/禁止策略。

读取中

允许抓取

GPTBot 访问 /tools/audit:允许。

命中规则:Allow: /
匹配分组:User-agent: *
适合谁

谁会用到这个工具?

  • 关注 AI 搜索、GEO 和内容授权的网站负责人
  • 需要管理 GPTBot、Google-Extended 等爬虫的技术 SEO
  • 既想被 AI 发现又要控制边界的内容团队
什么时候用

什么时候先打开它?

  • 调整 AI 爬虫策略前
  • 做 GEO 可见性和品牌引用监测前
  • 担心公开内容被 AI 平台抓取但没有边界时