2月4日,腾讯云边缘安全加速平台 EdgeOne 正式向所有套餐用户(含免费版)开放“基础 Bot 管理”能力,包括 AI 爬虫处置、 人机校验页两大重点功能。
EdgeOne 免费开放基础 Bot 管理能力
相比传统爬虫,AI 爬虫访问往往更隐蔽、规模更大,也更难被站点精确区分和管理。开发者为了防止 AI 无偿爬取使用原创内容、占用服务器带宽,往往陷入无休止的“打地鼠”游戏,封禁了一个旧爬虫,隔天又会出现数十个换了“马甲”的新爬虫。
基于此,EdgeOne 的 AI 爬虫处置功能能够基于请求的 User-Agent 字段进行特征识别,并持续更新识别规则,精准识别包括 GPTBot、ClaudeBot、Google-Extended 在内的各类主流 AI 爬虫。开发者无需编写复杂代码,只需在控制台中简单配置,根据自身业务需选择“观察模式”、“拦截模式”、“放行模式”、“挑战模式”等不同处置方式。灵活的处置策略,确保开发者既能阻断恶意的数据收割,也能在需要时拥抱友好的 AI 生态。