logo
  • 搜索学院
  • 搜索服务
  • 互动交流
  • 资源合作
  • 用户中心
登录
推荐内容 智能小程序 工具解读 搜索规范 合作共建 基础开发

资源提交

小程序资源
  • 资源提交及校验
站点资源
  • 快速收录
  • 普通收录
  • 移动适配
  • 死链提交

数据统计

小程序资源
  • 流量统计
站点资源
  • 索引量
  • 流量与关键词
  • 抓取频次
  • 抓取诊断
  • 抓取异常
  • Robots

搜索展现

  • HTTPS认证
  • 站点子链
  • 站点属性
  • 专业问答
  • 落地页视频转存
  • 视频极速服务
  • 医疗权威资源
  • 热议资源

站点优化与维护

  • 闭站保护
  • 网站改版
  • 移动落地页检测
  • 网站体检
论坛 反馈中心 搜索用户建议
合作专题 申请历史
站点管理 消息提醒 联系方式 管理员设置 分润中心
  • 在线咨询

  • 反馈中心

  • 回到顶部

搜索学院 【网站抓取】如何正确识别Baiduspider移动ua

【网站抓取】如何正确识别Baiduspider移动ua

发布日期:2015-05-20

百度站长平台发布公告宣布新版Baiduspider移动ua上线,同时公布了PC版Baiduspider UA,那么该如何正确识别移动UA呢?我们百度站长平台技术专家孙权老师给出了答案:


新版移动UA:

Mozilla/5.0 (Linux;u;Android 4.2.2;zh-cn;) AppleWebKit/534.46 (KHTML,like Gecko) Version/5.1 Mobile Safari/10600.6.3 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)


PC UA:

Mozilla/5.0 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)


之前通过“+http://www.baidu.com/search/spider.html”进行识别的网站请注意!您需要修改识别方式,新的正确的识别Baiduspider移动ua的方法如下:
  1. 通过关键词“Android”或者“Mobile”来进行识别,判断为移动访问或者抓取。
  2. 通过关键词“Baiduspider/2.0”,判断为百度爬虫。

另外需要强调的是,对于robots封禁,如果封禁的agent是Baiduspider,会对PC和移动同时生效。即,无论是PC还是移动Baiduspider,都不会对封禁对象进行抓取。之所以要强调这一点,是发现有些代码适配站点(同一个url,PC ua打开的时候是PC页,移动ua打开的时候是移动页),想通过设置robots的agent封禁达到只让移动Baiduspider抓取的目的,但由于PC和移动Baiduspider的agent都是Baiduspider,这种方法是非常不可取的。

更多相关问题讨论,欢迎移步【学院同学汇】《如何正确识别Baiduspider移动ua》讨论帖


推荐阅读

  • 搜索公开课复盘之《搜索算法全解析》
  • 搜索公开课复盘之《搜索问题解决指南》
  • 搜索公开课复盘之《搜索优质内容解读》
  • 搜索公开课复盘之《权威性解读》
  • 搜索公开课复盘之《时效性解读》
  • 搜索公开课复盘之《搜索基础展现解读》
  • 搜索公开课复盘之《搜索排序原则解读》
智能小程序 投诉平台 百度统计 百度智能云 百度云加速 百度安全 百度大脑 百度保障 百度开发者中心 联系我们 微信公众号
©2021 Baidu 使用百度前必读 京ICP证030173号