如何识别Baiduspider
admin
admin 412 0
2019-01-18 14:03

如何识别Baiduspider

发布日期:2014-04-28

上周百度站长平台接到某站长求助,表示误封禁了Baiduspider的IP,询问是否有办法获得Baiduspider的所有IP,打算放入白名单加以保护,防止再次误封。在此要告诉各位站长,Baiduspider的IP池是不断变动的,我们无法提供IP全集。

除此之外,之前还有站长发来质疑说Baiduspider光顾过于频繁,已超越服务器承受能力。而百度站长平台追查发现,Baiduspider对该站点的抓取并无异常,那只spider极有可能是个李鬼。

那么,站长该如何通过IP来判断此spider是不是来自百度搜索引擎的呢?

可以通过DNS反查方式来解决这个问题。根据平台不同验证方法不同,如linux/windows/os三种平台下的验证方法分别如下:

1、在linux平台下,您可以使用host ip命令反解ip来判断是否来自Baiduspider的抓取。Baiduspider的hostname以 *.baidu.com *.baidu.jp 的格式命名,非 *.baidu.com 或 *.baidu.jp 即为冒充。

图片:071341413170362.jpg

2、在windows平台或者IBM OS/2平台下,您可以使用nslookup ip命令反解ip来 判断是否来自Baiduspider的抓取。打开命令处理器 输入nslookup xxx.xxx.xxx.xxx(IP地 址)就能解析ip, 来判断是否来自Baiduspider的抓取,Baiduspider的hostname以*.baidu.com*.baidu.jp 的格式命名,非 *.baidu.com 或 *.baidu.jp 即为冒充。

3、在mac os平台下,您可以使用dig 命令反解ip来 判断是否来自Baiduspider的抓取。打开命令处理器 输入dig xxx.xxx.xxx.xxx(IP地 址)就能解析ip, 来判断是否来自Baiduspider的抓取,Baiduspider的hostname以 *.baidu.com*.baidu.jp 的格式命名,非 *.baidu.com 或 *.baidu.jp 即为冒充。

如果大家对如何识别Baiduspider还有别的疑问,大家可以到[学院同学汇][学习讨论] 《如何识别Baiduspider》讨论帖中发表自己的看法,我们的工作人员会关注这里并与大家进行探讨。

分享:
游客
要评论请先登录 或者 注册

相关文章

如何识别Baiduspider
如何识别Baidus...如何识别Baiduspider发布日期:...
利用百度蜘蛛referer找到报错页面入口
利用百度蜘蛛refe...利用百度蜘蛛referer找到报错页面入...
搜索引擎检索系统概述
搜索引擎检索系统概述搜索引擎检索系统概述发布日期:2013-...
ETag使用效果对比&经验分享
ETag使用效果对比...ETag使用效果对比&经验分享发布日期:...
遇Baiduspider抓取,反馈时间多久合适
遇Baiduspid...遇Baiduspider抓取,反馈时间多...
如何识别Baiduspider
如何识别Baidus...如何识别Baiduspider发布日期:...
利用百度蜘蛛referer找到报错页面入口
利用百度蜘蛛refe...利用百度蜘蛛referer找到报错页面入...
搜索引擎检索系统概述
搜索引擎检索系统概述搜索引擎检索系统概述发布日期:2013-...
ETag使用效果对比&经验分享
ETag使用效果对比...ETag使用效果对比&经验分享发布日期:...
遇Baiduspider抓取,反馈时间多久合适
遇Baiduspid...遇Baiduspider抓取,反馈时间多...
返回顶部