Fork me on GitHub

代码里的“随机应变”

抓取领英职业档案url的相关解决方案

说在前头

  有段时间没更新了,期间发生了很多事,这里就不一一赘述,有一个要说一下, 之前我放在github上的springbootquick代码结构我重新整理了一下,因为我觉得branch的方式去完善每个小功能不太直观,索性找个时间全都整理在了一起,方便大家观看
目录结构
项目地址为https://github.com/vector4wang/spring-boot-quick 里面有些是我工作中用到的,有些是我在平时玩玩积累的,如果对你有帮助,点个星,fork一下,我会感激不尽,如果有问题,请及时沟通我,我会在第一时间改正,我的原则是“交流、互助、提升”~
  今天就我之前写的一个小虫子说一下代码里的随机应变,以下观点均数个人看法,如有雷同纯属巧合,如果你对我的看法有意见欢迎拍砖,如果觉得我的理解有点意思,那有劳,点个赞分享一下,我定感激不尽,好的,言归正传!

起因

世充日踧月迫,力尽计穷,悬首面缚,翘足可待。建德远来助虐,粮运阻绝,此是天丧之时。请固武牢,屯军氾水,随机应变,则易为克殄 —旧唐书·郭孝恪传(指随着情况的变化灵活机动地应付)

之前写的领英爬虫目标数据比较随意,即抓取一段时间之后,后面得到的数据都是老外的,这不是我想要的,于是上级给了一个办法, “通过百度搜索去抓”,即在百度搜索某一个姓氏或常用名,通过百度返回的列表再依次去领英里去抓,如图
列表.png
后来验证这是可行的,其实这里也是一个“随机应变”的情景,这条路走不通立马换条路,而且是可行的。
  问题到这看似没有问题,但是用过百度的都知道,当你点击某一结果的时候,百度这边需要做一个重定向处理,即重新指定url,例如你点击百度链接http://www.baidu.com/link?url=6pwgxIUI8VfssEgJKHAHjdHBD_55cW5E72arpGIV9lZoAxLsaqV3do9p9O01kuzb3s3FlJKImEFkFsvWkDWL8a,经过重定向后就变成了http://cn.linkedin.com/in/johnsonwangnz,这一点htmlunit做的很好,自动获取重定向的页面,但是在防爬虫这一块,领英做的很好,这一点列一下我知道的限制

  • ip限制 一个ip对领英产生大量非人类行为的请求,他会对这个ip登录的账号做一个人机验证,比12306还好玩,大家可以试试,手动偷笑~
  • 请求限制 当产生大量请求是,它会对请求直接拒绝~
  • 账号限制 同一个ip或者ip所在的网段注册多个领英账号的时候,账号会出现各种繁琐的验证,没验证的直接禁掉!!!

目前我知道的就这几条。
好,因为是代码,请求的速度非常快,一秒通过百度指向领英跳转达到几十个,几分钟后代码就报错了,如下
999.png
  这啥啊,999感冒灵冲剂啊!!!查了下code码,原来是“访问被拒绝”,我得出的结果是领英那边检查出了大量的个人页面的请求,速度很快非人类所能达到,于是就禁止数据返回。
  我心想这下完蛋了,这条路难道也走不通!!!急的我抓耳挠腮~,然后我起身转了一圈,喝了点水,突然灵光一闪,“我想要的就是个人中心的链接啊,我可以先拿到这些链接存起来作为种子url,然后再将以前的爬虫改造一下,通过这些url去抓啊!”
于是,我将这些错误catch住,通过简单的正则来判断是否为拥有个人中心的链接地址,如下:

1
2
3
4
5
6
7
8
9
10
11
final Pattern r = Pattern.compile("in/[\\u4e00-\\u9fa5-0-9-a-z-A-z%]*");
Matcher m = r.matcher(e.getMessage());
String seed = "";
if (m.find()) {
seed = m.group();
seed = seed.substring(3, seed.length());
}
System.out.println(seed);

结果为
seed.png
没错,白色就是种子url,最后在直接访问http://www.linkedin.com/in/jingshi-wang-056b6245/ 就可以获取这个人一些职业信息啦~~~
职业档案.png

最终的是酱紫
结构.png
为什么领英爬虫还要回写种子DB,因为要将抓过的url打个标记抓过了,整体就这么简单。

现在种子抓了100多万了,领英这块抓了8万多,现在暂停了,因为帐号这块的问题还没有解决~~~,啊哈哈哈哈

后记

代码我放在了github上,点我
其实这里并不是说代码的这一块的,而是如何对代码反馈出来的结果做出灵活的应对以致快速总结出解决方案,这不就是对代码的“随机应变”吗~~

-------------本文结束感谢您的阅读-------------