终于有人把 络爬虫讲明白了

导读：人们正在以前所未有的速度转向互联 ，我们在互联 上所做的很多行为产生了大量的“用户数据”，比如微博、购买记录等。

互联 成了海量信息的载体；互联 目前是分析市场趋势、监视竞争对手或者获取销售线索的最佳场所，数据采集以及分析能力已成为驱动业务决策的关键技能。

01 爬虫是什么

络爬虫（又被称为 页蜘蛛、 络机器人，在FOAF 区中，更经常地称为 页追逐者）是一种按照一定的规则，自动抓取万维 信息的程序或者脚本。另外一些不常使用的名字还有蚂蚁、自动索引、模拟程序或者蠕虫。

络爬虫通过爬取互联 上 站服务器的内容来工作。它是用计算机语言编写的程序或脚本，用于自动从Internet上获取信息或数据，扫描并抓取每个所需页面上的某些信息，直到处理完所有能正常打开的页面。

作为搜索引擎的重要组成部分，爬虫首要的功能就是爬取 页数据（如图2-1所示），目前市面流行的采集器软件都是运用 络爬虫的原理或功能。

▲图2-1 络爬虫象形图

02 爬虫的意义

现如今大数据时代已经到来， 络爬虫技术成为这个时代不可或缺的一部分，企业需要数据来分析用户行为、自己产品的不足之处以及竞争对手的信息等，而这一切的首要条件就是数据的采集。

络爬虫的价值其实就是数据的价值，在互联 会中，数据是无价之宝，一切皆为数据，谁拥有了大量有用的数据，谁就拥有了决策的主动权。 络爬虫的应用领域很多，如搜索引擎、数据采集、广告过滤、大数据分析等。

1）抓取各大电商 站的商品销量信息及用户评价来进行分析，如图2-2所示。

▲图2-2 电商 站的商品销售信息

2）分析大众点评、美团 等餐饮类 站的用户消费、评价和发展趋势，如图2-3所示。

▲图2-3 餐饮类 站的用户消费信息

3）分析各个城市中学区房的比例，以及学区房比普通二手房价格高出多少，如图2-4所示。

▲图2-4 学区房的比例与价格对比

以上数据是通过前嗅ForeSpider数据采集软件爬下来的，有兴趣的读者可以尝试自己爬一些数据。

03 爬虫的原理

我们通常会将 络爬虫的组成模块分为初链接库、 络抓取模块、 页处理模块、 页分析模块、DNS模块、待抓取链接队列、 页库等， 络爬虫的各系模块可形成一个循坏体系，从而不断地进行分析和抓取。

爬虫的工作原理可以很简单地解释为先找到目标信息 ，然后页面抓取模块，接着页面分析模块，最后数据存储模块。其具体详情如图2-5所示。

▲图2-5 爬虫原理图

爬虫工作基本流程：

1. 首先在互联 中选出一部分 页，以这些 页的链接地址作为种子URL；
2. 将这些种子URL放入待抓取的URL队列中，爬虫从待抓取的URL队列依次读取；
3. 将URL通过DNS解析；
4. 把链接地址转换为 站服务器对应的IP地址；
5. 页下载器通过 站服务器对 页进行下载；
6. 下载的 页为 页文档形式；
7. 对 页文档中的URL进行抽取；
8. 过滤掉已经抓取的URL；
9. 对未进行抓取的URL继续循环抓取，直至待抓取URL队列为空。

04 爬虫技术的类型

聚焦 络爬虫是“面向特定主题需求”的一种爬虫程序，而通用 络爬虫则是捜索引擎抓取系统（Baidu、Google、Yahoo等）的重要组成部分，主要目的是将互联 上的 页下载到本地，形成一个互联 内容的镜像备份。

增量抓取意即针对某个站点的数据进行抓取，当 站的新增数据或者该站点的数据发生变化后，自动地抓取它新增的或者变化后的数据。

Web页面按存在方式可以分为表层 页（surface Web）和深层 页（deep Web，也称invisible Web pages或hidden Web）。

关于爬虫技术类型的更详细讲解请戳详解4种类型的爬虫技术 。

延伸阅读《Python 络爬虫技术与实战》