爬虫（三）-笔记

scrapy的概念和流程

1. scrapy的概念

Scrapy是一个Python编写的开源 络爬虫框架。它是一个被设计用于爬取 络数据、提取结构性数据的框架。

Scrapy 使用了异步 络框架，可以加快下载速度。

Scrapy文档地址

2. scrapy框架的作用

少量的代码，就能够快速的抓取

3. scrapy的工作流程

3.1 回顾之前的爬虫流程

3.3 scrapy的流程

注意：

• 爬虫中间件和下载中间件只是运行逻辑的位置不同，作用是重复的：如替换UA等

小结

1. scrapy的概念：Scrapy是一个为了爬取 站数据，提取结构性数据而编写的应用框架
2. scrapy框架的运行流程以及数据传递过程：
   1. 爬虫中起始的url构造成request对象–>爬虫中间件–>引擎–>调度器
   2. 调度器把request–>引擎–>下载中间件—>下载器
   3. 下载器发送请求，获取response响应—->下载中间件—->引擎—>爬虫中间件—>爬虫
   4. 爬虫提取url地址，组装成request对象—->爬虫中间件—>引擎—>调度器，重复步骤2
      spiders模块中，解析数据为以下两种
      • 若解析出来数据，构造items对象，交由引擎进行数据提取，步骤5
      • 若解析出来是新的url，则步骤4
   5. 爬虫提取数据—>引擎—>管道处理和保存数据
3. scrapy框架的作用：通过少量代码实现快速抓取
4. 掌握scrapy中每个模块的作用：
   引擎(engine)：负责数据和信 在不同模块间的传递
   调度器(scheduler)：实现一个队列，存放引擎发过来的request请求对象
   下载器(downloader)：发送引擎发过来的request请求，获取响应，并将响应交给引擎
   爬虫(spider)：处理引擎发过来的response，提取数据，提取url，并交给引擎
   管道(pipeline)：处理引擎传递过来的数据，比如存储
   下载中间件(downloader middleware)：可以自定义的下载扩展，比如设置代理ip
   爬虫中间件(spider middleware)：可以自定义request请求和进行response过滤，与下载中间件作用重复

scrapy的入门使用

1 安装scrapy

命令:

????sudo apt-get install scrapy

或者：

????pip/pip3 install scrapy

2 scrapy项目开发流程

1. 创建项目:

   ????scrapy startproject mySpider

2. 生成一个爬虫:

   ????scrapy genspider itcast itcast.cn

3. 提取数据:

   ????根据 站结构在spider中实现数据采集相关内容

4. 保存数据:

   ????使用pipeline进行数据后续处理和保存

3. 创建项目

通过命令将scrapy项目的的文件生成出来，后续步骤都是在项目文件中进行相关操作，下面以抓取传智师资库来学习scrapy的入门使用：http://www.itcast.cn/channel/teacher.shtml

创建scrapy项目的命令：

????scrapy startproject

示例：

????scrapy startproject myspider

生成的目录和文件结果如下：

5. 完善爬虫

在上一步生成出来的爬虫文件中编写指定 站的数据采集操作，实现数据提取
1.修改起始url–start_urls
2.检查修改允许的域名–allowed_domains
3.在parse()中实现爬取逻辑

5.1 在/myspider/myspider/spiders/itcast.py中修改内容如下:

补充：

注意：

• scrapy.Spider爬虫类中必须有名为parse的解析
• 如果 站结构层次比较复杂，也可以自定义其他解析函数
• 在解析函数中提取的url地址如果要发送请求，则必须属于allowed_domains范围内，但是start_urls中的url地址不受这个限制，在后续的会学习如何在解析函数中构造发送请求
• 启动爬虫的时候注意启动的位置，是在项目路径下启动
• parse()函数中使用yield返回数据，注意：解析函数中的yield能够传递的对象只能是：BaseItem, Request, dict, None

5.2 定位元素以及提取数据、属性值的方法

解析并获取scrapy爬虫中的数据: 利用xpath规则字符串进行定位和提取

1. response.xpath方法的返回结果是一个类似list的类型，其中包含的是selector对象，操作和列表一样，但是有一些额外的方法
2. 额外方法extract()：返回一个包含有字符串的列表
3. 额外方法extract_first()：返回列表中的第一个字符串，列表为空没有返回None

5.3 response响应对象的常用属性

• response.url：当前响应的url地址
• response.request.url：当前响应对应的请求的url地址
• response.headers：响应头
• response.requests.headers：当前响应的请求头
• response.body：响应体，也就是html代码，byte类型
• response.status：响应状态码

6 保存数据

利用管道pipeline来处理(保存)数据

6.1 在pipelines.py文件中定义对数据的操作

1. 定义一个管道类
2. 重写管道类的process_item方法
3. process_item方法处理完item之后必须返回给引擎

6.2 在settings.py配置启用管道

配置项中键为使用的管道类，管道类使用.进行分割，第一个为项目目录，第二个为文件，第三个为定义的管道类。

配置项中值为管道的使用顺序，设置的数值约小越优先执行，该值一般设置为1000以内。如：

启用成功