selenium、phantomjs、BeautifulSoup4等爬虫神器下载
1.selenium下载
下载地址:https://pypi.org/project/selenium/
selenium是一个浏览器自动化操作框架,主要是用来做自动化测试,支持多种浏览器,爬虫中主要用来解决JavaScript渲染问题,模拟浏览器进行 页加载
2.phantomjs下载
下载地址:http://phantomjs.org/download.html
由于selenium 自己不带浏览器,不支持浏览器的功能,它需要与第三方浏览器结合在一起才能使用,因此可以使用 PhantomJS 的工具代替浏览器。PhantomJS 是一个基于Webkit的“无界面”(headless)浏览器,它会把 站加载到内存并执行页面上的 JavaScript,并且不会展示图形界面。
3.BeautifulSoup4下载
下载地址:https://www.crummy.com/software/BeautifulSoup/bs4/download/
BeautifulSoup4是用Python写的一个HTML/XML的解析器,它可以很好的处理不规范标记并生成剖析树(parse tree)。 它提供简单又常用的导航(navigating),搜索以及修改剖析树的操作。利用它我们不在需要编写正则表达式就可以方便的实现 页信息的提取。
BeautifulSoup4官 文档:https://www.crummy.com/software/BeautifulSoup/bs4/doc/index.zh.html
4.加载页面时如果中文未显示,是因为linux下缺失中文字体,需要安装下面的包,centos采用yum安装:
yum install bitmap-fonts bitmap-fonts-cjk
5.pip安装
下载地址:https://www.python.org/downloads/
使用 exe installer安装python环境,这样pip会随之安装
6.使用pip安装上述模块
如果环境中安装了pip的话,上软件也可以采用pip 的方法安装
pip install selenium==2.53.6(指定的版本 )
pip install BeautifulSoup4
文章知识点与官方知识档案匹配,可进一步学习相关知识Python入门技能树首页概览211383 人正在系统学习中
声明:本站部分文章及图片源自用户投稿,如本站任何资料有侵权请您尽早请联系jinwei@zod.com.cn进行处理,非常感谢!