利用Python爬取京东生鲜的商品数据和评论数据

首先简明,爬取 商品数据 采用selenium操作chrome模拟浏览器动态渲染页面+ajax加载评论

这个页面大部分的信息都是动态渲染出来的,所以要用selenium

利用Python爬取京东生鲜的商品数据和评论数据

可以看到,要找到评论不是去常见的HXR而是JS,peoduct开头的就是评论信息

Request URL: https://sclub.jd.com/comment/…
Request Method: GET
Status Code: 200
Remote Address: 117.148.129.129:443
Referrer Policy: no-referrer-when-downgrade

在这个url中,查询字符串中的大部分参数不是必须的

具体的可以在代码中体现。

下面我要贴代码了,坐稳扶好,不想复制的话,可以去我的github上下载。

对Python感兴趣或者是正在学习的小伙伴,可以加入我们的Python学习扣qun:784758214,看看前辈们是如何学习的!从基础的python脚本到web开发、爬虫、django、数据挖掘等,零基础到项目实战的资料都有整理。送给每一位python的小伙伴!分享一些学习的方法和需要注意的小细节,教你如何实现边学习边用Python赚钱的学习方式。点击加入我们的 python学习者聚集地

写了一些注释的,不懂得可以在评论中问。暂时这样吧!

文章知识点与官方知识档案匹配,可进一步学习相关知识Python入门技能树首页概览213095 人正在系统学习中

声明:本站部分文章及图片源自用户投稿,如本站任何资料有侵权请您尽早请联系jinwei@zod.com.cn进行处理,非常感谢!

上一篇 2019年8月22日
下一篇 2019年8月22日

相关推荐