Scrapy 爬取京东商城华为全系列手机评论

Scrapy 爬取京东商城华为全系列手机评论

向AI转型的程序员都关注了这个号????????????

机器学习AI算法工程  公众号: datayx

大致分析了下京东评论 相同手机型号的产品用的评论都是一样的,所以每个型号的爬一个就可以了;

完整代码下载地址:

关注微信公众号 datayx  然后回复 华为  即可获取

每个型号的找一个主页,爬取评论

Scrapy 爬取京东商城华为全系列手机评论

对应的html代码,用beautisoup分析网页,得到手机型号和herf

Scrapy 爬取京东商城华为全系列手机评论

代码实现:

Scrapy 爬取京东商城华为全系列手机评论


Start_requests:这里用的方法比较简单就是遍历循环,根据url三个参数,

爬取每个手机型号的,好中差评评论,最后通过pipelines存入mongodb:

Scrapy 爬取京东商城华为全系列手机评论

爬到的数据

Scrapy 爬取京东商城华为全系列手机评论


阅读过本文的人还看了以下:

不断更新资源

深度学习、机器学习、数据分析、python

 搜索公众号添加: datayx  

Scrapy 爬取京东商城华为全系列手机评论

长按图片,识别二维码,点关注

Scrapy 爬取京东商城华为全系列手机评论