Scrapy创建爬虫项目步骤

Scrapy创建爬虫项目

1.打开cmd命令行工具,输入scrapy startproject 项目名称

 Scrapy创建爬虫项目步骤

2.使用pycharm打开项目,查看项目目录

Scrapy创建爬虫项目步骤

3.创建爬虫,打开CMDcd命令进入到爬虫项目文件夹,输入scrapy genspider 爬虫文件名 爬虫基础域名

Scrapy创建爬虫项目步骤

4.打开pycharm,发现spider目录下多出一个bole.py文件

 Scrapy创建爬虫项目步骤

5.运行爬虫

 Scrapy创建爬虫项目步骤

6.将爬虫拿到的数据保存为json格式数据

Scrapy crawl bole -o XXX.json


7.将爬虫拿到的数据保存为中文json格式数据

Scrapy crawl bole -o XXX.json -s FEEDEXPORT_ENCODING=UTF-8