创建scrapy项目
windows+r打开cmd命令行工具,cd Desktop进入到桌面目录
输入创建项目命令 scrapy startproject 项目名
cd 到 项目目录下 cd项目名
执行创建爬虫的命令 scrapy genspider 爬虫名 爬虫起始网址
- 启动爬虫,找到pycharm自带的命令行工具
1、输入启动爬虫命令 scrapy crawl 爬虫名(例如:jobs),回车即可
PS:可以使用另外一种方式以debug模式启动爬虫,可以断点调试
2、新建一个py文件,例如debug.py,在该文件中写入以下代码,右键debug运行即可使用断点调试
3、修改robots协议