Linux下使用crontab定时执行爬虫任务
1. 查看当前系统的定时任务,使用命令:crontab -l
2.在编写定时任务时,crontab默认编辑器为nano,不方便使用,可以更改成 vim。
3.根据自己的需求编写定时任务,使用命令“crontab -e”进行编写定时任务。
上面的命令添加了一个任务,这个任务会每天23:00启动,这个任务要做得就是进入爬虫目录,并启动爬虫。
4.如果你不知道自己的scrapy的全路径,可以用终端下用which scrapy
来查看。
有关Crontab命令的参数和用法点击进入:Linux定时任务Crontab命令详解