Win10平台上使用pycharm进行Scrapy爬虫环境的搭建

                     

平台:win10,pycharm,python2.7

虽然用了pycharm有一段时间了,但是始终是停留在用它看下Python代码而没有进行一些框架和项目的开发,所以就有了今天在学习爬虫时连一个scrapy的环境都无法搭建的窘境。网络上虽然也有一些pycharm的的教程帖子,但是解决scrapy环境搭建这种基础的教程却没有,为了避免新人多踩坑,遂写此文。

在进入正式教程之前,我们对pycharm要有以下几点认识:

  1. pycharm可以在一个窗口中打开多个项目,并且每个项目可以有自己独立的python编译器。
  2. 每个项目也有自己的依赖,需要强调的是这些依赖是项目自己独有的

所以在我在用pycharm打开pycharm项目的时候需要处理两个问题,项目自己的编译器和项目依赖,这一点和idea非常相似。

下面正式进入教程。

1.了解Scrap的依赖
Win10平台上使用pycharm进行Scrapy爬虫环境的搭建
这个是scrapy的依赖关系,由下往上安装各个包。
2.进入设置页面
Win10平台上使用pycharm进行Scrapy爬虫环境的搭建
这里的setting中可以设置已打开项目的编译器和依赖,default setting则用来设置下次打开新项目的默认编译器和依赖库。我们这里对settings进行修改。

3.了解设置页面:
Win10平台上使用pycharm进行Scrapy爬虫环境的搭建
设置页面一共有三个主要区域:
区域一:各个功能的导航,这里进入如示得位置
区域二:各个项目的导航,选择你需要修改编译器和第三方库的项目
区域三:具体的操作区域,如果红框左侧没有的话,点加号进入搜索,如果在Latest条目下出现蓝色箭头可选中后点击升级箭头。

4.添加一个依赖
Win10平台上使用pycharm进行Scrapy爬虫环境的搭建

在添加依赖的时候可能会报错:

Make sure that you use the correct version of ‘pip’ installed for your Pytho

一般这些错误都是因为一些包不是最新的导致的,对此你可以升级包到最新状态来解决问题。如果不是的话,根据报错的detail也可以解决。

           
                     

平台:win10,pycharm,python2.7

虽然用了pycharm有一段时间了,但是始终是停留在用它看下Python代码而没有进行一些框架和项目的开发,所以就有了今天在学习爬虫时连一个scrapy的环境都无法搭建的窘境。网络上虽然也有一些pycharm的的教程帖子,但是解决scrapy环境搭建这种基础的教程却没有,为了避免新人多踩坑,遂写此文。

在进入正式教程之前,我们对pycharm要有以下几点认识:

  1. pycharm可以在一个窗口中打开多个项目,并且每个项目可以有自己独立的python编译器。
  2. 每个项目也有自己的依赖,需要强调的是这些依赖是项目自己独有的

所以在我在用pycharm打开pycharm项目的时候需要处理两个问题,项目自己的编译器和项目依赖,这一点和idea非常相似。

下面正式进入教程。

1.了解Scrap的依赖
Win10平台上使用pycharm进行Scrapy爬虫环境的搭建
这个是scrapy的依赖关系,由下往上安装各个包。
2.进入设置页面
Win10平台上使用pycharm进行Scrapy爬虫环境的搭建
这里的setting中可以设置已打开项目的编译器和依赖,default setting则用来设置下次打开新项目的默认编译器和依赖库。我们这里对settings进行修改。

3.了解设置页面:
Win10平台上使用pycharm进行Scrapy爬虫环境的搭建
设置页面一共有三个主要区域:
区域一:各个功能的导航,这里进入如示得位置
区域二:各个项目的导航,选择你需要修改编译器和第三方库的项目
区域三:具体的操作区域,如果红框左侧没有的话,点加号进入搜索,如果在Latest条目下出现蓝色箭头可选中后点击升级箭头。

4.添加一个依赖
Win10平台上使用pycharm进行Scrapy爬虫环境的搭建

在添加依赖的时候可能会报错:

Make sure that you use the correct version of ‘pip’ installed for your Pytho

一般这些错误都是因为一些包不是最新的导致的,对此你可以升级包到最新状态来解决问题。如果不是的话,根据报错的detail也可以解决。