如何在pycharm中进行scrapy项目的debug

  1. 首先得有一个Scrapy项目,我在Desktop上新建一个Scrapy的项目叫test,在Desktop目录打开命令行,键入命令:scrapy startproject test1 
    如何在pycharm中进行scrapy项目的debug 

    目录结构如下: 

    如何在pycharm中进行scrapy项目的debug 
    如何在pycharm中进行scrapy项目的debug 
    如何在pycharm中进行scrapy项目的debug 

     

  2. 打开Pycharm,选择open 


    如何在pycharm中进行scrapy项目的debug 

     

  3. 选择项目,ok 

    如何在pycharm中进行scrapy项目的debug

     

  4. 打开如下界面之后,按alt + 1, 打开project 面板 

    如何在pycharm中进行scrapy项目的debug
    如何在pycharm中进行scrapy项目的debug

  5. 在test1/spiders/,文件夹下,新建一个爬虫spider.py, 注意代码中的name="dmoz"。这个名字后面会用到。 

    如何在pycharm中进行scrapy项目的debug

     

  6. 在test1目录和scrapy.cfg同级目录下面,新建一个begin.py文件(便于理解可以写成main.py),注意箭头2所指的名字和第5步中的name='dmoz' 名字是一样的。

 
  1. from scrapy import cmdline

  2.  
  3. cmdline.execute("scrapy crawl dmoz".split())

  • 1
  • 2
  • 3
  • 1
  • 2
  • 3

 

 

如何在pycharm中进行scrapy项目的debug


7. 上面把文件搞定了,下面要配置一下pycharm了。点击Run->Edit Configurations

如何在pycharm中进行scrapy项目的debug


8. 新建一个运行的python模块 

如何在pycharm中进行scrapy项目的debug


9. Name:改成spider; script:选择刚才新建的那个begin.py文件;Working Direciton:改成自己的工作目录 
如何在pycharm中进行scrapy项目的debug
10. 至此,大功告成了,点击下图,右上角的按钮就能运行了。 
如何在pycharm中进行scrapy项目的debug

 

调试

可以在其他代码中设置断点,就可以debug运行

如何在pycharm中进行scrapy项目的debug

Paste_Image.png

如何在pycharm中进行scrapy项目的debug

 

转载1:http://www.jianshu.com/p/f85120fcbca0

转载2:http://blog.csdn.net/wangsidadehao/article/details/52911746