Python每日一记73>>>Scrapy爬虫框架需要的库及其安装
现在终于进入到最后的爬虫学习啦,也就是Scrapy爬虫框架,其集数据字段定义,网络请求与解析,数据获取和处理等为一体的爬虫框架,极大的方便爬虫的编写过程。接下来限介绍其需要的库的安装的准备工作。
Scrapy库需要多个第三方库,包括lxml,zope.interface,twisted,pyOpenSSL,pywin32,其中twisted和pywin32是不能用pip安装的,这里就主要说一下这两个库的安装。
库的链接如下:
https://www.lfd.uci.edu/~gohlke/pythonlibs/
自行去查找twisted,注意twisted好像只能选择32位的,也没有什么问题。
下载了之后,在cmd的窗口中,切换到你下载的文件的磁盘(如D盘则输入D:,注意有冒号)—然后输入pip install Twisted-19.2.1-cp37-cp37m-win_amd64.whl(这个依据自己的文件名而定)
然后下载pywin32,也是上面同样的步骤,只是注意最后要在你安装好的库内(D:\python相关\python-3.7.2\Lib\site-packages\pywin32_system32中)的pywintypes37.dll,,,和pythoncom37.dll复制到C:\Windows\System32中。
然后我们再pip install scrapy才能成功,否则没有依赖库安装成功的话,scrapy是不会安装成功的。
关于python库的安装方法,见以下链接:
https://blog.****.net/zhongbeida_xue/article/details/79729986
这里面用的whl类型的安装,但是前提之前pip install wheel,也就是安装了wheel