python爬虫知识梳理——HTTP协议(概述)
我们写爬虫是为了爬取网站数据,而网站的数据传输都是基于HTTP的。
HTTP协议不同于我们平常所见HTML页面,HTML页面只是HTTP协议里面一个可视化的子集。
HTTP(HyperText Transfer Protocol,超文本传输协议)是基于TCP的C/S架构的一种用于传输超文本的网络协议。
掌握了HTTP协议,后面爬虫遇到的很多问题都可以迎刃而解了。
一、HTTP之与整个网络协议
通过上图可以看到,HTTP协议处于TCP/IP模型中的应用层,这就意味着可以充分利用网络协议分层的优势,将HTTP所依赖的底层整个抽象为管道,如下图
其中HTTP请求跟HTTP响应都是字节流的形式。
在继续介绍HTTP之前先介绍一个HTTP抓包工具——Fiddler,后面部分截图为Fiddler抓包截图。