python爬虫知识梳理——HTTP协议(概述)

我们写爬虫是为了爬取网站数据,而网站的数据传输都是基于HTTP的。

HTTP协议不同于我们平常所见HTML页面,HTML页面只是HTTP协议里面一个可视化的子集。

HTTP(HyperText Transfer Protocol,超文本传输协议)是基于TCP的C/S架构的一种用于传输超文本的网络协议。

掌握了HTTP协议,后面爬虫遇到的很多问题都可以迎刃而解了。



一、HTTP之与整个网络协议

python爬虫知识梳理——HTTP协议(概述)

通过上图可以看到,HTTP协议处于TCP/IP模型中的应用层,这就意味着可以充分利用网络协议分层的优势,将HTTP所依赖的底层整个抽象为管道,如下图


python爬虫知识梳理——HTTP协议(概述)

其中HTTP请求跟HTTP响应都是字节流的形式。



在继续介绍HTTP之前先介绍一个HTTP抓包工具——Fiddler,后面部分截图为Fiddler抓包截图。