python基础之socket编程

socket基础概念

·客户端/服务端架构

·osi七层

·socket层

·socket的定义

·套接字的工作流程

·socket收发消息的原理

Socket是初识

·socket()函数

·基于TCP的套接字

·模拟实现TCP远程执行命令

·基于UDP的套接字

·关于tcp的recv和udp的recvfrom的一些区别

学习网络编程之前,要对计算机底层的通信实现机制要有一定的理解。

OSI

互联网协议按照功能不同分为osi七层或tcp/ip五层或tcp/ip四层

python基础之socket编程

python基础之socket编程

socket基础概念

  本篇介绍socket是基于什么来的,为什么要知道互联网底层实现通信的原理

客户端/服务端架构

即C/S架构,包括

1.硬件C/S架构(打印机)

2.软件C/S架构(web服务)

美好的愿望:

最常用的软件服务器是 Web 服务器。一台机器里放一些网页或 Web 应用程序,然后启动 服务。这样的服务器的任务就是接受客户的请求,把网页发给客户(如用户计算机上的浏览器),然 后等待下一个客户请求。这些服务启动后的目标就是“永远运行下去”。虽然它们不可能实现这样的 目标,但只要没有关机或硬件出错等外力干扰,它们就能运行非常长的一段时间。 

 

生活中的C/S架构:

老男孩是S端,所有的学员是C端

饭店是S端,所有的食客是C端

互联网中处处是C/S架构(黄色网站是服务端,你的浏览器是客户端;腾讯作为服务端为你提供视频,你得下个腾讯视频客户端才能看狗日的视频)

 

C/S架构与socket的关系:

我们学习socket就是为了完成C/S架构的开发

osi七层

引子:

须知一个完整的计算机系统是由硬件、操作系统、应用软件三者组成,具备了这三个条件,一台计算机系统就可以自己跟自己玩了(打个单机游戏,玩个扫雷啥的)

 

如果你要跟别人一起玩,那你就需要上网了(访问个黄色网站,发个黄色微博啥的),互联网的核心就是由一堆协议组成,协议就是标准,全世界人通信的标准是英语,如果把计算机比作人,互联网协议就是计算机界的英语。所有的计算机都学会了互联网协议,那所有的计算机都就可以按照统一的标准去收发信息从而完成通信了。人们按照分工不同把互联网协议从逻辑上划分了层级

为何学习socket一定要先学习互联网协议:

 

1.首先:本节课程的目标就是教会你如何基于socket编程,来开发一款自己的C/S架构软件

 

2.其次:C/S架构的软件(软件属于应用层)是基于网络进行通信的

 

3.然后:网络的核心即一堆协议,协议即标准,你想开发一款基于网络通信的软件,就必须遵循这些标准。

 

4.最后:就让我们从这些标准开始研究,开启我们的socket编程之旅

python基础之socket编程

socket层

在上图中,我们没有看到Socket的影子,那么它到底在哪里呢?还是用图来说话,一目了然。

python基础之socket编程

socket的定义

Socket是应用层与TCP/IP协议族通信的中间软件抽象层,它是一组接口。在设计模式中,Socket其实就是一个门面模式,它把复杂的TCP/IP协议族隐藏在Socket接口后面,对用户来说,一组简单的接口就是全部,让Socket去组织数据,以符合指定的协议。

所以,我们无需深入理解tcp/udp协议,socket已经为我们封装好了,我们只需要遵循socket的规定去编程,写出的程序自然就是遵循tcp/udp标准的。

也有人将socket说成ip+port,ip是用来标识互联网中的一台主机的位置,而port是用来标识这台机器上的一个应用程序,ip地址是配置到网卡上的,而port是应用程序开启的,ip与port的绑定就标识了互联网中独一无二的一个应用程序

而程序的pid是是同一台机器上不同进程或者线程的标识

套接字的发展史以及分类

套接字起源于 20 世纪 70 年代加利福尼亚大学伯克利分校版本的 Unix,即人们所说的 BSD Unix。 因此,有时人们也把套接字称为“伯克利套接字”或“BSD 套接字”。一开始,套接字被设计用在同 一台主机上多个应用程序之间的通讯。这也被称进程间通讯,或 IPC。套接字有两种(或者称为有两个种族),分别是基于文件型的和基于网络型的。 

基于文件类型的套接字家族

套接字家族的名字:AF_UNIX

unix一切皆文件,基于文件的套接字调用的就是底层的文件系统来取数据,两个套接字进程运行在同一机器,可以通过访问同一个文件系统间接完成通信

基于网络类型的套接字家族

套接字家族的名字:AF_INET

(还有AF_INET6被用于ipv6,还有一些其他的地址家族,不过,他们要么是只用于某个平台,要么就是已经被废弃,或者是很少被使用,或者是根本没有实现,所有地址家族中,AF_INET是使用最广泛的一个,python支持很多种地址家族,但是由于我们只关心网络编程,所以大部分时候我们只使用AF_INET)

套接字的工作流程

一个生活中的场景。你要打电话给一个朋友,先拨号,朋友听到电话铃声后提起电话,这时你和你的朋友就建立起了连接,就可以讲话了。等交流结束,挂断电话结束此次交谈。    生活中的场景就解释了这工作原理,也许TCP/IP协议族就是诞生于生活中,这也不一定。

                                                     python基础之socket编程

先从服务器端说起。服务器端先初始化Socket,然后与端口绑定(bind),对端口进行监听(listen),调用accept阻塞,等待客户端连接。在这时如果有个客户端初始化一个Socket,然后连接服务器(connect),如果连接成功,这时客户端与服务器端的连接就建立了。客户端发送数据请求,服务器端接收请求并处理请求,然后把回应数据发送给客户端,客户端读取数据,最后关闭连接,一次交互结束

socket收发消息的原理

 

阐释:发送端可以是一K一K地发送数据,而接收端的应用程序可以两K两K地提走数据,当然也有可能一次提走3K或6K数据,或者一次只提走几个字节的数据,也就是说,应用程序所看到的数据是一个整体,或说是一个流(stream),一条消息有多少字节对应用程序是不可见的,因此TCP协议是面向流的协议,这也是容易出现粘包问题的原因。而UDP是面向消息的协议,每个UDP段都是一条消息,应用程序必须以消息为单位提取数据,不能一次提取任意字节的数据,这一点和TCP是很不同的。怎样定义消息呢?可以认为对方一次性write/send的数据为一个消息,需要明白的是当对方send一条信息的时候,无论底层怎样分段分片,TCP协议层会把构成整条消息的数据段排序完成后才呈现在内核缓冲区。

Python 提供了两个级别访问的网络服务。

  • 低级别的网络服务支持基本的 Socket,它提供了标准的 BSD Sockets API,可以访问底层操作系统Socket接口的全部方法。
  • 高级别的网络服务模块 SocketServer, 它提供了服务器中心类,可以简化网络服务器的开发。

Socket是初识

  • Socket又称"套接字",应用程序通常通过"套接字"向网络发出请求或者应答网络请求,使主机间或者一台计算机上的进程间可以通讯。

socket()函数

  • Python 中,我们用 socket()函数来创建套接字,语法格式如下:
1
2
import socket
socket.socket([family[, type[, proto]]])
  • 参数

    family: 套接字家族可以使AF_UNIX或者AF_INET

    type: 套接字类型可以根据TCP(面向连接)的还是UDP(非连接)分为SOCK_STREAMSOCK_DGRAM

    protocol: 一般不填默认为0.

  • socket对象(内建)方法
服务器端套接字
s.bind() 绑定地址(host,port)到套接字, 在AF_INET下,以元组(host,port)的形式表示地址。
s.listen() 开始TCP监听。backlog指定在拒绝连接之前,操作系统可以挂起的最大连接数量。该值至少为1,大部分应用程序设为5就可以了。
s.accept() 被动接受TCP客户端连接,(阻塞式)等待连接的到来
客户端套接字
s.connect() 主动初始化TCP服务器连接,。一般address的格式为元组(hostname,port),如果连接出错,返回socket.error错误。
s.connect_ex() connect()函数的扩展版本,出错时返回出错码,而不是抛出异常
公共用途的套接字函数
s.recv() 接收TCP数据,数据以字符串形式返回,bufsize指定要接收的最大数据量。flag提供有关消息的其他信息,通常可以忽略。
s.send() 发送TCP数据,将string中的数据发送到连接的套接字。返回值是要发送的字节数量,该数量可能小于string的字节大小。
s.sendall() 完整发送TCP数据,完整发送TCP数据。将string中的数据发送到连接的套接字,但在返回之前会尝试发送所有数据。成功返回None,失败则抛出异常。
s.recvform() 接收UDP数据,与recv()类似,但返回值是(data,address)。其中data是包含接收数据的字符串,address是发送数据的套接字地址。
s.sendto() 发送UDP数据,将数据发送到套接字,address是形式为(ipaddr,port)的元组,指定远程地址。返回值是发送的字节数。
s.close() 关闭套接字
s.getpeername() 返回连接套接字的远程地址。返回值通常是元组(ipaddr,port)。
s.getsockname() 返回套接字自己的地址。通常是一个元组(ipaddr,port)
s.setsockopt(level,optname,value) 设置给定套接字选项的值。
s.getsockopt(level,optname[.buflen]) 返回套接字选项的值。
s.settimeout(timeout) 设置套接字操作的超时期,timeout是一个浮点数,单位是秒。值为None表示没有超时期。一般,超时期应该在刚创建套接字时设置,因为它们可能用于连接的操作(如connect())
s.gettimeout() 返回当前超时期的值,单位是秒,如果没有设置超时期,则返回None。
s.fileno() 返回套接字的文件描述符。
s.setblocking(flag) 如果flag为0,则将套接字设为非阻塞模式,否则将套接字设为阻塞模式(默认值)。非阻塞模式下,如果调用recv()没有发现任何数据,或send()调用无法立即发送数据,那么将引起socket.error异常。
s.makefile() 创建一个与该套接字相关连的文件

基于TCP的套接字

服务端

我们使用 socket 模块的 socket 函数来创建一个 socket 对象。socket 对象可以通过调用其他函数来设置一个 socket 服务。

现在我们可以通过调用 bind(hostname, port) 函数来指定服务的 port(端口)

接着,我们调用 socket 对象的 accept 方法。该方法等待客户端的连接,并返回 connection 对象,表示已连接到客户端。

#!/usr/bin/python3
# 文件名:server.py

# 导入 socket模块
import socket

# 创建 socket 对象
serversocket = socket.socket(
            socket.AF_INET, socket.SOCK_STREAM) 

# 获取本地主机名
host = socket.gethostname()

port = 8080

# 绑定端口
serversocket.bind((host, port))

# 设置最大连接数,超过后排队
serversocket.listen(5)

while True:
    # 建立客户端连接
    clientsocket,addr = serversocket.accept()      

    print("连接地址: %s" % str(addr))
    
    msg='welcome to JinCheng!'+ "\r\n"
    clientsocket.send(msg.encode('utf-8'))
    clientsocket.close()

客户端

接下来我们写一个简单的客户端实例连接到以上创建的服务。

socket.connect(hosname, port ) 方法打开一个 TCP 连接到主机为 hostname 端口为 port 的服务商。连接后我们就可以从服务端后期数据,记住,操作完成后需要关闭连接。

#!/usr/bin/python3
# 文件名:client.py


# 导入 socket模块
import socket

# 创建 socket 对象
s = socket.socket(socket.AF_INET, socket.SOCK_STREAM)

# 获取本地主机名
host = socket.gethostname()

# 设置端口好
port = 8080

# 连接服务,指定主机和端口
s.connect((host, port))

# 接收小于 1024 字节的数据
msg = s.recv(1024)

s.close()

print (msg.decode('utf-8'))

为socket加上链接循环

import socket
ip_port = ("127.0.0.1",8080)# 电话卡
back_log = 5
buffer_size = 1024

s = socket.socket(socket.AF_INET,socket.SOCK_STREAM)#买手机
s.bind(ip_port)   #手机插卡
s.listen(back_log)#手机待机

while True:                 #新增接收链接循环,可以不停的接电话
    conn,address = s.accept()#手机接电话
    # print(conn)
    print('接到来自%s的电话' %address)
    while True:#新增通信循环,可以不断的通信,收发消息
        try:   #新增捕捉异常的,如果不加,那么正在链接的客户端突然断开,recv便不再阻塞,死循环发生
            ret = str(conn.recv(buffer_size),encoding="utf-8")
            print("from>>> " ,ret)  #收到来自于客户端的消息
            nr = input(">>>")        #交互式发送,发给客户端消息
            conn.sendall(bytes(nr, encoding="utf-8"))
        except Exception:
            break

    #conn.close() #挂电话(可选)

#s.close()        #手机关机(可选)

服务端
import socket
ip_port = ("127.0.0.1",8080)
buffer_size = 1024
s = socket.socket(socket.AF_INET,socket.SOCK_STREAM)# 买手机
s.connect(ip_port)                                  # 拨电话

while True: # 新增通信循环,客户端可以不断发收消息
    nr = input(">>>").strip() #
    if not nr:continue # 如果输入为空,则返回循环
    s.sendall(bytes(nr, encoding="utf-8"))# 发消息,说话(只能发送字节类型)
    res = s.recv(buffer_size)              # 收消息,听话
    print("来自远方的消息",str(res, encoding="utf-8"))

#s.close()                                 # 挂电话(可选)

客户端

基于上次例子可能会遇到一些问题:

python基础之socket编程

#加入一条socket配置,重用ip和端口

phone=socket(AF_INET,SOCK_STREAM)
phone.setsockopt(SOL_SOCKET,SO_REUSEADDR,1) #就是它,在bind前加
phone.bind(('127.0.0.1',8080))

#此条可以解决上述的问题

模拟实现TCP远程执行命令

# 基于tcp协议实现的远程连接命令工作
from socket import *
import subprocess
ip_port = ("127.0.0.1",8080)
back_log = 5
buffer_size = 1024

tcp_server = socket(AF_INET,SOCK_STREAM)
tcp_server.bind(ip_port)
tcp_server.listen(back_log)

while True:
    conn,addr = tcp_server.accept()
    print("客户端连接",addr)
    while True:
        try:
            cmd = conn.recv(buffer_size)
            if not cmd:break
            print("收到客户端的命令是:",cmd)
            res = subprocess.Popen(cmd.decode("utf-8"),shell=True,
                             stderr=subprocess.PIPE,
                             stdout=subprocess.PIPE,
                             stdin=subprocess.PIPE)
            err = res.stderr.read()
            if err:
                cmd_res = err
            else:
                cmd_res = res.stdout.read()
            if not cmd_res:
                cmd_res = "命令执行OK".encode("gbk")
            conn.send(cmd_res)

        except Exception as e:
            print(e)
            break
    conn.close()

服务端
from socket import *
import subprocess
ip_port = ("127.0.0.1",8080)
buffer_size = 1024

tcp_client = socket(AF_INET,SOCK_STREAM)
tcp_client.connect(ip_port)

while True:
    msg = input(">>>")
    if not msg:continue
    if msg == "q":break #如果输入的是q 则发送的是空 服务端会进入死循环
    tcp_client.send(msg.encode("utf-8"))
    cmd_res = tcp_client.recv(buffer_size)
    print("命令行的结果是",cmd_res.decode("gbk"))

tcp_client.close()

客户端

基于UDP的套接字

from socket import *

udp_server = socket(AF_INET,SOCK_DGRAM) # 基于网络,  数据报
udp_server.bind(("127.0.0.1",8080,))

while True:
    data,addr = udp_server.recvfrom(1024)
    print("来自于:",addr,data.decode("utf-8"))

    msg = input(">>>")
    udp_server.sendto(msg.encode("utf-8"),addr)
from socket import *
ip_port=("192.168.12.34",8899)

udp_client = socket(AF_INET,SOCK_DGRAM) # 基于网络,  数据报

while True:
    msg = input(">>>")
    udp_client.sendto(msg.encode("utf-8"),ip_port)  # 发送于谁

    data,addr=udp_client.recvfrom(1024)             # 接收来自于谁
    print(data.decode("utf-8"))

对UDP进行的一些阐释 如果发送的内容为空,例如直接回车,不会阻塞。在TCP下按下回车则会阻塞,则要作出一些处理。UDP不会出现粘包现象,再讲解粘包时会作出解释。而且UDP可以直接实现并发,支持多用户同时通信服务端

关于tcp的recv和udp的recvfrom的一些区别

1、收发原理详解:

发消息:都是将数据发送到己端的发送缓冲区中

收消息:都是从己端的缓冲区中收

2、发消息二者类似,收消息确实有区别的?

tcp协议:send发消息,recv收消息

(1)如果收消息缓冲区里的数据为空,那么recv就会阻塞

(2)tcp基于链接通信,如果一端断开了链接,那另外一端的链接也跟着完蛋recv将不会阻塞,收到的是空

udp协议:sendto发消息,recvfrom收消息

(1)如果如果收消息缓冲区里的数据为“空”,recvfrom不会阻塞

(2)recvfrom收的数据小于sendinto发送的数据时,数据丢失

(3)只有sendinto发送数据没有recvfrom收数据,数据丢失

注意:

1.你单独运行上面的udp的客户端,你发现并不会报错,相反tcp却会报错,因为udp协议只负责把包发出去,对方收不收,根本不管,而tcp是基于链接的,必须有一个服务端先运行着,客户端去跟服务端建立链接然后依托于链接才能传递消息,任何一方试图把链接摧毁都会导致对方程序的崩溃。

2.上面的udp程序,你注释任何一条客户端的sendinto,服务端都会卡住,为什么?因为服务端有几个recvfrom就要对应几个sendinto,哪怕是sendinto(b'')那也要有。

总结:

1.udp的sendinto不用管是否有一个正在运行的服务端,可以己端一个劲的发消息

2.udp的recvfrom是阻塞的,一个recvfrom(x)必须对一个一个sendinto(y),收完了x个字节的数据就算完成,若是y>x数据就丢失,这意味着udp根本不会粘包,但是会丢数据,不可靠

3.tcp的协议数据不会丢,己端总是在收到ack时才会清除缓冲区内容。数据是可靠的,但是会粘包。