1. 程式人生 > >python全棧開發從入門到放棄之socket網絡編程基礎

python全棧開發從入門到放棄之socket網絡編程基礎

windows lis timeout 標準 網站 入門 make 取數 exce

網絡編程基礎

一 客戶端/服務器架構

1.硬件C/S架構(打印機)

2.軟件C/S架構

  互聯網中處處是C/S架構

  如黃色網站是服務端,你的瀏覽器是客戶端(B/S架構也是C/S架構的一種)

  騰訊作為服務端為你提供視頻,你得下個騰訊視頻客戶端才能看它的視頻)

C/S架構與socket的關系:

我們學習socket就是為了完成C/S架構的開發

為何學習socket一定要先學習互聯網協議:

1.首先:本節課程的目標就是教會你如何基於socket編程,來開發一款自己的C/S架構軟件

2.其次:C/S架構的軟件(軟件屬於應用層)是基於網絡進行通信的

3.然後:網絡的核心即一堆協議,協議即標準,你想開發一款基於網絡通信的軟件,就必須遵循這些標準。

4.最後:就讓我們從這些標準開始研究,開啟我們的socket編程之旅

技術分享

三 socket層

技術分享

四 socket是什麽

Socket是應用層與TCP/IP協議族通信的中間軟件抽象層,它是一組接口。在設計模式中,Socket其實就是一個門面模式,它把復雜的TCP/IP協議族隱藏在Socket接口後面,對用戶來說,一組簡單的接口就是全部,讓Socket去組織數據,以符合指定的協議。

所以,我們無需深入理解tcp/udp協議,socket已經為我們封裝好了,我們只需要遵循socket的規定去編程,寫出的程序自然就是遵循tcp/udp標準的。

也有人將socket說成ip+port,ip是用來標識互聯網中的一臺主機的位置,而port是用來標識這臺機器上的一個應用程序,ip地址是配置到網卡上的,而port是應用程序開啟的,ip與port的綁定就標識了互聯網中獨一無二的一個應用程序

而程序的pid是同一臺機器上不同進程或者線程的標識

五 套接字發展史及分類

套接字起源於 20 世紀 70 年代加利福尼亞大學伯克利分校版本的 Unix,即人們所說的 BSD Unix。 因此,有時人們也把套接字稱為“伯克利套接字”或“BSD 套接字”。一開始,套接字被設計用在同 一臺主機上多個應用程序之間的通訊。這也被稱進程間通訊,或 IPC。套接字有兩種(或者稱為有兩個種族),分別是基於文件型的和基於網絡型的。

基於文件類型的套接字家族

套接字家族的名字:AF_UNIX

unix一切皆文件,基於文件的套接字調用的就是底層的文件系統來取數據,兩個套接字進程運行在同一機器,可以通過訪問同一個文件系統間接完成通信

基於網絡類型的套接字家族

套接字家族的名字:AF_INET

(還有AF_INET6被用於ipv6,還有一些其他的地址家族,不過,他們要麽是只用於某個平臺,要麽就是已經被廢棄,或者是很少被使用,或者是根本沒有實現,所有地址家族中,AF_INET是使用最廣泛的一個,python支持很多種地址家族,但是由於我們只關心網絡編程,所以大部分時候我麽只使用AF_INET)

六 套接字工作流程

一個生活中的場景。你要打電話給一個朋友,先撥號,朋友聽到電話鈴聲後提起電話,這時你和你的朋友就建立起了連接,就可以講話了。等交流結束,掛斷電話結束此次交談。 生活中的場景就解釋了這工作原理。

技術分享

先從服務器端說起。服務器端先初始化Socket,然後與端口綁定(bind),對端口進行監聽(listen),調用accept阻塞,等待客戶端連接。在這時如果有個客戶端初始化一個Socket,然後連接服務器(connect),如果連接成功,這時客戶端與服務器端的連接就建立了。客戶端發送數據請求,服務器端接收請求並處理請求,然後把回應數據發送給客戶端,客戶端讀取數據,最後關閉連接,一次交互結束

socket()模塊函數用法

 1 import socket
 2 socket.socket(socket_family,socket_type,protocal=0)
 3 socket_family 可以是 AF_UNIX 或 AF_INET。socket_type 可以是 SOCK_STREAM 或 SOCK_DGRAM。protocol 一般不填,默認值為 04 
 5 獲取tcp/ip套接字
 6 tcpSock = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
 7 
 8 獲取udp/ip套接字
 9 udpSock = socket.socket(socket.AF_INET, socket.SOCK_DGRAM)
10 
11 由於 socket 模塊中有太多的屬性。我們在這裏破例使用了from module import *語句。使用 from socket import *,我們就把 socket 模塊裏的所有屬性都帶到我們的命名空間裏了,這樣能 大幅減短我們的代碼。
12 例如tcpSock = socket(AF_INET, SOCK_STREAM)
服務端套接字函數
s.bind() 綁定(主機,端口號)到套接字
s.listen() 開始TCP監聽
s.accept() 被動接受TCP客戶的連接,(阻塞式)等待連接的到來

客戶端套接字函數
s.connect() 主動初始化TCP服務器連接
s.connect_ex() connect()函數的擴展版本,出錯時返回出錯碼,而不是拋出異常

公共用途的套接字函數
s.recv() 接收TCP數據
s.send() 發送TCP數據(send在待發送數據量大於己端緩存區剩余空間時,數據丟失,不會發完)
s.sendall() 發送完整的TCP數據(本質就是循環調用send,sendall在待發送數據量大於己端緩存區剩余空間時,數據不丟失,循環調用send直到發完)
s.recvfrom() 接收UDP數據
s.sendto() 發送UDP數據
s.getpeername() 連接到當前套接字的遠端的地址
s.getsockname() 當前套接字的地址
s.getsockopt() 返回指定套接字的參數
s.setsockopt() 設置指定套接字的參數
s.close() 關閉套接字

面向鎖的套接字方法
s.setblocking() 設置套接字的阻塞與非阻塞模式
s.settimeout() 設置阻塞套接字操作的超時時間
s.gettimeout() 得到阻塞套接字操作的超時時間

面向文件的套接字的函數
s.fileno() 套接字的文件描述符
s.makefile() 創建一個與該套接字相關的文件

以打電話為例子

服務端

import socket
phone=socket.socket(socket.AF_INET,socket.SOCK_STREAM) #買手機
phone.bind((192.168.20.26,8085)) #綁定手機卡
phone.listen(5) #開機

print(starting...)
conn,client_addr=phone.accept() #等電話 (鏈接,客戶的的ip和端口組成的元組)
print(conn,client_addr)

#收,發消息
data=conn.recv(1024)          #收消息
print(client data: <%s> %data)  #打印消息
conn.send(data.upper())


conn.close() #掛電話
phone.close() #關機


客戶端
import socket
phone=socket.socket(socket.AF_INET,socket.SOCK_STREAM) #買手機
phone.connect((103.47.82.239,8085)) #綁定手機卡

#發,收消息
phone.send(hello.encode(utf-8))       #發消息
data=phone.recv(1024)                     #收到信息並在本機打印消息
print(server back res:<%s> %data)

phone.close()

七 基於TCP的套接字

tcp是基於鏈接的,必須先啟動服務端,然後再啟動客戶端去鏈接服務端

tcp服務端

1 ss = socket() #創建服務器套接字
2 ss.bind()      #把地址綁定到套接字
3 ss.listen()      #監聽鏈接
4 inf_loop:      #服務器無限循環
5     cs = ss.accept() #接受客戶端鏈接
6     comm_loop:         #通訊循環
7         cs.recv()/cs.send() #對話(接收與發送)
8     cs.close()    #關閉客戶端套接字
9 ss.close()        #關閉服務器套接字(可選)

tcp客戶端

1 cs = socket()    # 創建客戶套接字
2 cs.connect()    # 嘗試連接服務器
3 comm_loop:        # 通訊循環
4     cs.send()/cs.recv()    # 對話(發送/接收)
5 cs.close()            # 關閉客戶套接字
客戶端
import socket
phone=socket.socket(socket.AF_INET,socket.SOCK_STREAM) #買手機
phone.connect((192.168.20.26,8081)) #綁定手機卡

#發,收消息
while True:      #循環
    msg=input(>>: ).strip()       #用戶輸入
    if not msg:continue                #如果輸入為空則continue
    phone.send(msg.encode(utf-8))           #發消息
    data=phone.recv(1024)                        #接消息
    print(server back res:<%s> %data)      #打印消息

phone.close()                                            #關閉鏈接


服務端
import socket
phone=socket.socket(socket.AF_INET,socket.SOCK_STREAM) #買手機
phone.setsockopt(socket.SOL_SOCKET,socket.SO_REUSEADDR,1) #就是它,在bind前加
phone.bind((192.168.20.26,8081)) #綁定手機卡
phone.listen(5) #開機

print(starting...)
while True: #鏈接循環
    conn,client_addr=phone.accept() #等電話 (鏈接,客戶的的ip和端口組成的元組)
    print(-------->,conn,client_addr)

    #收,發消息
    while True:#通信循環
        try:
            data=conn.recv(1024)
            if not data:break #針對linux
            print(client data: <%s> %data)
            conn.send(data.upper())
        except Exception:
            break
    conn.close() #掛電話
phone.close() #關機

問題:

在重啟服務端時可能會遇到

技術分享

這個是由於你的服務端仍然存在四次揮手的time_wait狀態在占用地址(如果不懂,請深入研究1.tcp三次握手,四次揮手 2.syn洪水攻擊 3.服務器高並發情況下會有大量的time_wait狀態的優化方法)

解決方法:

技術分享
#加入一條socket配置,重用ip和端口

phone=socket(AF_INET,SOCK_STREAM)
phone.setsockopt(SOL_SOCKET,SO_REUSEADDR,1) #就是它,在bind前加
phone.bind((127.0.0.1,8080))
方法一 技術分享
發現系統存在大量TIME_WAIT狀態的連接,通過調整linux內核參數解決,
vi /etc/sysctl.conf

編輯文件,加入以下內容:
net.ipv4.tcp_syncookies = 1
net.ipv4.tcp_tw_reuse = 1
net.ipv4.tcp_tw_recycle = 1
net.ipv4.tcp_fin_timeout = 30
 
然後執行 /sbin/sysctl -p 讓參數生效。
 
net.ipv4.tcp_syncookies = 1 表示開啟SYN Cookies。當出現SYN等待隊列溢出時,啟用cookies來處理,可防範少量SYN攻擊,默認為0,表示關閉;

net.ipv4.tcp_tw_reuse = 1 表示開啟重用。允許將TIME-WAIT sockets重新用於新的TCP連接,默認為0,表示關閉;

net.ipv4.tcp_tw_recycle = 1 表示開啟TCP連接中TIME-WAIT sockets的快速回收,默認為0,表示關閉。

net.ipv4.tcp_fin_timeout 修改系統默認的 TIMEOUT 時間
方法二

模擬ssh遠程執行命令

服務端
import socket
import subprocess
phone=socket.socket(socket.AF_INET,socket.SOCK_STREAM) #買手機
phone.setsockopt(socket.SOL_SOCKET,socket.SO_REUSEADDR,1) #就是它,在bind前加   #地址重用的代碼
phone.bind((192.168.20.26,8082)) #綁定手機卡
phone.listen(5) #開機

print(starting...)
while True: #鏈接循環
    conn,client_addr=phone.accept() #等電話 (鏈接,客戶的的ip和端口組成的元組)
    print(-------->,conn,client_addr)

    #收,發消息
    while True:#通信循環
        try:
            cmd=conn.recv(1024)           #註意當字節數超過的時候,你打下一條命令時會把上一條命令的結果沒打完的打印出來
            if not cmd:break #針對linux
            #執行cmd命令,拿到cmd的結果,結果應該是bytes類型
            #。。。。
            res = subprocess.Popen(cmd.decode(utf-8), shell=True,        #cmd的結果是bytes類型,進行decode utf-8轉換
                                   stdout=subprocess.PIPE,                 #如果正確進入正確的管道
                                   stderr=subprocess.PIPE)                 #命令錯誤則進入錯誤的管道
            stdout=res.stdout.read()         #調用正確管道裏返回值  
            stderr=res.stderr.read()         #調用錯誤管道裏的返回值

            #發送命令的結果
            conn.send(stdout+stderr)        #並發送給客戶端
        except Exception:
            break
    conn.close() #掛電話
phone.close() #關機

客戶端
import socket
phone=socket.socket(socket.AF_INET,socket.SOCK_STREAM) #買手機
phone.connect((192.168.20.26,8082)) #綁定手機卡

#發,收消息
while True:         #通信循環
    cmd=input(>>: ).strip()  #輸入
    print(cmd)        
    if not cmd:continue                 

    phone.send(cmd.encode(utf-8))
    cmd_res=phone.recv(1024)          
    print(cmd_res.decode(gbk))     #在windows中默認是gbk的
phone.close()           #關機

python全棧開發從入門到放棄之socket網絡編程基礎