python全棧開發從入門到放棄之socket網絡編程基礎
網絡編程基礎
一 客戶端/服務器架構
1.硬件C/S架構(打印機)
2.軟件C/S架構
互聯網中處處是C/S架構
如黃色網站是服務端,你的瀏覽器是客戶端(B/S架構也是C/S架構的一種)
騰訊作為服務端為你提供視頻,你得下個騰訊視頻客戶端才能看它的視頻)
C/S架構與socket的關系:
我們學習socket就是為了完成C/S架構的開發
為何學習socket一定要先學習互聯網協議:
1.首先:本節課程的目標就是教會你如何基於socket編程,來開發一款自己的C/S架構軟件
2.其次:C/S架構的軟件(軟件屬於應用層)是基於網絡進行通信的
3.然後:網絡的核心即一堆協議,協議即標準,你想開發一款基於網絡通信的軟件,就必須遵循這些標準。
4.最後:就讓我們從這些標準開始研究,開啟我們的socket編程之旅
三 socket層
四 socket是什麽
Socket是應用層與TCP/IP協議族通信的中間軟件抽象層,它是一組接口。在設計模式中,Socket其實就是一個門面模式,它把復雜的TCP/IP協議族隱藏在Socket接口後面,對用戶來說,一組簡單的接口就是全部,讓Socket去組織數據,以符合指定的協議。
所以,我們無需深入理解tcp/udp協議,socket已經為我們封裝好了,我們只需要遵循socket的規定去編程,寫出的程序自然就是遵循tcp/udp標準的。
也有人將socket說成ip+port,ip是用來標識互聯網中的一臺主機的位置,而port是用來標識這臺機器上的一個應用程序,ip地址是配置到網卡上的,而port是應用程序開啟的,ip與port的綁定就標識了互聯網中獨一無二的一個應用程序
而程序的pid是同一臺機器上不同進程或者線程的標識
五 套接字發展史及分類
套接字起源於 20 世紀 70 年代加利福尼亞大學伯克利分校版本的 Unix,即人們所說的 BSD Unix。 因此,有時人們也把套接字稱為“伯克利套接字”或“BSD 套接字”。一開始,套接字被設計用在同 一臺主機上多個應用程序之間的通訊。這也被稱進程間通訊,或 IPC。套接字有兩種(或者稱為有兩個種族),分別是基於文件型的和基於網絡型的。
基於文件類型的套接字家族
套接字家族的名字:AF_UNIX
unix一切皆文件,基於文件的套接字調用的就是底層的文件系統來取數據,兩個套接字進程運行在同一機器,可以通過訪問同一個文件系統間接完成通信
基於網絡類型的套接字家族
套接字家族的名字:AF_INET
(還有AF_INET6被用於ipv6,還有一些其他的地址家族,不過,他們要麽是只用於某個平臺,要麽就是已經被廢棄,或者是很少被使用,或者是根本沒有實現,所有地址家族中,AF_INET是使用最廣泛的一個,python支持很多種地址家族,但是由於我們只關心網絡編程,所以大部分時候我麽只使用AF_INET)
六 套接字工作流程
一個生活中的場景。你要打電話給一個朋友,先撥號,朋友聽到電話鈴聲後提起電話,這時你和你的朋友就建立起了連接,就可以講話了。等交流結束,掛斷電話結束此次交談。 生活中的場景就解釋了這工作原理。
先從服務器端說起。服務器端先初始化Socket,然後與端口綁定(bind),對端口進行監聽(listen),調用accept阻塞,等待客戶端連接。在這時如果有個客戶端初始化一個Socket,然後連接服務器(connect),如果連接成功,這時客戶端與服務器端的連接就建立了。客戶端發送數據請求,服務器端接收請求並處理請求,然後把回應數據發送給客戶端,客戶端讀取數據,最後關閉連接,一次交互結束
socket()模塊函數用法
1 import socket 2 socket.socket(socket_family,socket_type,protocal=0) 3 socket_family 可以是 AF_UNIX 或 AF_INET。socket_type 可以是 SOCK_STREAM 或 SOCK_DGRAM。protocol 一般不填,默認值為 0。 4 5 獲取tcp/ip套接字 6 tcpSock = socket.socket(socket.AF_INET, socket.SOCK_STREAM) 7 8 獲取udp/ip套接字 9 udpSock = socket.socket(socket.AF_INET, socket.SOCK_DGRAM) 10 11 由於 socket 模塊中有太多的屬性。我們在這裏破例使用了‘from module import *‘語句。使用 ‘from socket import *‘,我們就把 socket 模塊裏的所有屬性都帶到我們的命名空間裏了,這樣能 大幅減短我們的代碼。 12 例如tcpSock = socket(AF_INET, SOCK_STREAM)
服務端套接字函數
s.bind() 綁定(主機,端口號)到套接字
s.listen() 開始TCP監聽
s.accept() 被動接受TCP客戶的連接,(阻塞式)等待連接的到來
客戶端套接字函數
s.connect() 主動初始化TCP服務器連接
s.connect_ex() connect()函數的擴展版本,出錯時返回出錯碼,而不是拋出異常
公共用途的套接字函數
s.recv() 接收TCP數據
s.send() 發送TCP數據(send在待發送數據量大於己端緩存區剩余空間時,數據丟失,不會發完)
s.sendall() 發送完整的TCP數據(本質就是循環調用send,sendall在待發送數據量大於己端緩存區剩余空間時,數據不丟失,循環調用send直到發完)
s.recvfrom() 接收UDP數據
s.sendto() 發送UDP數據
s.getpeername() 連接到當前套接字的遠端的地址
s.getsockname() 當前套接字的地址
s.getsockopt() 返回指定套接字的參數
s.setsockopt() 設置指定套接字的參數
s.close() 關閉套接字
面向鎖的套接字方法
s.setblocking() 設置套接字的阻塞與非阻塞模式
s.settimeout() 設置阻塞套接字操作的超時時間
s.gettimeout() 得到阻塞套接字操作的超時時間
面向文件的套接字的函數
s.fileno() 套接字的文件描述符
s.makefile() 創建一個與該套接字相關的文件
以打電話為例子
服務端 import socket phone=socket.socket(socket.AF_INET,socket.SOCK_STREAM) #買手機 phone.bind((‘192.168.20.26‘,8085)) #綁定手機卡 phone.listen(5) #開機 print(‘starting...‘) conn,client_addr=phone.accept() #等電話 (鏈接,客戶的的ip和端口組成的元組) print(conn,client_addr) #收,發消息 data=conn.recv(1024) #收消息 print(‘client data: <%s>‘ %data) #打印消息 conn.send(data.upper()) conn.close() #掛電話 phone.close() #關機 客戶端 import socket phone=socket.socket(socket.AF_INET,socket.SOCK_STREAM) #買手機 phone.connect((‘103.47.82.239‘,8085)) #綁定手機卡 #發,收消息 phone.send(‘hello‘.encode(‘utf-8‘)) #發消息 data=phone.recv(1024) #收到信息並在本機打印消息 print(‘server back res:<%s>‘ %data) phone.close()
七 基於TCP的套接字
tcp是基於鏈接的,必須先啟動服務端,然後再啟動客戶端去鏈接服務端
tcp服務端
1 ss = socket() #創建服務器套接字 2 ss.bind() #把地址綁定到套接字 3 ss.listen() #監聽鏈接 4 inf_loop: #服務器無限循環 5 cs = ss.accept() #接受客戶端鏈接 6 comm_loop: #通訊循環 7 cs.recv()/cs.send() #對話(接收與發送) 8 cs.close() #關閉客戶端套接字 9 ss.close() #關閉服務器套接字(可選)
tcp客戶端
1 cs = socket() # 創建客戶套接字 2 cs.connect() # 嘗試連接服務器 3 comm_loop: # 通訊循環 4 cs.send()/cs.recv() # 對話(發送/接收) 5 cs.close() # 關閉客戶套接字
客戶端 import socket phone=socket.socket(socket.AF_INET,socket.SOCK_STREAM) #買手機 phone.connect((‘192.168.20.26‘,8081)) #綁定手機卡 #發,收消息 while True: #循環 msg=input(‘>>: ‘).strip() #用戶輸入 if not msg:continue #如果輸入為空則continue phone.send(msg.encode(‘utf-8‘)) #發消息 data=phone.recv(1024) #接消息 print(‘server back res:<%s>‘ %data) #打印消息 phone.close() #關閉鏈接 服務端 import socket phone=socket.socket(socket.AF_INET,socket.SOCK_STREAM) #買手機 phone.setsockopt(socket.SOL_SOCKET,socket.SO_REUSEADDR,1) #就是它,在bind前加 phone.bind((‘192.168.20.26‘,8081)) #綁定手機卡 phone.listen(5) #開機 print(‘starting...‘) while True: #鏈接循環 conn,client_addr=phone.accept() #等電話 (鏈接,客戶的的ip和端口組成的元組) print(‘-------->‘,conn,client_addr) #收,發消息 while True:#通信循環 try: data=conn.recv(1024) if not data:break #針對linux print(‘client data: <%s>‘ %data) conn.send(data.upper()) except Exception: break conn.close() #掛電話 phone.close() #關機
問題:
在重啟服務端時可能會遇到
這個是由於你的服務端仍然存在四次揮手的time_wait狀態在占用地址(如果不懂,請深入研究1.tcp三次握手,四次揮手 2.syn洪水攻擊 3.服務器高並發情況下會有大量的time_wait狀態的優化方法)
解決方法:
#加入一條socket配置,重用ip和端口 phone=socket(AF_INET,SOCK_STREAM) phone.setsockopt(SOL_SOCKET,SO_REUSEADDR,1) #就是它,在bind前加 phone.bind((‘127.0.0.1‘,8080))方法一
發現系統存在大量TIME_WAIT狀態的連接,通過調整linux內核參數解決, vi /etc/sysctl.conf 編輯文件,加入以下內容: net.ipv4.tcp_syncookies = 1 net.ipv4.tcp_tw_reuse = 1 net.ipv4.tcp_tw_recycle = 1 net.ipv4.tcp_fin_timeout = 30 然後執行 /sbin/sysctl -p 讓參數生效。 net.ipv4.tcp_syncookies = 1 表示開啟SYN Cookies。當出現SYN等待隊列溢出時,啟用cookies來處理,可防範少量SYN攻擊,默認為0,表示關閉; net.ipv4.tcp_tw_reuse = 1 表示開啟重用。允許將TIME-WAIT sockets重新用於新的TCP連接,默認為0,表示關閉; net.ipv4.tcp_tw_recycle = 1 表示開啟TCP連接中TIME-WAIT sockets的快速回收,默認為0,表示關閉。 net.ipv4.tcp_fin_timeout 修改系統默認的 TIMEOUT 時間方法二
模擬ssh遠程執行命令
服務端 import socket import subprocess phone=socket.socket(socket.AF_INET,socket.SOCK_STREAM) #買手機 phone.setsockopt(socket.SOL_SOCKET,socket.SO_REUSEADDR,1) #就是它,在bind前加 #地址重用的代碼 phone.bind((‘192.168.20.26‘,8082)) #綁定手機卡 phone.listen(5) #開機 print(‘starting...‘) while True: #鏈接循環 conn,client_addr=phone.accept() #等電話 (鏈接,客戶的的ip和端口組成的元組) print(‘-------->‘,conn,client_addr) #收,發消息 while True:#通信循環 try: cmd=conn.recv(1024) #註意當字節數超過的時候,你打下一條命令時會把上一條命令的結果沒打完的打印出來 if not cmd:break #針對linux #執行cmd命令,拿到cmd的結果,結果應該是bytes類型 #。。。。 res = subprocess.Popen(cmd.decode(‘utf-8‘), shell=True, #cmd的結果是bytes類型,進行decode utf-8轉換 stdout=subprocess.PIPE, #如果正確進入正確的管道 stderr=subprocess.PIPE) #命令錯誤則進入錯誤的管道 stdout=res.stdout.read() #調用正確管道裏返回值 stderr=res.stderr.read() #調用錯誤管道裏的返回值 #發送命令的結果 conn.send(stdout+stderr) #並發送給客戶端 except Exception: break conn.close() #掛電話 phone.close() #關機 客戶端 import socket phone=socket.socket(socket.AF_INET,socket.SOCK_STREAM) #買手機 phone.connect((‘192.168.20.26‘,8082)) #綁定手機卡 #發,收消息 while True: #通信循環 cmd=input(‘>>: ‘).strip() #輸入 print(cmd) if not cmd:continue phone.send(cmd.encode(‘utf-8‘)) cmd_res=phone.recv(1024) print(cmd_res.decode(‘gbk‘)) #在windows中默認是gbk的 phone.close() #關機
python全棧開發從入門到放棄之socket網絡編程基礎