Python記憶體對映檔案讀寫方式
我就廢話不多說了,還是直接看程式碼吧!
import os import time import mmap filename = 'test.txt' #如果不存在,建立。 if not os.path.exists(filename): open(filename,'w') print(os.path.isdir(filename)) if os.path.isfile(filename): print(time.ctime(os.path.getctime(filename))) fd = os.open(filename,os.O_RDWR) m = mmap.mmap(fd,50,access=mmap.ACCESS_WRITE) # 1024位元組的檔案。 m.seek(2) buf1 = bytes(b'Zhang') m[2:len(buf1)+2] = buf1 buf2 = b'Phil' m.seek(20) # 定位寫入的位置。 m.write(buf2) # 寫入位元組資料。 m.close() fd = os.open(filename,access=mmap.ACCESS_READ) m.seek(20) buf3 = m.read(len(buf2)) m.close() print(list(buf3))
操作後的test.txt檔案內容:
Zhang Phil
補充知識:Python對二進位制檔案做記憶體對映,高效優雅地對內容隨機訪問
讀寫二進位制檔案還在使用open函式?
各種組合seek()、read()和write()累不累?
使用 mmap 模組實現對檔案的記憶體對映,讓我們讀寫二進位制檔案像運算元組一樣高效優雅。
先給出一個實用函式,用來演示如何開啟一個檔案並對它進行記憶體對映操作。
def memory_map(filename,access=mmap.ACCESS_WRITE): size = os.path.getsize(filename) fd = os.open(filename,os.O_RDWR) return mmap.mmap(fd,size,access=access)
要使用這個函式,需要先準備一個已經建立好的檔案併為之填充一些資料。
>>> size = 1000000 >>> with open('data','wb') as f: f.seek(size-1) f.write(b'\x00')
接著我們可以使用memory_map()函式對檔案內容做記憶體對映,它返回的mmap物件可以讓我們像運算元組一樣讀寫二進位制檔案!
>>> m = memory_map('data') >>> len(m) 1000000 >>> m[:10] b'\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00' >>> m[0] 0 >>> m[0:11]=b'Hello World'#改變一個切片 >>> m.close() >>> with open('data','rb') as f:#驗證改變已經生效 print(f.read(11)) b'Hello World'
由於mmap()返回的mmap物件也可以當作上下文管理器使用,在這種情況下,底層的檔案會自動關閉。
>>> with memory_map('data') as m: print(len(m)) print(m[0:11]) 1000000 b'Hello World'
預設情況下memory_map()函式開啟的檔案既可以讀,也可以寫。對資料的任何修改都會拷貝回原始的檔案中。
如果需要只讀訪問,可以為access引數提供mmap.ACCESS_READ值。
m = memory_map(filename,mmap.ACCESS_READ)
如果只想要在本地修改資料,並不想將這些修改寫回到原始檔案中,可以使用mmap.ACCESS_COPY引數。
m = memory_map(filename,mmap.ACCESS_COPY)
總結:
通過mmap將檔案對映到記憶體之後,我們可以高效並優雅地對檔案的內容進行隨機訪問。
與其開啟檔案後通過組合各種seek()、read()和write()呼叫來訪問,不如簡單將檔案對映到記憶體,然後通過切片操作來訪問資料。
需要強調的是,對某個檔案進行記憶體對映並不會導致將整個檔案讀到記憶體中。也就是說,檔案並不會拷貝到某種記憶體緩衝區或陣列上。相反,作業系統只是為檔案內容保留一段虛擬記憶體而已。
當訪問檔案的不同區域時,檔案的這些區域將被讀取並按照需要對映到記憶體區域中。但是,檔案中從未訪問過的部分會簡單地留在磁碟上。這一切都是以透明的方式在幕後完成的。
如果有多個Python直譯器對同一個檔案做了記憶體對映,得到的mmap物件可以用來在直譯器之間交換資料。也就是說,所有的直譯器可以同時讀/寫資料,在一個直譯器中對資料做出的修改會自動反映到其他直譯器上。
雖然還需要一些額外的步驟來處理同步問題,但是有時候可以使用這種方法作為通過管道或者socket傳輸資料的替代方案。
以上這篇Python記憶體對映檔案讀寫方式就是小編分享給大家的全部內容了,希望能給大家一個參考,也希望大家多多支援我們。