Sklearn工具包
阿新 • • 發佈:2020-09-11
python內建系統模組
一、random模組
import random #獲取[0.0,1.0]範圍內的隨機浮點數 a = random.random() print(a) #獲取[a,b]範圍隨機整數 b = random.randint(3,9) print(b) #獲取[a,b)範圍隨機浮點數 c = random.uniform(3,9) print(c) #列印隨機0-9的列表 lst = list(range(10)) #shuffle把指定的資料中的元素打亂,引數必須是一個可變的資料型別 random.shuffle(lst) print(lst) #變相打亂不可變的元組 t = (1,2,3,4) lst = random.sample(t,len(t)) print(lst)
二、time、datatime
2.1、time
- 時間相關
- 封裝了時間戳和字串形式的時間
import time #獲取時間戳 #時間戳:從時間元年(1970-1-1 00:00:00)到現在經過的秒數 print(time.time()) print() #獲取格式化時間物件 print(time.gmtime()) #GMT時間,歐洲時區 print(time.localtime()) #本機時間,中國時間 #格式化時間物件和字串之間的轉換 s = time.strftime("year:%Y %m %d %H:%M:%S") s1 = time.strftime("%H:%M:%S") print(s) print(s1) #把時間字串轉換成時間物件 s2 = time.strptime('2020 9 10','%Y %m %d') print(s2) #獲取當前時間對應的時間戳 類似time.time() print(time.mktime(time.localtime())) print(time.time()) #暫停當前程式 time.sleep(2)
2.2、datatime
- 日期時間模組
- 封裝了一些日期、時間的類
- 能時間進位運算
import datetime #date 類 d = datetime.date(2020,10,10) print(d) #輸出2020-10-10 print(d.year) print(d.month) print(d.day) #time類 t = datetime.time(23,48,50) print(t) print(t.hour) print(t.minute) print(t.second) #datetime類,主要用於時間運算 dt = datetime.datetime(2020,9,10,2,11,11) print(dt) #參與數學運算 #timedelta:時間的變化量 ''' 1、建立時間物件 2、時間相加 ''' td = datetime.timedelta(days=1) print(td) dd = datetime.date(2020,10,10) res = dd + d print(res)
計算某年的2月,有幾天,然後判斷平閏年!
year = int(input('請輸入年份'))
d = datetime.date(year,3,1)
#建立一天的時間段
td = datetime.timedelta(days=1)
res = (d -td).day
#print(res)
if res == 29:
print('閏年')
else:
print('平年')
三、os、sys、shutil
3.1、os
- os模組是與作業系統互動的一個介面,它提供的功能多與工作目錄,路徑,檔案等相關
- 目錄指的是:資料夾 當前目錄,工作目錄,父級目錄:指的都是一個,就是本檔案所在的資料夾。
- 按照星的等級劃分,三顆星是需要記住的。
#當前執行這個python檔案的工作目錄相關的工作路徑
os.getcwd() 獲取當前工作目錄,即當前python指令碼工作的目錄路徑 **
os.chdir("dirname") 改變當前指令碼工作目錄;相當於shell下cd **
os.curdir 返回當前目錄: ('.') **
os.pardir 獲取當前目錄的父目錄字串名:('..') **
# 和資料夾相關
os.makedirs('dirname1/dirname2') 可生成多層遞迴目錄 ***
os.removedirs('dirname1') 若目錄為空,則刪除,並遞迴到上一級目錄,如若也為空,則刪除,依此類推 ***
os.mkdir('dirname') 生成單級目錄;相當於shell中mkdir dirname ***
os.rmdir('dirname') 刪除單級空目錄,若目錄不為空則無法刪除,報錯;相當於shell中rmdir dirname ***
# os.listdir('dirname') 列出指定目錄下的所有檔案和子目錄,包括隱藏檔案,並以列表方式列印 **
# 和檔案相關
os.remove() 刪除一個檔案 ***
os.rename("oldname","newname") 重新命名檔案/目錄 ***
os.stat('path/filename') 獲取檔案/目錄資訊 **
# 和作業系統差異相關
# os.sep 輸出作業系統特定的路徑分隔符,win下為"\\",Linux下為"/" *
# os.linesep 輸出當前平臺使用的行終止符,win下為"\t\n",Linux下為"\n" *
# os.pathsep 輸出用於分割檔案路徑的字串 win下為;,Linux下為: *
# os.name 輸出字串指示當前使用平臺。win->'nt'; Linux->'posix' *
# 和執行系統命令相關
# os.system("bash command") 執行shell命令,直接顯示 **
# os.popen("bash command).read() 執行shell命令,獲取執行結果 **
os.environ 獲取系統環境變數 **
#path系列,和路徑相關
os.path.abspath(path) 返回path規範化的絕對路徑 ***
os.path.split(path) 將path分割成目錄和檔名二元組返回 ***
os.path.dirname(path) 返回path的目錄。其實就是os.path.split(path)的第一個元素 **
os.path.basename(path) 返回path最後的檔名。如何path以/或\結尾,那麼就會返回空值,即os.path.split(path)的第二個元素。 **
os.path.exists(path) 如果path存在,返回True;如果path不存在,返回False ***
os.path.isabs(path) 如果path是絕對路徑,返回True **
os.path.isfile(path) 如果path是一個存在的檔案,返回True。否則返回False ***
os.path.isdir(path) 如果path是一個存在的目錄,則返回True。否則返回False ***
os.path.join(path1[, path2[, ...]]) 將多個路徑組合後返回,第一個絕對路徑之前的引數將被忽略 ***
os.path.getatime(path) 返回path所指向的檔案或者目錄的最後訪問時間 **
os.path.getmtime(path) 返回path所指向的檔案或者目錄的最後修改時間 **
os.path.getsize(path) 返回path的大小 ***
3.2、shutil
- os模組提供了對目錄或者檔案的新建/刪除/檢視檔案屬性,還提供了對檔案以及目錄的路徑操作。
比如說:絕對路徑,父目錄…… 但是,os檔案的操作還應該包含移動 複製 打包 壓縮 解壓等操作,這些os模組都沒有提供。 - shutil則就是對os中檔案操作的補充。--移動 複製 打包 壓縮 解壓。
建立壓縮解壓
make_archive(base_name, format, root_dir=None, base_dir=None, verbose=0,dry_run=0, owner=None, group=None, logger=None)
引數註解:
* base_name: 壓縮包的檔名,也可以是壓縮包的路徑。只是檔名時,則儲存至當前目錄,否則儲存至指定路徑,
* 如 data_bak =>儲存至當前路徑
* 如:/tmp/data_bak =>儲存至/tmp/
* format: 壓縮包種類,“zip”, “tar”, “bztar”,“gztar”
* root_dir:要壓縮的資料夾路徑(預設當前目錄)
* base_dir:要進行壓縮的原始檔或目錄
* owner: 使用者,預設當前使用者
* group: 組,預設當前組
* logger: 用於記錄日誌,通常是logging.Logger物件
演示:
#將 /data 下的檔案打包放置當前程式目錄
>>> import shutil
>>> ret = shutil.make_archive("data_bak", 'gztar', root_dir='/data')
#將 /data下的檔案打包放置 /tmp/目錄
>>> import shutil
>>> ret = shutil.make_archive("/tmp/data_bak", 'gztar', root_dir='/data')
注意: shutil 對壓縮包的處理是呼叫 ZipFile 和 TarFile 兩個模組來進行的!
zipfile壓縮解壓縮
import zipfile
# 壓縮
z = zipfile.ZipFile('laxi.zip', 'w')
z.write('a.log')
z.write('data.data')
z.close()
# 解壓
z = zipfile.ZipFile('laxi.zip', 'r')
z.extractall(path='.')
z.close()
tarfile壓縮解壓
import tarfile
# 壓縮
>>> t=tarfile.open('/tmp/egon.tar','w')
>>> t.add('/test1/a.py',arcname='a.bak')
>>> t.add('/test1/b.py',arcname='b.bak')
>>> t.close()
# 解壓
>>> t=tarfile.open('/tmp/egon.tar','r')
>>> t.extractall('/egon')
>>> t.close()
3.3、sys模組
- sys模組是與python直譯器互動的一個介面,這個模組功能不是很多,練習一遍就行。
sys.argv 命令列引數List,第一個元素是程式本身路徑
sys.exit(n) 退出程式,正常退出時exit(0),錯誤退出sys.exit(1)
sys.version 獲取Python解釋程式的版本資訊
sys.path 返回模組的搜尋路徑,初始化時使用PYTHONPATH環境變數的值 ***
sys.platform 返回作業系統平臺名稱
四、pickle
- pickle模組是將Python所有的資料結構以及物件等轉化成bytes型別,然後還可以反序列化還原回去。
- 特點
- 只能是Python語言遵循的一種資料轉化格式,只能在python語言中使用。
- 支援Python所有的資料型別包括例項化物件。
- 用法(跟json模組差不多)
- 用於網路傳輸:dumps、loads
- 用於檔案寫讀:dump、load
4.1、dumps、loads
import pickle
dic = {'k1':'v1','k2':'v2','k3':'v3'}
str_dic = pickle.dumps(dic)
print(str_dic) # bytes型別
dic2 = pickle.loads(str_dic)
print(dic2) #字典
4.2、dump、load
dic = {(1,2):'oldboy',1:True,'set':{1,2,3}}
f = open('pick序列化',mode='wb')
pickle.dump(dic,f)
f.close()
with open('pick序列化',mode='wb') as f1:
pickle.dump(dic,f1)
4.3、pickle序列化儲存多個數據到一個檔案中
dic1 = {'name':'oldboy1'}
dic2 = {'name':'oldboy2'}
dic3 = {'name':'oldboy3'}
f = open('pick多資料',mode='wb')
pickle.dump(dic1,f)
pickle.dump(dic2,f)
pickle.dump(dic3,f)
f.close()
f = open('pick多資料',mode='rb')
while True:
try:
print(pickle.load(f))
except EOFError:
break
f.close()
五、json
- json模組是將滿足條件的資料結構轉化成特殊的字串,並且也可以反序列化還原回去。
- 不同語言都遵循的一種資料轉化格式,即不同語言都使用的特殊字串。
- 一種簡單的資料交換格式
- json序列化只支援部分Python資料結構:dict,list, tuple,str,int, float,True,False,None
序列化:
- 將記憶體中的資料,轉換成位元組串。用於儲存在檔案或者網路傳輸的過程!
反序列化:
- 從檔案中或者網路中獲取資料,轉換成記憶體中原來的資料型別的過程!!
用於網路傳輸:dumps(序列化)、loads(反序列化)
import json
dic = {'k1':'v1','k2':'v2','k3':'v3'}
str_dic = json.dumps(dic) #序列化:將一個字典轉換成一個字串
print(type(str_dic),str_dic) #<class 'str'> {"k3": "v3", "k1": "v1", "k2": "v2"}
#注意,json轉換完的字串型別的字典中的字串是由""表示的
dic2 = json.loads(str_dic) #反序列化:將一個字串格式的字典轉換成一個字典
#注意,要用json的loads功能處理的字串型別的字典中的字串必須由"雙引號"表示
print(type(dic2),dic2) #<class 'dict'> {'k1': 'v1', 'k2': 'v2', 'k3': 'v3'}
list_dic = [1,['a','b','c'],3,{'k1':'v1','k2':'v2'}]
str_dic = json.dumps(list_dic) #也可以處理巢狀的資料型別
print(type(str_dic),str_dic) #<class 'str'> [1, ["a", "b", "c"], 3, {"k1": "v1", "k2": "v2"}]
list_dic2 = json.loads(str_dic)
print(type(list_dic2),list_dic2) #<class 'list'> [1, ['a', 'b', 'c'], 3, {'k1': 'v1', 'k2': 'v2'}]
用於檔案寫讀:dump、load
import json
f = open('json_file.json','w')
dic = {'k1':'v1','k2':'v2','k3':'v3'}
json.dump(dic,f) #dump方法接收一個檔案控制代碼,直接將字典轉換成json字串寫入檔案
f.close()
# json檔案也是檔案,就是專門儲存json字串的檔案。
f = open('json_file.json')
dic2 = json.load(f) #load方法接收一個檔案控制代碼,直接將檔案中的json字串轉換成資料結構返回
f.close()
print(type(dic2),dic2)
json序列化儲存多個數據到同一個檔案中
- 對於json序列化,儲存多個數據到一個檔案中是有問題的,預設一個json檔案只能儲存一個json資料,但是也可以解決:
dic1 = {'name':'oldboy1'}
dic2 = {'name':'oldboy2'}
dic3 = {'name':'oldboy3'}
f = open('序列化',encoding='utf-8',mode='a')
str1 = json.dumps(dic1)
f.write(str1+'\n')
str2 = json.dumps(dic2)
f.write(str2+'\n')
str3 = json.dumps(dic3)
f.write(str3+'\n')
f.close()
'''
檔案:序列化的內容
也就是由:字典--->json
或者:'單引號'----->"雙引號"
{"name": "oldboy1"}
{"name": "oldboy2"}
{"name": "oldboy3"}
'''
f = open('序列化',encoding='utf-8')
for line in f:
print(json.loads(line))
'''
輸出剛剛定義的字典
也就是:json---->字典
或者:"雙引號"----->'單引號'
{'name': 'oldboy1'}
{'name': 'oldboy2'}
{'name': 'oldboy3'}
'''
六、hashlib
- 此模組有人稱為摘要演算法,也叫做加密演算法,或者是雜湊演算法,雜湊演算法等。
- 工作原理:通過一個函式,把任意長度的資料按照一定規則轉換為一個固定長度的資料串(通常用16進位制的字串表示)
- hashlib的特徵以及使用要點:
- bytes型別資料 ---> 通過hashlib演算法 ---> 固定長度的字串
- 不同的bytes型別資料轉化成的結果一定不同。
- 相同的bytes型別資料轉化成的結果一定相同。
- 此轉化過程不可逆。
- 用途
- 密碼的加密
- 檔案一致性校驗
6.1、密碼的加密
#MD5加密
#獲取一個加密物件
md5 = hashlib.md5()
#使用物件的update方法進行加密
md5.update('tzh666'.encode('utf-8'))
#通過hexdigest獲取加密的結果
print(md5.hexdigest())
6.2、加鹽加密
- 固定的鹽
#加鹽的加密,每個密碼都加上tzh啊,在獲取加密物件的時候加上
md5 = hashlib.md5('tzh啊'.encode('utf-8'))
#使用update方法進行加密
md5.update('666'.encode('utf-8'))
print(md5.hexdigest())
- 動態的鹽
username = 'tzh123456'
print(username[::2])
ret = hashlib.md5(username[::2].encode('utf-8')) # 針對於每個賬戶,每個賬戶的鹽都不一樣
ret.update('qaz'.encode('utf-8'))
print(ret.hexdigest())
6.3、用於檔案的一致性校驗
- hashlib模組除了可以用於密碼加密之外,還有一個常用的功能,那就是檔案的一致性校驗。
#矮小下版本
def func(file):
with open('xxx',mode='rb') as f1:
ret = hashlib.md5()
ret.update(f1.read())
return ret.hexdigest()
print(func('hashlib_file1'))
#高大上版本
def file_check(file_path):
with open(file_path,mode='rb') as f1:
sha256 = hashlib.sha256()
while 1:
content = f1.read(1024)
if content:
sha256.update(content)
else:
return sha256.hexdigest()
print(file_check('xxx'))
七、collections
在內建資料型別(dict、list、set、tuple)的基礎上,collections模組還提供了幾個額外的資料型別:Counter、deque、defaultdict、namedtuple和OrderedDict等。
1.namedtuple: 生成可以使用名字來訪問元素內容的tuple
2.deque: 雙端佇列,可以快速的從另外一側追加和推出物件
3.Counter: 計數器,主要用來計數
4.OrderedDict: 有序字典
5.defaultdict: 帶有預設值的字典