1. 程式人生 > 實用技巧 >Sklearn工具包

Sklearn工具包

python內建系統模組

一、random模組

import random

#獲取[0.0,1.0]範圍內的隨機浮點數
a = random.random()
print(a)

#獲取[a,b]範圍隨機整數
b = random.randint(3,9)
print(b)

#獲取[a,b)範圍隨機浮點數
c = random.uniform(3,9)
print(c)

#列印隨機0-9的列表
lst = list(range(10))
#shuffle把指定的資料中的元素打亂,引數必須是一個可變的資料型別
random.shuffle(lst)
print(lst)

#變相打亂不可變的元組
t = (1,2,3,4)
lst = random.sample(t,len(t))
print(lst)

二、time、datatime

2.1、time

  • 時間相關
  • 封裝了時間戳和字串形式的時間
import time

#獲取時間戳
#時間戳:從時間元年(1970-1-1 00:00:00)到現在經過的秒數
print(time.time())
print()

#獲取格式化時間物件
print(time.gmtime())    #GMT時間,歐洲時區

print(time.localtime()) #本機時間,中國時間


#格式化時間物件和字串之間的轉換

s = time.strftime("year:%Y %m %d %H:%M:%S")
s1 = time.strftime("%H:%M:%S")
print(s)
print(s1)

#把時間字串轉換成時間物件
s2 = time.strptime('2020 9 10','%Y %m %d')
print(s2)

#獲取當前時間對應的時間戳 類似time.time()
print(time.mktime(time.localtime()))
print(time.time())

#暫停當前程式
time.sleep(2)

2.2、datatime

  • 日期時間模組
  • 封裝了一些日期、時間的類
  • 能時間進位運算
import datetime

#date 類
d = datetime.date(2020,10,10)
print(d)  #輸出2020-10-10
print(d.year)
print(d.month)
print(d.day)

#time類
t = datetime.time(23,48,50)
print(t)
print(t.hour)
print(t.minute)
print(t.second)

#datetime類,主要用於時間運算
dt = datetime.datetime(2020,9,10,2,11,11)
print(dt)


#參與數學運算
#timedelta:時間的變化量
'''
1、建立時間物件
2、時間相加
'''
td = datetime.timedelta(days=1)
print(td)
dd = datetime.date(2020,10,10)

res = dd + d
print(res)

計算某年的2月,有幾天,然後判斷平閏年!

year = int(input('請輸入年份'))
d = datetime.date(year,3,1)
#建立一天的時間段
td = datetime.timedelta(days=1)
res = (d -td).day
#print(res)
if res == 29:
    print('閏年')
else:
    print('平年')

三、os、sys、shutil

3.1、os

  • os模組是與作業系統互動的一個介面,它提供的功能多與工作目錄,路徑,檔案等相關
  • 目錄指的是:資料夾 當前目錄,工作目錄,父級目錄:指的都是一個,就是本檔案所在的資料夾。
  • 按照星的等級劃分,三顆星是需要記住的
#當前執行這個python檔案的工作目錄相關的工作路徑
os.getcwd() 獲取當前工作目錄,即當前python指令碼工作的目錄路徑  ** 
os.chdir("dirname")  改變當前指令碼工作目錄;相當於shell下cd  **
os.curdir  返回當前目錄: ('.')  **
os.pardir  獲取當前目錄的父目錄字串名:('..') **

# 和資料夾相關 
os.makedirs('dirname1/dirname2')    可生成多層遞迴目錄  ***
os.removedirs('dirname1') 若目錄為空,則刪除,並遞迴到上一級目錄,如若也為空,則刪除,依此類推 ***
os.mkdir('dirname')    生成單級目錄;相當於shell中mkdir dirname ***
os.rmdir('dirname')    刪除單級空目錄,若目錄不為空則無法刪除,報錯;相當於shell中rmdir dirname ***
# os.listdir('dirname')    列出指定目錄下的所有檔案和子目錄,包括隱藏檔案,並以列表方式列印 **

# 和檔案相關
os.remove()  刪除一個檔案  ***
os.rename("oldname","newname")  重新命名檔案/目錄  ***
os.stat('path/filename')  獲取檔案/目錄資訊 **

# 和作業系統差異相關
# os.sep    輸出作業系統特定的路徑分隔符,win下為"\\",Linux下為"/" *
# os.linesep    輸出當前平臺使用的行終止符,win下為"\t\n",Linux下為"\n" *
# os.pathsep    輸出用於分割檔案路徑的字串 win下為;,Linux下為: *
# os.name    輸出字串指示當前使用平臺。win->'nt'; Linux->'posix' *
# 和執行系統命令相關
# os.system("bash command")  執行shell命令,直接顯示  **
# os.popen("bash command).read()  執行shell命令,獲取執行結果  **
os.environ  獲取系統環境變數  **

#path系列,和路徑相關
os.path.abspath(path) 返回path規範化的絕對路徑  ***
os.path.split(path)   將path分割成目錄和檔名二元組返回 ***
os.path.dirname(path) 返回path的目錄。其實就是os.path.split(path)的第一個元素  **
os.path.basename(path) 返回path最後的檔名。如何path以/或\結尾,那麼就會返回空值,即os.path.split(path)的第二個元素。 **
os.path.exists(path)  如果path存在,返回True;如果path不存在,返回False  ***
os.path.isabs(path)   如果path是絕對路徑,返回True  **
os.path.isfile(path)  如果path是一個存在的檔案,返回True。否則返回False  ***
os.path.isdir(path)   如果path是一個存在的目錄,則返回True。否則返回False  ***
os.path.join(path1[, path2[, ...]])  將多個路徑組合後返回,第一個絕對路徑之前的引數將被忽略 ***
os.path.getatime(path)  返回path所指向的檔案或者目錄的最後訪問時間  **
os.path.getmtime(path)  返回path所指向的檔案或者目錄的最後修改時間  **
os.path.getsize(path)   返回path的大小 ***

3.2、shutil

  • os模組提供了對目錄或者檔案的新建/刪除/檢視檔案屬性,還提供了對檔案以及目錄的路徑操作。
    比如說:絕對路徑,父目錄…… 但是,os檔案的操作還應該包含移動 複製 打包 壓縮 解壓等操作,這些os模組都沒有提供。
  • shutil則就是對os中檔案操作的補充。--移動 複製 打包 壓縮 解壓。

建立壓縮解壓

make_archive(base_name, format, root_dir=None, base_dir=None, verbose=0,dry_run=0, owner=None, group=None, logger=None)

引數註解:

* base_name: 壓縮包的檔名,也可以是壓縮包的路徑。只是檔名時,則儲存至當前目錄,否則儲存至指定路徑,
  * 如 data_bak =>儲存至當前路徑
  * 如:/tmp/data_bak =>儲存至/tmp/
* format:	壓縮包種類,“zip”, “tar”, “bztar”,“gztar”
* root_dir:要壓縮的資料夾路徑(預設當前目錄)
* base_dir:要進行壓縮的原始檔或目錄
* owner:	使用者,預設當前使用者
* group:	組,預設當前組
* logger:	用於記錄日誌,通常是logging.Logger物件

演示:

#將 /data 下的檔案打包放置當前程式目錄
>>> import shutil
>>> ret = shutil.make_archive("data_bak", 'gztar', root_dir='/data')
  
#將 /data下的檔案打包放置 /tmp/目錄
>>> import shutil
>>> ret = shutil.make_archive("/tmp/data_bak", 'gztar', root_dir='/data')

注意: shutil 對壓縮包的處理是呼叫 ZipFile 和 TarFile 兩個模組來進行的!

zipfile壓縮解壓縮

import zipfile
# 壓縮
z = zipfile.ZipFile('laxi.zip', 'w')
z.write('a.log')
z.write('data.data')
z.close()
# 解壓
z = zipfile.ZipFile('laxi.zip', 'r')
z.extractall(path='.')
z.close()

tarfile壓縮解壓

import tarfile
# 壓縮
>>> t=tarfile.open('/tmp/egon.tar','w')
>>> t.add('/test1/a.py',arcname='a.bak')
>>> t.add('/test1/b.py',arcname='b.bak')
>>> t.close()
# 解壓
>>> t=tarfile.open('/tmp/egon.tar','r')
>>> t.extractall('/egon')
>>> t.close()

3.3、sys模組

  • sys模組是與python直譯器互動的一個介面,這個模組功能不是很多,練習一遍就行。
sys.argv           命令列引數List,第一個元素是程式本身路徑
sys.exit(n)        退出程式,正常退出時exit(0),錯誤退出sys.exit(1)
sys.version        獲取Python解釋程式的版本資訊
sys.path           返回模組的搜尋路徑,初始化時使用PYTHONPATH環境變數的值  ***
sys.platform       返回作業系統平臺名稱

四、pickle

  • pickle模組是將Python所有的資料結構以及物件等轉化成bytes型別,然後還可以反序列化還原回去。
  • 特點
    • 只能是Python語言遵循的一種資料轉化格式,只能在python語言中使用。
    • 支援Python所有的資料型別包括例項化物件。
  • 用法(跟json模組差不多)
    • 用於網路傳輸:dumps、loads
    • 用於檔案寫讀:dump、load

4.1、dumps、loads

import pickle
dic = {'k1':'v1','k2':'v2','k3':'v3'}
str_dic = pickle.dumps(dic)
print(str_dic)  # bytes型別

dic2 = pickle.loads(str_dic)
print(dic2)    #字典

4.2、dump、load

dic = {(1,2):'oldboy',1:True,'set':{1,2,3}}
f = open('pick序列化',mode='wb')
pickle.dump(dic,f)
f.close()
with open('pick序列化',mode='wb') as f1:
    pickle.dump(dic,f1)

4.3、pickle序列化儲存多個數據到一個檔案中

dic1 = {'name':'oldboy1'}
dic2 = {'name':'oldboy2'}
dic3 = {'name':'oldboy3'}

f = open('pick多資料',mode='wb')
pickle.dump(dic1,f)
pickle.dump(dic2,f)
pickle.dump(dic3,f)
f.close()

f = open('pick多資料',mode='rb')
while True:
    try:
        print(pickle.load(f))
    except EOFError:
        break
f.close()

五、json

  • json模組是將滿足條件的資料結構轉化成特殊的字串,並且也可以反序列化還原回去。
  • 不同語言都遵循的一種資料轉化格式,即不同語言都使用的特殊字串。
  • 一種簡單的資料交換格式
  • json序列化只支援部分Python資料結構:dict,list, tuple,str,int, float,True,False,None
序列化:
  • 將記憶體中的資料,轉換成位元組串。用於儲存在檔案或者網路傳輸的過程!
反序列化:
  • 從檔案中或者網路中獲取資料,轉換成記憶體中原來的資料型別的過程!!

用於網路傳輸:dumps(序列化)、loads(反序列化)

import json
dic = {'k1':'v1','k2':'v2','k3':'v3'}
str_dic = json.dumps(dic)     #序列化:將一個字典轉換成一個字串
print(type(str_dic),str_dic)  #<class 'str'> {"k3": "v3", "k1": "v1", "k2": "v2"}
#注意,json轉換完的字串型別的字典中的字串是由""表示的

dic2 = json.loads(str_dic)  #反序列化:將一個字串格式的字典轉換成一個字典
#注意,要用json的loads功能處理的字串型別的字典中的字串必須由"雙引號"表示
print(type(dic2),dic2)  #<class 'dict'> {'k1': 'v1', 'k2': 'v2', 'k3': 'v3'}

list_dic = [1,['a','b','c'],3,{'k1':'v1','k2':'v2'}]
str_dic = json.dumps(list_dic) #也可以處理巢狀的資料型別 
print(type(str_dic),str_dic)   #<class 'str'> [1, ["a", "b", "c"], 3, {"k1": "v1", "k2": "v2"}]
list_dic2 = json.loads(str_dic)
print(type(list_dic2),list_dic2) #<class 'list'> [1, ['a', 'b', 'c'], 3, {'k1': 'v1', 'k2': 'v2'}]

用於檔案寫讀:dump、load

import json
f = open('json_file.json','w')
dic = {'k1':'v1','k2':'v2','k3':'v3'}
json.dump(dic,f)  #dump方法接收一個檔案控制代碼,直接將字典轉換成json字串寫入檔案
f.close()
# json檔案也是檔案,就是專門儲存json字串的檔案。
f = open('json_file.json')
dic2 = json.load(f)  #load方法接收一個檔案控制代碼,直接將檔案中的json字串轉換成資料結構返回
f.close()
print(type(dic2),dic2)

json序列化儲存多個數據到同一個檔案中

  • 對於json序列化,儲存多個數據到一個檔案中是有問題的,預設一個json檔案只能儲存一個json資料,但是也可以解決:
dic1 = {'name':'oldboy1'}
dic2 = {'name':'oldboy2'}
dic3 = {'name':'oldboy3'}
f = open('序列化',encoding='utf-8',mode='a')
str1 = json.dumps(dic1)
f.write(str1+'\n')
str2 = json.dumps(dic2)
f.write(str2+'\n')
str3 = json.dumps(dic3)
f.write(str3+'\n')
f.close()
'''
檔案:序列化的內容
也就是由:字典--->json
或者:'單引號'----->"雙引號"
{"name": "oldboy1"}
{"name": "oldboy2"}
{"name": "oldboy3"}
'''
f = open('序列化',encoding='utf-8')
for line in f:
    print(json.loads(line))
    
'''
輸出剛剛定義的字典
也就是:json---->字典
或者:"雙引號"----->'單引號'
{'name': 'oldboy1'}
{'name': 'oldboy2'}
{'name': 'oldboy3'}
'''

六、hashlib

  • 此模組有人稱為摘要演算法,也叫做加密演算法,或者是雜湊演算法,雜湊演算法等。
  • 工作原理:通過一個函式,把任意長度的資料按照一定規則轉換為一個固定長度的資料串(通常用16進位制的字串表示)
  • hashlib的特徵以及使用要點:
    1. bytes型別資料 ---> 通過hashlib演算法 ---> 固定長度的字串
    2. 不同的bytes型別資料轉化成的結果一定不同。
    3. 相同的bytes型別資料轉化成的結果一定相同。
    4. 此轉化過程不可逆。
  • 用途
    • 密碼的加密
    • 檔案一致性校驗

6.1、密碼的加密

#MD5加密
#獲取一個加密物件
md5 = hashlib.md5()
#使用物件的update方法進行加密
md5.update('tzh666'.encode('utf-8'))
#通過hexdigest獲取加密的結果
print(md5.hexdigest())

6.2、加鹽加密

  • 固定的鹽
#加鹽的加密,每個密碼都加上tzh啊,在獲取加密物件的時候加上
md5 = hashlib.md5('tzh啊'.encode('utf-8'))
#使用update方法進行加密
md5.update('666'.encode('utf-8'))
print(md5.hexdigest())
  • 動態的鹽
username = 'tzh123456'
print(username[::2])
ret = hashlib.md5(username[::2].encode('utf-8'))  # 針對於每個賬戶,每個賬戶的鹽都不一樣
ret.update('qaz'.encode('utf-8'))
print(ret.hexdigest())

6.3、用於檔案的一致性校驗

  • hashlib模組除了可以用於密碼加密之外,還有一個常用的功能,那就是檔案的一致性校驗。
#矮小下版本
def func(file):
    with open('xxx',mode='rb') as f1:
        ret = hashlib.md5()
        ret.update(f1.read())
        return ret.hexdigest()

print(func('hashlib_file1'))

#高大上版本
def file_check(file_path):
    with open(file_path,mode='rb') as f1:
        sha256 = hashlib.sha256()
        while 1:
            content = f1.read(1024)
            if content:
                sha256.update(content)
            else:
                return sha256.hexdigest()
print(file_check('xxx'))

七、collections

在內建資料型別(dict、list、set、tuple)的基礎上,collections模組還提供了幾個額外的資料型別:Counter、deque、defaultdict、namedtuple和OrderedDict等。

1.namedtuple: 生成可以使用名字來訪問元素內容的tuple

2.deque: 雙端佇列,可以快速的從另外一側追加和推出物件

3.Counter: 計數器,主要用來計數

4.OrderedDict: 有序字典

5.defaultdict: 帶有預設值的字典