1. 程式人生 > >python Dataframe pandas 將資料分割成時間跨度相等的資料塊

python Dataframe pandas 將資料分割成時間跨度相等的資料塊

先上資料,有如下dataframe格式的資料,列名分別為date、ip,我需要統計每5s內出現的ip,以及這些ip出現的頻數。

        ip                  date
0   127.0.0.21  15/Jul/2017:18:22:16
1   127.0.0.13  15/Jul/2017:18:22:16
2   127.0.0.11  15/Jul/2017:18:22:17
3   127.0.0.11  15/Jul/2017:18:22:20
4   127.0.0.21  15/Jul/2017:18:22:21
5   127.0.0.13  15/Jul/2017:18:22:22
6   127.0.0.14
15/Jul/2017:18:26:36 7 127.0.0.16 15/Jul/2017:18:32:15 8 127.0.0.11 15/Jul/2017:18:36:03

在網上找了很久但是沒看到python的相關答案,但在stackoverflow找到了R語言的解法,有興趣可以看看
受它的啟發,我用不太優雅的方式實現了我的需求,有更好解決方法的請不吝賜教:

step1: 將資料中日期格式變為標準格式

#date_ip為我的dataframe資料
date_ip['date'] = pd.to_datetime(date_ip['date'], format='%d/%b/%Y:%H:%M:%S'
)

step2: 將資料的開始時間、結束時間,按5s分割(由於時間段可能不是恰好是5s的倍數,為避免最後一個時間丟失,因此在最後加上5s)

frequency = 5
time_range = pd.date_range(date_ip['date'][0], date_ip['date'][date_ip.shape[0]-1]+frequency*Second(), freq='%sS'%frequency)

step3: 將date變為索引

date_ip = date_ip.set_index('date')

step4: 對每個時間段內的資料進行頻數計算(由於通過標籤切片時會包含頭、尾資料,為避免重複計算,因此在尾部減1s)

for i in xrange(0,len(time_range)-1):
    print get_frequency(date_ip.loc[time_range[i]:time_range[i+1]-1*Second()])

完整的程式碼

import pandas as pd
from pandas.tseries.offsets import Second
def get_frequency(date_ip):
    ip_frequency = {}
    for i in xrange(0,date_ip.shape[0]):
        ip_frequency[date_ip['ip'][i]] = ip_frequency.get(date_ip['ip'][i], 0) + 1
    return ip_frequency,date_ip.shape[0]

if __name__ == '__main__': 
    date_ip['date'] = pd.to_datetime(date_ip['date'], format='%d/%b/%Y:%H:%M:%S')

    frequency = 5
    time_range = pd.date_range(date_ip['date'][0], date_ip['date'][date_ip.shape[0]-1]+frequency*Second(), freq='%sS'%frequency)  
    date_ip = date_ip.set_index('date')
    for i in xrange(0, len(time_range) - 1):
        print get_frequency(date_ip.loc[time_range[i]:time_range[i + 1]-1*Second()])

文章開頭資料執行結果:

({'127.0.0.21' : 1, '127.0.0.13' : 1, '127.0.0.11' : 2}, 4)
({'127.0.0.21': 1, '127.0.0.13': 1}, 2)
({'127.0.0.14': 1}, 1)
({'127.0.0.16': 1}, 1)
({'127.0.0.11': 1}, 1)