1. 程式人生 > >pandas 快速處理 date_time 日期格式

pandas 快速處理 date_time 日期格式

當資料很多,且日期格式不標準時的時候,如果pandas.to_datetime 函式使用不當,會使得處理時間變得很長,提升速度的關鍵在於format的使用。下面舉例進行說明:

示例資料:

date 格式:02.01.2013 即 日.月.年
資料量:3000000

transcation.head()
---------------------------------------------
          date  date_block_num  shop_id  item_id  item_price  item_cnt_day
0  02.01.2013               0       59    22154      999.00           1.0
1  03.01.2013               0       25     2552      899.00           1.0
2  05.01.2013               0       25     2552      899.00          -1.0
3  06.01.2013               0       25     2554     1709.05           1.0
4  15.01.2013               0       25     2555     1099.00           1.0

處理方式一:

transactions['date_formatted']=pd.to_datetime(transactions['date'])

處理時間: 10min

處理方式二:

transactions['date_formatted']=pd.to_datetime(transactions['date'], format='%d.%m.%Y')

處理時間:10s

附錄:format相關

程式碼 說明
%Y 4位數的年
%y 2位數的年
%m 2位數的月[01,12]
%d 2位數的日[01,31]
%H 時(24小時制)[00,23]
%l 時(12小時制)[01,12]
%M 2位數的分[00,59]
%S 秒[00,61]有閏秒的存在
%w 用整數表示的星期幾[0(星期天),6]
%F %Y-%m-%d簡寫形式例如,2017-06-27
%D %m/%d/%y簡寫形式

相關推薦

pandas 快速處理 date_time 日期格式

當資料很多,且日期格式不標準時的時候,如果pandas.to_datetime 函式使用不當,會使得處理時間變得很長,提升速度的關鍵在於format的使用。下面舉例進行說明: 示例資料: date 格式:02.01.2013 即 日.月.年 資料量:3

使用pandas處理時間日期格式

nbsp 日期 mage alt 使用 分享圖片 src .com img 使用pandas處理時間日期格式

POI處理excel日期格式問題(xlsx)

package com.wonders.task.excel.util; import com.wonders.task.excel.model.SendBo; import org.apache.poi.xssf.usermodel.XSSFCell; import o

oracle trunc 函數處理日期格式

art ron rom sys 博客 bsp date acl har select to_char(sysdate,‘yyyy-mm-dd hh24:mi:ss‘) from dual; --顯示當前時間2011-12-29 16:24:34 select trunc(

oracle trunc 函數處理日期格式日期類型很有用的幾個sql

char mon 函數 -m span 截取 報錯 sys 默認 select to_char(sysdate,‘yyyy-mm-dd hh24:mi:ss‘) from dual; --顯示當前時間 2011-12-29 16:24:34 select trunc(

日期格式處理

oid orm input date birt pic div 日期 init Controller:@InitBinderpublic void DataBinder(ServletRequestDataBinder binder){ binder.register

logstash-input-jdbc取mysql數據日期格式處理

logstash elk elasticsearch 使用logstash 從mysql取一個datetime類型的數字。 在stdout查看數據json格式取到的字段值為類似 2018-03-23T04:18:33.000Z,因為想使用這個字段作為@timestamp,所以使用logstash的

在java中如何處理日期格式問題

字符 如果 etime create sql locale .get 數據庫 car 1.最簡潔的辦法就是在對應的對象中加註解 如下一個例子: @DateTimeFormat(pattern="yyyy-MM-dd") @JsonFormat(pattern="yyy

POI處理Excel中各種日期格式問題

前不久寫過一篇隨筆《EXCEL解析之終極方法WorkbookFactory》,提到使用WorkbookFactory來處理Excel檔案資料,最近發現一個問題就是這個辦法不能很好的處理各種日期格式,比如下面這些: 那麼如何將這些格式正確識別並輸出呢?下面來分享一下解決方法。 其實答案已

JAVA物件轉換為JSON及日期格式轉換處理

預設JSON對DATE型別會轉換成一個多屬性物件, 而不是單獨的一個字串, 在某些應用處理上不是很方便,  可以利用JsonValueProcessor來實現日期的轉換. 方法: 1.增加一個DateJsonValueProcessor類,如下: import java.te

django/python excel 上傳後臺 並讀取excel內容,含日期格式解析處理

step1: 讀取上傳的excel資料並存檔 step2: 讀取存入本地的excel檔案,對內容進行處理,其中包含日期格式處理 重點程式碼: issueDate = sheetContent.cell(row,1).value date_value = xlrd.xldate_as_tu

1.處理當前時間前後的日期範圍 2.處理日期格式

Month(month) {//處理當前時間前後的日期範圍 var time = new Date(); time.setDate(time.getDate());//獲取Day天后的日期 var y = time.getFullYear(); var m; if (time.g

new Date() 日期格式處理

new Date() ;     //引數可以為整數; 也可以為字串; 但格式必須正確   new Date(2018,10,6);       //正確   new Date("2018/10/6");    //正確   new Date("2018-10-6");

pandas 對時間與日期處理

1、先把字串時間轉為時間型別: def func(x): y =pd.Timestamp(x) return y data.index = data.發博時間.apply(lambda x : func(x)) 2、對時間進行排序: data = data.so

Boost之日期時間處理(date_time庫)

概述 使用date_time庫需要在編譯時加上"-lboost_date_time",而且需要包含以下標頭檔案: 處理日期的元件:#include <boost/date_time/gregorian/gregorian.hpp> 處理時間的元件:#includ

JAVA物件轉換為JSON時日期格式轉換處理

PS→無奈:受思深處宜先退,得意濃時便可休。 今天在返回json物件到前端時發現前端接收到的資料裡面的時間格式被拆開了,原因如下:         預設JSON對DATE型別會轉換成一個多屬性物件, 而不是單獨的一個字串, 在某些應用處理上不是很方便,  可以利用Js

日期格式不一致問題處理

org.springframework.validation.BindException: org.springframework.validation.BeanPropertyBindingResult: 2 errors Field error in object 'autoAlbumStream' on

SpringMVC使用@ResponseBody時返回json的日期格式處理為指定格式

一、SpringMVC使用@ResponseBody時返回json的日期格式      前提了解: @ResponseBody 返回json字串的核心類是org.springframework.http.converter.json.MappingJacksonHt

Java處理excel匯入資料庫日期格式處理(24時制變為12時制問題的處理

最近做excel匯入時碰到一個時間時制的問題 excel文件裡是24時制的,結果匯入到資料庫發現是12時制的,最後在360doc上找到了解決問題,這裡是記錄下自己的理解和處理方法。 首先:文件裡的時間格式 匯入到資料庫的格式 Java程式碼實現之前請確保匯入了jxl.

SQL中日期格式處理to_char函式

1. 日期和字元轉換函式用法(to_date,to_char) select to_char(sysdate,'yyyy-mm-dd hh24:mi:ss') as nowTime from dual;   //日期轉化為字串    select to_char(sysdate,'yyyy') as nowY