土制Excel導入導出及相關問題探討
阿新 • • 發佈:2019-02-18
indexof duti point true clas 時也 ets png 題目
轉載請註明出處https://www.cnblogs.com/funnyzpc/p/10392085.html
新的一年,又一個開始,不見收獲,卻見年齡,好一個豬年,待我先來一首裏爾克的詩:
《沈重的時刻》(裏爾克)
此刻有誰在世上某處哭,無緣無故在世上哭,在哭我。
此刻有誰在夜間某處笑,無緣無故在夜間笑,在笑我。
此刻有誰在世上某處走,無緣無故在世上走,走向我。
此刻有誰在世上某處死,無緣無故在世上死,望著我。
ok,這次說說項目中經常用到的Excel導出問題,目前就用到的可以操作Excel的技術(在java中)大致有兩類:
- JXL
- 僅僅支持對xls的文件讀寫,
- 僅包含Excel基礎api,比較老,很久不更新
- 讀寫速度還行,對於要求低同時兼容性較好的推薦
- POI
- 可支持xls、xlsx兩種格式的Excel文件讀寫
- HSSF:操作Excel 97(.xls)格式
- XSSF:操作Excel 2007 OOXML (.xlsx)格式,操作EXCEL內存占用高於HSSF
- SXSSF: 從POI3.8 beta3開始支持,基於XSSF,低內存占用。
- 技術較新,保留了最大兼容性,可對Excel做復雜對數據極樣式處理
- 讀寫速度上 SXSSF快於XSSF ,HSSF速度同略遜於JXL
- 可支持xls、xlsx兩種格式的Excel文件讀寫
以上對於這兩種技術做了簡要對描述,在開發中,我們一般將POI作為首選,同時以上還可能存在一個問題是:大數據量導出。大數據導出,一般我們需要解決兩個問題:
- 大數據量讀寫容易造成內存不足問題
- 長時讀寫容易造成客戶端請求超時,造成導出失敗問題
- 大數據量處理耗時問題
對於以上幾個問題,解決思路大致有下:
- 數據庫數據查詢階段建議使用fetch分批次查詢,減少數據庫壓力
- 單個文件讀寫建議使用SXSSF,以減少內存占用
- 對於單個sheet超過十萬的建議分sheet做多線程寫入,這裏分享一個網友寫的Demo
- example:CreateMultipleSheetDemo.java
- 對於POI寫入效率的問題官方給了個Demo,這個例子大致是使用xml文檔拼接的方式+xml文件壓縮的方式
- example:BigGridDemo.java
ok,對於以上核心問題個人都嘗試過,憚於目前項目進度較為緊張,個人做了個限制導出處理,以避免(客戶端請求)超時問題,說白了就是將問題扔給下一期去集中解決。
不考慮以上所說的問題,個人花了些許時間寫了兩個Excel 工具類:ExcelReadUtil以及ExcelWriteUtil (代碼地址見篇尾),集中處理了包含單不僅限於以下問題:
- 對象列表("List
- 數據分sheet問題
- 表頭字體極單元格內換行問題
- 數據單元格多樣式問題
- 數據單元格多數據類型及格式化問題
- 單元格列寬度調整問題
- 大數據拆分問題
- 通用對象導出問題(使用泛型)
當然,解決這些問題也查閱了不少官方資料,同時也做了大量的測試才得以投入正式項目使用,在這中間也跳過一些坑,接下來我就講一講我在開發所跳過的坑,這些坑均是相對於上一個版本而言的:
- 使用通用泛型接收參數對象問題
一開始(在上一個項目)做了個初稿,在調用導出方法時直接傳入固定類型對象,一開始這樣:
toXlsxByMap(List<Map<String,Object>> dataList,
String[] headerNames,
String[] cellNames,
CellFmt[] cellFmts)
導致的問題是傳入的dataList內部的Map的value必須是Object類型,之後鉆研了下java泛型,使用這種方式輕松解決問題!
public static <V extends Object> File toXlsxByMap(List<Map<String,V>> dataList,
String[] headerNames,
String[] cellNames,
CellFmt[] cellFmts)
- 分數據分sheet問題
這個問題其實很簡單,就是先數據分組,然後循環每組數據時再createSheet,代碼片段:
//數據分組
List<List<Map<String, V>>> mData = splitMapList(dataList);
//循環每組數據 並創建sheet>寫單元格
for (List<Map<String, V>> subList : mData) {
//第一個sheet 參數(sheet名稱,sheet的序號)
sheet = workbook.createSheet(String.format("%s~%s",
(dataList.size() > DATA_SPLIT_GROP_SIZE ?
mData.indexOf(subList) * DATA_SPLIT_GROP_SIZE + 1
: 0) + "",
(dataList.size() > DATA_SPLIT_GROP_SIZE ?
(mData.size() == (mData.indexOf(subList) + 1) ? dataList.size() : DATA_SPLIT_GROP_SIZE * (mData.indexOf(subList) + 1))
: dataList.size()) + "")
);
LOGGER.info(">>>sheet name : {}",sheet.getSheetName());
PoiCellProcess.writeHeaderCell(sheet,headerCellStyle,headerNames);
PoiCellProcess.writeBodyCellByMap(sheet,bodyCellStyle,cellNames,subList, cellFmts);
}
- 單元格內換行問題
其實這是個小問題,只需給CellStyle設置一個setWrapText(true),大致邏輯這樣:
public static CellStyle headerCellStyle(SXSSFWorkbook wb){
CellStyle headerStyle = wb.createCellStyle();
//...some code
//允許單元格內換行
headerStyle.setWrapText(true);
return headerStyle;
}
單元格類型及格式處理問題
這個問題其實分為多個,而且密切相關,大致有這幾個:
- 單元格樣式類
- 單元格樣式類
- 單元格數據類型
- 單元格寫入數據格式但是,處理了這幾個問題其實還不夠完美
至於不完美的原因是什麽呢,一個是Excel數據格式與java數據格式不一致(這個體現在日期,長數字,小數的處理上),比如你要格式化的日期後為“yyyy-mm-dd” 這種類型,
但是在Excel中相近的格式類型只有這樣“yyyy/M/d”,如果強制單元格樣式類型為“yyyy-mm-dd HH24:mi:ss” 其實也是可以的,只不過會變成自定義格式,而且是Excel的自定義格式,
具體如下圖:
另外一個問題是單元格類型與編程語言的數據類型相異同時與poi所能提供的數據類型也相異,如圖:
- 列寬調整問題
記得在第一版的時候列寬問題其實並不重要,遂就做個了固定長度
在第二版的時候為了保證可以動態調整列寬,就剔除了第一版的固定長度處理,將長度數據作為一個Integer數組傳入
由於第二版先期已經投入開發中了,再在方法裏面加入長度數組實感覺不合適,於是,想了個用代碼做動態列寬,這裏實現的思路大致有下:- 由於表頭也是作為一個參數傳入的,所以將表頭字符個數作為字段倍數長度,數據行過長時將表頭字段添加適當個數的空格即可(數據傳入的時候)
- 實際顯示的時候由於存在單元格內換行問題,所以在代碼處理的時候先判斷換行,所以:
- 有換行時 單元格列寬=基準長度(自己定義的單字符長度)*字符個數/2
- 無換行時 單元格列寬=基準長度(自己定義的單字符長度)*字符個數
這是最終的代碼:
這是最終處理的結果:public static void writeHeaderCell(SXSSFSheet sheet, CellStyle headerCellStyle, String[] headerNames) { SXSSFRow row = sheet.createRow(0); row.setHeight((short) 30); row.setHeightInPoints((short) 30); SXSSFCell headerCell; for (int i = 0; i < headerNames.length; i++) { headerCell = row.createCell(i); headerCell.setCellStyle(headerCellStyle); headerCell.setCellValue(headerNames[i]); sheet.setColumnWidth(i, null == headerNames[i] ? CELL_BASE_LENGTH : (headerNames[i].contains("\r\n") ? CELL_CHARSET_LENGTH * headerNames[i].length() / 2 : CELL_CHARSET_LENGTH * headerNames[i].length())); } }
- 對象導出問題
這個問題耗時較多,由於我的同事所處理的源數據是這樣子 "List - 樣例 example
- ExcelWriteTest
- ExcelReadTest
以上寫的過於粗糙,各位有更好的想法請分享下哈~
現在是 2019-02-18 星期一,各位中午好~
土制Excel導入導出及相關問題探討