1. 程式人生 > >土制Excel導入導出及相關問題探討

土制Excel導入導出及相關問題探討

indexof duti point true clas 時也 ets png 題目

轉載請註明出處https://www.cnblogs.com/funnyzpc/p/10392085.html

新的一年,又一個開始,不見收獲,卻見年齡,好一個豬年,待我先來一首裏爾克的詩:

《沈重的時刻》(裏爾克)

    此刻有誰在世上某處哭,無緣無故在世上哭,在哭我。
    此刻有誰在夜間某處笑,無緣無故在夜間笑,在笑我。
    此刻有誰在世上某處走,無緣無故在世上走,走向我。
    此刻有誰在世上某處死,無緣無故在世上死,望著我。

ok,這次說說項目中經常用到的Excel導出問題,目前就用到的可以操作Excel的技術(在java中)大致有兩類:

  • JXL
    • 僅僅支持對xls的文件讀寫,
    • 僅包含Excel基礎api,比較老,很久不更新
    • 讀寫速度還行,對於要求低同時兼容性較好的推薦
  • POI
    • 可支持xls、xlsx兩種格式的Excel文件讀寫
      • HSSF:操作Excel 97(.xls)格式
      • XSSF:操作Excel 2007 OOXML (.xlsx)格式,操作EXCEL內存占用高於HSSF
      • SXSSF: 從POI3.8 beta3開始支持,基於XSSF,低內存占用。
    • 技術較新,保留了最大兼容性,可對Excel做復雜對數據極樣式處理
    • 讀寫速度上 SXSSF快於XSSF ,HSSF速度同略遜於JXL

以上對於這兩種技術做了簡要對描述,在開發中,我們一般將POI作為首選,同時以上還可能存在一個問題是:大數據量導出。大數據導出,一般我們需要解決兩個問題:

  • 大數據量讀寫容易造成內存不足問題
  • 長時讀寫容易造成客戶端請求超時,造成導出失敗問題
  • 大數據量處理耗時問題

對於以上幾個問題,解決思路大致有下:

  • 數據庫數據查詢階段建議使用fetch分批次查詢,減少數據庫壓力
  • 單個文件讀寫建議使用SXSSF,以減少內存占用
  • 對於單個sheet超過十萬的建議分sheet做多線程寫入,這裏分享一個網友寫的Demo
    • example:CreateMultipleSheetDemo.java
  • 對於POI寫入效率的問題官方給了個Demo,這個例子大致是使用xml文檔拼接的方式+xml文件壓縮的方式
    • example:BigGridDemo.java

ok,對於以上核心問題個人都嘗試過,憚於目前項目進度較為緊張,個人做了個限制導出處理,以避免(客戶端請求)超時問題,說白了就是將問題扔給下一期去集中解決。

不考慮以上所說的問題,個人花了些許時間寫了兩個Excel 工具類:ExcelReadUtil以及ExcelWriteUtil (代碼地址見篇尾),集中處理了包含單不僅限於以下問題:

  • 對象列表("List
  • 數據分sheet問題
  • 表頭字體極單元格內換行問題
  • 數據單元格多樣式問題
  • 數據單元格多數據類型及格式化問題
  • 單元格列寬度調整問題
  • 大數據拆分問題
  • 通用對象導出問題(使用泛型)

當然,解決這些問題也查閱了不少官方資料,同時也做了大量的測試才得以投入正式項目使用,在這中間也跳過一些坑,接下來我就講一講我在開發所跳過的坑,這些坑均是相對於上一個版本而言的:

  • 使用通用泛型接收參數對象問題
    一開始(在上一個項目)做了個初稿,在調用導出方法時直接傳入固定類型對象,一開始這樣:
            toXlsxByMap(List<Map<String,Object>> dataList,
                                  String[] headerNames,
                                  String[] cellNames,
                                  CellFmt[] cellFmts)

導致的問題是傳入的dataList內部的Map的value必須是Object類型,之後鉆研了下java泛型,使用這種方式輕松解決問題!

        public static <V extends Object> File toXlsxByMap(List<Map<String,V>> dataList,
                                  String[] headerNames,
                                  String[] cellNames,
                                  CellFmt[] cellFmts)
  • 分數據分sheet問題
    這個問題其實很簡單,就是先數據分組,然後循環每組數據時再createSheet,代碼片段:
           //數據分組
          List<List<Map<String, V>>> mData = splitMapList(dataList);
                    //循環每組數據 並創建sheet>寫單元格
                    for (List<Map<String, V>> subList : mData) {
                        //第一個sheet 參數(sheet名稱,sheet的序號)
                        sheet = workbook.createSheet(String.format("%s~%s",
                                (dataList.size() > DATA_SPLIT_GROP_SIZE ?
                                        mData.indexOf(subList) * DATA_SPLIT_GROP_SIZE + 1
                                        : 0) + "",
                                (dataList.size() > DATA_SPLIT_GROP_SIZE ?
                                        (mData.size() == (mData.indexOf(subList) + 1) ? dataList.size() : DATA_SPLIT_GROP_SIZE * (mData.indexOf(subList) + 1))
                                        : dataList.size()) + "")
                        );
                        LOGGER.info(">>>sheet name : {}",sheet.getSheetName());
                        PoiCellProcess.writeHeaderCell(sheet,headerCellStyle,headerNames);
                        PoiCellProcess.writeBodyCellByMap(sheet,bodyCellStyle,cellNames,subList, cellFmts);
                    }
  • 單元格內換行問題
    其實這是個小問題,只需給CellStyle設置一個setWrapText(true),大致邏輯這樣:
    public static CellStyle headerCellStyle(SXSSFWorkbook wb){
        CellStyle headerStyle = wb.createCellStyle();
        //...some code
        //允許單元格內換行
        headerStyle.setWrapText(true);
        return  headerStyle;
    }
  • 單元格類型及格式處理問題

    這個問題其實分為多個,而且密切相關,大致有這幾個:
    - 單元格樣式類
    - 單元格樣式類
    - 單元格數據類型
    - 單元格寫入數據格式

    但是,處理了這幾個問題其實還不夠完美
    至於不完美的原因是什麽呢,一個是Excel數據格式與java數據格式不一致(這個體現在日期,長數字,小數的處理上),比如你要格式化的日期後為“yyyy-mm-dd” 這種類型,
    但是在Excel中相近的格式類型只有這樣“yyyy/M/d”,如果強制單元格樣式類型為“yyyy-mm-dd HH24:mi:ss” 其實也是可以的,只不過會變成自定義格式,而且是Excel的自定義格式,
    具體如下圖:

技術分享圖片

另外一個問題是單元格類型與編程語言的數據類型相異同時與poi所能提供的數據類型也相異,如圖:

技術分享圖片
技術分享圖片

  • 列寬調整問題
    記得在第一版的時候列寬問題其實並不重要,遂就做個了固定長度
    在第二版的時候為了保證可以動態調整列寬,就剔除了第一版的固定長度處理,將長度數據作為一個Integer數組傳入
    由於第二版先期已經投入開發中了,再在方法裏面加入長度數組實感覺不合適,於是,想了個用代碼做動態列寬,這裏實現的思路大致有下:
    • 由於表頭也是作為一個參數傳入的,所以將表頭字符個數作為字段倍數長度,數據行過長時將表頭字段添加適當個數的空格即可(數據傳入的時候)
    • 實際顯示的時候由於存在單元格內換行問題,所以在代碼處理的時候先判斷換行,所以:
      • 有換行時 單元格列寬=基準長度(自己定義的單字符長度)*字符個數/2
      • 無換行時 單元格列寬=基準長度(自己定義的單字符長度)*字符個數
        這是最終的代碼:
        public static void writeHeaderCell(SXSSFSheet sheet, CellStyle headerCellStyle, String[] headerNames) {
        SXSSFRow row = sheet.createRow(0);
        row.setHeight((short) 30);
        row.setHeightInPoints((short) 30);
        SXSSFCell headerCell;
        for (int i = 0; i < headerNames.length; i++) {
            headerCell = row.createCell(i);
            headerCell.setCellStyle(headerCellStyle);
            headerCell.setCellValue(headerNames[i]);
            sheet.setColumnWidth(i,
                    null == headerNames[i] ? CELL_BASE_LENGTH
                            : (headerNames[i].contains("\r\n") ? CELL_CHARSET_LENGTH * headerNames[i].length() / 2
                            : CELL_CHARSET_LENGTH * headerNames[i].length()));
        }
        }
      這是最終處理的結果:
      技術分享圖片
  • 對象導出問題
    這個問題耗時較多,由於我的同事所處理的源數據是這樣子 "List
  • 樣例 example
    • ExcelWriteTest
    • ExcelReadTest

以上寫的過於粗糙,各位有更好的想法請分享下哈~

現在是 2019-02-18 星期一,各位中午好~
技術分享圖片

土制Excel導入導出及相關問題探討